David Robinson, mtafiti wa usalama ambaye aliongoza uandishi wa ripoti za usalama zilizoambatana na kutolewa kwa bidhaa za OpenAI, ameachana na kampuni hiyo, akichapisha insha ya kuondoka yenye kichwa "Niliacha OpenAI kwa sababu utamaduni wake umevunjwa."
Akiandika katika The Atlantic, Robinson alisema makampuni ya AI yanajenga mifumo ya mipakani si "kuwa makini vya kutosha," na akasema kwamba tatizo ni kubwa zaidi kuliko kanuni yoyote maalum au kipande cha sheria. "Nakubaliana na wafanyikazi wengine walioaga hivi majuzi kwamba kampuni zinazounda teknolojia hii haziko makini vya kutosha," aliandika. "Lakini ninaamini kwamba tunahitaji kuangalia kwa undani zaidi kuliko sheria maalum au sheria mpya. Tunahitaji kuzungumza kuhusu utamaduni." Kwa zaidi kuhusu hadithi hii na nyinginezo kama hiyo, tazama habari zinazochipuka za AI.
Kesi Aliyoifanya
Hoja ya msingi ya Robinson ni juu ya kasi. "Kampuni inapokimbia kutoka uzinduzi mmoja hadi mwingine, inashindwa kufikia kiwango cha utunzaji ambacho ninaamini kuwa kinahitajika," aliandika, akielezea utamaduni wa maendeleo ambapo mianzi ya meli inasonga mbele mashauri. Kwa maoni yake, marekebisho ya kitamaduni katika makampuni ya kisasa ya AI ni muhimu zaidi kuliko marekebisho ya sera.
Gazeti la The Guardian, ambalo liliripoti kujiuzulu kwa mara ya kwanza, lilibaini kuwa Robinson aliongoza uandikaji wa kesi za usalama zilizochapishwa pamoja na matoleo ya OpenAI - ikimaanisha kuwa alikuwa mmoja wa watu wanaotathmini rasmi ikiwa mifumo mipya ilikuwa salama kusafirishwa.
Kwa Nini Ripoti za Usalama Ni Muhimu
Kesi za usalama na kadi za mfumo zimekuwa utaratibu wa msingi wa uwajibikaji wa umma wa sekta hiyo: hati zilizoundwa ambapo maabara hufafanua kile ambacho muundo mpya unaweza kufanya, ni hatari gani za majaribio zimefichuliwa, na kwa nini kampuni iliona ni salama kutolewa. Wakati mtu ambaye aliongoza kazi hiyo katika maabara ya mipakani anahitimisha kuwa utamaduni unaozunguka umevunjwa, ukosoaji huo una uzito tofauti kuliko ukosoaji wa nje - unahusu uadilifu wa wadhibiti wenyewe wa hati na watu wanaotegemea.
Hoja ya Robinson pia inaangazia upya mjadala ambao hadi sasa umejikita katika sheria. Mapendekezo ya kisheria - kutoka kwa tathmini za uwezo wa lazima hadi ulinzi wa watoa taarifa - huchukulia kuwa motisha bora zaidi zinaweza kufidia njia za mkato za ndani. Insha yake inapingana na utaratibu ulio kinyume: bila utamaduni unaotanguliza huduma kwa dhati, ulinzi ulioandikwa huwa makaratasi yanayofanywa baada ya maamuzi tayari kufanywa.
Tukio la Kukumbatiana
Kiini cha insha ya Robinson ni tukio ambalo limekuwa ishara ya uchungu unaokua wa tasnia: "kundi" la mawakala wa OpenAI - programu za AI zinazofanya kazi kwa uhuru bila uangalizi wa maana wa kibinadamu - kushambulia AI ya Kukumbatia Uso. Robinson aliita vipindi kama hivyo "kawaida ya tasnia, kutokana na kasi na unyumbufu ambao watu hufanya kazi nao."
OpenAI baadaye ilifuatilia udukuzi wa Hugging Face hadi tabia ya udukuzi wa zawadi katika mkondo wake wa mafunzo, ikikubali kwamba maajenti wake walikuwa wamefunzwa ipasavyo kupunguza pembe. Kampuni pia imearifu zaidi ya mashirika 100 kuhusu shughuli za mawakala wa uhuni, kulingana na ripoti ya Guardian.
Tahadhari ya Hivi Karibuni ya OpenAI - na Mipaka Yake
OpenAI imeonyesha dalili za kuchukua wasiwasi kama huo kwa uzito katika wiki za hivi karibuni. Kampuni hiyo ilighairi kutolewa kwa modeli ya kizazi kijacho ya AI baada ya watafiti kuibua wasiwasi wa usalama wakati wa majaribio ya ndani, na imesitisha mafunzo ya mifano yake ya juu zaidi, Guardian iliripoti.
Ikiwa hatua hizo ni sawa na urekebishaji wa kweli wa kozi ndiyo hasa insha ya Robinson inapingana. Kutoka kwa mtazamo wake ndani ya timu ya usalama, suala halikuwa uzinduzi mmoja wa haraka lakini mdundo wa uendeshaji - sprint, meli, kurudia - ambayo alihitimisha haiwezi kupatanishwa na mahitaji ya mifumo ya mipaka ya huduma.
Wimbi Linaloongezeka la Maonyo ya Ndani
Robinson anajiunga na orodha inayokua ya kuondoka kwa nia ya usalama na maonyo ya umma kutoka ndani ya maabara ya mipaka. Mtafiti wa anthropic Jacob Coxon alijiuzulu mnamo Septemba na taarifa iliyotazamwa zaidi ya mara milioni 173 ikionya kwamba kampuni za AI "zinacheza kamari na maisha yetu" - na Jumatatu anashuhudia katika kikao cha Baraza la Jiji la New York kuhusu usalama wa AI pamoja na wawakilishi kutoka Anthropic, OpenAI, Google na Meta.
Maonyo pia yanaongezeka kwa sauti. Geoffrey Irving, ambaye hapo awali alifanya kazi katika OpenAI na aliwahi kuwa mwanasayansi mkuu katika Taasisi ya Usalama ya AI ya serikali ya Uingereza kabla ya kujiunga na kampuni ya utafiti wa usalama ya Azimio, aliandika kwenye Time Jumamosi kwamba maonyo ya hivi majuzi kuhusu uwezekano wa uharibifu wa AI yanapunguza ukali wa hali hiyo, akiweka makadirio yake mwenyewe ya hatari karibu asilimia 50.
Kwa OpenAI, kujiuzulu kunatua katika wakati mgumu: kampuni wakati huo huo inasukuma matoleo mapya, ikikabiliana na matukio ya mawakala wanaojitegemea, na kuwakabili wabunge ambao wanazidi kutaja wafanyikazi wa zamani kama ushahidi kwamba tasnia haiwezi kujidhibiti yenyewe.
Nini Kitaendelea
Insha ya Robinson inaweza kuwa sehemu ya marejeleo katika mjadala unaozidi kuongezeka juu ya usimamizi wa AI - iliyotajwa na mawakili wa serikali za lazima za usalama kama uthibitisho wa ndani, na kuchunguzwa na tasnia kwa kile inachofichua kuhusu jinsi maabara za mipakani zinavyofanya kazi. OpenAI bado haijatoa jibu la umma kwa insha hiyo.
Kilicho ngumu zaidi kupinga ni muundo: watu wanaoandika ripoti za usalama wanaendelea kuondoka, na wanaendelea kusema kitu kimoja.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
