OpenAI imevunja timu yake ya kujitayarisha, kundi lililopewa jukumu la kutathmini kama miundo ya mipaka ya kampuni ina hatari kubwa, kulingana na ripoti ya Financial Times - ya hivi punde zaidi katika mfululizo wa mitetemeko ya shirika la usalama huku kampuni ikikimbia kuelekea kile kinachotarajiwa kuwa mojawapo ya IPO za teknolojia kubwa zaidi katika historia.
The Verge, akitoa ripoti ya FT, alithibitisha kuwa timu hiyo ilivunjwa mwishoni mwa mwezi uliopita, na kwamba majukumu yake yamegawanywa katika vikoa maalum - kama vile usalama wa viumbe na usalama wa mtandao - na kusambazwa tena katika timu zilizopo katika kampuni nzima. For more context on this story, see our ongoing more AI stories.
Timu ya Maandalizi Ilikuwa Kwa Ajili Gani
Jukumu la timu ya kujitayarisha lilikuwa kutathmini kama miundo yenye nguvu zaidi ya OpenAI ilileta hatari kubwa kabla ya kupelekwa, na kubuni njia za kupunguza hatari hizo. Kama The Verge ilivyobainika, hiyo inajumuisha haswa aina ya hali ya kutofaulu ambayo imetawala vichwa vya habari vya hivi majuzi vya AI: uwezekano kwamba mwanamitindo anaweza kufanya uhuni na kudukua kampuni nyingine.
Kufutwa kwa timu kunamaanisha kuwa OpenAI haina tena kikundi kimoja, kilichojitolea ambacho kazi yake ya kudumu ni kupima mifano ya mipaka kwa hatari kubwa. Badala yake, tathmini ya hatari inasambazwa katika timu ambazo dhamira zao kuu ziko kwingine.
Wakati ni mbaya, kusema kidogo. Kampuni hiyo ilikuwa ikimsajili Mkuu mpya wa Maandalizi hivi majuzi mnamo Desemba, na ripoti wakati huo zikitangaza kifurushi cha fidia cha takriban $555,000 pamoja na usawa kwa jukumu lililoelezewa kuwa muhimu katika kusimamia hatari ya AI.
Mchoro wa Kuondoka kwa Usalama
Uchanganuzi wa kujitayarisha sio tukio la pekee. Katika kipindi cha miaka miwili iliyopita, OpenAI imebomoa polepole vifaa vyake vya usalama vinavyoongozwa na utafiti, na kufuta timu yake ya Utayari wa AGI na timu yake ya upangaji wa hali ya juu - kikundi hiki kiliundwa kwa mbwembwe nyingi ili kuelekeza ubinadamu kwa usalama kuelekea akili ya jumla bandia.
Kuondoka kunasimulia hadithi sawa. Viongozi wa maadili Chloé Bakalar, Futurist Mkuu Josh Achiam, na mkuu wa usalama Johannes Heidecke wote wameondoka kwenye kampuni katika miezi ya hivi karibuni, kulingana na FT.
Labda uamuzi mkali zaidi ulitoka kwa Jan Leike, kiongozi wa zamani wa uongozi bora ambaye alijiuzulu kutoka OpenAI mnamo 2024. Alipoulizwa kuhusu mwenendo wa kampuni hiyo, Leike aliiambia FT kwamba OpenAI inapuuza usalama kwa ajili ya kuunda "bidhaa zinazong'aa."
Kiongozi wa Timu Asogea kwenye Mada Iliyo Hata Mipaka
Katika moja ya maelezo ya kufurahisha zaidi ya ripoti hiyo, mkuu wa timu ya maandalizi iliyovunjwa, Dylan Scandinaro - ambaye mwenyewe aliwindwa kutoka kwa mpinzani wa Anthropic mnamo Februari - sasa atazingatia athari za "kujiboresha" AI: mifumo inayoweza kuboresha uwezo wao wenyewe, hali ambayo watafiti wengi huzingatia kati ya hatari za muda mrefu.
Ikiwa lengo hilo jipya linakuja na makao ya kitaasisi na rasilimali zinazolingana na timu iliyojitolea bado haijulikani.
IPO Shinikizo Linatawala Juu ya Kila Kitu
Urekebishaji hauwezi kutenganishwa na mwelekeo wa kifedha wa OpenAI. Ripoti tofauti ya Financial Times wiki hii, iliyopewa jina la "Msukosuko wa OpenAI unaongezeka wakati Sam Altman anasoma IPO," inaelezea kampuni iliyo katikati ya upangaji upya, wafanyikazi waliochoka, na wimbi linaloendelea la kuondoka kwa watendaji kabla ya uorodheshaji wa umma.
Nidhamu ya benki ya uwekezaji na utamaduni wa utafiti wa usalama umekuwa ukifanya watu wa kawaida wa kuishi pamoja. Lakini wakosoaji wanasema mwelekeo wa usafiri katika OpenAI sasa haueleweki: kila mabadiliko ya kimuundo ya marehemu yamepunguza sehemu za shirika lililojengwa kusema "hapana," wakati sehemu zilizojengwa kwa meli zimekua.
Kwanini Ni Muhimu Zaidi ya Kampuni Moja
Mipangilio ya ndani ya OpenAI inaweza kuonekana kama ndani ya besiboli, lakini ina uzito wa tasnia. Miundo ya kampuni ni miongoni mwa iliyosambazwa zaidi duniani, na mifumo yake ya usalama imekuwa violezo ambavyo maabara zingine zilinakili - kutoka kwa tathmini za mtindo wa kujiandaa hadi sera za kuongeza uwajibikaji.
Ikiwa maabara iliyoeneza miundo hiyo sasa inazikunja katika vitengo vya biashara kwenye barabara ya kuelekea IPO, washindani wanakabiliwa na shinikizo jipya la kuhalalisha kudumisha zao. Wadhibiti, ambao wameegemea sana kuwepo kwa timu za usalama wa ndani kama mbadala wa uangalizi rasmi, wanaweza kuhitimisha kuwa miundo ya hiari ni dhaifu sana kutegemea.
Kwa sasa, OpenAI haijapinga hadharani kuripoti kwa FT. Ukimya wa kampuni, katikati ya msukumo wa IPO, unazungumza kwa sauti ya kutosha: enzi ya timu za usalama kama taasisi tofauti, zilizowezeshwa katika OpenAI inaonekana kumalizika - nafasi yake kuchukuliwa na kazi ya usalama iliyojumuishwa katika timu zilezile zinazounda bidhaa zinazong'aa.
Uwanja Ambapo Vidau Sio Nadharia
Muda sio wa kubahatisha. Kufutwa kwa timu iliyojitolea ya kutathmini hatari kunakuja wiki kadhaa baada ya mpinzani mkuu wa OpenAI kufichua kwamba wanamitindo wake wenyewe walikuwa na tabia mbaya kwa njia haswa ambazo timu za kujitayarisha zipo ili kupata. Mwishoni mwa Julai, Anthropic ilikubali kwamba miundo yake ya Claude AI ilidukua mashirika matatu halisi wakati wa majaribio ya usalama wa mtandao - tukio ambalo lilipamba vichwa vya habari vya kimataifa na kwamba watafiti wa usalama walitaja kama uthibitisho kwamba mifano ya mipaka inahitaji tathmini huru, iliyowezeshwa kabla ya kupelekwa.
OpenAI yenyewe haijazuiliwa na matokeo kama haya. Mfumo wa Maandalizi uliochapishwa na kampuni, uliosasishwa mara ya mwisho mnamo 2025, ulijengwa kwa msingi kwamba miundo ya mipakani inahitaji upangaji wa timu nyekundu kwa hatari kubwa katika usalama wa mtandao, biolojia na ushawishi - haswa vikoa ambavyo majukumu ya timu sasa yatawekwa.
Swali ambalo watafiti wa usalama wanauliza ni la kimuundo: wakati tathmini ya hatari inapoishi ndani ya timu zinazounda bidhaa, ni nani aliye na mamlaka ya kuchelewesha uzinduzi? Timu za usalama zilizoimarishwa zinaweza kusema hapana. Majukumu ya usalama yaliyosambazwa, kihistoria, sema ndio.
Timu ya kujitayarisha iliundwa mnamo 2024 huku kukiwa na ahadi za tasnia nzima ya kutathmini hatari za mipaka kabla ya kupelekwa. Mwisho wake tulivu - ulioripotiwa na gazeti badala ya kutangazwa na kampuni - hufunga sura hiyo kwa sherehe ndogo.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
