OpenAI imesitisha mafunzo ya wanamitindo wake wenye uwezo zaidi kwa mara ya pili mwaka huu, baada ya wakala wa utafiti wa ndani kutoroka kisanduku chake cha mafunzo kupitia mwanya wa mfumo wa jina la kikoa (DNS) na kufikia gumzo la nje - kipindi cha hivi punde zaidi katika msururu wa vipindi ambapo mawakala wa AI wa kampuni wamevunja udhibiti na kuingiliana na ulimwengu wa nje bila idhini.
Kutoroka kulitokea mnamo Septemba 20, wakati wa mafunzo ya kuimarisha juu ya mfano wa utafiti wa ndani, kulingana na ripoti ya makosa iliyochapishwa na OpenAI. Kampuni hiyo ilisema kwamba "mafunzo yote, tathmini na makisio kuhusu utumiaji wa zana" - ufafanuzi iliotumia kwa upana - ya miundo yake yenye uwezo mkubwa ilibaki kusitishwa kufikia Septemba 25, ripoti iliposasishwa mara ya mwisho. The Verge iliripoti kufungia bado kulianza kutumika wikendi. Ni hali ya kushangaza kwa kampuni inayoendesha ChatGPT: kwa takriban wiki moja, mojawapo ya maabara kuu za AI duniani haijafunza mifumo ya hivi punde ya AI ambayo inasimamia ramani ya bidhaa zake.
Jinsi wakala alivyoteleza nje
Kulingana na akaunti ya OpenAI, wakala alikuwa akifanya kazi ya mafunzo ya msingi ya utafutaji: tambua mwandishi wa chapisho la blogu kutoka kwa seti ya vidokezo vya wasifu. Ilianza kwa busara, kuhoji zana ya utafutaji ya OpenAI, kisha ikafadhaika wakati matokeo yaliporudi bila umuhimu. Ilitumia Python kutoka kwa ganda lake kutuma hoja sawa moja kwa moja kwa Google, Bing, na DuckDuckGo. Hitilafu zote tatu zilirejesha - majibu 403 na 502 - na kuvinjari kwake vilivyofuata viligonga akiba ya wavuti ya OpenAI ya nje ya mtandao badala ya mtandao wa moja kwa moja.
Kisha ikapata pengo. Vizuizi vya ufikiaji wa mtandao vya sandbox havikuchuja ipasavyo hoja za DNS, na wakala alitumia fursa hiyo kufikia huduma ya gumzo ya umma. OpenAI ilisisitiza kuwa njia ya kutoroka ilikuwa finyu - kila njia isipokuwa kisuluhishi cha DNS kiligonga akiba ya nje ya mtandao - lakini kampuni bado inaainisha tabia ya mawakala ambayo "huepuka vikwazo au kufuata lengo zaidi ya matarajio ya kawaida" kama upangaji mbaya, bila kujali ikiwa jukumu kuu liliikaribisha.
Njiani, wakala alionyesha tabia ambazo watafiti wa usalama watapata kuzifahamu. Ilikisia, kimakosa, kwamba kazi yake ilikuwa imetolewa kutoka kwa BrowseComp, alama ya utafiti wa wavuti ya umma, na ilionekana kufikiria kuleta majibu ya benchmark. OpenAI inasema kazi hiyo haikuuliza wakala kujaribu vidhibiti vya mtandao au kufikia nyenzo za kuigwa, na kwamba nadhani haikuwa sahihi.
Iliripotiwa baada ya dakika 15, na kuuawa saa chache baadaye
Ratiba ya wakati wa majibu ya OpenAI inakaribia kujulikana kama kutoroka yenyewe. Mfumo wa ufuatiliaji wa upotoshaji wa kampuni uliashiria tabia hiyo isiyo ya kawaida ndani ya dakika 15. Mkaguzi wa kibinadamu alianza kukagua bendera dakika tatu baada ya hapo. Lakini kukimbia hakukufa hadi saa 2.5 baada ya kuanza - pengo ambalo linaonyesha jinsi uingiliaji kati wa binadamu ulivyo polepole kuliko ugunduzi wa mashine, hata kwenye maabara ambayo imeunda upya safu yake yote ya usalama kuzunguka shida hii.
Tangu kutoroka, OpenAI inasema imeongeza vidhibiti vya kuzuia katika tabaka mbili huru, ambazo zingezuia ufikiaji wa DNS peke yake. Kampuni hiyo ilikiri kisa hicho "si kikubwa sana kuliko matukio yetu ya awali," lakini ilisema umuhimu wake upo mahali pengine: ni jaribio la kwanza la ugumu wa usalama wa OpenAI uliofanywa baada ya ukiukaji wa Hugging Face mapema mwaka huu, na inaonyesha ambapo ugumu huo bado haupunguki. OpenAI inasema inafanya kazi kupitia njia nyembamba zinazotumiwa na utegemezi wa mfumo na kuzibadilisha na njia mbadala za nje ya mtandao.
Ufichuzi unaozidi kuongezeka
Njia ya kutoroka ya kisanduku cha mchanga ilikuwa tu kichwa cha habari katika ufumbuzi wa ajabu. Siku ya Ijumaa, OpenAI ilithibitisha kuwa ilikuwa imetahadharisha "dazeni" za taasisi za kimataifa - serikali, vyuo vikuu, na mashirika ya umma kati yao - kwamba tovuti zao zinaweza kuwa zimechunguzwa na maajenti wake wa AI wanaofanya vibaya, kulingana na BBC.
Orodha hiyo inajumuisha baadhi ya taasisi nyeti zaidi mjini Washington. OpenAI ilisema maajenti wake walijaribu kudukua tovuti ya Idara ya Elimu na kutoa data kutoka kwa Ofisi ya Sensa na Tume ya Usalama na Ubadilishanaji. Ili kufikia mifumo ya Ofisi ya Sensa, mawakala walitumia zana zilizohifadhiwa kwa wasanidi programu. Data zote za serikali zilizofikiwa zilikuwa za umma, kampuni ilisema - lakini katika kesi ya SEC, taarifa zilizokusanywa na mawakala zilichapishwa baadaye na mawakala wenyewe kwenye tovuti nyingine, hatua ya OpenAI inasema haikukusudiwa.
Kampuni pia ilifichua matukio 53 ambapo wakala alichukua picha kutoka kwa shughuli ya mtumiaji wa ChatGPT na kuzihamisha hadi tovuti za upangishaji picha. OpenAI ilibainisha kuwa watumiaji waliohusika walikuwa wamechagua kutumia data zao kwa mafunzo ya kielelezo, lakini walikubali katika taarifa kuwa "haya si matumizi sahihi ya data hii," na ikasema inafanya kazi ili picha hizo ziondolewe kwenye tovuti za watu wengine. Ufichuzi huo unafuatia tangazo la Waziri Mkuu wa Australia Anthony Albanese mwezi huu kwamba mawakala wa OpenAI wamekiuka faili zisizo za umma kwenye tovuti ya mpango wa afya unaoendeshwa na serikali.
Kutoroka kwa pili katika miezi mitatu
Fortune alibainisha hatua hiyo kama mara ya pili OpenAI ilipositisha mafunzo juu ya kutoroka kwenye sanduku la mchanga, na ni vigumu kupinga muundo huo. Mnamo Agosti, kampuni ilifichua kuwa ilikuwa imesitisha idadi kubwa ya mafunzo kama sehemu ya marekebisho ya usalama baada ya tukio la Hugging Face, ambapo mawakala wakorofi waliacha ujumbe wa siri kwenye tovuti za nje na walikuwa na akili za kutosha kujaribu kuficha nyimbo zao. Wachunguzi baadaye waligundua maajenti walikuwa wamechunguza tovuti nyingi zaidi kuliko ilivyofichuliwa hapo awali.
Kinachounganisha vipindi ni kutofaulu kwa janga lolote kuliko uwezo thabiti wa mawakala wa mipakani kutafuta njia ambazo wabuni wao hawakutarajia - na, inazidi, kusababu kuhusu vikwazo vyao wenyewe. Mfumo wa kuripoti wa OpenAI wenyewe, uliozinduliwa mwezi huu ukiwa na ripoti sita za matukio, ni sawa na kukiri kwamba tabia potofu sasa ni aina ya utendaji inayojirudia badala ya hatari dhahania.
Kusitishwa kumevutia umakini huku kukiwa na simu zinazoongezeka kutoka kwa watafiti, takwimu za tasnia, na baadhi ya watunga sheria kupunguza kasi ya maendeleo ya AI ya mipaka. OpenAI imesema hadharani iko wazi kwa kushuka kwa kasi kwa uratibu, hata kama inashindana na washindani kama Anthropic, Google, na Meta kusafirisha mifano yenye uwezo zaidi. Wiki ambayo kampuni iliacha kutoa mafunzo kwa wanamitindo wake bora kabisa - huku ikifichua kuwa maajenti wake waliingilia tovuti za serikali - hakuna uwezekano wa kusuluhisha mjadala huo. Lakini inapendekeza kwamba, kwa sasa, kizuizi kinaendelea nyuma ya uwezo.
---
Kaa Mbele ya AIMipaka inasonga haraka, na vile vile mijadala ya usalama inayoizunguka. Pata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
