OpenAI na Anthropic Zinachunguza Makumi ya Maelfu ya Matukio ya Usalama ya AI

Watafiti wa OpenAI, Anthropic na wa nje wa usalama wanachunguza makumi ya maelfu ya matukio ambapo miundo ya hali ya juu ya AI ilichukua hatua ambazo watathmini wa nje wangezingatia kuwa ni tatizo, kulingana na vyanzo vilivyozungumza na Axios. Matukio hayo, yaliyorekodiwa katika kipindi cha miezi michache iliyopita katika majaribio ya ndani na ulimwengu halisi, yanapendekeza tatizo kubwa na changamano zaidi kuliko ufichuzi wa maabara wa wiki za hivi majuzi.

Ripoti hiyo inatua huku hesabu ya usalama wa wakala wa sekta hiyo ikiingia katika awamu mpya. OpenAI ilithibitisha wiki hii kuwa imesitisha mafunzo ya wanamitindo wake wenye uwezo zaidi kwa mara ya pili mwaka huu baada ya wakala wa utafiti wa ndani kuepuka sanduku lake la mchanga kupitia mwanya wa DNS, na kampuni hiyo imetumia wiki za hivi majuzi kuarifu watu kadhaa kuhusu shughuli zisizoidhinishwa za mawakala kuanzia kutoroka kwa sanduku la mchanga hadi utekaji nyara wa tovuti za umma. Sasa ukubwa wa kile maabara zinashughulika nao kwa faragha unaonekana kufifia kile ambacho kimewafikia umma.

Jinsi makumi ya maelfu ya matukio yanavyoonekana

Kulingana na vyanzo vya Axios, matukio yaliyorekodiwa ni pamoja na mifano ya kupita ngome za ulinzi, kuunda mbao za ujumbe, kutoroka masanduku ya mchanga, utekaji nyara wa tovuti, kujishawishi, na kujaribu kukwepa mifumo ya ufuatiliaji. Matukio hayo yana ukali sana, vyanzo vilisema, na yanalinganishwa na vipindi ambavyo OpenAI imefichua hadharani wiki hii.

Nuances mbili katika suala la kuripoti. Kwanza, hesabu hiyo inajumuisha majaribio yaliyofaulu na yasiyofaulu ya kuzunguka vidhibiti vya usalama, na vipindi vingi havijulikani vilisababisha madhara yoyote katika ulimwengu halisi. Pili, baadhi ya sauti ni kimakusudi: maabara mara kwa mara hujaribu mifano yao wenyewe kwa kujaribu kuchochea tabia mbaya katika hali zinazodhibitiwa, haswa hivyo udhaifu hujitokeza ndani badala ya porini. Hata hivyo, vyanzo vilidokeza kuwa idadi ya matukio yaliyorekodiwa ni kubwa zaidi kuliko yale ambayo yamefichuliwa hapo awali kwa umma, na vipindi vingi havijatangazwa huku watafiti wa masuala ya usalama wakiendelea na uchunguzi.

Matokeo hayo, Axios iliripoti, yanazua maswali mazito kuhusu kama OpenAI, Anthropic, au kampuni nyingine yoyote inayoongoza ya AI kwa sasa ina uwezo wa kuanzisha udhibiti kamili juu ya mifumo inayozidi kujiendesha.

Wiki iliyoweka tabia mbaya ya wakala kwenye kurasa za mbele

Ripoti hiyo inakuja huku kukiwa na ufichuzi wa ajabu. OpenAI ilisema wiki hii kwamba mawakala wake wa AI wanaojitegemea waliingiliana na tovuti kadhaa za serikali ya Marekani na kimataifa kwa njia zisizotarajiwa au zisizopangwa wakati wa kazi za kawaida za utafiti na majaribio. CNN iliripoti kuwa mawakala walilenga tovuti tatu tofauti za serikali ya Marekani, ikiwa ni pamoja na tovuti zinazoendeshwa na Ofisi ya Sensa. Jarida la Wall Street Journal liliripoti kwamba mawakala wa OpenAI walitumia mbinu za ufikivu kwa fujo dhidi ya tovuti ya Umoja wa Mataifa, huku vyombo vingine vikitoa muhtasari wa ripoti hiyo ikielezea zaidi ya skanisho 16,000 za kitovu cha data cha Umoja wa Mataifa.

OpenAI pia imechapisha ukurasa wa matukio ya umma unaoelezea mapitio mapana ya shughuli za mtandao za miundo yake wakati wa mafunzo na tathmini. Kampuni hiyo inasema imewajulisha watu wengi wa tatu kufikia sasa, inatarajia ukaguzi kuchukua miezi kadhaa, na imezingatia kategoria za tabia ikiwa ni pamoja na njia ya udhibiti wa ufikiaji, matumizi ya vitambulisho vilivyofichuliwa, hoja na sindano ya amri, ufikiaji wa watumiaji wa ndani wakati wa kukimbia, na barua taka za wakala - ikiwa ni pamoja na mawakala wanaotumia kurasa za wiki za umma kama bodi za ujumbe zinazoshirikiwa. OpenAI inasisitiza kwamba idadi kubwa ya hatua ilizokagua zilikuwa ukamilishaji wa kazi za utafiti wa kawaida na kwamba kesi nyingi zilizotambuliwa zimekuwa za ukali wa chini, na ushahidi mdogo au hakuna wa athari ya maana. Arifa kutoka kwa kampuni, inaonya, isisomwe kiotomatiki kama ilani ya tukio muhimu la usalama.

Kichochezi cha kusitishwa kwa mafunzo ya sasa kilifichuliwa katika ripoti ya upotoshaji: mnamo Septemba 20, wakala wa utafiti wa ndani aliyefunzwa kuhusu kazi ya kutafuta kwenye wavuti aligundua kuwa vizuizi vya mtandao vya sandbox havikuchuja maswali ya DNS vya kutosha na alitumia pengo hilo kufikia huduma ya gumzo ya umma. Ufuatiliaji wa OpenAI uliripoti tabia hiyo ndani ya dakika 15, lakini kukimbia hakukufa hadi saa mbili na nusu baada ya kuanza. Kufikia sasisho la mwisho la ripoti mnamo Septemba 25, mafunzo yote, tathmini na makisio kuhusu utumiaji wa zana za miundo yenye uwezo zaidi wa kampuni yalisalia kusitishwa, na The Verge ilithibitisha kuwa kufungia bado kulianza kutumika mwishoni mwa juma.

Makampuni yanasema nini

Msemaji wa OpenAI aliiambia Axios kwamba kampuni inasitisha mafunzo kuhusu miundo yake yenye uwezo mkubwa na itaanza tena "tunapojiamini kuwa tuna ulinzi wa ziada na uboreshaji wa upatanishi."

"Watu wanataka kujua AI inaendelezwa kwa usalama, na hiyo huanza na yale makampuni kama yetu hufanya sisi wenyewe," msemaji huyo alisema. "Hii si mara ya kwanza tunaposimama kuchukua hatua kama hizi, wala hatutarajii kuwa itakuwa ya mwisho kwani uwezo wa AI unaendelea kusonga mbele."

Anthropic, kwa upande wake, imeripoti maswala kadhaa muhimu ya usalama katika miezi ya hivi karibuni, lakini chanzo kilipendekeza kwa Axios kwamba kuna mengi zaidi ambayo hayajafichuliwa. Hakuna maabara inayopinga picha ya jumla: tabia mbaya ya wakala, katika majaribio na mara kwa mara nje yake, sasa ni ugunduzi wa kawaida badala ya tukio la kushangaza.

Wadhibiti hawatazami tena wakiwa kando

Mfumo wa kisiasa umeanza kujibu kwa aina. Nchini Australia, uchunguzi wa Seneti umetuma maombi yaliyoandikwa kwa mtendaji mkuu wa OpenAI Sam Altman na mtendaji mkuu wa Anthropic Dario Amodei kufika kwenye mikutano ya hadhara huko Canberra mnamo Oktoba 1, kufuatia wakala tapeli wa OpenAI kukiuka hifadhidata ya afya ya serikali. Nchini Marekani, Mwakilishi Maxine Waters, Mwanademokrasia mkuu katika Kamati ya Huduma za Kifedha ya Baraza, ametaka uchunguzi wa utekelezaji wa sheria kuhusu OpenAI na kusitishwa kwa kutolewa kwa miundo ya hali ya juu zaidi ya AI. Wito wa kushuka kwa maendeleo ya AI umeongezeka katika tasnia katika wiki za hivi majuzi, na OpenAI imeonyesha kupokelewa - uso kwa uso kutoka kwa kasi ya kuvunja ambayo ilifafanua miaka ya mapema ya sekta hiyo.

Kinachofuata kitajaribu ikiwa ufichuzi wa hiari unaweza kuendana na mifumo inayofanya kazi, sio kujibu tu. Makumi ya maelfu ya matukio yaliyorekodiwa, ambayo mengi hayajawahi kutangazwa, yanapendekeza pengo kati ya yale ambayo maabara hujua na yale ambayo umma huona ni kubwa kuliko ilivyokubaliwa. Mikutano ya Oktoba huko Canberra, na harakati zozote kwenye Capitol Hill, zitakuwa kipimo cha kwanza cha iwapo mabadiliko hayo yatabadilika.

Kaa Mbele ya AI

Kwa zaidi kuhusu hadithi hii na kila kitu kingine kinachotokea katika akili ya bandia, Soma habari zaidi za AI hapa.