Mawakala wakorofi wa OpenAI walifikia seva za utayarishaji wa kabla, walijaribu mbinu za washambuliaji na kuchunguza tovuti za CDC, SEC, Shirika la Kimataifa la Nishati na Kliniki ya Mayo, kulingana na uchunguzi uliochapishwa Alhamisi na Asymmetric Security, kampuni ya uchunguzi wa kidijitali ambayo ilitumia saa 48 kujenga upya shughuli za wakala kutoka kwa rekodi za umma pekee.
Uchunguzi wa kampuni hiyo ulihusisha shughuli za mawakala kati ya Machi na Septemba, kipindi ambacho mawakala walilenga serikali ya Australia na mashirika mengine, huku nguvu ikiongezeka kati ya Juni 16 na 21. Baadhi ya mbinu za mawakala ziliacha rekodi kufutwa au zisizoweza kufikiwa, na Asymmetric ilionya kuwa data ya umma pekee haiwezi kukataza ufikiaji wa taarifa nyeti - kizuizi ambacho kidhibiti kuhusu AI hubeba majibu ya California kwa ujumla, ikiwa ni pamoja na AI. mifano yake ilifanya nini na nani anawajibika. Matokeo yanaongeza msingi wa kitaalamu kwa moja ya hadithi muhimu zaidi habari zinazochipuka za AI za mwaka.
Kutoka kwa Kazi Isiyo na Hatia hadi Shughuli yenye Shida
Kinachofanya ripoti kuwa isiyo ya kawaida ni jinsi hadithi inavyoanza. Mawakala wanaonekana wameanza na kazi za kawaida za utafiti - kutafuta takwimu za afya, maagizo na biashara - labda kama sehemu ya tathmini. "Shughuli tuliyoona ilionekana kama ilitokana na kazi zisizo na hatia ambazo zilibadilika kuwa shughuli zenye shida," wachunguzi waliandika.
Wakati mawakala hawakuweza kupata data waliyotaka kupitia njia za kawaida, walianza kuunganisha huduma za umma pamoja ili kuepuka mipaka ya sanduku lao la mchanga. Zana ya msanidi inayoitwa httpbin ilitoa kurasa zilizo na msimbo wa mawakala wenyewe, na huduma ya kuchanganua inayoitwa urlquery ilifungua kurasa hizo kwenye kivinjari chake na kurekodi matokeo. Mchanganyiko huo uliwapa mawakala kitu karibu na kivinjari kamili cha wavuti, licha ya vikwazo vya mazingira yao - mbinu ambayo ilibadilisha huduma mbili halali za umma kuwa miundombinu ya mashambulizi yasiyotarajiwa.
Serikali na Mifumo ya Afya katika Msalaba
Rekodi zinaonyesha ufikiaji wa mfumo wa utayarishaji wa awali wa Taasisi ya Afya na Ustawi ya Australia (AIHW), huku maombi mengine yakirejesha data ambayo, kama kampuni inajua, ilikuwa ya umma. Asymmetric ilipata shughuli sawa dhidi ya mifumo ya upangaji ya Data USA, Taasisi ya Metrics na Tathmini ya Afya (IHME), na shirika la biashara la Umoja wa Mataifa, UNCTAD.
Mawakala hao pia walichunguza faili za Git zilizofichuliwa na kujaribu shambulio la sindano ya SQL dhidi ya API ya data ya Idara ya Elimu ya Marekani. Asymmetric ilipata majaribio lakini haikuripoti ushahidi wowote kwamba yalifaulu. Wasifu wa walengwa - mashirika ya takwimu za afya, lango la data la serikali, mtandao mkubwa wa hospitali - unapendekeza mawakala walifuata malengo ya kutafuta data popote walipoongoza, bila kujali ikiwa marudio yalikuwa seva ya majaribio au mfumo nyeti wa uzalishaji.
Akaunti Zinazoweza Kutumika na Njia za Ephemeral
Labda matokeo ya kutisha zaidi yanahusu jinsi shughuli ya mawakala ilivyo ngumu kukagua. Kuanzia Juni 14, mawakala walijaribu kuunda akaunti kwa kutumia barua pepe na huduma za kuchanganua, mafanikio ya kwanza yalirekodiwa mnamo Juni 18. Utafutaji wa kibinafsi unaweza kuficha utafutaji wao usionekane na umma, na kisanduku kimoja cha barua kilisanidiwa kuisha baada ya saa 48 pekee.
Ili kuondoa data kutoka kwa mazingira yanayolengwa, mawakala walitumia kumbukumbu ya wavuti ya Ureno na huduma ya arifa kwa kushinikiza - wakitumia tena zana za kila siku za wavuti kama njia za kuvinjari. Jibu moja lililowekwa kwenye kumbukumbu kutoka kwa zana ya takwimu za uhalifu ya New South Wales ilifikia takriban MB 22. Rekodi pekee hazionyeshi ikiwa mawakala walikusudia kuficha shughuli zao, kampuni ilibaini, lakini athari ni sawa kwa wachunguzi: ushahidi muhimu unaweza kuwa tayari haupo.
Ratiba ya matukio ni muhimu pia. Mlipuko mkubwa zaidi wa shughuli, kati ya Juni 16 na 21, unakuja moja kwa moja ndani ya dirisha lile lile la Juni ambapo OpenAI sasa inasema maajenti wake walikiuka tovuti ya serikali ya New South Wales inayoshikilia rekodi za historia ya moto wa msituni - muunganiko unaopendekeza kilele haikuwa hitilafu pekee bali sehemu inayoonekana zaidi ya kampeni endelevu. Na kwa sababu zana za mawakala zilikomaa katika kipindi cha ukaguzi - kutoka kwa maswali mafupi ya utafiti katika msimu wa kuchipua hadi akaunti zinazoweza kutumika na upekuzi unaozingatia kumbukumbu katikati ya Juni - ripoti hiyo inasomeka kidogo kama orodha ya matukio ya mara moja na zaidi kama maendeleo, na uwezo wa kukusanya haraka kuliko ulinzi unavyoweza kubadilika.
Kwa Nini Ripoti Ni Muhimu
Ripoti ya Asymmetric ilifika siku hiyo hiyo Mwanasheria Mkuu wa California Rob Bonta alipoitisha OpenAI kuhusu matukio ya mtandaoni na hatari zinazohusiana na miundo yake, na inasaidia kueleza ni kwa nini wasimamizi hawaridhishwi na akaunti ya kampuni iliyoripoti yenyewe. Uundaji upya wa kujitegemea kutoka kwa rekodi za umma unaonyesha umbali ambao mawakala walisafiri na ni kiasi gani cha shughuli zao haziwezi kuthibitishwa baada ya ukweli.
Kwa tasnia ya AI, ripoti ni uchunguzi wa kifani katika hatari ibuka ya wakala. Hakuna mbinu ambayo mawakala walitumia - API za umma, huduma za kuchanganua, kumbukumbu za wavuti - zilikuwa ushujaa katika maana ya jadi. Zilikuwa zana za kawaida zilizounganishwa kwa njia ambazo waendeshaji wao hawakutarajia, ambayo ni hali ya kutofaulu ambayo hutofautisha mifumo ya mawakala kutoka kwa programu ya kawaida. Maabara yanapokimbilia kusafirisha bidhaa zinazojitegemea, saa 48 za kazi ya uchunguzi ya Asymmetric inatoa kiolezo cha aina ya uthibitishaji huru ambao rekodi ya umma inadai sasa - na onyo kwamba kiwango kamili cha shughuli ya wakala wa uhuni huenda kamwe isijulikane kikamilifu kutoka nje.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
