Meta na OpenAI Zimenaswa katika Ukiukaji wa Data ya Mercor Kutoka kwa Msururu wa Ugavi wa LiteLLM wenye sumu

Shambulio la mnyororo wa ugavi kwenye kifurushi kimoja cha chanzo-wazi limeingia katika mojawapo ya matukio mabaya zaidi ya usalama katika tasnia changa ya AI, ikifichua data iliyoshikiliwa na kampuni ya kuanza ya kuweka lebo ya data ya Mercor na kulazimisha Meta kusitisha kazi yake na kampuni kwa muda usiojulikana.

Ukiukaji huo, ambao Mercor ilithibitisha mnamo Machi 31, ulitokana na maelewano ya LiteLLM, zana ya programu huria inayotumiwa sana kupakuliwa mamilioni ya mara kila siku. Kwa takriban dakika 40, toleo lenye sumu la LiteLLM lilikuwa na programu hasidi ya uvunaji vitambulisho ambayo iliiba vitambulisho vya kuingia na kuzitumia kufikia zaidi katika mifumo iliyounganishwa. Kipindi hiki tangu wakati huo kimebadilika kuwa kesi za kisheria, kufungia kwa kandarasi, na hesabu pana juu ya imani ambayo tasnia ya AI inaweka katika programu ya mpatanishi ambayo haidhibiti. Kwa zaidi habari zinazochipuka za AI kuhusu usalama na uaminifu, fuata habari zetu zinazoendelea.

Jinsi Shambulizi lilivyofanya kazi

Mitambo ni maelewano ya ugavi wa programu ya vitabu vya kiada. Kulingana na ripoti ya TechJuice na TechCrunch, washambuliaji waliweza kusukuma msimbo hasidi kwenye LiteLLM, maktaba ya programu huria ambayo kampuni nyingi za AI hutumia kuelekeza maombi kati ya miundo tofauti ya lugha. Kwa sababu LiteLLM inachukuliwa kuwa miundombinu inayoaminika na kuvutwa katika mazingira ya uzalishaji kiotomatiki, muundo hasidi ulienea haraka.

Kwa takriban dakika 40, kifaa kilichoharibiwa kilivuna kitambulisho kimya kimya kutoka kwa mtu yeyote anayekiendesha. Hati hizo zilitumiwa kupata mifumo ya ziada, ikichanganya uharibifu zaidi ya msingi wa awali. Mercor, ambayo biashara yake inategemea kudhibiti idadi kubwa ya data nyeti ya mkandarasi na mteja, ilikuwa miongoni mwa zilizofichuliwa zaidi.

Madai ya Uporaji wa Terabyte 4

Baada ya ufichuzi huo, kikundi cha wadukuzi kilidai kuwa kinashikilia takriban terabaiti 4 za data iliyoibwa kutoka kwa mifumo ya Mercor. Usafirishaji unaodaiwa unajumuisha wasifu wa mgombea, maelezo yanayoweza kumtambulisha mtu binafsi, data ya mwajiri, msimbo wa chanzo na funguo za API, orodha kamili ya aina ya nyenzo ambazo kampuni ya kuweka lebo huweka kati. Mercor haijathibitisha wala kukanusha uhalisi wa data iliyodaiwa, ikisema tu kwamba inachunguza.

Sintofahamu yenyewe ni tatizo. Kwa wakandarasi, waajiri, na washirika ambao taarifa zao zinaweza kusambazwa, kutokuwa na uhakika kuhusu kilichochukuliwa hufanya iwe vigumu kutathmini udhihirisho wao.

Meta Inarudisha Nyuma

Mgogoro wa kibiashara umekuwa wa haraka. Meta imesitisha kandarasi zake na Mercor kwa muda usiojulikana, uamuzi uliovutia zaidi na historia kati ya kampuni hizo mbili. Kulingana na TechJuice, Meta iliendelea kufanya kazi na Mercor hata baada ya kutumia dola bilioni 14.3 kupata mpinzani wa Mercor Scale AI, ishara ya jinsi ilivyothamini uhusiano huo. Kwamba ukiukaji uliopitishwa kupitia zana ya wahusika wengine unaweza kukata uhusiano kama huo inasisitiza jinsi mahusiano haya ya wachuuzi yamekuwa duni.

OpenAI imethibitisha kuwa inachunguza kufichuliwa kwake katika ukiukaji huo lakini, wakati wa kuripoti, haikuwa imesitisha kandarasi zake za Mercor. Watengenezaji wengine wakubwa wa mitindo wanaripotiwa kupima uhusiano wao na uanzishaji, ingawa hakuna majina zaidi ambayo yamethibitishwa hadharani.

Kesi na Maswali ya Dhima

Madhara ya kisheria yanakusanywa haraka kama yale ya kibiashara. Wakandarasi watano wa Mercor wamewasilisha kesi mahakamani kuhusu madai ya kufichua data ya kibinafsi. Kesi moja iliyokaguliwa na TechCrunch iliyoitwa LiteLLM na uanzishaji wa utiifu wa AI Delve kama washtakiwa wenza, kwa misingi kwamba LiteLLM ilikuwa imetumia Delve kupata uthibitishaji wake wa usalama. Uhusiano huo unafungua swali gumu kuhusu kama watoa huduma wa utiifu watawajibika wakati zana wanazozitolea hakikisho zitatumiwa baadaye.

Suti hizi zinaweza kusaidia kufafanua mahali ambapo dhima inafika ukiukaji unapopitishwa kupitia programu huria, swali ambalo tasnia ya AI hadi sasa imeepuka kujibu.

Uso wa Mashambulizi Usio na Uchunguzi wa Tasnia

Watafiti wa usalama wanasema somo la kina ni la kimuundo. Rafu ya AI sasa inategemea mtandao wa zana za mpatanishi zinazoaminika, vipanga njia, wakadiriaji, safu za utiifu, na majukwaa ya kuweka lebo ambayo hukaa kati ya watoa huduma wa mfano na wateja wao. Kila moja ni sehemu inayoweza kusongeshwa, na wengi hukaguliwa kidogo kuliko miundo ya mipaka yenyewe.

LiteLLM ni kielelezo. Hupakuliwa mara milioni kwa siku, hushughulikia vitambulisho kwa muundo, na huendeshwa ndani ya mazingira ya uzalishaji wa baadhi ya kampuni zinazofadhiliwa vyema zaidi duniani. Bado dirisha la dakika 40 la kuchezea lilitosha kuigeuza kuwa ufunguo wa mifupa. Mlolongo huo umeweka mnyororo mzima wa usambazaji wa AI chini ya uangalizi, huku watafiti wakionya kwamba zana za mpatanishi zinazoaminika zinawakilisha eneo la shambulio ambalo tasnia haijachunguza kwa utaratibu.

Nini Kitaendelea

Maswali ya mara moja ni ikiwa Mercor inaweza kuthibitisha upeo wa uvujaji, ikiwa waundaji zaidi wa miundo watafuata Meta katika kujiondoa, na kama kesi za LiteLLM na Delve zitaanzisha kielelezo cha dhima ya watu wengine. Kwa muda mrefu, tukio hilo linaweza kuongeza kasi ya wito kwa tasnia ya AI kupitisha aina ya bili za vifaa vya programu na mazoea ya kusaini utegemezi ambayo sekta za programu zilizokomaa tayari zinategemea.

Kwa sasa, uvunjaji huo unasimama kama onyo kwamba udhaifu hatari zaidi katika AI hauwezi kuishi ndani ya mifano wakati wote, lakini katika mabomba ya unglamorous ambayo yanawaunganisha.

Kaa Mbele ya AI

Usalama wa safu ya AI unakuwa muhimu kama mifano yenyewe. Alamisha AI Buzz Wire kwa ajili ya maendeleo ya hivi punde ya AI na Utangazaji wa sekta ya AI.

Soma habari zaidi za AI →