Mdukuzi mmoja alivunja tovuti zaidi ya 100 kwa kutumia jeshi la mawakala wa AI ambao walifanya mashambulizi bila kuhusika kidogo na waendeshaji wa kibinadamu, kulingana na matokeo kutoka kwa kampuni ya usalama ya AI ya Norforge iliyoripotiwa Jumatatu na Reuters na The Verge. Wahasiriwa walijumuisha kampuni za majina kama vile John Deere, SharkNinja na Cummins, wakisisitiza jinsi maajenti wanaojitegemea wa AI wamehama kutoka kwa demo za utafiti hadi zana za uhalifu.
Jinsi Mashambulizi Yaliyogunduliwa Kwa muktadha zaidi kuhusu hadithi hii, angalia utangazaji wetu wa tasnia ya AI.
Norforge alifichua kampeni hiyo kupitia kazi iliyofichuliwa kwenye Cairn, jukwaa la AI la chanzo huria ambalo linajieleza kama "injini yenye madhumuni ya jumla ya kutatua matatizo." Wakiwa na Cairn, watumiaji huweka mahali pa kuanzia na mwisho kwa mawakala wa AI, ambao huandika maendeleo yao wanapofanya kazi kuelekea lengo. Unyumbufu wa jukwaa ndio jambo la msingi: safu sawa ya upangaji ambayo huwaruhusu mawakala kupanga na kutekeleza majukumu changamano halali inaweza pia kuelekezwa kwa wale ambao hawajaidhinishwa.
Norforge alipata zaidi ya matukio 20 yaliyofichuliwa ya Cairn ambayo ilihukumu "huenda yana nia mbaya," na mdukuzi aliyehusika na uvunjaji 100-plus alikuwa mendeshaji kazi zaidi kati yao. Kwa mujibu wa Reuters, mashambulizi hayo yalilenga makampuni ya Marekani, Canada, Australia na Japan.
Kiwango cha ushiriki wa mwanadamu kilikuwa kidogo sana. Shirika la habari la Reuters liliripoti kuwa mshambuliaji aliweka mbinu za uvamizi anazopendelea katika herufi zisizozidi 100 za Kichina - maelezo ya kazi mafupi kuliko barua pepe ya kawaida - ambapo maajenti waliendesha shughuli peke yao. Ukiukaji uliofanikiwa ulichukua takriban masaa 23 kutoka mwanzo hadi mwisho, ripoti hiyo ilisema.
Nani Aligongwa
Norforge hataji malengo, lakini Reuters ilibainisha makampuni yakiwemo John Deere, SharkNinja na Cummins miongoni mwa wahasiriwa. Mashirika yaliyoathiriwa yamejibu kwa tahadhari.
Katika taarifa kwa The Verge, msemaji wa Cummins Melinda Koski alisema kampuni hiyo "inachunguza ripoti ya uwezekano wa shambulio la mtandao kwenye tovuti inayoendeshwa na mmoja wa wachuuzi wetu wa chama cha tatu." Msemaji wa John Deere aliambia Reuters "hakuna dalili kwamba habari nyeti zilipatikana" katika shambulio hilo. SharkNinja alisema uvunjaji huo uliathiri maelezo ya usaidizi wa bidhaa ya tovuti inayosimamia tovuti na kwamba imekuwa na tishio.
Muundo huo - tovuti za wachuuzi na usaidizi zinazotazamana na umma badala ya mitandao ya msingi ya shirika - unapendekeza upana na ufikivu uliopewa kipaumbele na kampeni inayoendeshwa na AI kwa kina, angalau katika matukio haya. Inaonyesha pia jinsi miundombinu ya wavuti ya wahusika wengine inavyokuwa mahali rahisi pa kuingilia kwa mashambulizi yanayoendeshwa na wakala.
Jukwaa Katika Kituo
Muundaji wa Cairn, ambaye huenda kwa mpini @le1xia0, alisukuma nyuma dhidi ya kubainisha zana kama iliyo karibu na programu hasidi. Mapema mwezi huu, mtayarishaji alisema jukwaa "halikuwa kamwe 'zana ya udukuzi,'" na kuongeza kuwa "matumizi mabaya ni uamuzi wa kibinadamu, si kipengele cha injini."
Tofauti hiyo inafanya kazi nyingi. Cairn inapatikana kwa uwazi na madhumuni ya jumla kwa muundo, kama vile mifumo ya maabara ya wakala inayosafirishwa kwa otomatiki halali. Norforge anasema inajitahidi kuondoa matukio mabaya ya Cairn, lakini kipindi kinaonyesha tatizo la kimuundo: wakati mifumo ya wakala inapoandika maendeleo yao kuelekea malengo yaliyowekwa na mtumiaji, watetezi wanapata njia ya kuchanganua - na washambuliaji wanapata kitabu cha kucheza kinachoweza kurudiwa.
Mwaka wa Maonyo ya Usalama ya Wakala wa AI
Ripoti hiyo inatua huku kukiwa na mfululizo wa vichwa vya habari vya usalama na wakala ambavyo vimesukuma suala hilo kutoka kwa kinadharia hadi kufanya kazi. Serikali zimechapisha mwongozo wa kugundua na kuzima mawakala walaghai wa AI, makampuni ya usalama yameorodhesha majaribio ya maajenti wa AI ya kuvamia tovuti za serikali, na maabara zenyewe zimefichua matukio ambapo miundo yao wenyewe ililipuka katika mazingira ya majaribio wakati wa tathmini ya usalama wa mtandao. Ripoti ya Verge inaweka matokeo ya Norforge katika mazingira hayo hasa: wavamizi wanaotumia AI kufanya mashambulizi makubwa upande mmoja, na mawakala wakorofi wanaotoroka mazingira ya majaribio kwa upande mwingine.
Kinachofanya matokeo ya Norforge kuwa tofauti ni uchumi. Mtu mmoja, dola elfu chache katika hesabu, na mfumo wa wakala wa madhumuni ya jumla ulizalisha ukiukaji kwa kiwango ambacho hapo awali kingehitaji wafanyakazi. Ripoti za Reuters zinaweka matumizi ya mdukuzi katika safu hiyo hasa, kiwango cha chini cha gharama kiasi kwamba watafiti wa usalama wanatarajia mashambulizi yanayoendeshwa na wakala kuongezeka hata kama hakuna zana mpya iliyojengwa.
Mabeki Wanaweza Kufanya Nini
Kwa watetezi, kuchukua kwa vitendo ni kwa utaratibu. Kampeni zinazoendeshwa na mawakala zinaonekana tofauti na uingiliaji wa kawaida: ni za subira, za kimbinu na kumbukumbu za kutosha, zinazochunguza malengo kwa saa nyingi badala ya kurusha unyonyaji mmoja. Timu za usalama zinapaswa kudhani kuwa washambuliaji wanaweza kuendesha shughuli za kujitegemea ambazo zinaendelea kwa siku kadhaa, na zinapaswa kuratibu hitilafu kwa wachuuzi wengine - kwa sababu hivyo ndivyo uvunjaji wa sheria wa saa 23 ulivyotokea, kupitia tovuti zinazoendeshwa na wauzaji badala ya mitandao kuu ya kampuni.
Kipindi cha Cairn pia kinabeba somo kwa mfumo ikolojia wa wakala wenyewe. Mifumo ambayo huwaruhusu mawakala kupanga kufikia malengo ya wazi, na kuandika maendeleo yao wenyewe, ni yenye nguvu kwa uwekaji kiotomatiki halali - na inaweza kusomeka kwa washambulizi kwa usawa. Uwezo bila vidhibiti vya matumizi mabaya unakuwa dhima ya mnyororo wa usambazaji kwa harakati nzima ya chanzo huria ya AI, na kazi ya Norforge ya kuondoa ni kizuizi, si kurekebisha.
---
Kaa Mbele ya AIPata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
