Wanajeshi wa Marekani Wakaribia Kupanda Meli ya Uchina Juu ya Ripoti ya Ujasusi ya AI-Hallucinated

Jeshi la Merika lilikaribia kwa hatari kukamata meli ya Uchina kulingana na ripoti ya kijasusi ambayo ilitolewa kwa usaidizi wa chatbot ya AI na ikawa ya uwongo kabisa, kulingana na CNN iliyochapishwa Alhamisi.

Kipindi hicho, kilichoelezewa na CNN na vyanzo vinne vinavyofahamu suala hilo, kilianza mapema msimu wa kuchipua - katikati ya vita na Iran - wakati ripoti ilisambazwa katika jeshi la Merika ikidai kwamba meli ya Uchina huko Mashariki ya Kati ilikuwa ikisafirisha vifaa vya mpango wa silaha za nyuklia. Ripoti hiyo ilifyatua kengele mara moja, na wanajeshi wakaanza kuchukua hatua wakiwa na mipango ya kuizuia meli hiyo. Kwa matangazo ya mara kwa mara ya hadithi kama hii, fuata AI news inapoendelea.

Ndege Angani, Sherehe ya Kuabiri Tayari

Kwa mujibu wa vyanzo viwili vya habari vya CNN, wanajeshi wa Marekani waliokuwa na silaha walikuwa wakijiandaa kupanda meli hiyo. Ndege za kijeshi tayari zilikuwa angani, chanzo kimoja kilisema.

Ilikuwa tu kabla ya operesheni iliyopangwa ambapo maafisa walichimba kwa undani zaidi ripoti hiyo - iliyowekwa pamoja na mchambuzi maalum wa oparesheni - na kugundua kuwa ilitolewa kwa usaidizi wa akili ya bandia, na kwamba chatbot ambayo mchambuzi alikuwa ametumia ilikuwa imegundua kwa usahihi nyenzo ambayo meli ilikuwa imebeba. CNN iliripoti kuwa haikuweza kujua ni nini shehena hiyo isiyotambulika ilikuwa.

Chanzo kimoja kilielezea ripoti hiyo kuwa "ya uwongo kabisa." Pia, chanzo hicho kilisema, "karibu kuanzisha vita" - kwani operesheni yoyote ya Merika dhidi ya meli ya Uchina inaweza kuhatarisha kuongezeka kwa mzozo wa kivita kati ya mataifa hayo mawili.

Jinsi Ripoti ya Uongo Ilivyojengwa

Mchanganuzi huyo alikuwa ameuliza chatbot kuhusu taarifa za kijasusi kwenye faili ya maelezo ya meli hiyo ambayo ilitoka kwa Amri Maalum ya Operesheni ya Marekani ya Pacific, iliyoko Hawaii. CNN iliripoti kuwa haikuwa wazi ikiwa chatbot ilikuwa bidhaa inayopatikana kibiashara au zana ya serikali ya Amerika.

Boti iliunganisha pamoja taarifa za kijasusi za chanzo huria na taarifa za siri za kijasusi katika mikono ya serikali na kufikia hitimisho lake la kutisha kuhusu nyenzo zilizokuwemo ndani ya meli. Kisha mchambuzi alitumia AI mara ya pili - kufunga matokeo katika ripoti ya kawaida ya kijasusi, aina inayoaminika na maafisa wa jeshi - na kuisambaza katika mfumo wote.

Amri Maalum ya Operesheni ya Amerika Pacific na Pentagon hawakujibu ombi la CNN la kutoa maoni.

Mashindano ya Kijeshi Kuchukua AI

Wanaokaribia kukosa hutua wakati maafisa katika jeshi na jumuiya ya kijasusi ya Marekani wanasukumana kuunganisha AI katika karibu kila nyanja ya kazi yao - kutoka kwa kuchambua wingi wa akili mbichi na kuchagua shabaha za mgomo, hadi maombi ya kawaida kama bajeti, vifaa, na minyororo ya usambazaji.

Mnamo Januari, Waziri wa Ulinzi Pete Hegseth alitoa "Mkakati wa Kuongeza Ujasusi Bandia" wa idara hiyo, ulionuiwa kuharakisha upitishaji wa kijeshi wa AI. "Tutafungua majaribio, kuondoa vikwazo vya ukiritimba, tutazingatia uwekezaji wetu na kuonyesha mbinu ya utekelezaji inayohitajika ili kuhakikisha tunaongoza katika AI ya kijeshi," Hegseth alisema katika hotuba yake akitangaza mkakati huo.

Mkakati huo unatoa wito kwa ufikivu wa kidemokrasia, na kuamuru idara kuweka "mifumo ya AI inayoongoza ulimwenguni ya Amerika moja kwa moja mikononi mwa wafanyikazi wetu milioni tatu wa raia na wanajeshi, katika viwango vyote vya uainishaji."

Hakuna Seti Moja ya Kanuni

Lakini juhudi hizo zimegatuliwa, maafisa wengi wa Marekani waliiambia CNN, huku sehemu tofauti za serikali zikitumia zana tofauti chini ya maagizo na viwango tofauti vya usalama. Hakuna seti moja ya viwango vya jinsi Marekani inavyothibitisha taarifa zinazozalishwa na zana hizi, na kutegemewa kwa mifumo mbalimbali hutofautiana sana.

"Zana za ndani kwa kiasi kikubwa ni nakala tu za bidhaa za kibiashara zilizovaa lipstick," afisa mkuu wa zamani wa Marekani anayefahamu mifumo ya AI inayotumiwa na wachambuzi wa kijeshi na wa kijasusi aliiambia CNN.

AI Targeting Ni 'Ramping Up' Kwa Mwongozo Mdogo

Vyanzo vilisema wanajeshi wanageukia AI haraka kusaidia kulenga - eneo ambalo lina hatari ya wazi ya makosa mabaya. "AI katika kulenga bila shaka ni kitu ambacho kinaongezeka na hakuna mwongozo wa kweli wa jinsi kuwa na mwanadamu katika kitanzi kutazuia majeruhi ya raia au mauaji ya jamaa," chanzo kingine kinachofahamu sera za sasa za jeshi kiliiambia CNN.

Wachambuzi wameonya kwa muda mrefu kwamba AI inaweza kuchangia katika hesabu mbaya ya janga ikiwa mataifa ya taifa yanategemea data duni au mbovu - haswa aina ya upotoshaji ambao ungeweza kusababisha Merika kufyatua meli ya Uchina kulingana na habari zisizo sahihi.

Kulingana na CNN, aina ya udanganyifu nyuma ya ripoti ya uwongo ya meli haijawa tukio la pekee katika jumuiya ya kijasusi tangu zana hizi zilipoanza kuenea kupitia serikali.

'AI Hukuruhusu Kupata Wazo Mbaya Haraka'

Kwa wiki kadhaa, watunga sera wa Washington wamekuwa wakijadili sana AI kufuatia mfululizo wa maonyo ya kutisha kutoka kwa Silicon Valley kuhusu uwezekano kwamba AI inaweza kuondokana na vikwazo vya kibinadamu. Lakini kipindi cha meli ya Uchina kinasisitiza hatari tofauti na ya haraka zaidi: wanadamu kufanya maamuzi mabaya kulingana na taarifa zisizo sahihi au za kupotosha zinazozalishwa na mifumo ya AI.

Vyanzo kadhaa viliiambia CNN kwamba wachambuzi wachanga haswa - wenyeji wa zana hizi - wana uwezekano mkubwa wa kuziamini bila kukosoa, na kwamba AI imeongeza shinikizo kwa wachambuzi kutoa na kusambaza akili haraka, ikifungua milango ya makosa.

"AI hukuruhusu kupata wazo mbaya haraka," moja ya vyanzo vilisema.

Kipindi hiki kina uwezekano wa kuchochea mjadala mkali kuhusu jinsi jeshi la Marekani linavyopaswa kukunja AI katika utendakazi wake nyeti zaidi, na ni hatua gani za uthibitishaji zinapaswa kuwa za lazima kabla ya kutoa ripoti kwa usaidizi wa AI kuhamishia askari, ndege na wafanyakazi wenye silaha kuelekea operesheni inayowezekana ya mapigano. Kwa sasa, maelezo yanapendekeza kwamba ulinzi uliopo ni viraka - na kwamba katika kesi hii, tofauti kati ya ripoti ya kawaida ya kijasusi na tukio la kimataifa ilishuka kwa maafisa ambao walikagua mara mbili.

Kaa Mbele ya AI

Kwa ripoti zaidi kuhusu sera ya AI, usalama wa taifa, na miundo inayounda zote mbili, soma habari zaidi za AI.