Uchunguzi wa Wizara ya Ulinzi ya Marekani umehitimisha kuwa kuegemea kupita kiasi kwa taarifa za kijasusi kulichangia shambulio la mwezi Machi katika shule moja nchini Iran ambalo liliripotiwa kuwaua watoto wapatao 120, kulingana na matokeo ya ukaguzi kama ilivyoripotiwa na Bloomberg siku ya Jumatatu na muhtasari wa Yahoo News na maduka mengine.
Ugunduzi huo ni mara ya kwanza kwa Pentagon kuhusisha matokeo mabaya ya mapigano kwa sehemu na kutegemea mfumo wa AI, na inatua katikati ya mjadala mkali juu ya ni mamlaka ngapi ya kulenga ambayo jeshi la Merika linapaswa kukabidhi kwa uamuzi wa mashine. Kwa kuripoti zaidi kama hii, angalia utoaji wetu wa maadili ya AI.
Kilichotokea Machi
Mgomo huo ulitokea mapema Machi 2026, wakati uchambuzi wa video uliochapishwa na Bellingcat na kuthibitishwa na NPR na BBC ulionyesha kombora la meli la Marekani la Tomahawk likipiga karibu na shule ya wasichana katika mji wa Lamerd nchini Iran. Ndani ya siku chache, gazeti la The New York Times liliripoti kwamba uchunguzi wa awali wa Marekani umegundua kwamba shambulio hilo lilitokana na kombora la Marekani, na vyanzo vya Iran vinasema idadi ya waliofariki ni makumi ya watu, wengi wao wakiwa watoto.
Mapitio mapya ya Pentagon, yaliyofafanuliwa katika uchunguzi wa Bloomberg uliochapishwa Jumatatu, yanaenda mbali zaidi: inaripotiwa kufuatilia kutofaulu kwa bomba la kulenga na kuhitimisha kuwa kuegemea kupita kiasi kwa AI kulichangia mgomo huo. Yahoo News ilifanya muhtasari wa ukaguzi huo kama kuunganisha mfumo wa ulengaji wa AI na mgomo ulioua watoto 120 wa Iran; maduka kadhaa yametambua mfumo unaozungumziwa kama programu inayotolewa na Palantir, ingawa Pentagon haijathibitisha hadharani maelezo ya muuzaji.
Ndani ya Kill Chain
Gazeti la Los Angeles Times, katika uchunguzi sawia uliochapishwa Jumatatu, lilifuatilia kile ilichokiita "msururu wa mauaji" wa Marekani ambao uliharibu shule hiyo - mlolongo wa ukusanyaji wa data, uteuzi wa walengwa unaosaidiwa na mashine na utiaji saini wa binadamu ambao ulimalizika kwa kurusha kombora. Taarifa hiyo inasisitiza ukweli usiostarehesha wa vita vya kisasa vya usahihi: wafanyakazi wanaowasha Tomahawk huenda wasiwahi kuona walengwa hata kidogo. Hutekeleza kifurushi cha data lengwa kilichokusanywa juu, ambapo zana za algoriti zinazidi kuunda kile kinachoteuliwa na jinsi wachambuzi wasaidizi wanavyojiamini.
Kwa maneno mengine, ugunduzi mkuu wa ukaguzi - kuegemea kupita kiasi - sio juu ya roboti kuvuta kichochezi. Ni kuhusu binadamu kuamini pato la mashine vya kutosha kuruka wasiwasi ambao mchakato uliundwa kuhitaji.
Uangalizi Uliovunjwa
Muktadha wa kutofaulu uliripotiwa miezi iliyopita. Politico ilifichua mwezi Machi kwamba mkuu wa Pentagon alikuwa amepunguza ofisi ambazo hazikuchangia malengo yake ya "mauaji", ikiwa ni pamoja na Kituo cha Ubora cha Ulinzi wa Raia, na kwamba wafanyikazi katika timu za kukabiliana na madhara ya kiraia walikuwa wamepungua takriban 90%, na kupungua hadi chini ya watu 20 kwa jumla. ProPublica iliripoti kuwa timu ya wauaji wa kiraia ya Kamandi Kuu ilishuka kutoka watu kumi hadi mmoja.
Kutokana na hali hiyo, matokeo ya ukaguzi yalisomeka kidogo kama hitilafu ya programu na zaidi kama hitilafu ya mifumo: zana ya AI ambayo makosa yake hayakupingwa ndani ya kifaa cha kulenga ambacho nyavu za usalama wa binadamu zilikuwa zimekatwa hadi kwenye mfupa.
Muundo Pentagon Tayari Imejua Kuuhusu
Shambulio la Iran halikuwa la pekee linalohusiana na AI katika jeshi la Marekani. Ripoti tofauti za Gizmodo na Futurism ziliandika tukio ambalo wanajeshi walikaribia kupanda - na uwezekano wa kurusha risasi - meli ya Uchina baada ya mfumo wa AI kudanganya nyenzo za silaha za nyuklia ndani yake, kosa ambalo lingeweza kusababisha kuongezeka kwa nguvu kubwa. Katika kesi hiyo, kuingilia kati kwa binadamu kulizuia maafa. Huko Iran, hakuna uingiliaji kati kama huo uliotokea.
Watafiti wa AI na wasomi wa maadili ya kijeshi wameonya kwa miaka mingi kwamba matokeo ya mashine yanayoingizwa katika maamuzi ya hali ya juu yanaunda upendeleo wa kiotomatiki - tabia iliyoandikwa ya kibinadamu ya kuamini zaidi mifumo ya kujiamini. Mapitio ya Pentagon yenyewe sasa yanasimama kama kukiri rasmi kwamba upendeleo huu ulichangia moja ya ushuru mbaya zaidi wa raia katika vita.
Nini Kinafuata
Mapitio hayo huenda yakaongeza shinikizo huko Washington kwa mahitaji ya kisheria ya kibinadamu katika ulengaji unaowezeshwa na AI, wakati huo huo utawala unaposukuma kuharakisha kupitishwa kwa AI kijeshi. Pia inatatiza kiwango cha mauzo ya wachuuzi wa teknolojia ya ulinzi ambao bidhaa zao sasa zimehusishwa katika ukaguzi rasmi wa makosa - na inalipa Congress kesi halisi, iliyorekodiwa kutaja katika vikao vya sera ya silaha zinazojitegemea.
Maswali mengi bado hayajajibiwa. Muhtasari wa ukaguzi uliochapishwa kufikia sasa haubainishi ni toleo gani la kielelezo lililokuwa likitumika, iwe hitilafu hiyo ilikuwa dhana, uainishaji usio sahihi wa jengo, au data iliyoharibika ya ingizo la juu - tofauti ambazo ni muhimu sana kwa jinsi jeshi linapaswa kudhibiti zana za AI. Wala haiko wazi ikiwa matokeo ya mfumo yalikaguliwa na mchambuzi yeyote kabla ya kifurushi lengwa kukamilishwa.
Maoni ya umma tayari yana mashaka: kura ya maoni ya Reuters/Ipsos iliyochapishwa wiki hii iligundua 73% ya Wamarekani wanasema makampuni ya AI hayafanyiki vya kutosha kuzuia matokeo mabaya, na wasiwasi kuhusu AI katika mifumo ya silaha mara kwa mara huwa juu kuliko wasiwasi kuhusu AI ya watumiaji. Nini kitatokea kwa mapendekezo ya ukaguzi - na ikiwa kuna mtu yeyote atawajibishwa - itaonyesha kama matokeo yatabadilika au kuwa ripoti nyingine ya tukio iliyowasilishwa na kusahaulika.
---
Pata habari za hivi punde za AI, uchanganuzi na mafanikio - yote katika sehemu moja.
Soma habari zaidi za AI →
