Kamati ya Mawakili ya Haki za Kiraia Chini ya Sheria iliwasilisha kesi mahakamani Novemba 18, 2026, kwa niaba ya wanafunzi wanne Weusi wa sasa na wa zamani wa Shule ya Upili ya Kenwood katika Kaunti ya Baltimore, Maryland, baada ya mfumo wa kutambua bunduki wa AI kupotosha begi lao la chips kwa bunduki na polisi wenye silaha kuwazuilia na kuwapekua vijana hao chuoni.
Malalamiko hayo, yaliyowasilishwa katika Mahakama ya Mzunguko ya Kaunti ya Baltimore, yanawataja kama washtakiwa Omnilert, LLC - mtengenezaji wa mfumo wa Omnilert Gun Detect unaotumika kote katika Shule za Umma za Kaunti ya Baltimore - pamoja na Shule za Umma za Kaunti ya Baltimore na wafanyikazi, Idara ya Polisi ya Kaunti ya Baltimore, na maafisa binafsi. Inadai ukiukaji wa haki za kikatiba za shirikisho na serikali za wanafunzi pamoja na uzembe na uzembe mkubwa. For more context on this story, see our ongoing artificial intelligence updates.
Kilichotokea Oktoba 2025
Kulingana na Kamati ya Wanasheria, tukio hilo lilianza wakati Omnilert Gun Detect - mfumo wa uchunguzi wa AI uliosambazwa katika shule zote za kaunti hiyo - ulitoa tahadhari iliyoashiria begi la kijana la chips kama bunduki na uwezekano uliobainishwa wa asilimia 90. Mfumo huo ulikosea begi la Doritos lililobebwa na mmoja wa wanafunzi kuwa bunduki.
Tahadhari hiyo ya uwongo iliibua jibu ambalo liliishia kwa polisi wa eneo hilo waliokuwa na silaha kuwavamia vijana kwenye chuo, hatua chache kutoka lango la shule. Wanafunzi waliamriwa kupiga magoti, kufungwa pingu na kupekuliwa, shirika hilo lilisema. Magazeti ya New York Times, The Guardian, NBC News, CBS News na Baltimore Sun yote yaliripoti juu ya kesi hiyo na tukio la msingi, ambalo limevuta hisia za kitaifa kwa ugunduzi wa silaha unaotegemea AI shuleni.
"Polisi walimwambia mwanangu hili lingeweza kuwa tatizo la kweli. Hakuna mtoto katika Kaunti ya Baltimore anayepaswa kukabili hatari ya aina hii akisubiri nje ya shule yake mwenyewe kwa ajili ya safari ya kurudi nyumbani kutoka kwa mamake," alisema Freida Winfield, ambaye alikuwa akielekea kumchukua mwanawe Keith na wanafunzi wengine walipokuwa kizuizini, kulingana na taarifa kwa vyombo vya habari.
Msururu wa Kushindwa kwa Wanadamu
Dai kuu la kesi hiyo ni kwamba hitilafu ya teknolojia iliongezwa kwa kila hatua iliyofuata na wanadamu walioipokea. Kamati ya Wanasheria inasema kila mtu kutoka kwa wafanyikazi wa Omnilert hadi kwa mkuu wa shule hadi maafisa wa polisi wa Kaunti ya Baltimore walikosa au walipuuza kile inachokiita ushahidi wa wazi kwamba hakukuwa na bunduki.
Malalamiko hayo pia yanadai kwamba maafisa wa shule walijua kwamba mfumo wa Omnilert ulitoa arifa za uwongo mara kwa mara kabla ya tukio hilo - madai ambayo, ikiwa yatashtakiwa, yangeweka msingi wa jinsi kaunti ilivyozingatia kutegemewa kwa teknolojia dhidi ya kutumwa kwake katika miktadha inayowakabili wanafunzi.
"Wanafunzi hawa walifeli sio tu kwa teknolojia ambayo inakabiliwa na arifa za uwongo, lakini pia na watu wazima waliokusudiwa kuwaweka salama tunapowapeleka shule," alisema Damon Hewitt, rais na mkurugenzi mtendaji wa Kamati ya Wanasheria ya Haki za Kiraia Chini ya Sheria. "Badala ya ulinzi huu, walikutana na bunduki na kujeruhiwa. Na inaweza kuwa mbaya zaidi."
Kesi Inatafuta Nini
Zaidi ya uharibifu, Kamati ya Wanasheria inatumia kesi hiyo kushinikiza mabadiliko ya kimuundo katika jinsi shule na idara za polisi zinavyoshughulikia arifa za ugunduzi wa vitisho vya AI. Shirika hilo lilisema kuwa kesi hiyo inalenga kulazimisha mageuzi yanayohitaji watendaji wa umma kuthibitisha ripoti kutoka kwa majukwaa ya ugunduzi wa vitisho ya AI kabla ya kujibu, kutathmini ikiwa teknolojia hiyo ya AI inafaa kutumiwa shuleni hata kidogo, na kuunda sera zinazohakikisha kuwa arifu za uwongo hazisababishi majibu ya polisi walio na silaha.
Kikundi pia kinatoa wito wa mafunzo zaidi, uangalizi na uwazi kuhusu makosa na matokeo, pamoja na maoni ya jamii kuhusu jinsi teknolojia inavyotumika.
"AI isiyodhibitiwa ina matokeo makubwa, hasa inapohusisha vijana. Teknolojia hii inapopata kupitishwa kwa kuenea zaidi, haiwezi kutokea kwa gharama ya kanuni zilizo wazi, ulinzi, na matarajio kwa watu wazima wanaoingiliana nayo," alisema Leah Frazier, mkurugenzi wa Mpango wa Haki ya Digital katika Kamati ya Wanasheria.
Kesi ya Jaribio la Ugunduzi wa Silaha za AI Shuleni
Kesi hiyo inafika huku wilaya za shule za Marekani zikizidi kutumia utambuzi wa silaha zinazoendeshwa na AI, kuweka mifumo ya kuona ya kompyuta kwenye viingilio na kwenye milisho ya uchunguzi kwa jina la kuzuia ufyatuaji risasi shuleni. Kamati ya Wanasheria iliweka mada pana zaidi kwa uwazi, ikibishana kwamba tukio hilo linazua wasiwasi kuhusu kutegemewa kwa teknolojia ya AI katika mipangilio ya usalama wa umma "ambapo usahihi ni muhimu katika hali za maisha na kifo" - na kubainisha kuwa madhara na makosa kutoka kwa mifumo kama hiyo huathiri kwa kiasi kikubwa jamii za Watu Weusi.
Waangalizi wa kisheria watakuwa wakitazama maswali kadhaa ambayo malalamiko huibua. Ikiwa muuzaji wa AI anaweza kuwajibishwa kwa ajili ya utendaji wa miundo yake ya utambuzi, ikiwa wilaya za shule zinazozipeleka zinadaiwa jukumu kubwa la uthibitishaji, na kama kuegemea kwa polisi kwenye tahadhari ya kiotomatiki bila uthibitisho huru kunakiuka ulinzi wa kikatiba dhidi ya ukamataji usio na sababu yote hayo ni masuala ya moja kwa moja ambayo mahakama ya mzunguko ya Kaunti ya Baltimore itaulizwa sasa.
Kwa wanafunzi wanne katikati ya kesi - ambao walikuwa watoto wakati maafisa walichora silaha juu yao juu ya vitafunio - madai pia ni ya kibinafsi. Mawakili wao wanasema lengo ni kuhakikisha hakuna mwanafunzi tena anayekabiliana na polisi waliojihami kwa kengele ya uwongo ambayo uchunguzi wa kibinadamu ungeweza kupatikana kwa sekunde chache.
Kesi hiyo itaendelea katika Mahakama ya Mzunguko ya Kaunti ya Baltimore. Hakuna majibu ya umma kutoka kwa washtakiwa yalikuwa yameripotiwa wakati wa kuandika.
Vyanzo: Taarifa ya Kamati ya Wanasheria ya Haki za Kiraia Chini ya Sheria, The New York Times, The Guardian, NBC News, CBS News, Baltimore Sun.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →