Polisi kote Marekani wanazidi kuwavuta madereva si kwa sababu ya jambo lolote walilofanya barabarani, lakini kwa sababu mfumo wa kijasusi bandia uliamua mifumo yao ya usafiri ionekane "ya kutiliwa shaka," kulingana na onyo jipya kutoka Muungano wa Uhuru wa Kiraia wa Marekani.
Katika chapisho lililochapishwa wiki hii na Jay Stanley wa Mradi wa Hotuba, Faragha na Teknolojia wa ACLU, kundi la uhuru wa kiraia linasema kuwa ufuatiliaji wa nambari za leseni unaoendeshwa na AI umevuka mstari: kutoka kusaidia kuchunguza uhalifu maalum hadi kutengeneza tuhuma ambapo hakuna hapo awali. For more context on this story, see our ongoing AI news.
"Mtu yeyote anaweza kusimamishwa, kutafutwa au mbaya zaidi," manukuu ya chapisho huonya. "AI hufanya aina mpya za unyanyasaji iwezekanavyo."
Kusimamishwa kwa Trafiki Ambayo Haikuwa Kuhusu Trafiki
Chapisho la ACLU linahusu uzoefu wa Grace Knowles, mwanamke mwenye umri wa miaka ishirini kutoka kaskazini mwa Virginia ambaye anashiriki hadithi yake hadharani kwa mara ya kwanza.
Mnamo Septemba 2025, kati ya kazi, Knowles alianza safari iliyompeleka Oregon, Texas na Louisiana. Siku moja baada ya kuondoka New Orleans, kuelekea Florida, afisa wa polisi alimvuta licha ya, anasema, kuendesha gari kwa mwendo wa kawaida.
Sababu iliyotajwa ilikuwa dhaifu: alidai alikuwa "katika njia ya kushoto kwa muda mrefu sana." Kisha maswali yakageuka kuwa ya kibinafsi - alikuwa anatoka wapi, alikuwa akienda wapi. Aliposema kwamba alikuwa ametoka New Orleans, alidai uthibitisho. Alitoa kijitabu kutoka kwenye jumba la makumbusho la whisky alilokuwa ametembelea.
Hapo ndipo afisa huyo alipofichua sababu halisi ya kusimama. "Ilinibidi tu kuwa na uhakika, kwa sababu mimi si askari wa kawaida, mimi ni sehemu ya FBI, na nilipochanganua sahani yako niliona ulikuwa na mifumo ya kusafiri ya kutiliwa shaka," alimwambia, alisimulia ACLU.
Hata alipendekeza kuwa alikuwa akidanganya kuhusu New Orleans kwa sababu mfumo wake "haukuonyesha hits yoyote huko." Ili kumtuliza, alimkaribisha kwenye gari lake la doria na akamwonyesha programu: ramani ya joto ya Marekani iliyo na miduara inayoashiria kila mahali alipokuwa. Kubofya mduara kulichukua picha ya nambari yake ya simu.
Ofisa huyo alijieleza kama wakala maalum na akasema sahani huchambuliwa "kila mahali" - ikiwa ni pamoja na, alidai, zimewekwa nyuma ya alama za barabara kuu ambapo madereva hawazitambui.
Chanzo halisi cha kusimamisha gari, kwa mujibu wa akaunti ya ACLU: mfumo wa ufuatiliaji wenye uwezo wa kufikia data ya kisoma nambari za leseni kiotomatiki (ALPR) ulikuwa umeashiria mtindo wake wa kuendesha gari katika nchi nyingine kuwa wa kutiliwa shaka. Hakuna uhalifu, hakuna hati, hakuna tuhuma za kibinafsi - uamuzi wa algoriti kuhusu mahali ambapo mwanamke mchanga alikuwa ameendesha.
Kutoka Kurekodi Sahani hadi Kuzalisha Tuhuma
Wasomaji wa sahani za leseni wenyewe sio mpya. Kilichobadilika ni kile kinachofanywa na data wanazokusanya.
Mnamo Julai 2025, ACLU iliripoti kwamba Flock - mchezaji mkuu katika ufuatiliaji wa ALPR - alikuwa akionyesha uwezo wa AI ambao ulizidi kulinganisha sahani dhidi ya orodha za moto. Kampuni hiyo ilijivunia kuwa mfumo wake ungeweza kuwatahadharisha polisi kwa madereva ambao mifumo yao ya usafiri ilikuwa "ya kutiliwa shaka," na inaweza hata ramani ya mashirika ya watu kwa kuchanganua ni magari yapi yalionekana pamoja mara kwa mara.
Stanley aliita hiyo hatua kubwa: kutumia data ya ALPR kuchunguza gari linalotiliwa shaka ni jambo moja; kuzalisha mashaka kutokana na uendeshaji wa kawaida ni jambo lingine.
Mwaka mmoja baadaye, Wired alipata faili za kina zinazoelezea mfumo wa AI wa kizazi kijacho wa Flock, ambao tayari unatumiwa na baadhi ya idara za polisi. Faili hizo zilifichua uwezo wa maswali mapana, yaliyo wazi ya AI dhidi ya data ya nambari ya nambari ya simu - na sio usomaji wa sahani pekee. Mfumo unaweza pia kutumia rekodi za kukamatwa, faili za kesi na hifadhidata kutoka kwa tasnia ya wakala wa data ya kibiashara, ambayo ACLU inaelezea kuwa imejaa habari za kibinafsi kwa karibu Wamarekani wote.
Kwa maneno mengine, afisa sasa anaweza kuuliza maswali ya wazi ya AI ambayo huunganisha mahali ambapo umeendesha kwa data nyingi za watu wengine, na kupata mwongozo - hakuna kidokezo, ripoti ya uhalifu au mchakato wa mahakama unaohitajika.
'Whisper Stops' na 'Intel Stops'
Mchoro unaotumia Knowles una jina katika miduara ya utekelezaji wa sheria. ACLU inasema hadithi kutoka kote nchini zinaibuka kuhusu polisi kuendesha "vituo vya kisingizio" - kuwavuta madereva kwa madai, ambayo mara nyingi huvumbuliwa, ukiukwaji mdogo kama vile kutoroka nje ya njia au kushindwa kutoa ishara, kama kifuniko cha sababu halisi ya kusimama.
Polisi wenyewe wana majina ya vizuizi hivi: "minong'ono inaacha" au "intel stops."
Kusimama kwa kisingizio si jambo jipya - kanuni za trafiki ni nyingi, na maafisa kwa muda mrefu wamekuwa na uamuzi kuhusu ukiukaji wa kutekeleza. Kinachobadilika AI ni ulengaji. Ambapo afisa mmoja wakati fulani alitegemea uwindaji, wimbo maarufu au uzuiaji wa dawa za kulevya, kanuni ya kanuni sasa inaweza kutengeneza miezi ya mienendo ya mtu na kurudisha orodha ya waombaji kuacha.
Makundi ya haki za kiraia yanabishana kwamba inageuza madhumuni ya miundombinu ya uchunguzi. Mifumo inayouzwa kwa umma kama zana za kurejesha magari yaliyoibiwa au kupata watu waliopotea inatumiwa kutoa shaka kuhusu watu ambao hawajafanya chochote isipokuwa kuendesha gari.
Kwanini ACLU Inalia Kengele Sasa
Chapisho la Stanley linaweka mwelekeo kama hatari ya kimfumo badala ya mkusanyiko wa matukio ya pekee. Kwa sababu mitandao ya ALPR hufunika barabara kuu na mitaa ya jiji, na kwa sababu safu za uchanganuzi wa AI ni mpya na zimedhibitiwa kwa urahisi, idadi ya watu wanaokabiliwa na vituo hivi ni kila mtu aliye na nambari ya simu.
"Ukuaji wa ufuatiliaji wa nambari za leseni za AI kutoka kwa Flock na kampuni zingine unamaanisha kuwa watu wengi zaidi wasio na hatia wanaweza kusimamishwa kwa njia hii," Stanley aliandika - akibainisha kuwa wengi wao hawatapata onyesho la programu isiyotarajiwa ambayo Knowles alipokea.
Hadithi ya Knowles inaonyesha ulinganifu wa kukutana. Alihojiwa, akaombwa atoe uthibitisho wa mahali alipo, na akajua sababu ya kusimama kwa sababu afisa huyo alijitolea. Msafiri aliye na subira kidogo, au chumba cheusi zaidi kwenye data, anaweza kuwa mbaya zaidi.
Nini Kitaendelea
Uchambuzi wa Flock unaoendeshwa na AI tayari unatumika, kulingana na ripoti ya Wired juu ya faili za ndani za kampuni, na chapisho la ACLU linapendekeza matumizi yanaenea badala ya kupungua. Kundi hilo linatoa tahadhari ya umma kwa mazoezi hayo huku mahakama, mabunge ya majimbo na mabaraza ya miji yakiendelea kupima jinsi - na kama - data ya nambari ya leseni ya kiotomatiki inapaswa kudhibitiwa.
Kwa sasa, ushauri uliowekwa katika onyo la ACLU ni dhahiri: ikiwa mtindo wako wa kuendesha gari unaonekana kuwa wa kawaida kwa mashine, kisingizio kidogo cha trafiki kinaweza kuwa kitakachohitajika ili kusimama kuanza.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
