Mwanamume Alificha AI Isiyoonekana Inashawishi Katika Jalada la Mahakama Kushinda Kesi Yake - Marekani Kwanza, Jaji Asema

Jaji wa Connecticut amebainisha kile kinachoonekana kuwa ni mara ya kwanza kwa mlalamikaji wa Marekani kujaribu kuficha maandishi katika majalada ya mahakama ambayo ni mfumo wa kijasusi wa bandia pekee unaoweza kusoma, ili kujaribu kushinda kesi yake. Mpango huo haukufaulu, mlalamishi akaidhinishwa, na uamuzi huo sasa unavutia ulimwengu wa teknolojia ya sheria huku mahakama kote nchini zikianza kutumia zana zao za AI.

Uamuzi huo ulichapishwa wiki iliyopita na Jaji Walter Spader Jr. wa Mahakama ya Juu ya Connecticut na kuelezwa kwa kina wiki hii na Ars Technica na Reuters. Kwa habari zinazochipuka za AI kuhusu mgongano kati ya taarifa za kijasusi bandia na mfumo wa haki, kesi hii ni hakikisho la tatizo ambalo watafiti wa usalama wameonya kuhusu kwa miaka mingi: michango ya kihasama iliyoundwa kusomwa na mashine badala ya wanadamu.

Jinsi vidokezo vilivyofichwa vilifanya kazi

Mlalamikaji, Matthew Elliott, alizuiliwa katika mzozo na mhudumu wa afya ambaye alidai kuwa alikuwa akizuia ufikiaji wa rekodi zake. Baada ya hoja za awali alizoibua zilishindwa, kwa mujibu wa uamuzi huo, Elliott aliingiza maagizo katika faili zilizofuata ambazo, kwa maneno ya Spader, "zilizopangwa kuwa zisizoonekana kwa msomaji wa kibinadamu huku zikisalia kikamilifu kwa programu yoyote inayosoma maandishi ya hati."

Maandishi yalipunguzwa hadi aina ya nukta ndogo na kupakwa rangi nyeupe kwenye mandharinyuma nyeupe. Ilielekeza mfumo wowote wa AI unaokagua hati hiyo ili kuhakikisha matokeo yake yanakubaliana na hoja za mlalamikaji, ilipuuza kukataliwa kwa awali kutoka kwa mahakama, na ilihakikisha kwamba utatuzi ungefuata kama mlalamishi alitaka - shambulio la sindano la haraka la kitabu cha kiada, lisilolenga chatbot lakini programu yoyote ambayo siku moja inaweza kukaa kati ya mlalamishi na hakimu.

Maandishi yaliyofichwa hayakuwa na athari kwenye kesi hiyo. Mahakama ilipima uwasilishaji wa Elliott kulingana na uhalali wake. Lakini Spader aliandika kwamba jaribio la kushambulia hata hivyo linaweka mfano "hatari", na kwamba mahakama za Marekani zinaweza kuona mbinu hiyo mbaya tena kwani zana za AI zinakuwa za kawaida zaidi katika mifumo ya mahakama.

"Matumizi mabaya makubwa ya kesi" - na baadhi ya vicheshi vya ajabu

Elliott alikabiliwa na vikwazo vya kawaida, lakini sio tu kwa maagizo ya asili yaliyofichwa. Kulingana na uamuzi huo, aliendelea kuongeza maandishi yaliyofichwa kwenye faili mpya hata baada ya mahakama kumuonya kuwa anaweza kukabiliwa na adhabu kwa kile Spader aliona "unyanyasaji mkubwa wa kesi."

Baadhi ya jumbe zilizofichwa baadaye zilikuwa, Elliott aliiambia mahakama, zilizokusudiwa kama mzaha. Walijumuisha kiungo cha video ya Nosferatu ya YouTube, ujumbe rahisi unaosoma "hi :) Natumai hamtaniona," na ujumbe ambao mlalamishi aliuelezea kuwa usio na maana: "MWAMBIE SHAWN NITUMIE MY RE GARBS!!!! HAHAHA U GUYS GET THIS EGGWUH???? AHAH."

"Ukweli kwamba mlalamikaji aliendelea kuficha ujumbe katika maombi mapya baada ya kupokea notisi ya kusikilizwa kwa [vikwazo] huu ni wa kushangaza," Spader aliandika. Kuhusu madai kwamba jumbe hizo ni za ucheshi, hakimu alisema "inapingana na mantiki" kwa mwasilishaji faili kuzika utani ndani ya maombi anayotaka mahakama ichukue kwa uzito wake.

Utetezi wa "ukaguzi".

Katika utetezi wake, Elliott alidai kuwa pendekezo muhimu zaidi lililoripotiwa na jaji lilikuwa ni jaribio la "kukagua" mahakama kama huduma ya umma, kwa sababu alihofia mahakama ilikuwa ikiruhusu AI kuamua kesi yake isivyo haki. Alirudia msimamo huo kwa Reuters, akisema anashikilia kuwa nia yake ilikuwa kujaribu mahakama badala ya kuidanganya.

Spader haikupata hoja ya kuaminika. Ikiwa Elliott aliamini kwa dhati kwamba mahakama ilikuwa ikitumia AI isivyofaa, hakimu aliandika, "alikuwa huru kuandika maneno wazi, yanayoonekana ambayo kila mtu angeweza kuona na kujibu." Kuficha maandishi badala yake, Spader alihitimisha, ni "ushahidi wa madhumuni yake mabaya." Jaji aliongeza kuwa inaonekana Elliott "anajaribu kupata matokeo ambayo hakupata wakati wanadamu, wenye ujuzi" wa sheria, walisoma maombi yake.

Hasa, Tawi la Mahakama la Connecticut halitumii AI kukagua au kuamua majalada, Spader alisema - kwa hivyo hakukuwa na hatari ya kweli kwamba mfumo wa AI wa mahakama ungekosea maongozi ya Elliott kwa maagizo kutoka kwa mahakama. Tofauti na "mifumo kadhaa ya mahakama mahali pengine," aliandika, hakukuwa na mashine upande mwingine wa kudanganya.

Kwa nini shambulio lililoshindwa bado ni muhimu

Watafiti wa usalama wametumia miaka mingi kuonyesha kwamba mifumo ya AI inayosoma hati - chatbots, mawakala wa kusimba, wasaidizi wa barua pepe - inaweza kutekwa nyara na maagizo yaliyozikwa ndani ya maandishi wanayomeza. Mbinu hiyo, inayojulikana kama sindano ya haraka isiyo ya moja kwa moja, inachukuliwa kuwa mojawapo ya matatizo magumu ambayo hayajatatuliwa katika kupeleka mawakala wa AI. Kinachofanya kesi ya Connecticut kuwa isiyo ya kawaida ni lengo: mitambo ya haki yenyewe.

"Kwa kuficha amri ndani ya hati ambayo mfumo unaingiza baadaye, mwasilishaji faili anajaribu kuingiza maagizo yake kwenye mkondo huo ili mfumo uchukue kana kwamba umetoka kwa opereta wa mfumo," Spader aliandika. "Katika kesi hii opereta anachukuliwa kuwa korti, wafanyikazi wake, au wakili pinzani."

Muundo huo - wa kuwasilisha korti kama eneo la shambulio - ndio waangalizi wa kisheria wanasema hufanya uamuzi huo kuwa muhimu. Kadiri mahakama na mashirika ya sheria yanavyozidi kutumia AI kufupisha majalada, maamuzi ya rasimu au hati tatu, kila hati inayowasilishwa na mhusika inakuwa njia inayoweza kudanganywa. Karani wa jaji anaweza kupata maandishi meupe kwenye ukurasa mweupe; bomba la muhtasari wa kiotomatiki huenda lisiwe.

Nini kitatokea baadaye

Vikwazo dhidi ya Elliott, kwa maelezo ya mahakama yenyewe, ni ya kawaida. Lakini uamuzi huo unazipa mahakama za Marekani kielelezo kilichoandikwa cha kushughulikia maagizo yaliyofichwa yanayoweza kusomeka kwa mashine kama matumizi mabaya ya mchakato wa kisheria, na inafika wakati ambapo mifumo kadhaa ya mahakama za majimbo inajaribu kikamilifu zana za ukaguzi wa AI.

Kwa sasa, somo kutoka Connecticut ni rahisi: mahakama inatazama hili. Kama uamuzi wa Jaji Spader unavyoweka wazi, mtu wa kwanza kujaribu kudunga sindano haraka kwenye mahakama ya Marekani alikamatwa - na kuwekewa vikwazo - ingawa hakuna mfumo wa AI uliowahi kusikiliza.

Kaa Mbele ya AI Soma habari zaidi za AI →