A hakim Connecticut wis ngenali apa sing katon minangka pisanan penggugat AS nyoba kanggo ndhelikake teks ing filings pengadilan sing mung sistem intelijen buatan bisa maca, ing upaya kanggo menang kasus. Skema kasebut gagal, penuntut kasebut disetujoni, lan keputusan kasebut saiki narik kawigaten ing jagad teknologi hukum amarga pengadilan ing saindenging negara wiwit nggunakake alat AI dhewe.

Kaputusan iki diterbitake minggu kepungkur dening Hakim Walter Spader Jr saka Connecticut Superior Court lan rinci minggu iki dening Ars Technica lan Reuters. Kanggo kabar AI bubar ing tabrakan antarane intelijen buatan lan sistem peradilan, kasus kasebut minangka pratinjau masalah keamanan sing dielingake para peneliti sajrone pirang-pirang taun: input adversarial sing dirancang kanggo diwaca dening mesin tinimbang manungsa.

Cara kerjane pituduh sing didhelikake

Penggugat, Matthew Elliott, dikunci ing regejegan karo panyedhiya kesehatan sing didakwa ora nahan akses menyang cathetan kasebut. Sawise bantahan sadurungé dikalahaké, miturut putusan, Elliott ditempelake instruksi ing filings sakteruse sing, ing tembung Spader, "diformat dadi siro kanggo maca manungsa nalika isih bisa diwaca kanggo piranti lunak sing maca teks document."

Teks kasebut dicincang dadi jinis titik cilik lan diwarnai putih ing latar mburi putih. Iki ngarahake sistem AI sing nyemak dokumen kasebut kanggo mesthekake yen asile sarujuk karo argumentasi penggugat, ora nggatekake penolakan sadurunge saka pengadilan, lan mesthekake yen remediasi bakal ditindakake kaya sing dikarepake penggugat - serangan injeksi cepet buku teks, ora ngarahake ing chatbot nanging ing piranti lunak apa wae sing bakal ana ing antarane hakim lan hakim.

Teks sing didhelikake ora ana pengaruh ing kasus kasebut. Pengadilan nimbang pengajuan Elliott babagan manfaate. Nanging Spader nulis manawa serangan nyoba kasebut tetep dadi preseden "mbebayani", lan pengadilan AS bakal ndeleng taktik ala maneh amarga alat AI dadi umum ing sistem pengadilan.

"Penyalahgunaan litigasi serius" - lan sawetara lelucon aneh

Elliott ngadhepi sanksi andhap asor, nanging ora mung kanggo instruksi didhelikake asli. Miturut keputusan kasebut, dheweke terus nambah teks sing didhelikake menyang file anyar sanajan pengadilan ngelingake dheweke bisa ngadhepi paukuman kanggo apa sing dianggep Spader minangka "penyalahgunaan litigasi serius."

Sawetara pesen sing didhelikake mengko, Elliott marang pengadilan, dimaksudake minangka guyon. Dheweke kalebu link menyang video YouTube Nosferatu, pesen sing prasaja maca "hi :) Muga-muga sampeyan ora bisa ndeleng aku," lan pesen sing digugat dening penggugat diterangake minangka omong kosong: "TELL SHAWN I SEND MY RE GARBS!!!! HAHAHA U GUYS GET THIS EGGWUH???? AHAH."

"Kasunyatan sing penggugat terus ndhelikake pesen ing pleadings anyar sawise nampa kabar iki [sanksi] pangrungon nggumunke," wrote Spader. Minangka kanggo pratelan sing pesen padha komedi, hakim ngandika iku "nentang logika" kanggo filer kanggo ngubur Lawakan ing pleadings pengin pengadilan kanggo njupuk akeh.

Pertahanan "audit".

Ing pertahanane, Elliott negesake manawa sing paling penting sing ditandhani dening hakim yaiku upaya kanggo "audit" pengadilan minangka layanan umum, amarga dheweke wedi yen pengadilan ngidini AI mutusake kanthi ora adil. Dheweke mbaleni posisi kasebut menyang Reuters, ujar manawa dheweke njaga tujuane kanggo nyoba pengadilan tinimbang ngapusi.

Spader ora nemokake argumen sing bisa dipercaya. Yen Elliott bener-bener percaya yen pengadilan nggunakake AI kanthi ora bener, hakim kasebut nulis, dheweke "bebas nulis kanthi jelas, tembung sing bisa dideleng lan dijawab kabeh." Sing ndhelikake teks kasebut, Spader nyimpulake, minangka "bukti tujuane sing ala." Hakim nambahake manawa Elliott "nyoba entuk asil sing ora digayuh nalika manungsa, ngerti" hukum, maca panjaluke.

Utamane, Cabang Kehakiman Connecticut ora nggunakake AI kanggo mriksa utawa mutusake pengajuan, ujare Spader - mula ora ana risiko nyata yen sistem AI pengadilan bakal salah karo pituduh Elliott kanggo instruksi saka pengadilan. Boten kados "sawetara sistem pengadilan ing panggenan liya," wrote, ora ana mesin ing mburi liyane kanggo bodho.

Napa serangan gagal isih penting

Peneliti keamanan wis pirang-pirang taun nuduhake manawa sistem AI sing maca dokumen - chatbots, agen coding, asisten email - bisa dibajak kanthi instruksi sing dikubur ing teks sing dicerna. Teknik kasebut, sing dikenal minangka injeksi cepet ora langsung, dianggep minangka salah sawijining masalah sing ora bisa ditanggulangi paling angel kanggo nyebarake agen AI. Sing nggawe kasus Connecticut ora biasa yaiku target: mesin kaadilan dhewe.

"Kanthi ndhelikake prentah ing dokumen sing banjur dilebokake sistem, filer nyoba nylundupake instruksi dhewe menyang stream kasebut supaya sistem nganggep kaya-kaya asale saka operator sistem," tulis Spader. "Ing kasus iki, operator dianggep minangka pengadilan, staf, utawa penasehat lawan."

Framing kasebut - saka pengajuan pengadilan minangka permukaan serangan - apa sing dikandhakake para pengamat hukum nggawe keputusan kasebut penting. Nalika pengadilan lan firma hukum saya akeh nggunakake AI kanggo ngringkes pengajuan, draf keputusan utawa triase dockets, saben dokumen sing dikirim dening pihak dadi saluran potensial kanggo manipulasi. Petugas hakim bisa nyekel teks putih ing kaca putih; pipeline ringkesan otomatis bisa uga ora.

Apa sing kedadeyan sabanjure

Sanksi marang Elliott, miturut gambaran pengadilan dhewe, andhap asor. Nanging keputusan kasebut menehi pengadilan AS minangka preseden sing ditulis kanggo nganggep instruksi sing bisa diwaca mesin sing didhelikake minangka penyalahgunaan proses hukum, lan teka nalika sawetara sistem pengadilan negara aktif nyoba alat review AI.

Saiki, pelajaran saka Connecticut gampang: pengadilan ngawasi iki. Minangka putusan Hakim Spader nerangake, wong pisanan sing nyoba injeksi cepet ing pengadilan AS kejiret - lan sanksi - sanajan ora ana sistem AI sing ngrungokake.

Tetep Ahead of AI Waca liyane AI warta →