Curtea Supremă din New Mexico a sancționat un avocat pentru că a depus un recurs pentru crimă, bazat pe martori care nu au existat niciodată – fabricați angro de ChatGPT – într-unul dintre cele mai grave exemple până acum de „halucinații” de inteligență artificială care au ajuns în inima sistemului de justiție american.

Potrivit unui raport de la Reuters, cea mai înaltă instanță a statului l-a amendat pe avocatul din Santa Fe, Stephen Aarons, cu 5.000 de dolari și l-a considerat disprețuit pentru că nu a „verificat pretențiile de fapt și autoritatea legală în brevetul său generat de AI”. Rezumatul, depus ca parte a unui recurs împotriva condamnării pentru crimă a clientului său, „conținea mărturii false de la martori complet fabricați”, împreună cu afirmații false cu privire la îmbrăcămintea și aspectul împușatorului. Pentru mai mult context despre această poveste, consultați știrile de ultimă oră AI.

Ce a găsit Curtea

Dosarul instanței nu a descris inexactități minore. A descris un document de apel care a evocat oamenii din aer: mărturie atribuită unor martori care nu există și a inventat declarații ale poliției despre ce purta împușcatorul și cum arăta trăgătorul - exact tipul de detaliu pe care îl poate activa o condamnare pentru crimă.

Potrivit The Verge, care a raportat despre dosarul instanței, sancțiunea a fost impusă pentru că Aarons nu a „verificat pretențiile de fapt și autoritatea juridică în brief-ul său generat de AI” înainte de a o înainta instanței. Cu alte cuvinte, problema nu a fost că un avocat a folosit un instrument AI pentru a ajuta la redactare. A fost că avocatul a depus rezultatul fără a verifica o singură cerere fabricată cu dosarul propriu-zis al procesului.

„Consiliere, urmăriți știrile?”

Natura extraordinară a cazului a apărut la o ședință din august, în care Aarons a recunoscut că a folosit ChatGPT și a spus instanței că se aștepta ca chatbot-ul să producă un „rezumat fără glonț” al procesului. Această așteptare a atras un răspuns clar din partea judecătorului Curții Supreme din New Mexico C. Shannon Bacon.

"Domnule avocat, vă uitați la știri? Ascultați radioul? Citiți ceva despre ce se întâmplă în lume?" a întrebat Bacon, potrivit Reuters. „Pentru că problema cu avocații care se bazează pe halucinații cu inteligență artificială este o poveste de mai sus în fiecare zi”.

Mustrarea justiției a surprins măsura în care citațiile și mărturiile fabricate de inteligență artificială s-au mutat de la o problemă tehnică de nișă la o răspundere profesională generală - una despre care judecătorii presupun acum că fiecare avocat în exercițiu ar trebui să știe.

Cel mai recent dintr-un șir de sancțiuni AI

Cazul New Mexico este cel mai recent dintr-o listă în creștere rapidă a instanțelor care pedepsesc avocații pentru utilizarea necontrolată a AI. Anul trecut, un judecător a criticat două firme de avocatură pentru că au prezentat un scurt care conținea „numeroase citate și citate legale false, inexacte și înșelătoare”, în timp ce avocații care îl reprezintă pe fondatorul MyPillow, Mike Lindell, au fost, de asemenea, amendați pentru că au inclus citate greșite și citate false generate de inteligență artificială într-un dosar, a menționat The Verge.

Ceea ce diferențiază sancțiunea din New Mexico este materialul care a fost fabricat. Majoritatea cazurilor anterioare au implicat citații legale inventate — precedente false, citate false din cazuri reale. Aici, fabricația a mers la faptele în sine: martori, mărturii și descrieri de probe fizice într-un recurs penal. Această distincție contează, deoarece inventarea faptelor într-un caz de crimă se află în centrul a ceea ce revizuirea recursului există pentru a proteja.

Linia de tendință este inconfundabilă. După cum a observat The Verge, odată cu creșterea numărului de avocați care folosesc instrumente AI în activitatea lor, cresc și cazurile în care o instanță descoperă citații care sunt fabricate – sau halucinate – de AI. Ceea ce odată a fost tratat ca o neglijență jenantă este pedepsit din ce în ce mai mult ca o lipsă de competență profesională, cu amenzi, hotărâri de dispreț și control din partea autorităților disciplinare.

„Sunt remuşcat”

Aarons, la rândul său, a declarat pentru Reuters că speră ca consecințele să se oprească înainte de disciplina profesională. „Sunt regretat, dar sper că consiliul de disciplină ia în considerare că a fost o greșeală sinceră”, a spus el într-un comunicat.

Rămâne de văzut dacă consiliul de disciplină o tratează ca pe o greșeală sinceră, dar cea mai înaltă instanță a statului și-a exprimat deja propria opinie clară: o amendă de 5.000 de dolari și o susținere a disprețului pentru un mandat care nu a fost niciodată verificat în raport cu realitatea.

De ce contează

Cazul ajunge pe măsură ce instanțele din toată țara își întăresc pozițiile cu privire la utilizarea AI în litigii. Judecătorii au cerut din ce în ce mai mult avocaților să certifice că dosarele generate de IA au fost verificate, iar sancțiunile au devenit mecanismul vizibil de aplicare. Mesajul de la Curtea Supremă din New Mexico este probabil să călătorească cu mult dincolo de granițele sale: datoria de a verifica este personală, nedelegabilă și nu dispare pentru că un chatbot a produs o proză care sună încrezătoare.

Pentru profesia de avocat, calculul se schimbă. Instrumentele de redactare AI pot economisi ore de muncă, dar un singur martor fabricat într-un dosar depus poate costa acum o amendă, o hotărâre de dispreț și o trimitere către autoritățile disciplinare - o meserie pe care câțiva practicieni o vor găsi atractivă. Pentru toți ceilalți, cazul este o reamintire a faptului că persoanele menite să verifice ieșirile AI sunt supuse unei presiuni mai mari decât oricând pentru a le verifica efectiv.

Miza este cea mai mare în cauzele penale. Sancțiunile pentru citații false pierd timp judiciar; dovezile fabricate într-un recurs pentru crimă ating mecanismul care decide dacă o condamnare rămâne valabilă. O instanță de apel nu poate decât să cântărească pretențiile ancorate la dosarul real – iar un scurt detaliat cu martori-fantomă le cere judecătorilor să se pronunțe asupra unor evenimente care nu s-au întâmplat niciodată.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri AI - toate într-un singur loc.

Citește mai multe știri AI →