La Cour suprême du Nouveau-Mexique a sanctionné un avocat pour avoir déposé un appel pour meurtre fondé sur des témoins qui n'ont jamais existé – fabriqué en gros par ChatGPT – dans l'un des exemples les plus frappants à ce jour d'« hallucinations » de l'intelligence artificielle atteignant le cœur du système judiciaire américain.

Selon un rapport de Reuters, le plus haut tribunal de l'État a infligé une amende de 5 000 $ à l'avocat de Santa Fe, Stephen Aarons, et l'a déclaré coupable d'outrage pour avoir omis de « vérifier les affirmations factuelles et l'autorité légale de son mémoire généré par l'IA ». Le mémoire, soumis dans le cadre d'un appel contre la condamnation pour meurtre de son client, "contenait de faux témoignages de témoins entièrement fabriqués", ainsi que de fausses déclarations sur les vêtements et l'apparence du tireur. Pour plus de contexte sur cette histoire, consultez nos dernières actualités sur l'IA.

Ce que la Cour a trouvé

Le dossier du tribunal ne décrit pas d’inexactitudes mineures. Il décrivait un document d'appel qui évoquait des gens à partir de rien : des témoignages attribués à des témoins qui n'existent pas et des déclarations inventées par la police sur ce que portait le tireur et à quoi il ressemblait - précisément le genre de détails factuels qu'une condamnation pour meurtre peut impliquer.

Selon The Verge, qui a rendu compte du dossier judiciaire, la sanction a été imposée parce qu'Aarons n'a pas « vérifié les allégations factuelles et l'autorité légale dans son mémoire généré par l'IA » avant de le soumettre au tribunal. En d’autres termes, le problème n’était pas qu’un avocat utilisait un outil d’IA pour l’aider à rédiger. Le fait est que l’avocat a déposé le document sans vérifier une seule affirmation fabriquée de toutes pièces par rapport au dossier réel du procès.

« Conseil, regardez-vous les informations ? »

La nature extraordinaire de l'affaire est apparue lors d'une audience en août, au cours de laquelle Aarons a admis avoir utilisé ChatGPT et a déclaré au tribunal qu'il s'attendait à ce que le chatbot produise un « résumé à toute épreuve » du procès. Cette attente a suscité une réponse précise de la juge C. Shannon Bacon de la Cour suprême du Nouveau-Mexique.

« Maître, regardez-vous les informations ? Écoutez-vous la radio ? Lisez-vous quelque chose sur ce qui se passe dans le monde ? » a demandé Bacon, selon Reuters. "Parce que le problème des avocats qui s'appuient sur les hallucinations de l'IA est une histoire d'actualité chaque jour."

La réprimande du juge a montré à quel point les citations et les témoignages fabriqués par l'IA sont passés d'un problème technique de niche à une responsabilité professionnelle courante – un problème que les juges supposent désormais que tout avocat en exercice devrait connaître.

La dernière d'une série de sanctions contre l'IA

L’affaire du Nouveau-Mexique est la dernière d’une liste rapidement croissante de tribunaux punissant des avocats pour une utilisation incontrôlée de l’IA. L'année dernière, un juge a critiqué deux cabinets d'avocats pour avoir soumis un mémoire contenant « de nombreuses citations et citations juridiques fausses, inexactes et trompeuses », tandis que les avocats représentant le fondateur de MyPillow, Mike Lindell, ont également été condamnés à une amende pour avoir inclus des citations erronées et de fausses citations générées par l'IA dans un dossier judiciaire, a noté The Verge.

Ce qui distingue les sanctions du Nouveau-Mexique, ce sont les documents qui ont été fabriqués. La plupart des affaires antérieures impliquaient des citations juridiques inventées – de faux précédents, de fausses citations tirées de cas réels. Ici, la fabrication s'est portée sur les faits eux-mêmes : les témoins, les témoignages et les descriptions des preuves matérielles dans un appel pénal. Cette distinction est importante, car la fabrication de faits dans une affaire de meurtre touche au cœur de ce que l'examen en appel vise à protéger.

La ligne de tendance est indubitable. Comme l’a observé The Verge, à mesure que le nombre d’avocats utilisant des outils d’IA dans leur travail augmente, les cas dans lesquels un tribunal découvre des citations fabriquées – ou hallucinées – par l’IA augmentent également. Ce qui était autrefois considéré comme un oubli embarrassant est de plus en plus puni comme un manquement à la compétence professionnelle, avec des amendes, des décisions d'outrage et un contrôle minutieux de la part des autorités disciplinaires.

"J'ai des remords"

Aarons, pour sa part, a déclaré à Reuters qu'il espérait que les conséquences s'arrêteraient avant la discipline professionnelle. "J'ai des remords mais j'espère que le conseil de discipline prendra en compte qu'il s'agit d'une erreur honnête", a-t-il déclaré dans un communiqué.

Reste à savoir si le conseil disciplinaire considérera cela comme une erreur honnête, mais le plus haut tribunal de l'État a déjà exprimé clairement son point de vue : une amende de 5 000 dollars et une condamnation pour outrage à un dossier qui n'a jamais été vérifié par rapport à la réalité.

Pourquoi c'est important

L’affaire arrive alors que les tribunaux de tout le pays durcissent leurs positions sur l’utilisation de l’IA dans les litiges. Les juges exigent de plus en plus que les avocats certifient que les dossiers générés par l’IA ont été vérifiés, et les sanctions sont devenues le mécanisme d’application visible. Le message de la Cour suprême du Nouveau-Mexique va probablement bien au-delà de ses frontières : le devoir de vérification est personnel, intransmissible et ne disparaît pas parce qu'un chatbot a produit une prose à l'air confiant.

Pour la profession juridique, le calcul bouge. Les outils de rédaction basés sur l’IA peuvent permettre d’économiser des heures de travail, mais un seul témoin fabriqué dans un dossier déposé peut désormais coûter une amende, un jugement pour outrage et un renvoi aux autorités disciplinaires – un métier que peu de praticiens trouveront attrayant. Pour tous les autres, cette affaire rappelle que les personnes censées vérifier les résultats de l’IA sont plus que jamais sous pression pour les vérifier réellement.

Les enjeux sont les plus élevés dans les affaires pénales. Les sanctions contre les fausses citations font perdre du temps judiciaire ; les preuves fabriquées dans un appel pour meurtre touchent au mécanisme qui décide si une condamnation est maintenue. Une cour d’appel ne peut évaluer que des réclamations ancrées dans le dossier réel – et un mémoire parsemé de témoins fantômes demande aux juges de se prononcer sur des événements qui ne se sont jamais produits.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →