La Corte Suprema de Nuevo México sancionó a un abogado por presentar una apelación por asesinato basada en testigos que nunca existieron (fabricada en gran medida por ChatGPT) en uno de los ejemplos más crudos hasta ahora de "alucinaciones" de inteligencia artificial que llegan al corazón del sistema de justicia estadounidense.
Según un informe de Reuters, el tribunal más alto del estado multó al abogado de Santa Fe Stephen Aarons con 5.000 dólares y lo declaró en desacato por no "verificar las afirmaciones fácticas y la autoridad legal en su escrito generado por IA". El escrito, presentado como parte de una apelación contra la condena por asesinato de su cliente, "contenía testimonios falsos de testigos totalmente inventados", junto con afirmaciones falsas sobre la vestimenta y apariencia del tirador. Para obtener más contexto sobre esta historia, consulte nuestras últimas noticias sobre IA.
Lo que encontró el tribunal
La presentación del tribunal no describió inexactitudes menores. Describía un documento de apelación que evocaba personas de la nada: testimonios atribuidos a testigos que no existen, y declaraciones policiales inventadas sobre cómo vestía y cómo lucía el tirador: precisamente el tipo de detalle fáctico que puede generar una condena por asesinato.
Según The Verge, que informó sobre el expediente judicial, la sanción se impuso porque Aarons no pudo "verificar las afirmaciones fácticas y la autoridad legal en su escrito generado por IA" antes de presentarlo al tribunal. En otras palabras, el problema no era que un abogado utilizara una herramienta de inteligencia artificial para ayudar con la redacción. Fue que el abogado presentó el resultado sin cotejar ni una sola afirmación inventada con el expediente real del juicio.
"Abogado, ¿ve las noticias?"
La naturaleza extraordinaria del caso salió a la luz en una audiencia en agosto, donde Aarons admitió que había usado ChatGPT y le dijo al tribunal que esperaba que el chatbot produjera un "resumen a prueba de balas" del juicio. Esa expectativa provocó una respuesta directa del juez de la Corte Suprema de Nuevo México, C. Shannon Bacon.
"Abogado, ¿ve las noticias? ¿Escucha la radio? ¿Lee algo sobre lo que está pasando en el mundo?" preguntó Bacon, según Reuters. "Porque el problema de los abogados que dependen de las alucinaciones de la IA es una historia que sale a la luz todos los días".
La reprimenda del juez captó hasta qué punto las citaciones y testimonios fabricados por IA han pasado de ser un problema técnico de nicho a una responsabilidad profesional generalizada, algo que los jueces ahora suponen que todo abogado en ejercicio debería conocer.
La última de una serie de sanciones a la IA
El caso de Nuevo México es el último de una lista en rápido crecimiento de tribunales que castigan a abogados por el uso incontrolado de IA. El año pasado, un juez criticó a dos bufetes de abogados por presentar un escrito que contenía "numerosas citas y citas legales falsas, inexactas y engañosas", mientras que los abogados que representan al fundador de MyPillow, Mike Lindell, también fueron multados por incluir citas erróneas y citas falsas generadas por IA en un expediente judicial, señaló The Verge.
Lo que distingue a la sanción de Nuevo México es el material que fue fabricado. La mayoría de los casos anteriores involucraron citas legales inventadas: precedentes falsos, citas falsas de casos reales. En este caso, la invención se centró en los hechos mismos: testigos, testimonios y descripciones de pruebas físicas en una apelación penal. Esa distinción es importante, porque la fabricación de hechos en un caso de asesinato ataca el núcleo de lo que la revisión de apelación pretende proteger.
La línea de tendencia es inconfundible. Como observó The Verge, a medida que aumenta el número de abogados que utilizan herramientas de IA en su trabajo, también aumentan los casos en los que un tribunal descubre citaciones fabricadas (o alucinadas) por IA. Lo que antes se consideraba un descuido vergonzoso se castiga cada vez más como una falta de competencia profesional, con multas, fallos por desacato y escrutinio por parte de las autoridades disciplinarias.
"Estoy arrepentido"
Aarons, por su parte, dijo a Reuters que espera que las consecuencias no lleguen a la disciplina profesional. "Estoy arrepentido pero tengo esperanzas de que el consejo disciplinario tenga en cuenta que fue un error honesto", dijo en un comunicado.
Queda por ver si la junta disciplinaria lo trata como un error honesto, pero el tribunal más alto del estado ya ha dejado clara su propia opinión: una multa de 5.000 dólares y una decisión por desacato a un escrito que nunca fue verificado con la realidad.
Por qué es importante
El caso llega cuando los tribunales de todo el país están endureciendo sus posiciones sobre el uso de la IA en los litigios. Los jueces exigen cada vez más a los abogados que certifiquen que las presentaciones generadas por IA han sido verificadas, y las sanciones se han convertido en el mecanismo de aplicación visible. Es probable que el mensaje de la Corte Suprema de Nuevo México viaje mucho más allá de sus fronteras: el deber de verificar es personal, no delegable y no desaparece porque un chatbot produjo una prosa que suena segura.
Para la profesión jurídica, el cálculo está cambiando. Las herramientas de redacción de inteligencia artificial pueden ahorrar horas de trabajo, pero un solo testigo inventado en un escrito presentado ahora puede costar una multa, un fallo por desacato y una remisión a las autoridades disciplinarias, un oficio que pocos profesionales encontrarán atractivo. Para todos los demás, el caso es un recordatorio de que las personas destinadas a verificar los resultados de la IA están bajo más presión que nunca para verificarlos.
Lo que está en juego es mayor en los casos penales. Las sanciones por citaciones falsas hacen perder tiempo judicial; La evidencia fabricada en una apelación por asesinato afecta el mecanismo que decide si se mantiene una condena. Un tribunal de apelaciones sólo puede sopesar reclamaciones basadas en el expediente real, y un escrito plagado de testigos fantasmas pide a los jueces que se pronuncien sobre hechos que nunca sucedieron.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
