Верховный суд Нью-Мексико наложил санкции на адвоката за подачу апелляции по делу об убийстве, основанного на показаниях свидетелей, которых никогда не существовало – сфабрикованное ChatGPT оптом – что является одним из самых ярких примеров того, как «галлюцинации» искусственного интеллекта достигли самого сердца американской системы правосудия.
Согласно сообщению агентства Reuters, высший суд штата оштрафовал адвоката Санта-Фе Стивена Аарона на 5000 долларов и признал его виновным в неуважении к суду за неспособность «проверить фактические утверждения и юридическую силу в его заявлении, сгенерированном искусственным интеллектом». Заключение, поданное в рамках апелляции на приговор его клиенту в убийстве, «содержало ложные показания полностью сфабрикованных свидетелей», а также ложные утверждения об одежде и внешности стрелка. Дополнительную информацию об этой истории можно найти в наших текущих последних новостях в области искусственного интеллекта.
Что установил суд
В материалах суда не было описано мелких неточностей. В нем описывался апелляционный документ, который вызвал людей из воздуха: показания, приписываемые несуществующим свидетелям, и выдуманные полицейские показания о том, во что был одет стрелок и как он выглядел — именно такие фактические детали могут включаться в приговор за убийство.
По данным издания The Verge, которое сообщило о материалах суда, санкция была наложена потому, что Ааронсу не удалось «проверить фактические утверждения и юридические полномочия в своем заявлении, сгенерированном ИИ», прежде чем подать его в суд. Другими словами, проблема заключалась не в том, что юрист использовал инструмент искусственного интеллекта для помощи в составлении законопроекта. Дело в том, что адвокат представил результаты, не сверив ни одного сфабрикованного заявления с фактическими протоколами судебного заседания.
«Адвокат, вы смотрите новости?»
Экстраординарный характер дела всплыл на августовском слушании, где Ааронс признал, что использовал ChatGPT, и сообщил суду, что ожидал, что чат-бот предоставит «пуленепробиваемое резюме» судебного разбирательства. Это ожидание вызвало резкий ответ со стороны судьи Верховного суда Нью-Мексико К. Шеннон Бэкон.
«Адвокат, вы смотрите новости? Вы слушаете радио? Вы читаете что-нибудь о том, что происходит в мире?» - спросил Бэкон, сообщает Reuters. «Потому что проблема с адвокатами, полагающимися на галлюцинации ИИ, — это невероятная история каждый божий день».
В упреке судьи отражена степень, в которой сфабрикованные с помощью ИИ цитаты и показания превратились из нишевой технической проблемы в основную профессиональную ответственность — ту, о которой судьи теперь предполагают, что каждый практикующий адвокат должен знать.
Последние санкции в отношении ИИ
Дело Нью-Мексико является последним в быстро растущем списке судов, наказывающих адвокатов за бесконтрольное использование ИИ. В прошлом году судья раскритиковал две юридические фирмы за представление заключения, содержащего «многочисленные ложные, неточные и вводящие в заблуждение юридические цитаты и цитаты», в то время как юристы, представляющие основателя MyPillow Майка Линделла, также были оштрафованы за включение в судебные документы неправильных цитат и фальшивых цитат, сгенерированных искусственным интеллектом, отмечает The Verge.
Что отличает санкции Нью-Мексико, так это сфабрикованный материал. В большинстве ранних дел использовались вымышленные юридические цитаты — фальшивые прецеденты, фальшивые цитаты из реальных дел. Здесь фабрикация дошла до самих фактов: свидетелей, показаний и описаний вещественных доказательств в уголовном деле. Это различие имеет значение, поскольку фабрикация фактов в деле об убийстве затрагивает суть того, что апелляционный пересмотр призван защитить.
Линия тренда очевидна. Как отмечает издание The Verge, с увеличением числа юристов, использующих в своей работе инструменты ИИ, растет и число случаев, когда суд обнаруживает цитаты, сфабрикованные (или галлюцинированные) ИИ. То, что когда-то рассматривалось как досадная оплошность, все чаще наказывается как недостаток профессиональной компетентности: штрафами, решениями о неуважении к суду и проверками со стороны дисциплинарных органов.
«Я раскаиваюсь»
Ааронс, со своей стороны, сказал Reuters, что надеется, что последствия не коснутся профессиональной дисциплины. "Я раскаиваюсь, но надеюсь, что дисциплинарный совет примет во внимание, что это была честная ошибка", - сказал он в своем заявлении.
Считает ли дисциплинарный совет это честной ошибкой, еще неизвестно, но высший суд штата уже ясно изложил свою точку зрения: штраф в размере 5000 долларов и наказание за неуважение к заключению, которое никогда не проверялось на соответствие действительности.
Почему это важно
Дело рассматривается, поскольку суды по всей стране ужесточают свою позицию в отношении использования ИИ в судебных процессах. Судьи все чаще требуют от адвокатов подтверждения того, что документы, поданные с помощью ИИ, были проверены, а санкции стали видимым механизмом принуждения. Послание Верховного суда Нью-Мексико, скорее всего, распространится далеко за его пределы: обязанность проверять является личной, не подлежит делегированию и не исчезает из-за того, что чат-бот создает уверенно звучащую прозу.
Для юристов расчет меняется. Инструменты ИИ для составления документов могут сэкономить часы работы, но один сфабрикованный свидетель в поданном заявлении теперь может стоить штрафа, решения о неуважении к суду и направления в дисциплинарные органы — профессия, которую мало кто из практиков сочтет привлекательной. Для всех остальных этот случай является напоминанием о том, что люди, призванные проверять результаты ИИ, находятся под большим давлением, чем когда-либо, из-за необходимости их действительно проверять.
В уголовных делах ставки самые высокие. Санкции за ложные цитаты отнимают судебное время; сфабрикованные доказательства в апелляции по делу об убийстве затрагивают механизм, который решает, остается ли приговор в силе. Апелляционный суд может рассматривать только претензии, основанные на реальных событиях, а в кратком изложении, наполненном призрачными свидетелями, судьям предлагается вынести решение по событиям, которых никогда не было.
---
Будьте впереди ИИПолучайте последние новости, анализ и открытия в области искусственного интеллекта — все в одном месте.
Подробнее новости AI →
