Верховний суд Нью-Мексико санкціонував адвоката за подання апеляції щодо вбивства, заснованого на свідках, яких ніколи не існувало — оптом сфабрикованих ChatGPT — в одному з найяскравіших прикладів «галюцинацій» штучного інтелекту, які досягли серця американської системи правосуддя.
Згідно зі звітом Reuters, вищий суд штату оштрафував юриста Санта-Фе Стівена Ааронса на 5000 доларів США та засудив його за неповагу до суду за те, що він не зміг «перевірити фактичні твердження та юридичні підстави в своїй заяві, створеній ШІ». Записка, подана в рамках апеляції на засудження його клієнта за вбивство, «містила неправдиві свідчення повністю сфабрикованих свідків», а також неправдиві твердження щодо одягу та зовнішнього вигляду стрільця. Щоб дізнатися більше про цю історію, перегляньте наші найважливіші новини AI.
Що встановив суд
У заяві суду не було описано дрібних неточностей. У ньому описувався апеляційний документ, який викликав людей з повітря: свідчення, приписувані свідкам, яких не існує, і вигадані заяви поліції про те, у що був одягнений стрілець і як виглядав стрілець — саме ті фактичні деталі, які може включати засудження за вбивство.
Як повідомляє The Verge, яке повідомило про подання до суду, санкція була застосована через те, що Ааронс не зміг «перевірити фактичні претензії та юридичну достовірність у своєму звіті, створеному ШІ», перед тим, як подати його до суду. Іншими словами, проблема полягала не в тому, що юрист використовував інструмент штучного інтелекту, щоб допомогти з написанням. Йдеться про те, що адвокат подав висновок, не звіривши жодної сфабрикованої заяви з реальним протоколом судового засідання.
"Адвокат, ви дивитеся новини?"
Надзвичайний характер справи став очевидним на серпневих слуханнях, де Ааронс визнав, що використовував ChatGPT, і сказав суду, що очікував, що чат-бот створить «куленепробивне резюме» судового процесу. Це очікування викликало гостру відповідь у судді Верховного суду Нью-Мексико К. Шеннона Бекона.
«Пане радник, ви дивитесь новини? Ви слухаєте радіо? Чи читаєте ви щось про те, що відбувається у світі?» – запитав Бекон, повідомляє Reuters. «Тому що проблема з юристами, які покладаються на галюцинації штучного інтелекту, — це надважлива історія кожного дня».
Докір судді показав, наскільки сфабриковані за допомогою ШІ цитати та свідчення перемістилися з нішевої технічної проблеми до основної професійної відповідальності — такої, про яку тепер судді вважають, що повинен знати кожен практикуючий адвокат.
Останній із серії санкцій проти ШІ
Справа в Нью-Мексико є останньою в списку судів, які швидко зростають, караючи адвокатів за неконтрольоване використання ШІ. Минулого року суддя розкритикував дві юридичні фірми за те, що вони подали звіт, що містив «численні неправдиві, неточні та оманливі юридичні цитати та цитати», а юристи, які представляють інтереси засновника MyPillow Майка Лінделла, також були оштрафовані за включення невірних цитат і фальшивих цитат, створених штучним інтелектом, у судову справу, зазначає The Verge.
Санкції щодо Нью-Мексико відрізняються тим, що вони були сфабриковані. Більшість попередніх справ стосувалися вигаданих юридичних цитат — фальшивих прецедентів, фіктивних цитат із реальних справ. Тут сфабриковано самі факти: свідків, показання та описи речових доказів у кримінальній скарзі. Ця різниця має значення, оскільки фальсифікація фактів у справі про вбивство вражає суть того, для захисту якого існує апеляційний перегляд.
Лінія тренду безпомилкова. Як зауважив The Verge, із збільшенням кількості юристів, які використовують у своїй роботі інструменти штучного інтелекту, зростає й кількість випадків, коли суд виявляє цитати, сфабриковані — або галюциновані — штучним інтелектом. Те, що раніше вважалося незручною помилкою, все частіше карається як невиконання професійної компетентності штрафами, рішеннями про неповагу та перевіркою з боку дисциплінарних органів.
"Я розкаюся"
Ааронс, зі свого боку, сказав агентству Reuters, що сподівається, що наслідки зупиняться на професійній дисципліні. "Я розкаюся, але сподіваюся, що дисциплінарна комісія прийме до уваги, що це була чесна помилка", - сказав він у заяві.
Чи розглядатиме це дисциплінарна комісія як чесну помилку, ще належить з’ясувати, але найвищий суд штату вже чітко висловив свою точку зору: штраф у розмірі 5000 доларів і штраф за неповагу до суду, який ніколи не перевірявся на реальність.
Чому це важливо
Справа закінчується тим, що суди по всій країні посилюють свої позиції щодо використання ШІ в судових процесах. Судді дедалі частіше вимагають від адвокатів підтвердження перевірки документів, створених за допомогою ШІ, і санкції стали видимим механізмом забезпечення виконання. Повідомлення від Верховного суду Нью-Мексико, ймовірно, пошириться далеко за його межі: обов’язок перевірки є особистим, не підлягає делегуванню та не зникає через те, що чат-бот створив впевнено звучачу прозу.
Для юридичної професії розрахунок змінюється. Інструменти розробки AI можуть заощадити години роботи, але один сфабрикований свідок у зареєстрованій заяві тепер може коштувати штрафу, вироку про неповагу та направлення до дисциплінарних органів — професія, яку мало хто з практиків вважатиме привабливою. Для всіх інших цей випадок є нагадуванням про те, що люди, призначені перевіряти результати штучного інтелекту, перебувають під більшим тиском, ніж будь-коли, щоб перевірити їх.
У кримінальних справах найбільші ставки. Санкції за фальшиві цитати витрачають судовий час; сфабриковані докази в апеляції щодо вбивства торкаються механізму, який вирішує, чи обвинувальний вирок є чинним. Апеляційний суд може зважувати тільки претензії, пов’язані з реальним протоколом — і в короткому протоколі з привидними свідками судді просять винести рішення щодо подій, яких ніколи не було.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
