Sąd Najwyższy Nowego Meksyku ukarał adwokata za złożenie apelacji w sprawie morderstwa opartej na świadkach, którzy nigdy nie istnieli – sfabrykowanych hurtowo przez ChatGPT – co jest jednym z najjaskrawszych w historii przykładów „halucynacji” sztucznej inteligencji sięgających sedna amerykańskiego wymiaru sprawiedliwości.
Według raportu Reutersa sąd najwyższy stanu nałożył na prawnika z Santa Fe grzywnę w wysokości 5000 dolarów i wyraził pogardę za to, że nie „zweryfikował twierdzeń faktycznych i poparcia prawnego w jego briefie wygenerowanym przez sztuczną inteligencję”. Dokument złożony w ramach apelacji od wyroku skazującego jego klienta za morderstwo „zawierał fałszywe zeznania całkowicie sfabrykowanych świadków” oraz fałszywe twierdzenia dotyczące ubioru i wyglądu strzelca. Więcej kontekstu tej historii znajdziesz w naszych bieżących najświeższych wiadomościach o sztucznej inteligencji.
Co stwierdził Trybunał
W piśmie sądu nie wskazano drobnych nieścisłości. Opisano w nim dokument apelacyjny, który przywołał ludzi znikąd: zeznania przypisywane nieistniejącym świadkom i wymyślone zeznania policyjne dotyczące tego, co strzelec miał na sobie i jak wyglądał – dokładnie na ten rodzaj szczegółów faktycznych może wpłynąć wyrok skazujący za morderstwo.
Według The Verge, który poinformował o złożeniu wniosku do sądu, sankcja została nałożona, ponieważ Aarons „nie zweryfikował twierdzeń faktycznych i poparcia prawnego w swoim briefie wygenerowanym przez sztuczną inteligencję” przed złożeniem go do sądu. Innymi słowy, problem nie polegał na tym, że prawnik korzystał z narzędzia AI do pomocy w redagowaniu dokumentów. Polegało to na tym, że prawnik przedstawił wyniki bez sprawdzenia ani jednego sfabrykowanego roszczenia z rzeczywistym protokołem rozprawy.
„Adwokacie, czy oglądasz wiadomości?”
Niezwykły charakter sprawy wyszedł na jaw podczas sierpniowej rozprawy, podczas której Aarons przyznał, że korzystał z ChatGPT i powiedział sądowi, że spodziewał się, że chatbot przedstawi „kuloodporne podsumowanie” procesu. Oczekiwanie to spotkało się z ostrą reakcją sędziego Sądu Najwyższego Nowego Meksyku C. Shannona Bacona.
„Pani mecenasie, czy ogląda pan wiadomości? Słucha pan radia? Czy czyta pan cokolwiek o tym, co dzieje się na świecie?” Jak podaje Reuters, zapytał Bacon. „Ponieważ problem prawników polegających na halucynacjach sztucznej inteligencji to niecodzienna historia każdego dnia”.
Nagana sędziego uchwyciła stopień, w jakim cytaty i zeznania sfabrykowane przez sztuczną inteligencję przeszły z niszowego problemu technicznego do głównego nurtu odpowiedzialności zawodowej – problemu, o którym obecnie sędziowie zakładają, że powinien wiedzieć każdy praktykujący prawnik.
Najnowsze z szeregu sankcji dotyczących sztucznej inteligencji
Sprawa w Nowym Meksyku jest najnowszą z szybko rosnącej listy sądów karzących prawników za niekontrolowane korzystanie ze sztucznej inteligencji. W zeszłym roku sędzia ostro skrytykował dwie kancelarie prawne za przedłożenie dokumentów zawierających „liczne fałszywe, niedokładne i wprowadzające w błąd cytaty i cytaty prawne”, natomiast prawnicy reprezentujący założyciela MyPillow Mike’a Lindella również zostali ukarani grzywną za włączenie do pozwu błędnych cytatów i fałszywych cytatów wygenerowanych przez sztuczną inteligencję – zauważył The Verge.
Tym, co wyróżnia sankcje w Nowym Meksyku, jest materiał, który został sfabrykowany. Większość wcześniejszych spraw dotyczyła wymyślonych cytatów prawnych – fałszywych precedensów, fałszywych cytatów z prawdziwych spraw. W tym przypadku fabrykacja dotyczyła samych faktów: świadków, zeznań i opisów dowodów rzeczowych w apelacji karnej. To rozróżnienie ma znaczenie, ponieważ fabrykowanie faktów w sprawie o morderstwo uderza w sedno tego, co ma chronić kontrola apelacyjna.
Linia trendu jest jednoznaczna. Jak zauważył The Verge, wraz ze wzrostem liczby prawników korzystających z narzędzi AI w swojej pracy rośnie liczba przypadków, w których sąd odkrywa cytaty sfabrykowane – lub zmyślone – przez sztuczną inteligencję. To, co kiedyś było traktowane jako żenujące przeoczenie, jest coraz częściej karane jako brak kompetencji zawodowych grzywnami, orzeczeniami pogardliwymi i kontrolą ze strony organów dyscyplinarnych.
„Mam wyrzuty sumienia”
Aarons ze swojej strony powiedział agencji Reuters, że ma nadzieję, że skutki ustaną bez dyscypliny zawodowej. „Mam wyrzuty sumienia, ale mam nadzieję, że komisja dyscyplinarna weźmie pod uwagę, że był to uczciwy błąd” – stwierdził w oświadczeniu.
Czas pokaże, czy komisja dyscyplinarna potraktuje to jako uczciwy błąd, ale stanowy sąd najwyższy już jasno przedstawił swoje stanowisko: grzywna w wysokości 5000 dolarów i pogarda dla ustaleń, które nigdy nie zostały zweryfikowane z rzeczywistością.
Dlaczego to ma znaczenie
Sprawa kończy się, ponieważ sądy w całym kraju zaostrzają swoje stanowisko w sprawie wykorzystania sztucznej inteligencji w sporach sądowych. Sędziowie coraz częściej wymagają od prawników poświadczenia, że zgłoszenia wygenerowane przez sztuczną inteligencję zostały zweryfikowane, a sankcje stały się widocznym mechanizmem egzekwowania prawa. Przesłanie Sądu Najwyższego Nowego Meksyku prawdopodobnie wykroczy daleko poza jego granice: obowiązek weryfikacji ma charakter osobisty, nie można go delegować i nie znika, ponieważ chatbot stworzył pewnie brzmiącą prozę.
W przypadku zawodów prawniczych kalkulacja ulega zmianie. Narzędzia do opracowywania sztucznej inteligencji mogą zaoszczędzić godziny pracy, ale pojedynczy sfabrykowany świadek w złożonym pozwie może teraz kosztować grzywnę, orzeczenie o pogardzie i skierowanie sprawy do organów dyscyplinarnych – branża, którą niewielu praktyków uzna za atrakcyjną. Dla wszystkich innych ta sprawa przypomina, że osoby, które miały sprawdzać wyniki sztucznej inteligencji, znajdują się pod większą niż kiedykolwiek presją, aby je faktycznie sprawdzić.
Najwyższa stawka jest w sprawach karnych. Sankcje za fałszywe cytaty marnują czas sądu; sfabrykowane dowody w apelacji w sprawie morderstwa wpływają na mechanizm decydujący o utrzymaniu wyroku skazującego. Sąd apelacyjny może oceniać jedynie roszczenia oparte na prawdziwych aktach, a w piśmie zawierającym fantomowych świadków zwraca się do sędziów o wydanie orzeczenia w sprawie wydarzeń, które nigdy nie miały miejsca.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
