Mężczyzna ukrył we wnioskach sądowych niewidzialną sztuczną inteligencję, aby wygrać swoją sprawę – po raz pierwszy w USA, twierdzi sędzia

Sędzia z Connecticut stwierdził, że prawdopodobnie po raz pierwszy amerykański powód próbował ukryć w dokumentach sądowych tekst, który może odczytać jedynie system sztucznej inteligencji, próbując wygrać swoją sprawę. Plan się nie powiódł, na stronę sporu nałożono sankcje, a orzeczenie przyciąga obecnie uwagę całego świata technologii prawniczych, ponieważ sądy w całym kraju zaczynają wdrażać własne narzędzia sztucznej inteligencji.

Decyzja została opublikowana w zeszłym tygodniu przez sędziego Waltera Spadera Jr. z Sądu Najwyższego Connecticut, a w tym tygodniu opublikowana została szczegółowo przez Ars Technica i Reuters. W przypadku najświeższych wiadomości o sztucznej inteligencji na temat kolizji sztucznej inteligencji z wymiarem sprawiedliwości sprawa ta stanowi zapowiedź problemu, przed którym badacze bezpieczeństwa ostrzegali od lat: kontradyktoryjne dane wejściowe przeznaczone do odczytania przez maszyny, a nie ludzi.

Jak działały ukryte podpowiedzi

Powód, Matthew Elliott, był w sporze ze podmiotem świadczącym opiekę zdrowotną w związku z tym, że według niego w niewłaściwy sposób odmawiał dostępu do swojej dokumentacji. Jak wynika z orzeczenia, po odrzuceniu wcześniejszych argumentów Elliott umieścił w kolejnych dokumentach instrukcje, które według słów Spadera „sformatowano tak, aby były niewidoczne dla ludzkiego czytelnika, a jednocześnie pozostawały w pełni czytelne dla dowolnego oprogramowania odczytującego tekst dokumentu”.

Tekst został zmniejszony do czcionki o małej liczbie punktów i pokolorowany na biało na białym tle. Nakazała każdemu systemowi sztucznej inteligencji przeglądającemu dokument upewnić się, że jego wyniki zgadzają się z argumentacją powoda, zignorowała wcześniejsze odmowy sądu i zapewniła, że ​​środki zaradcze zostaną podjęte zgodnie z życzeniami powoda – podręcznikowy atak polegający na natychmiastowym wstrzyknięciu, skierowany nie na chatbota, ale na dowolne oprogramowanie, które pewnego dnia stanie pomiędzy stroną sporu a sędzią.

Ukryty tekst nie miał wpływu na sprawę. Sąd rozważył skargę Elliotta pod względem merytorycznym. Spader napisał jednak, że próba ataku stanowi jednak „niebezpieczny” precedens i że sądy amerykańskie prawdopodobnie ponownie zobaczą tę złośliwą taktykę, gdy narzędzia sztucznej inteligencji staną się bardziej powszechne w systemach sądowych.

„Poważne nadużycie w postępowaniu sądowym” — i kilka dziwnych dowcipów

Elliottowi groziły skromne sankcje, ale nie tylko za oryginalne, ukryte instrukcje. Zgodnie z orzeczeniem dodawał ukryty tekst do nowych wniosków nawet po tym, jak sąd ostrzegł go, że grozi mu kara za to, co Spader ostatecznie uznał za „poważne nadużycie w postępowaniu sądowym”.

Elliott powiedział sądowi, że niektóre z późniejszych ukrytych wiadomości miały służyć jako żarty. Obejmowały link do filmu Nosferatu na YouTube, prostą wiadomość o treści „Cześć :) Mam nadzieję, że mnie nie widzisz” oraz wiadomość, którą powód określił jako nonsensowną: „Powiedz Shawnowi, że wysyłam moje RE GARBS!!!! HAHAHA, CHŁOPAKI, OTRZYMACIE TO JAJKO???? AHAH”.

„Fakt, że powód w dalszym ciągu ukrywał wiadomości w nowych pismach procesowych po otrzymaniu zawiadomienia o rozprawie w sprawie [sankcji] jest zdumiewający” – napisał Spader. Jeśli chodzi o twierdzenie, że wiadomości miały charakter komediowy, sędzia stwierdził, że „przeczy logice”, gdy osoba składająca wniosek ukrywa żarty w pismach procesowych, które – jak chce – sąd potraktuje poważnie.

Obrona „audytu”.

Na swoją obronę Elliott argumentował, że najbardziej niepokojącą wskazówką wskazaną przez sędziego była w rzeczywistości próba „audytu” sądu w ramach usługi publicznej, ponieważ obawiał się, że sąd pozwoli AI niesprawiedliwie rozstrzygnąć jego sprawę. Powtórzył to stanowisko agencji Reuters, utrzymując, że jego zamiarem było raczej wystawienie sądu na próbę niż manipulowanie nim.

Spader nie uznał tej argumentacji za wiarygodną. Sędzia napisał, że jeśli Elliott rzeczywiście uważał, że sąd niewłaściwie korzysta ze sztucznej inteligencji, „może pisać prostymi, widocznymi słowami, tak aby każdy mógł zobaczyć i odpowiedzieć”. Zamiast tego ukrycie tekstu, podsumował Spader, „jest dowodem jego złośliwego celu”. Sędzia dodał, że wyglądało na to, że Elliott „próbował osiągnąć rezultat, którego nie osiągnął, gdy ludzie znający” prawo czytali jego pisma.

Warto zauważyć, że wydział sądowy stanu Connecticut nie korzysta ze sztucznej inteligencji do przeglądania wniosków ani podejmowania decyzji, zauważył Spader, zatem nigdy nie istniało realne ryzyko, że sądowy system sztucznej inteligencji pomyli monity Elliotta z instrukcjami sądu. W przeciwieństwie do „wielu systemów sądowych gdzie indziej” – napisał, po drugiej stronie nie było żadnej maszyny, którą można by oszukać.

Dlaczego nieudany atak nadal ma znaczenie

Badacze zajmujący się bezpieczeństwem spędzili lata na wykazywaniu, że systemy sztucznej inteligencji czytające dokumenty – chatboty, agenci kodujący, asystenci poczty e-mail – mogą zostać przejęte przez instrukcje ukryte w przyjmowanym przez nich tekście. Technika ta, znana jako pośrednie wstrzykiwanie natychmiastowe, jest uważana za jeden z najtrudniejszych nierozwiązanych problemów we wdrażaniu agentów AI. Tym, co czyni sprawę Connecticut niezwykłą, jest cel: sama machina sprawiedliwości.

„Ukrywając polecenie w dokumencie, który system później przyjmuje, osoba wypełniająca próbuje przemycić własne instrukcje do tego strumienia, dzięki czemu system traktuje je tak, jakby pochodziły od operatora systemu” – napisał Spader. „W tym przypadku zakłada się, że podmiotem obsługującym jest sąd, jego personel lub obrońca strony przeciwnej”.

To właśnie takie sformułowanie wniosku sądowego jako powierzchni ataku – zdaniem obserwatorów prawnych sprawia, że ​​orzeczenie jest znaczące. Ponieważ sądy i kancelarie prawne coraz częściej wykorzystują sztuczną inteligencję do podsumowań wniosków, projektów decyzji lub aktów segregacyjnych, każdy dokument złożony przez stronę staje się potencjalnym kanałem manipulacji. Urzędnik sędziowski może uchwycić biały tekst na białej stronie; automatyczny potok podsumowań może nie.

Co będzie dalej

Sankcje nałożone na Elliotta są, według własnego opisu sądu, skromne. Jednak decyzja ta daje amerykańskim sądom pisemny precedens umożliwiający traktowanie ukrytych instrukcji do odczytu maszynowego jako nadużycia procesu prawnego i pojawia się w momencie, gdy kilka systemów sądów stanowych aktywnie eksperymentuje z narzędziami kontroli sztucznej inteligencji.

Na razie lekcja z Connecticut jest prosta: sądy na to patrzą. Jak jasno wynika z orzeczenia sędziego Spadera, pierwsza osoba, która próbowała natychmiastowego zastrzyku przed amerykańskim sądem, została złapana – i ukarana – mimo że żaden system sztucznej inteligencji nigdy jej nie słuchał.

Wyprzedź sztuczną inteligencję Przeczytaj więcej aktualności o sztucznej inteligencji →