Ponieważ dokumenty prawne są coraz częściej sporządzane przy użyciu dużych modeli językowych, sfałszowane cytaty stały się prawdziwym problemem dla sądów i występujących przed nimi prawników. Badacze z Georgia Tech zbudowali narzędzie typu open source, którego zadaniem jest wychwytywanie sfabrykowanych odniesień, zanim dotrą one do sędziego.
Narzędzie o nazwie Mellea Legal Requirements Checker (Mellea-LRC) może identyfikować i weryfikować cytaty z orzecznictwa, ze szczególnym uwzględnieniem cytatów halucynowanych przez sztuczną inteligencję. Zgodnie z zapowiedzią uniwersytetu, powstał w ramach programu stypendialnego w Centrum Naukowej Inżynierii Oprogramowania (CSSE) i Biurze Programu Open Source (OSPO) firmy Georgia Tech, ufundowanego z darowizny od IBM. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Studenci studiów magisterskich Adrian Lozada i Di Wu zostali wybrani na stypendystów, którzy mają zbudować narzędzie wraz z mentorami z CSSE i OSPO. Ich celem, jak stwierdził uniwersytet, było zapewnienie prawnikom i innym osobom zajmującym się prawem prostego sposobu weryfikacji cytatów prawnych.
Jak to działa
Mellea-LRC łączy duże modele językowe ze strukturą open source Mellea firmy IBM, zbudowaną wokół paradygmatu „instruuj, weryfikuj, naprawiaj”: programiści piszą reguły, które dane wyjściowe LLM muszą spełniać jako zwykły kod, a struktura ponawia próby wywołań modelu, dopóki dane wyjściowe ich nie spełnią.
„Framework IBM Mellea był podstawą, na której go zbudowaliśmy. Zadaniem Mellei jest zapewnienie przewidywalności wywołań modeli: piszesz reguły, które muszą spełniać dane wyjściowe jak zwykły kod, a platforma ponawia próby, dopóki nie spełnią ich wymagania wyjściowe LLM. Naszym zadaniem było wykorzystanie frameworku do zbudowania aplikacji prawnej od początku do końca” – oznajmił Wu w ogłoszeniu.
Narzędzie przetwarza dokument w około osiem minut. Najpierw wyodrębnia cytaty z orzecznictwa z akt prawnych, a następnie weryfikuje, czy każdy cytat jest autentyczny i czy faktycznie potwierdza treść dokumentu – druga część odróżnia cytat oparty na halucynacjach od cytatu czysto fałszywego. Sfabrykowana sprawa, która nie istnieje, nie przechodzi pierwszej kontroli; prawdziwy przypadek, który nie mówi, czego dotyczy zgłoszenie, nie spełnia drugiego warunku.
Testowane na rzeczywistych, sfabrykowanych opiłkach
Zespół ocenił Mellea-LRC na podstawie 26 dokumentów złożonych w sądzie publicznym, o których wiadomo, że zawierają sfałszowane cytaty – to ta sama kategoria incydentów, które spowodowały sankcje i kontrolę w sądach w miarę rozpowszechniania się pism sporządzonych przez sztuczną inteligencję.
Problem, który jest celem Mellea-LRC, jest dobrze udokumentowany: LLM generują wiarygodnie wyglądające nazwy spraw, cytaty i cytaty, które nie odpowiadają żadnemu rzeczywistemu precedensowi, a prawnikom grożą kary za złożenie takich wniosków bez ich sprawdzenia.
Otwarte oprogramowanie według projektu
Podstawowym wymaganiem projektu było, aby kod narzędzia był open source. Oprócz tego narzędzia zespół udostępnił nowy zestaw danych testowych i weryfikacyjnych dotyczących Hugging Face na potrzeby przyszłych badań porównawczych.
„Agentyczna sztuczna inteligencja szybko się rozwija, a znaczna część wzrostu ma miejsce w projektach typu open source, w których każdy może czytać, wykorzystywać i ulepszać swoją pracę” – powiedział Lozada.
Jeff Young, dyrektor OSPO i główny naukowiec w Georgia Tech, powiedział, że framework IBM Mellea miał kluczowe znaczenie dla prac, ponieważ zastosowane w nim podejście „instruuj, weryfikuj, naprawiaj” umożliwia tworzenie niezawodnych pętli LLM.
Architektura zapewniająca niezawodne wyniki
To, co wyróżnia podejście Mellea, to miejsce, w którym kładzie się ciężar niezawodności. Większość strategii łagodzenia halucynacji wymaga od samego modelu większej ostrożności – poprzez podpowiadanie, dostrajanie lub wzmacnianie odzyskiwania. Mellea-LRC odwraca tę sytuację: wymagania dotyczące poprawności znajdują się w zwykłym kodzie poza modelem, a framework wywołuje model do momentu, aż dane wyjściowe w sposób udowodniony je spełnią.
Projekt ten ma dwie praktyczne konsekwencje. Po pierwsze, logika weryfikacji podlega audytowi – prawnik lub sąd mogą dokładnie przeczytać, jakie zasady musiały spełnić cytat, zamiast ufać nieprzejrzystym modelowym osądom. Po drugie, ten sam wzorzec wykracza poza cytaty prawne i obejmuje dowolną dziedzinę, w której wyniki można sprawdzić mechanicznie, co jest właśnie tą właściwością, która uczyniła frameworki agentyczne atrakcyjnymi dla programistów korporacyjnych.
Warto zwrócić uwagę także na strukturę stypendialną. Zamiast tworzyć zamknięte laboratorium korporacyjne, w ramach projektu dwóch studentów studiów magisterskich, opiekę mentorską ze strony CSSE i OSPO oraz fundusze IBM skupiono wokół wąskiego, dobrze zdefiniowanego problemu weryfikacji, w wyniku czego powstało działające narzędzie oraz publiczny zbiór danych porównawczych.
Dlaczego ma to znaczenie dla branży prawniczej
Sądy stały się punktem zapalnym problemów z niezawodnością sztucznej inteligencji. Zautomatyzowany przez firmę Mellea-LRC proces weryfikacji — potwierdzanie istnienia cytatu i sprawdzanie, czy zawiera on informacje zgodne z twierdzeniami autora — to dokładnie ten etap staranności, który recenzenci pomijają, gdy terminy są napięte.
Ośmiominutowy czas przetwarzania każdego dokumentu sprawia, że praktycznie można go uruchomić przed złożeniem, a nie jako badanie kryminalistyczne po oznaczeniu przez sędziego nieistniejącej sprawy. A ponieważ zarówno narzędzie, jak i jego zbiór danych ewaluacyjnych są typu open source, inne zespoły mogą kontrolować jego działanie, rozszerzać je na dodatkowe jurysdykcje i formaty cytowań oraz udoskonalać testy porównawcze — podejście to kontrastuje z zamkniętymi, zastrzeżonymi narzędziami do sprawdzania halucynacji.
Projekt sygnalizuje również, w jakim kierunku zmierzają narzędzia sztucznej inteligencji dla przedsiębiorstw: zamiast próbować sprawić, by modele były mniej halucynacyjne, zespoły takie jak Georgia Tech budują wokół nich warstwy weryfikacyjne, korzystając z ustrukturyzowanych reguł i automatycznych ponownych prób, aby dane wyjściowe modeli były wystarczająco przewidywalne w przypadku zawodów wymagających wysokich stawek.
W przypadku branży prawniczej rachunek jest prosty. Sztuczna inteligencja może sporządzić brief w ciągu kilku minut, a narzędzia takie jak Mellea-LRC mogą sprawdzić jego cytaty mniej więcej w tym samym czasie. Pozostałą zmienną jest to, czy firmy uznają tę kontrolę za krok obowiązkowy – przed złożeniem wniosku, a nie po nałożeniu sankcji.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
