Prix ​​Goncourt, najbardziej prestiżowa francuska nagroda literacka, usunęła bestsellerową debiutancką powieść ze swojej długiej listy po oskarżeniach w Internecie, że książka została w dużej mierze napisana przez sztuczną inteligencję. Decyzja ta sprawiła, że ​​przełomowy moment w życiu jednego z autorów stał się najpoważniejszym skandalem dotyczącym autorstwa sztucznej inteligencji, z jakim spotkał się świat wydawniczy.

Akademia ogłosiła w piątek, że „C'était ça ou mourir” („Albo to, albo giń”) kanadyjsko-haitańskiego pisarza Thélysona Oréliena nie będzie już ubiegać się o tegoroczną nagrodę, która zostanie przyznana w listopadzie. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Co zdecydowała Akademia

Książka znajdowała się wśród kilkunastu tytułów na początkowej długiej liście Akademii, a krótka lista miała zostać ogłoszona 6 października. W swoim oświadczeniu Akademia Goncourtów stwierdziła, że wycofanie książki było „podyktowane chęcią zachowania integralności nagrody Goncourtów i samej Akademii, której główną rolą jest promowanie i honorowanie literatury napisanej przez kobiety i mężczyzn”.

Akademia przytoczyła ustalenia wskazujące, że książka „najprawdopodobniej jest w dużej mierze wytworem sztucznej inteligencji”, a także odnotowała oskarżenia o plagiat. Wycofanie się miało na celu „wysłanie jasnego komunikatu” – „wyjaśnienie, że w żaden sposób nie popieramy ani nie sankcjonujemy tworzenia tekstów generowanych przy pomocy sztucznej inteligencji”.

Decyzja ta jest bezprecedensowa w przypadku nagrody przyznawanej od 1903 r., której coroczne ogłaszanie stanowi stały element francuskiego kalendarza kulturalnego.

Konto, od którego to się zaczęło

Oskarżenia pojawiły się na koncie internetowym o nazwie „Balance ton Claude” – było to ostre zagranie francuskiego hashtagu „Balance ton post” i nazwy chatbota Claude firmy Anthropic. W relacji opublikowano analizę, która miała wykazać, że powieść nosiła znamiona prozy generowanej maszynowo.

W piątek francuski eseista Samuel Fitoussi piszący dla dziennika „Le Figaro” ujawnił, że był częścią kolektywu stojącego za tą relacją. Stwierdził, że działał w obawie, że sztuczna inteligencja doprowadzi do „zaniku czytania i pisania” po „kilku tysiącleciach cywilizacji opartej na piśmie”.

„Nie byłem sam; to był projekt zbiorowy. Pozostali w odpowiednim czasie ujawnią swoją tożsamość, jeśli wyrażą taką chęć” – powiedział. Fitoussi argumentował, że w miarę wyeliminowania wad sztucznej inteligencji takie systemy „będą w coraz większym stopniu mogły… tworzyć wyjątkowe dzieła niemal autonomicznie”, dodając, że „pewnego dnia ludzki pisarz powie sobie: po co to?” Powiedział, że każdy autor przedstawiający wygenerowane przez sztuczną inteligencję prace polegające na „kopiuj-wklej” jako własne „zdradziłby pakt moralny wiążący ich z czytelnikami”.

Krytycy kampanii zauważają, że żadna kryminalistyczna metoda wykrywania tekstu generowanego przez sztuczną inteligencję nie jest ugruntowaną nauką i że nazwa konta została wybrana, aby zmaksymalizować uwagę, a nie neutralność.

Odmowa autora

Orélien, 38-letni nieznany wcześniej pisarz, którego debiut miał ukazać się w ponad 20 krajach, zaprzeczył zarzutom. „Zawsze uwielbiałem tworzyć i pisać. Nie rozumiem, dlaczego miałbym używać maszyny” – powiedział francuskiemu dziennikowi Libération, mówiąc, że „składa dokumenty” ze swoimi wydawcami, aby udowodnić, że sam napisał tę książkę.

Zasugerował również, że kampania przeciwko niemu ma podłoże rasistowskie i określił ją jako „próbę uciszenia mojego głosu”. Ani akademia, ani członkowie konta nie odpowiedzieli publicznie na tę charakterystykę.

Wydawcy zawieszają promocję

Kanadyjski wydawca książki, Boréal, ogłosił, że wstrzymuje „działania promocyjne” powieści, którą opublikował wiosną, powołując się na „dobre samopoczucie” Orélien.

„Niestety na tym etapie nie możemy potwierdzić ani obalić zarzutów postawionych autorowi” – ​​powiedział Boréal, wzywając opinię publiczną, aby „nie wyciągała pochopnych wniosków”.

Opad przekroczył Atlantyk. W spór wciągnęły się kanadyjskie organizacje literackie, a przedstawiciele branży debatowali, kto najlepiej sprawdza autorstwo w epoce, w której rękopisy można tworzyć — lub po cichu szlifować — za pomocą narzędzi generatywnych.

Dlaczego jest to ważne poza jedną nagrodą

Sprawa Goncourta to pierwszy raz, kiedy duża instytucja literacka formalnie usunęła pretendenta w związku z twierdzeniami o autorstwie AI, i wyznacza wzór, któremu inne nagrody prawdopodobnie będą się uważnie przyglądać. Ujawnia także lukę w dowodach w branży: akademie i wydawcy nie posiadają obecnie wiarygodnego, ustandaryzowanego testu na autorstwo maszynowe, co oznacza, że ​​oskarżenia – niezależnie od ich motywacji – mogą same w sobie być decydujące.

Dla autorów skandal podnosi stawkę pochodzenia. Wersje robocze, kontrola wersji i korespondencja redakcyjna, niegdyś drobnostki administracyjne, mogą stać się decydującym dowodem autorstwa człowieka. W przypadku wydawców weryfikacja może stać się częścią samego procesu pozyskiwania klientów.

W szerszej debacie na temat generatywnej sztucznej inteligencji w branżach kreatywnych epizod ten oznacza eskalację: pytanie nie brzmi już tylko, czy książki wspomagane sztuczną inteligencją są akceptowalne, ale czy samo oskarżenie o zaangażowanie sztucznej inteligencji wystarczy, aby zakończyć karierę literacką.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →