Prix Goncourt, nejprestižnější francouzské literární ocenění, odstranilo nejprodávanější debutový román ze svého dlouhého seznamu po online obviněních, že knihu z velké části napsala umělá inteligence – rozhodnutí, které proměnilo moment zlomu jednoho autora v nejzávažnější skandál s umělou inteligencí, kterému vydavatelský svět čelil.
Akademie v pátek oznámila, že "C'était ça ou mourir" ("Bylo to buď to, nebo zemřít") kanadsko-haitského spisovatele Thélysona Oréliena již nebude soutěžit o letošní cenu, která bude udělena v listopadu. For more context on this story, see our ongoing AI industry coverage.
Jak Akademie rozhodla
Kniha byla mezi více než tuctem titulů na původním dlouhém seznamu akademie, přičemž užší výběr měl být oznámen 6. října. Ve svém prohlášení Goncourtova akademie uvedla, že stažení bylo „řízeno touhou zachovat integritu ceny Goncourt a Akademie samotné, jejíž ústřední úlohou je propagovat a ctít literaturu psanou ženami a muži“.
Akademie citovala zjištění naznačující, že kniha je „se vší pravděpodobností z velké části produktem umělé inteligence“, a také zaznamenala obvinění z plagiátorství. Stažení bylo „o zaslání jasné zprávy“ — aby bylo „jasně řečeno, že žádným způsobem nepodporujeme ani neschvalujeme vytváření textů generovaných pomocí AI“.
Toto rozhodnutí je u ceny, která se uděluje od roku 1903 a jejíž každoroční vyhlašování je stálicí francouzského kulturního kalendáře, bezprecedentní.
Účet, který to začal
Obvinění se objevila na online účtu nazvaném „Balance ton Claude“ – zvýrazněná hra na francouzský whistleblowing hashtag „Balance ton post“ a jméno chatbota Claude společnosti Anthropic. Účet zveřejnil analýzu, která měla ukázat, že román nesl znaky strojově generované prózy.
Francouzský esejista Samuel Fitoussi, který píše pro deník Le Figaro, v pátek prozradil, že byl součástí kolektivu stojícího za účtem. Řekl, že jednal z obavy, že umělá inteligence povede k „zmizení čtení a psaní“ po „několika tisíciletích civilizace založené na psaní“.
"Nebyl jsem sám; byl to kolektivní projekt. Ostatní včas odhalí svou identitu, pokud si to přejí," řekl. Fitoussi tvrdil, že jak se řeší nedostatky AI, takové systémy „budou stále více schopny... produkovat výjimečná díla v téměř autonomii“, a dodal, že „lidský spisovatel si jednoho dne řekne: jaký to má smysl?“ Řekl, že každý autor, který bude prezentovat práci „copy-paste“ vytvořenou umělou inteligencí jako svou vlastní, by „zradil morální pakt zavazující je k jejich čtenářům“.
Kritici kampaně poznamenávají, že žádná forenzní metoda pro odhalování textu generovaného umělou inteligencí není ustálenou vědou a že účet zvolil svůj název proto, aby maximalizoval pozornost spíše než neutralitu.
Autorovo popření
Orélien, 38letý dosud neznámý spisovatel, jehož debut měl být publikován ve více než 20 zemích, obvinění popřel. "Vždy jsem rád tvořil a psal; nechápu, proč bych používal stroj," řekl francouzskému deníku Libération s tím, že se svými nakladateli "skládá dohromady soubor", aby dokázal, že knihu napsal sám.
Naznačil také, že kampaň proti němu je rasově motivovaná a popsal ji jako „pokus umlčet můj hlas“. Akademie ani členové účtu na tuto charakteristiku veřejně nereagovali.
Majitelé stránek pozastaví propagaci
Kanadský vydavatel knihy Boréal oznámil, že pozastavuje „propagační aktivity“ románu, který vydal na jaře, s odkazem na „blaho“ Oréliena.
"Bohužel v této fázi je pro nás nemožné potvrdit nebo vyvrátit obvinění, kterým autor čelí," řekl Boréal a vyzval veřejnost, aby "neudělala ukvapené závěry".
Spad překročil Atlantik. Do sporu byly vtaženy kanadské literární organizace, přičemž představitelé průmyslu diskutují o tom, kdo má nejlepší pozici pro ověření autorství v době, kdy lze rukopisy vytvářet – nebo tiše leštit – pomocí generativních nástrojů.
Proč záleží na více než jedné ceně
Goncourtova aféra je prvním případem, kdy významná literární instituce formálně odstranila uchazeče o autorství AI a vytváří šablonu, kterou ostatní ceny budou pravděpodobně pozorně sledovat. Odhaluje to také mezeru v důkazech v tomto odvětví: akademie a vydavatelé v současné době nemají žádný spolehlivý, standardizovaný test na strojové autorství, což znamená, že obvinění – jakkoli motivovaná – mohou být sama o sobě rozhodující.
Pro autory skandál zvyšuje sázku na původ. Historie konceptů, kontrola verzí a redakční korespondence, jakmile administrativní drobnosti, se mohou stát rozhodujícím důkazem lidského autorství. Pro vydavatele se ověření může stát součástí samotného akvizičního procesu.
A pro širší debatu o generativní umělé inteligenci v kreativních odvětvích tato epizoda znamená eskalaci: otázkou už není jen to, zda jsou knihy podporované umělou inteligencí přijatelné, ale zda pouhé obvinění z účasti na umělé inteligenci nyní stačí k ukončení literární kariéry.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
