Guardian określił ilościowo fałszywy amerykański zespół doradców ujawniony po raz pierwszy w zeszłym tygodniu: 124 raporty i 560 000 słów w dziewięć dni, zbudowane na komercyjnej platformie, która obiecuje optymalizować treści tak, aby chatboty AI mogły je cytować – przy śladzie finansowania izraelskiego rządu udokumentowanym w dokumentach Departamentu Sprawiedliwości USA. Jest to najwyraźniejszy jak dotąd publiczny przykład podmiotów powiązanych z państwem, których celem jest sama warstwa odpowiedzi AI: nie czytelnicy, ale modele, które w coraz większym stopniu przemawiają w ich imieniu. To rodzaj historii, którą śledzi nasz reportaż z branży sztucznej inteligencji, gdy manipulacja chatbotem staje się przemysłowa. (O pierwszym odkryciu tej witryny pisaliśmy tutaj.)
Zespół doradców, który nie istnieje
Strona publikuje pod nazwą Hanowerskiego Instytutu Polityki Publicznej. Według Jasona Wilsona z Guardiana instytut najwyraźniej nie istnieje jako podmiot prawny w żadnej jurysdykcji, nie ma adresu fizycznego, nie zatrudnia określonego personelu ani podpisów w żadnym ze swoich raportów. Jego własne warunki użytkowania podlegają prawu „państwa, w którym Instytut ma siedzibę” – stanu, którego nazwa nie jest znana w dokumencie.
Skala produkcji była przemysłowa. Między 6 a 14 sierpnia Instytut Hanowerski opublikował 124 raporty zawierające łącznie ponad 560 000 słów, średnio około 4500 słów każdy. Tylko 12 i 13 sierpnia opublikował 73 raporty zawierające prawie 354 000 słów. Od czasu pojawienia się pierwszych doniesień medialnych na temat serwisu nic nie zostało opublikowane.
Zaprojektowane dla warstwy odpowiedzi chatbota
Tym, co wyróżnia tę operację jako nowatorską, jest jej ukierunkowanie. Wszystkie ze 124 nagłówków z wyjątkiem jednego rozpoczynają się pytaniem przypominającym to, które użytkownik może wpisać w chatbocie – „Czy antysyjonizm jest antysemityzmem?”, „Czy Izrael wypędził Palestyńczyków ze swojej ziemi?”, „Czy Izrael dokonuje ludobójstwa w Gazie?” Raporty przedstawiają stanowisko Izraela w sprawie tortur więźniów palestyńskich, zbrodni wojennych i głodu w Gazie jako neutralne badania, sformatowane pod kątem odzyskiwania maszynowego.
Mechanika jest udokumentowana w oficjalnych dokumentach. Nowojorska firma zajmująca się produkcją medialną Piro Inc zarejestrowała w tym miesiącu tę witrynę w Departamencie Sprawiedliwości Stanów Zjednoczonych zgodnie z ustawą o rejestracji zagranicznych agentów (Fara) z 1938 r. wymagającą ujawniania prac dla obcych rządów jako materiałów rozpowszechnianych dla rządu izraelskiego. The Guardian donosi, że wysiłek ten jest finansowany z dziesiątek milionów dolarów od izraelskiego rządu, przekazywanych za pośrednictwem stron trzecich, w tym europejskiej grupy reklamowej Havas Media. Umowa między Havas a inną amerykańską firmą pracującą nad kampanią zobowiązuje ją do „wdrażania witryn internetowych i treści w celu dostarczania wyników ramkowania GPT w rozmowach GPT”.
Po tym, jak 14 sierpnia po raz pierwszy ogłoszono istnienie tej witryny, instytut po cichu dodał stronę dotyczącą finansowania zawierającą wymowną sprostowanie: „Wcześniejsza wersja tej strony mówiła, że Instytut działał bez zewnętrznego finansowania i było to prawdą w momencie jej tworzenia”. The Guardian skontaktował się z Piro Inc, Havas Media i izraelską rządową agencją reklamową LaPam w celu uzyskania komentarza.
Dlaczego chatboty to nowe pole bitwy
Strategia ta ma swoją nazwę w branży marketingowej — generatywna optymalizacja silników, w skrócie GEO — i jest dyscypliną następczą optymalizacji pod kątem wyszukiwarek. Kiedy chatbot odpowiada na pytanie, korzysta ze swojego korpusu szkoleniowego i źródeł wyszukiwania. Treści, które są obszerne, mają formę pytań i mają styl autorytatywnych badań, z większym prawdopodobieństwem zostaną ujawnione, zacytowane lub uwzględnione w odpowiedzi modela. Fałszywy zespół doradców to niemal idealny artefakt GEO: wiarygodność instytucjonalna bez instytucji.
Wyczucie czasu odzwierciedla w równym stopniu desperację, jak i wyrafinowanie. The Guardian zauważa, że kampania ma miejsce w momencie, gdy pozycja Izraela w amerykańskiej opinii publicznej spadła, a izraelscy urzędnicy informowali media, że pieniądze wydane na dyplomację publiczną „Hasbara” za granicą zostały zmarnowane.
Instytut Hanowerski nie jest odosobnionym przypadkiem. Tego samego dnia, w którym Guardian opublikował swoje dochodzenie, OpenAI ogłosiło, że przerwało nową tajną rosyjską kampanię wywierania wpływu przy użyciu sztucznej inteligencji – co jest najnowszym z serii ataków, które firma przypisuje podmiotom powiązanym z państwem. Dwie odrębne operacje, dwa kontynenty, jeden wspólny spostrzeżenie: wpływanie na modele jest teraz tańsze i trwalsze niż bezpośrednie wpływanie na ludzi.
Luka w zarządzaniu
Dla organów regulacyjnych sprawa obnaża lukę w istniejących ramach. Ujawnienie Fary uchwyciło operację na papierze, ale dopiero po udostępnieniu zawartości i jej potencjalnym przejęciu. Przepisy dotyczące przejrzystości zawarte w ramach unijnej ustawy o sztucznej inteligencji oraz dobrowolne ramy regulujące pochodzenie danych szkoleniowych nie zostały zaprojektowane z myślą o świecie, w którym najtańsza droga do poznania przekonań populacji przebiega za pośrednictwem chatbotów.
W przypadku laboratoriów AI pytanie operacyjne jest natychmiastowe: w jaki sposób systemy wyszukiwania i kanały szkoleniowe odróżniają badania od farm treści noszących ubrania badawcze? Objętość, formatowanie i pewne cytaty — sygnały autorytetu — to dokładnie to, co masowo produkował Instytut w Hanowerze. Dopóki modele nie poprawią pochodzenia modeli, pół miliona słów już istnieje i żadne ujawnienie nie zostanie ujawnione po fakcie, aby je przypomnieć.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
