Grupul de reflecție american fals expus săptămâna trecută a fost acum cuantificat de The Guardian: 124 de rapoarte și 560.000 de cuvinte în nouă zile, construite pe o platformă comercială care promite să optimizeze conținutul, astfel încât chatbot-ii AI să îl citeze – cu o pistă de finanțare a guvernului israelian documentată în dosarele Departamentului de Justiție al SUA. Este cel mai clar exemplu public de până acum de actori legați de stat care vizează nivelul de răspuns AI în sine: nu cititorii, ci modelele care vorbesc din ce în ce mai mult pentru ei. Este genul de poveste pe care acoperirea industriei AI o urmărește pe măsură ce manipularea chatbot-ului devine industrială. (Am acoperit descoperirea inițială a site-ului aici.)

Un thinktank care nu există

Site-ul publică sub numele de Institutul pentru Politici Publice din Hanovra. Potrivit lui Jason Wilson de la Guardian, se pare că institutul nu există ca entitate juridică în nicio jurisdicție, nu are o adresă fizică și nu are personal numit și nicio reglementare în niciunul dintre rapoartele sale. Termenii proprii de utilizare sunt guvernați de legile „statului în care este stabilit Institutul” – un stat pe care documentul refuză să îl numească.

Scara producției a fost industrială. Între 6 august și 14 august, Institutul Hanovra a publicat 124 de rapoarte însumând peste 560.000 de cuvinte, o medie de aproximativ 4.500 de cuvinte fiecare. Numai pe 12 și 13 august a produs 73 de rapoarte în valoare de aproape 354.000 de cuvinte. Nu a fost publicat nimic de când au apărut primele relatări media despre site.

Proiectat pentru stratul de răspunsuri chatbot

Ceea ce marchează operațiunea ca fiind nouă este țintirea acesteia. Toate cele 124 de titluri, cu excepția unuia, se deschid cu o întrebare care seamănă cu una pe care un utilizator ar putea introduce într-un chatbot — „Este anti-sionismul antisemitism?”, „Israelul a expulzat palestinienii din pământul lor?”, „Este Israel să efectueze un genocid în Gaza?” Rapoartele prezintă poziția Israelului cu privire la tortura prizonierilor palestinieni, crimele de război și foametea în Gaza ca cercetare neutră, formatată pentru recuperarea automată.

Mecanica este documentată în dosare oficiale. Compania de producție media din New York, Piro Inc, a înregistrat site-ul la Departamentul de Justiție al SUA în această lună în temeiul Legii de înregistrare a agenților străini (Fara), o lege din 1938 care impune dezvăluirea muncii pentru guvernele străine, ca material pe care îl distribuie pentru guvernul israelian. The Guardian raportează că efortul este finanțat de zeci de milioane de dolari de la guvernul israelian, direcționați prin terți, inclusiv grupul european de publicitate Havas Media. Un contract între Havas și o altă firmă americană care lucrează la campanie o angajează să „desfășoare site-uri web și conținut pentru a oferi rezultate de încadrare GPT în conversațiile GPT”.

După ce existența site-ului a fost raportată pentru prima dată pe 14 august, institutul a adăugat în liniște o pagină de finanțare care conținea o corectare grăitoare: „O versiune anterioară a acestei pagini spunea că Institutul a funcționat fără finanțare externă și asta era adevărat când a fost scrisă”. The Guardian a contactat Piro Inc, Havas Media și agenția de publicitate guvernamentală israeliană LaPam pentru comentarii.

De ce chatboții sunt noul câmp de luptă

Strategia are un nume în industria de marketing - optimizarea generativă a motoarelor sau GEO - și este disciplina succesoare a optimizării pentru motoarele de căutare. Când un chatbot răspunde la o întrebare, se bazează pe corpul său de instruire și sursele de recuperare. Conținutul voluminos, format în întrebări și stilat ca cercetare cu autoritate are mai multe șanse să fie scos la suprafață, citat sau absorbit în răspunsul unui model. Un thinktank fals este aproape artefactul GEO ideal: credibilitatea instituțională fără o instituție.

Momentul reflectă disperarea la fel de mult ca și sofisticarea. The Guardian notează că campania are loc pe măsură ce poziţia Israelului în opinia publică americană s-a prăbuşit şi pe măsură ce oficialii israelieni informează presa că banii cheltuiţi pentru diplomaţia publică „Hasbara” în străinătate au fost irositi.

Institutul Hanovra nu este un caz izolat. În aceeași zi în care The Guardian și-a publicat investigația, OpenAI a anunțat că a întrerupt o nouă campanie secretă de influență a Rusiei folosind AI - cea mai recentă dintr-o serie de eliminări pe care compania le-a atribuit unor actori legați de stat. Două operațiuni separate, două continente, o perspectivă comună: influențarea modelelor este acum mai ieftină și mai durabilă decât influențarea directă a oamenilor.

Decalajul de guvernare

Pentru autoritățile de reglementare, cazul expune o gaură în cadrele existente. Dezvăluirea Fara a prins operația pe hârtie, dar numai după ce conținutul a fost live și potențial ingerat. Dispozițiile privind transparența Actului AI al UE și cadrele voluntare care guvernează proveniența datelor de formare nu au fost concepute pentru o lume în care calea cea mai ieftină către convingerile unei populații trece prin chatboții săi.

Pentru laboratoarele de inteligență artificială, întrebarea operațională este imediată: cum diferențiază sistemele de recuperare și conductele de instruire cercetarea de fermele de conținut care poartă haine de cercetare? Volumul, formatarea și citările sigure - semnalele de autoritate - sunt exact ceea ce a produs în masă Institutul Hanovra. Până când modelele se îmbunătățesc la proveniență, jumătate de milion de cuvinte sunt deja disponibile și nicio dezvăluire depusă după ce faptul nu le amintește.

---

Rămâneți înaintea AI

Obțineți cele mai recente știri, analize și descoperiri despre AI - toate într-un singur loc.

Citește mai multe știri AI →