İlk kez geçen hafta ortaya çıkarılan sahte ABD düşünce kuruluşu artık Guardian tarafından ölçüldü: Dokuz gün içinde 124 rapor ve 560.000 kelime, içeriği yapay zeka sohbet robotlarının aktarabileceği şekilde optimize etmeyi vaat eden ticari bir platform üzerine inşa edildi - İsrail hükümetinin ABD Adalet Bakanlığı dosyalarında belgelenen fonlama iziyle birlikte. Bu, yapay zeka yanıt katmanının kendisini hedef alan devlet bağlantılı aktörlerin şimdiye kadarki en açık kamusal örneğidir: okuyucuları değil, giderek onlar adına konuşan modelleri. Bu, chatbot manipülasyonunun endüstriyel hale gelmesiyle birlikte AI sektörü haberimizin takip ettiği türden bir hikaye. (Sitenin ilk keşfini [burada] ele aldık(https://aibuzzwire.news/en/article/israel-hanover-institute-fake-think-tank-llm-poisoning-chatbots).)

Var olmayan bir düşünce kuruluşu

Site, Hannover Kamu Politikası Enstitüsü adı altında yayın yapmaktadır. Guardian'dan Jason Wilson'a göre, enstitünün herhangi bir yargı alanında tüzel bir varlık olarak mevcut olmadığı, fiziksel bir adresi bulunmadığı ve hiçbir raporunda adı geçen bir personel veya imza yazısı bulunmadığı görülüyor. Kendi kullanım koşulları, "Enstitü'nün kurulduğu eyaletin" (belgenin adını vermeyi reddettiği eyaletin) yasalarına tabidir.

Üretimin ölçeği endüstriyeldi. 6 Ağustos ile 14 Ağustos tarihleri ​​arasında Hannover Enstitüsü, her biri ortalama 4.500 kelime olmak üzere toplamda 560.000'den fazla kelimeden oluşan 124 rapor yayınladı. Yalnızca 12 ve 13 Ağustos tarihlerinde neredeyse 354.000 kelimeye ulaşan 73 rapor hazırlandı. Siteyle ilgili ilk medya haberlerinin ortaya çıkmasından bu yana hiçbir şey yayınlanmadı.

Chatbot yanıt katmanı için tasarlandı

Operasyona yeni damgasını vuran şey, hedef alınmasıdır. 124 başlığın biri hariç tümü, bir kullanıcının chatbot'a yazabileceği soruya benzeyen bir soruyla açılıyor: "Anti-Siyonizm Antisemitizm midir?", "İsrail Filistinlileri Topraklarından Sürdü mü?", "İsrail Gazze'de Soykırım mı Yürütüyor?" Raporlar, İsrail'in Gazze'deki Filistinli mahkumlara yönelik işkence, savaş suçları ve açlığa ilişkin tutumunu, makineyle elde edilebilecek şekilde biçimlendirilmiş tarafsız bir araştırma olarak sunuyor.

Mekanikler resmi dosyalamalarda belgelenmiştir. New York medya prodüksiyon şirketi Piro Inc, İsrail hükümeti için dağıttığı materyal olarak işlerin yabancı hükümetler adına ifşa edilmesini gerektiren 1938 tarihli Yabancı Ajanlar Kayıt Yasası (Fara) uyarınca bu ay siteyi ABD Adalet Bakanlığı'na kaydettirdi. Guardian, bu çabanın İsrail hükümetinden on milyonlarca dolar tarafından finanse edildiğini ve Avrupalı ​​reklam grubu Havas Media da dahil olmak üzere üçüncü taraflar aracılığıyla yönlendirildiğini bildiriyor. Havaş ile kampanya üzerinde çalışan başka bir Amerikan firması arasındaki sözleşme, "GPT konuşmalarında GPT çerçeveleme sonuçları sunmak için web sitelerinin ve içeriğin konuşlandırılmasını" taahhüt ediyor.

Sitenin varlığının ilk kez 14 Ağustos'ta bildirilmesinin ardından enstitü, sessizce anlamlı bir düzeltme içeren bir finansman sayfası ekledi: "Bu sayfanın daha önceki bir versiyonunda Enstitü'nün dış finansman olmadan faaliyet gösterdiği belirtiliyordu ve bu, yazıldığı sırada doğruydu." Guardian yorum almak için Piro Inc, Havas Media ve İsrail hükümetinin reklam ajansı LaPam ile temasa geçti.

Chatbotlar neden yeni savaş alanı?

Stratejinin pazarlama sektöründe bir adı vardır - üretken motor optimizasyonu veya GEO - ve arama motoru optimizasyonunun ardıl disiplinidir. Bir chatbot bir soruyu yanıtladığında eğitim külliyatından ve erişim kaynaklarından yararlanır. Hacimli, soru formatlı ve yetkili araştırma olarak tasarlanmış içeriğin ortaya çıkması, alıntı yapılması veya bir modelin cevabında özümsenmesi daha olasıdır. Sahte bir düşünce kuruluşu neredeyse ideal bir GEO eseridir: kurum olmadan kurumsal güvenilirlik.

Zamanlama, karmaşıklık kadar çaresizliği de yansıtıyor. Guardian, kampanyanın İsrail'in ABD kamuoyundaki konumunun çöktüğü ve İsrailli yetkililerin medya kuruluşlarına yurt dışında "Hasbara" kamu diplomasisine harcanan paranın boşa gittiğini bildirdiği bir dönemde gerçekleştiğini belirtiyor.

Hannover Enstitüsü münferit bir örnek değil. Guardian'ın soruşturmasını yayınladığı gün, OpenAI, yapay zekayı kullanan yeni bir gizli Rus nüfuz kampanyasını sekteye uğrattığını duyurdu; bu, şirketin devletle bağlantılı aktörlere atfettiği bir dizi yayından kaldırma işleminin sonuncusuydu. İki ayrı operasyon, iki kıta, tek bir ortak görüş: Modelleri etkilemek artık insanları doğrudan etkilemekten daha ucuz ve daha dayanıklıdır.

Yönetişim boşluğu

For regulators, the case exposes a hole in existing frameworks. Fara disclosure caught the operation on paper, but only after the content was live and potentially ingested. AB Yapay Zeka Yasası'nın şeffaflık hükümleri ve eğitim verilerinin kaynağını düzenleyen gönüllü çerçeveler, bir nüfusun inançlarına giden en ucuz yolun sohbet robotlarından geçtiği bir dünya için tasarlanmamıştır.

Yapay zeka laboratuvarları için operasyonel soru acildir: erişim sistemleri ve eğitim hatları, araştırmayı, araştırma kıyafeti giyen içerik çiftliklerinden nasıl ayırır? Volume, formatting, and confident citations — the signals of authority — are exactly what the Hanover Institute mass-produced. Until models get better at provenance, the half-million words are already out there, and no disclosure filed after the fact recalls them.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →