Responsible Statecraft tarafından Pazartesi günü yayınlanan bir araştırmaya göre, İsrail hükümeti adına oluşturulan sahte bir düşünce kuruluşu, analistlerin AI chatbot'ların İsrail ve Filistin hakkında kullanıcılara verdiği yanıtları manipüle etmeye yönelik kasıtlı bir kampanya olarak tanımladığı şeyi, bir haftadan biraz fazla bir süre içinde 100'den fazla gösterişli araştırma raporu yayınladı.
Hannover Kamu Politikası Enstitüsü adı verilen kuruluş, kendisini İsrail/Filistin odaklı yeni bir araştırma kuruluşu olarak tanıtıyor. Ancak raporlarında hiçbir imza yer almıyor ve web sitesinin altındaki bir sorumluluk reddi beyanı, bunun İsrail Hükümeti Reklam Ajansı adına, Spike Lee'nin "İçerdeki Adam" filminde adı geçen bir film yapımcısı olan Daniel Rosenberg'in kurucu ortağı olduğu Piro, Inc. tarafından oluşturulduğunu kabul ediyor. Hikaye, Arab News ve The Cradle gibi yayın organları tarafından ele alındı ve etki operasyonlarının sosyal medya akışlarından yapay zeka modellerine doğru kaydığının en son işareti. Yapay zeka çağında manipülasyonun nasıl geliştiği hakkında daha fazla bilgi için son dakika yapay zeka haberlerimizi takip edin. For more context on this story, see our ongoing more AI stories.
Yüksek Lisans Derecelerinin Güvenilirliği Nasıl Değerlendirdiği İçin Tasarlanan Raporlar
Hannover Enstitüsü'nü alışılmadık kılan şey, çıktılarının büyük dil modellerinin kaynakları değerlendirme biçimine ne kadar hassas bir şekilde uyarlanmış göründüğüdür. Responsible Statecraft'ın bildirdiğine göre, "veri raporları" dipnotlar, içindekiler tabloları ve ölçülü, nötr bir tonla geliyor; bu, belgelerin Claude veya Gemini gibi sohbet robotlarının ilgisini çekmesine yardımcı olan türden bir biçimlendirme.
Başlıkların çoğu, bir kullanıcının bir chatbot'a yazabileceği soruların aynısı olarak ifade ediliyor: "1948'de Filistinlilerin Yerinden Edilmesine Ne Sebep Oldu?" "İsrail'in Savaş Suçlarını Hangi İnsani Yardım Kuruluşları Belgeledi?" "Gazze Şeridi'nde Güncel Durum Nedir?" ve "IDF Dünyanın En Ahlak Ordusu mu?" - sonuncusu, İsrailli Yahudilerin %47'sinin bu açıklamaya inandığını gösteren 2022 anketine atıfta bulunuyor.
Piro'nun kendi web sitesi yöntem konusunda açık sözlü. Şirket, "AI Hikaye Optimizasyonu" olarak pazarladığı bir hizmet olan "LLM'lerin güvenilirliği nasıl değerlendireceğine yönelik olarak tasarlanmış içerik" yazdığını söylüyor. Araştırmacıların bu uygulamaya daha net bir adı var: "LLM zehirlenmesi."
Güvenilir Bir Kurumun 'Mükemmel Taklidi'
Dezenformasyon izleme şirketi NewsGuard'da analist olan Alice Lee, Responsible Statecraft'a sitedeki raporların, ister arama motorları ister yapay zeka asistanları aracılığıyla, çatışmayı merak eden ABD'li kitleye ulaşmak için tasarlanmış göründüğünü söyledi.
Lee, "LLM'ler somut istatistik ve verilerin yanı sıra, bu makalelerin hepsinde bulunan güçlü alıntılar ve kaynakları tercih ediyor" dedi. "Bu, genel isme, site düzenine ve kırmızı-beyaz-mavi renk şemasına kadar tipik bir güvenilir Amerikan düşünce kuruluşunun mükemmel bir taklididir."
Enstitü aynı zamanda orijinal bulgular olduğunu iddia ettiği şeyleri de yayınladı; örneğin, en çok izlenen 36 İsrail-Gazze açıklayıcı videosundan 19'unun ihtilaflı iddialar içerdiğini ve bu ihtilaflı iddiaların çoğunun Filistin anlatısıyla uyumlu olduğunu iddia eden bir çalışma. Diğer raporlar, UNICEF'in Gazze'deki su ve kurumsal altyapının %90'ının zarar gördüğü veya tahrip edildiği yönündeki iddiasına şüphe düşüren bir rapor da dahil olmak üzere, yerleşik belgelere karşı çıkıyor.
Özellikle çıktıların her zaman İsrail hükümetinin izlediği çizgiyi takip etmemesi dikkat çekicidir. Bir raporda, üniversitelere dışarıdan sağlanan finansmanın antisemitik olayları "zayıf ve istisnalarla dolu" olarak açıkladığı teorisi anlatılıyor - Başbakan Benjamin Netanyahu bu teoriyi destekleyerek Breitbart'a yabancı aktörlerin Amerikan kampüslerinde "milyarlarca" harcadığını söylemesine rağmen. Pek çok rapor, sıklıkla aynı çalışmalara atıfta bulunarak, eldeki konuyu artan antisemitizmle ilişkilendirerek sonuçlanıyor.
Parayı Takip Edin: Fransız Halkla İlişkiler Grubu Aracılığıyla 900.000 Dolar
Responsible Statecraft'a göre Piro, Inc., bir Fransız halkla ilişkiler şirketi olan Havas Media aracılığıyla taşeronluk yaptığı işi için İsrail hükümetinden 900.000 dolar aldı; bu, diğer İsrailli müteahhitlere denizaşırı etki çalışmaları için ödenen ücretlerle tutarlı bir düzenleme.
Hannover Enstitüsü 6 Ağustos'ta yayınlamaya başladı. O tarihten bu yana geçen yaklaşık on gün içinde, 100'den fazla raporun seri üretime geçmesini sağladı; bu, karşılaştırılabilir büyüklükteki hiçbir gerçek politika dükkanının sürdüremeyeceği bir hızdır.
Chatbot Manipülasyonu Neden Farklıdır
Bu vaka, yapay zeka asistanlarının yanıtları nasıl bir araya getirdiğine dair yapısal bir zayıflığın altını çiziyor: İyi alıntı yapılan, istatistik ağırlıklı belgelere, bunları kimin veya neden ürettiğine bakılmaksızın güvenilir gözüyle bakıyorlar. Geleneksel dezenformasyon, duygusal darbenin en önemli olduğu sosyal platformlardaki insan okuyucuları hedef alıyordu. LLM zehirlenmesi olarak adlandırılan bu durum, bunun yerine, bir modelin hangi kaynaklardan alıntı yaptığına karar veren erişim ve sıralama katmanlarını hedef alıyor ve tek bir ikna edici belge daha sonra milyonlarca cevaba dönüşebiliyor.
Chatbot geliştiricileri için Hannover Enstitüsü, kaynak incelemesinin stres testidir. NewsGuard'ın değerlendirmesi, taklitçiliğin otomatik güvenilirlik sinyallerini yanıltmaya yetecek kadar yakın olduğunu gösteriyor. Okuyucular için ders daha basit: Bir chatbot'un tartışmalı bir çatışma hakkında size verdiği kendinden emin, iyi dipnotlu yanıtın kökeni, tam olarak bu yanıtı üretmek için inşa edilmiş, markalanmış ve finanse edilmiş bir organizasyona kadar uzanabilir.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
