OpenAI Perşembe günü yaptığı açıklamada, ChatGPT'yi kullanarak, ABD'deki çeşitli yayın organları da dahil olmak üzere dünya çapındaki gerçek yayınlarda sahte Batılı gazetecilerin imzalarına neredeyse 100 yapay zeka tarafından oluşturulan makaleyi yerleştiren İran bağlantılı bir nüfuz operasyonunu bozduğunu söyledi.

OpenAI'nin "sahte cephe" operasyonu olarak adlandırdığı kampanya, şirketin 8 Ekim'de yayınladığı bir raporda ve The Washington Post, CNN, NPR ve Radio Free Europe/Radio Liberty'nin takip raporlarında ayrıntılı olarak anlatılıyor. Bu, bir yabancı nüfuz ağının, yalnızca propaganda hazırlamak için değil, aynı zamanda onu meşru medyaya yerleştirmek için tüm editoryal iş akışını yönetmek için ana akım ticari bir chatbot kullandığı bugüne kadar belgelenmiş en açık vakalardan biridir. For more context on this story, see our ongoing latest AI developments.

Hiçbir Zaman Var Olmayan Bir Gazeteci

Operasyonun merkezinde Amerikalı serbest gazeteci olarak tanıtılan Ervin B. Hoskins isimli bir kişi vardı. RFE/RL'ye göre Hoskins'e atfedilen makaleler, ABD'yi İran'la devam eden çatışmada saldırgan olarak gösteriyor, İsrail'i güvenilmez bir müttefik olarak tasvir ediyor ve İran'ı meydan okuyan bir mazlum olarak gösteriyor. OpenAI, Hoskins'in hiçbir zaman var olmadığını doğruladı.

O, operatörlerin makaleler hazırlayıp yerleştirdiği, tamamı Batılı ülkelerden olduğu iddia edilen yedi uydurma gazeteci kişiliğinden biriydi. OpenAI raporunda, hedefleri genellikle uluslararası ilişkiler, jeopolitik ve Orta Doğu'ya odaklanan küçük ve orta ölçekli yayınlar olarak tanımlayarak, "Dünya çapında yaklaşık bir düzine çevrimiçi yayın organında, operasyonun künyesi altında yayınlanmış veya dağıtılmış neredeyse 100 makale belirledik." dedi.

Kampanyanın ABD medyasına sızdığını ilk kez bildiren Washington Post, küçük bir haftalık Florida dergisinin sahte köşe yazılarından birini yayınladığını tespit etti. CNN'e söz konusu makaleleri kaldırdığını ve gönderim sürecini gözden geçirdiğini söyleyen Middle East Monitor gibi diğer yayın kuruluşlarında da işaretli yerleştirmeler görüldü.

ChatGPT Nasıl Kullanıldı?

OpenAI'nin açıklamasına göre operatörler, yerleştirme hattının tamamında ChatGPT'yi hem Farsça hem de İngilizce olarak kullandı: uzun biçimli makale taslaklarını düzenlemek, sunumları bireysel yayınların editoryal gereksinimlerine göre uyarlamak, editörlere sosyal medya yorumları hazırlamak ve bağımsız okuyucu tepkileri gibi görünecek şekilde tasarlanmış sosyal medya yorumları toplu oluşturmak.

Araştırmacıların izini sürdüğü bir örnek: Oregon Barış Enstitüsü tarafından yürütülen bir köşe yazısı dağıtım hizmeti olan PeaceVoice tarafından 12 Haziran'da yayınlanan "Jared Kushner ve Amerika'nın İran Stratejisinin Özelleştirilmesi" başlıklı bir köşe yazısı. RFE/RL'ye göre, takip eden günlerde aynı makale CounterPunch ve LA Progressive tarafından yeniden yayınlandı.

OpenAI, ABD ile İran arasındaki çatışmanın bu yılın başlarında başlamasının ardından yayın faaliyetinin arttığını söyledi. Şirket, CNN haberine göre, kampanyaya dahil olan ChatGPT hesaplarını yasakladığını ve operasyonun dış editoryal yayın organlarına içerik yerleştirme yeteneğini altı puanlık etki operasyonu ölçeğinde Kategori 4 olarak derecelendirdiğini söyledi.

İlişkilendirme Açık Kalıyor

Özellikle OpenAI, kampanyanın arkasındaki spesifik aktörü belirleyemediğini veya İran hükümetinin talimatını doğrulayamadığını söyledi. CNN tarafından bildirildiği üzere değerlendirme, doğrudan devlet tarafından yürütülen bir operasyon yerine ticari, kiralık bir etkileme operasyonuna işaret ediyordu; bu, atıf yapmayı zorlaştıran ve kesintiyi daha az kesin hale getiren bir yapıdır. Hesapların yasaklanması OpenAI'nin gözlemleyebildiği şeyleri bozdu; daha geniş ağın dağıtıldığını ortaya koymadı.

2023'ten 2025'e kadar Ulusal İstihbarat Dış Malign Etki Merkezi Direktörlüğü Ofisini yöneten Jessica Brandt, CNN'e yaptığı açıklamada, operasyonun yapay zekanın yabancı aktörlerin katılımlarını gizlemeye ve mesajları gerçek kanallar aracılığıyla yönlendirmeye nasıl yardımcı olduğunu gösterdiğini söyledi.

OpenAI'nin işaretlediği tek etkinlik İran kampanyası değildi. The Record from Recorded Future News'in bildirdiği gibi, şirketin raporu aynı zamanda ChatGPT'yi kullanan Rusya bağlantılı nüfuz operasyonlarının aksamasını da kapsıyordu. Ayrı olarak RFE/RL, Anthropic'in daha önce İran'ın Claude modellerini propaganda ve muhaliflerin gözetimi için kötüye kullanma çabalarını sekteye uğrattığını belirtti.

Yayın Artık Yazarlığın Kanıtı Değil

Haber odaları için vaka rahatsız edici bir gerçeğe dayanıyor: bir imza, tutarlı bir üslup, makul bir biyografi ve gösterişli bir sunum artık bir katkıda bulunanın var olduğu anlamına gelmiyor. Serbest sunumlara güvenen editörler (özellikle de tasarım gereği dışarıdan bakış açıları yayınlayan köşe yazıları ve yorum masaları) artık spam filtrelerinin ve yazma kalitesi buluşsal yöntemlerinin çözemeyeceği bir doğrulama sorunuyla karşı karşıya.

Raporun kapsamında işaretlenen pratik yanıtlar arasında, daha güçlü katkıda bulunanların kimlik doğrulaması, belgelenmiş satış konuşması geçmişleri, kısa pencerelerde birden fazla yerde görünen imza satırlarının incelenmesi ve gönderimleri doğrulanabilir kimliklere bağlayan kaynak araçları yer alıyor.

Ekonomi de önemli. Bir zamanlar bir yazar kadrosuna ihtiyaç duyan bir operasyon, artık bir chatbot'u yöneten küçük bir ekip tarafından yürütülebiliyor; model, çeviriden hedef yayının tarzını eşleştirmeye kadar her şeyi yönetiyor. OpenAI'nin raporu, çok kişilikli, çok satış noktalı bir yerleştirme kampanyası yürütmenin önündeki engelin, kiralık bir mağazanın bunu ticari bir hizmet olarak yapabileceği noktaya düştüğünü öne sürüyor.

Raporda adı geçen haber kaynaklarının hiçbiri büyük ana akım haber kuruluşları değildi, ancak birçoğu gerçek izleyici kitlesine sahipti. Araştırmacılar, asıl meselenin bu olduğunu söylüyor: Herhangi bir güvenilir yayına yerleştirmek, bir mesajın sendikasyon, toplama ve arama yoluyla daha geniş bir dolaşıma girmesini sağlar; kampanyanın kesintiye uğramadan önce başardığı da tam olarak budur.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →