OpenAI Perşembe günü yaptığı açıklamada, jeopolitik propagandayı gerçek medya kuruluşlarına aktarmak için tasarlanan karmaşık "sahte cephe" kuruluşlarını yürütmek için ChatGPT'yi kullanan biri Rusya'dan diğeri İran'dan kaynaklanan iki gizli nüfuz operasyonunu yasakladığını söyledi. Şirket, Rusya menşeli kampanyanın, iki buçuk yıl önce tehdit raporları yayınlamaya başlamasından bu yana sekteye uğrattığı en geniş kapsamlı nüfuz operasyonu olduğunu söyledi.
OpenAI'nin web sitesinde yayınlanan açıklama, devlete bağlı aktörlerin ticari AI modellerini nasıl kötüye kullandığına ilişkin bir dizi raporun en son girişidir. Ayrıca, son son dakika yapay zeka haberlerinde özetlediğimiz gibi, OpenAI'nin 2024'ün başlarından bu yana açığa çıkardığı 30 gizli operasyonda gözlemlediği bir modelin altını çiziyor: İçeriklerini gerçek yayınlara yerleştirmeyi başaran kampanyalar, sahte sosyal medya hesaplarına güvenenlerden çok daha geniş kitlelere ulaşıyor.
Kategori 5'te birinci: "Dark Clark" Operasyonu
OpenAI'nin "Dark Clark" adını verdiği Rusya operasyonu, Latin Amerika'da Sosyal Araştırma Merkezi (SRC) adı verilen kendine özgü bir araştırma organizasyonuna odaklanıyordu. OpenAI'ye göre, operatörler düşünce kuruluşunu "Mia Clark" adlı uydurma bir kişi aracılığıyla kontrol ederken, Latin Amerika'daki yerel çalışanlar bir Rus grup için çalıştıklarını bilmeden röportajlar yapıyor ve araştırma makaleleri hazırlıyorlardı.
Bir etki operasyonunun potansiyel erişiminin Brookings'te geliştirilen 1'den 6'ya kadar bir ölçüsü olan Patlama Ölçeği'ni kullanan OpenAI, Dark Clark'ı raporlamaya başlamasından bu yana herhangi bir operasyona verdiği en yüksek derecelendirme olan Kategori 5'te değerlendirdi. İran menşeli kampanya Kategori 4'e ulaştı.
OpenAI, operatörlerin ChatGPT kullanımının çoğunun dahili raporlara bilinmeyen bir işleyiciye gittiğini söyledi ve Ukrayna'yı karalamaya, Ukrayna silahlı kuvvetlerine asker alımını baltalamaya ve Arjantin ve Bolivya'da iç politikaya müdahale etmeye yönelik kampanyaları anlattı. Operatörler çoğunlukla Rusça yönlendirmede bulundu ve hizmete erişmek için VPN'lere güvendi, bu da Rusya'dan gelen trafiği engelledi.
OpenAI araştırmacıları, operasyonun iddia ettiği kampanyaların birçoğunu açık kaynaklar aracılığıyla doğruladı. Bunlardan biri, Peru'nun başkentindeki okullara, ulusal çeşitlilik gününde tartışmalı Ukraynalı milliyetçi figür Stepan Bandera'yı onurlandıran etkinlikler düzenleme talimatı veren, Lima'nın bölgesel eğitim müdürlüğünden geldiği iddia edilen sahte e-postaları içeriyordu. Perulu ve Polonyalı yayın organları ortaya çıkan tartışmayı haber yaptı ve Avrupa Parlamentosu'nun Polonyalı bir üyesinden bu konuyla ilgili alıntılar yapıldı. Ekvador'da operatörler, okulları Başkan Daniel Noboa ve eski Blackwater başkanı Erik Prince'e bağlılık sözü vermeleri için kandırmak amacıyla sahte bir e-posta adresi kullandı; Dublör medyada yer aldı ve Ekvador eğitim bakanının kamuoyunda yalanlamasına neden oldu.
Operasyon ayrıca, biri Bolivya'nın devlet su şirketi EPSAS'ta çalışan ve hükümetin La Paz'a su tedarikini keseceğini iddia eden bir işçiye, diğeri ise Ukrayna'nın Ekvador'daki konsolosuna atfedilen uydurma ses kayıtlarını da yaydı. Her iki ülkedeki teyitçiler iddiaları çürüttü. Açık kaynak araştırmacıları daha önce benzer faaliyetleri, Yevgeniy Prigozhin'in son operasyonunun devamı olarak tanımlanan "Politoloji" veya "La Compania" kuruluşlarıyla ilişkilendirmişti ve operatörlerin kendi raporları, Arjantin Devlet Başkanı Javier Milei'yi hedef alan kampanyaların kamuya açık raporlarla örtüştüğünü iddia ediyordu.
Yedi sahte gazeteci: "Sahte Yazılar" Operasyonu
İran operasyonu medya ekosisteminde farklı bir rota izledi. ChatGPT'yi Farsça olarak başlatan operatörler, modeli ABD-İran çatışmasıyla ilgili uzun İngilizce makaleleri iyileştirmek için kullandı ve ardından yedi uydurma gazeteci kişiliğini kullanarak bunları küçük ve orta ölçekli çevrimiçi yayın organlarındaki editörlere sundu: Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams ve Alice Johnson.
OpenAI, dünya çapında yaklaşık bir düzine yayın organında bu imzalar altında yayınlanan veya dağıtılan yaklaşık 100 makale tespit etti; bunların çoğu uluslararası ilişkilere ve Orta Doğu'ya odaklanıyordu. Operasyon aynı zamanda çok sayıda sosyal medya yorumuna da yol açtı, ancak OpenAI bunların çok az gerçek etkileşim aldığını söyledi ve operatörlerin, görünürdeki sosyal medya etkilerini şişirmek için dahili raporlarında aldatıcı bir hesaplama kullandıklarını belirtti. Şirket, faaliyetin ticari bir aktörün işe alım etki kampanyası yürütmesiyle tutarlı göründüğünü ve bilgileri ilgili makamlarla paylaştığını söyledi.
Eski zanaat, yeni araçlar
OpenAI, araştırmacıları en çok etkileyen şeyin, her iki operasyonun da yapay zeka öncesi dönemdeki etki kampanyalarına ne kadar benzediği olduğunu yazdı. Sahte gazeteci kişilikleri, 2016 ve 2017'de Batılı yayın organlarında köşe yazıları yayınlanan, Rus askeri istihbaratının ön cephesi olan hayali muhabir "Alice Donovan" ile ailevi bir benzerlik taşıyor. SRC'nin habersiz yerel personeli, 2020'de gerçek gazetecileri seçen sahte haber sitesi "PeaceData"yı yansıtıyor.
Bu teknikleri yapay zeka icat etmedi; onları daha ucuz, daha hızlı ve daha akıcı hale getirdi. Operatörler, sahteleri yerel kelime dağarcığına ve kurumsal tarza göre uyarlamak, senaryoları bölgesel İspanyolca versiyonlarına çevirmek ve editörler için gösterişli e-postalar üretmek için modeller kullandı. Ancak OpenAI, sahte cephe operasyonlarının gizli, kişiden kişiye doğasının aynı zamanda onları açığa çıkmaya karşı savunmasız hale getirdiğini savundu: hem Alice Donovan hem de PeaceData, halka açık olarak adlandırıldıktan sonra kapandı.
Kanıtları dikkatle okumak
OpenAI kendi bulgularını göz ardı etme konusunda dikkatliydi. Operatörler, hiçbir ilgilerinin olmadığı olaylar için rutin olarak kredi talep ediyorlardı ve yerleştirdiklerini bildirdikleri bazı sahte ürünler, açık kaynaklarda bulunamadı. OpenAI'nin (gerçek kontrolleri, resmi inkarlar ve operatörlerin tanımlarıyla eşleşen yayınlanmış makaleler yoluyla) doğrulayabildiği şey, en az dört ülkede medyanın ve siyasi söylemin gerçek anlamda nüfuz ettiğini gösteriyor.
Rapor, yapay zeka endüstrisi için, dezenformasyon modellerinin en etkili kullanımlarının çoğunlukla en az görünür olanlar olduğunu hatırlatıyor: dahili raporların taslağını hazırlamak, sunumları iyileştirmek, çevirileri cilalamak. OpenAI'nin daha önceki vakalarının gösterdiği gibi, bu kampanyaları tespit etmek için en iyi konumda olan varlıklar genellikle bunları yürütmek için kendi araçlarının kullanıldığı platformlardır.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
