Dünya liderleri yıllık BM Genel Kurulu için New York'ta bir araya gelirken, konuya aşina iki kaynağın Reuters'e verdiği bilgiye göre, Çinli yapay zeka girişimi DeepSeek, bu hafta Birleşmiş Milletler Güvenlik Konseyi'ne yapay zekanın oluşturduğu riskler hakkında brifing veren şirketler arasında yer alacak.

15 üyeli Güvenlik Konseyi, yapay zeka ve uluslararası güvenliği tartışmak üzere 23 Eylül'de toplanacak - birkaç yapay zeka endüstrisi liderinin, giderek daha güçlü hale gelen yapay zeka sistemlerinin gelişiminin koordineli bir şekilde yavaşlatılması çağrısında bulunmasından haftalar sonra, bu sistemlerin yakında kendi başlarına iyileşebilecekleri ve insan kontrolünün dışına çıkabilecekleri uyarısında bulundu. Bu hikayeyle ilgili daha fazla bağlam için devam eden AI sektörü haberimize bakın.

Odada Kimler Olacak

Reuters'in geçen hafta bildirdiğine göre, OpenAI CEO'su Sam Altman, diplomatların Anthropic'in üst düzey temsilcilerinden de katılım beklediği toplantıya brifing vermeyi planlıyor.

Kaynaklardan biri, Çin tarafında DeepSeek ve Moonshot dahil diğer Çinli yapay zeka firmalarının açıklama yapmaya davet edildiğini söyledi. DeepSeek'in kurucusu Liang Wenfeng'in katılmayı planlamadığı konusunda uyaran kaynak, planların değişken kaldığını ve son dakikada değişebileceğini belirtti. DeepSeek ve Moonshot yorum taleplerine hemen yanıt vermedi.

Oturum, dünya liderlerinin yıllık BM Genel Kurulu için bir araya geldiği ve bunun etrafında yan toplantıların çoğaldığı, New York'un zaten yapay zeka diplomasisiyle dolu olduğu bir haftaya denk geliyor. Bu zamanlama DeepSeek için her iki yolu da kesiyor: Pekin'in resmi tutumu Silikon Vadisi'nden ortaya çıkan yavaşlama söylemini reddetmeye devam etse bile, konseyin onayı Çin'in önde gelen laboratuvarlarının artık sınır yapay zeka riskleri konusunda vazgeçilmez sesler olarak muamele gördüğüne işaret ediyor.

Amerika'nın en önde gelen yapay zeka yöneticisinin Çin'in en tanınmış açık ağırlık laboratuvarıyla Güvenlik Konseyi gündemini paylaşması şeklindeki olağandışı kadro, Çarşamba günkü oturumu konseyin konuyu ilk kez ele aldığından bu yana düzenlediği en önemli yapay zeka toplantısı haline getiriyor.

'Runaway Horse'tan Rogue AI'ye

Uluslararası barış ve güvenliği korumakla görevli BM Güvenlik Konseyi, ilk kez 2023'te yapay zekanın riskleri konusunda toplandı. O zaman bile fay hatları görülüyordu: Çin, teknolojinin "kaçak bir at" haline gelmemesi konusunda uyarıda bulunurken, ABD, yapay zekanın insanları sansürlemek veya baskı altına almak için kullanılmasına karşı uyardı.

Üç yıl sonra tartışma varsayımlardan olay raporlarına kaydı. BM Genel Sekreteri Antonio Guterres geçen hafta dünya liderlerini, hızla ilerleyen yapay zekanın göz ardı edilemeyecek riskler oluşturduğu konusunda uyardı; bu durum kendisini, mevcut koruma önlemlerinin yeterli olduğunu ve Çin'in yapay zeka gelişimi konusunda şüphe uyandırılmasından fayda sağlayacağını savunan ABD Başkanı Donald Trump ile anlaşmazlığa düşürüyor.

Pekin'in Felaket Riski Konusunda Kamuoyunda Sessizliği

Reuters haberlerindeki en dikkat çekici gözlemlerden biri, Çinli laboratuvar liderlerinin söylemediği şeylerle ilgili. OpenAI ve Anthropic gibi ABD sınır laboratuvarlarının başkanlarının aksine, Çin'in en iyi model geliştiricilerinin liderleri, giderek daha yetenekli hale gelen yapay zeka sistemlerinin insanları aldatabileceği, kontrolden kaçabileceği veya felaket düzeyinde zarara neden olabileceği olasılığını nadiren kamuoyuna açıkladılar ve Eylül ayında Amerika Birleşik Devletleri'nde tartışmanın yoğunlaşmasından bu yana bu riskler konusunda büyük ölçüde sessiz kaldılar.

Çin devlet medyası ise yapay zeka gelişimindeki yavaşlama çağrılarını "Soğuk Savaş taktik kitabından" kaynaklandığı gerekçesiyle reddetti; bu, Pekin'in ifadesiyle, Washington'un son teknolojideki hakimiyetini korumayı ve Pekin'i küresel yapay zeka yönetişim sisteminden tamamen dışlamayı amaçlayan bir çaba.

DeepSeek'in konseyde yer alması bu nedenle çifte önem taşıyor: Bu aynı zamanda hem Pekin'in küresel yapay zeka riski tartışmasıyla şimdiye kadarki en gözle görülür katılımı hem de Çin laboratuvarlarının felaket riski çerçevesiyle ilgilenip ilgilenmeyeceğine dair bir test.

Trump-Xi Öncesi Görüşmeler

Güvenlik Konseyi oturumu tek başına değildir. ABD Hazine Bakanı Scott Bessent, 21 Eylül'de, Trump'ın Çin Devlet Başkanı Xi Jinping ile bu hafta Washington'da yapması planlanan görüşmeler öncesinde yaptığı toplantı sonrasında, üst düzey ABD'li ve Çinli yetkililerin yapay zeka güvenliği konusunda daha fazla görüşme yapma konusunda anlaştıklarını söyledi.

New York'taki Güvenlik Konseyi tartışmasına paralel olarak Washington'da yapılan yüksek riskli bir zirve olan bu sıralama, yapay zekanın teknik bir politika dosyasından ikili ilişkinin merkezine ne kadar kapsamlı bir şekilde taşındığının altını çiziyor.

Ne İzlemeli

Çarşamba günkü toplantının gündeminde üç soru var. Liang Wenfeng'in fikrini değiştirip katılmayacağı. DeepSeek'in açıklamasının, Amerikalı mevkidaşlarının vurguladığı kart destesi risklerini (aldatma, kontrol kaybı) içerip içermediği veya adil erişim ve geliştirme hakları konusunda daha güvenli bir zemin üzerinde kalıp kalmadığı. Ve konseyin tanıdık pozisyonların ötesinde bir şey üretip üretemeyeceği.

Konseyin yapay zeka konusundaki sicili zayıf: 2023'te ilk toplantı, bu ay genel sekreterin uyarısı ve bağlayıcı bir çerçeve yok. Ancak sınır yapay zekasına ilişkin kuralları kimin belirlediği ve kimin korkularının ciddiye alındığı konusunda ortaya çıkan ABD-Çin tartışmasının bir aşaması olarak, çok az rakibi var.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →