Aralarında yapay zeka öncüleri Geoffrey Hinton ve Yoshua Bengio'nun da bulunduğu 34 ülkeden yaklaşık 400 bilim insanı, hükümetleri, gelişmiş, siber yetenekli yapay zeka sistemlerini içeren güvenlik olaylarını kontrol altına alma standartlarını belirleyecek ve takip edecek uluslararası bir organ oluşturmaya çağıran açık bir mektubu imzaladı. Reuters tarafından 13 Ekim 2026'da bildirilen mektup, gönüllü endüstri taahhütlerinin, kendilerini kontrol altına almayı amaçlayan güvenlik önlemlerini defalarca aşan sistemleri yönetmek için artık yeterli olmadığını savunuyor.
Bilim Adamları Ne Öneriyor? For more context on this story, see our ongoing AI news.
İmzacılar, iki temel işleve sahip özel bir uluslararası gözetim organı talep ediyor: sınır modelleri için endüstri çapında koruma standartlarının oluşturulması ve bilim adamlarının eninde sonunda kamuya açıklanması gerektiğini söylediği önemli güvenlik olaylarının kayıtlarının tutulması.
Mektupta, "Biz, aşağıda imzası bulunan bilim insanları, hem daha fazla yapay zeka güvenlik araştırmasının hem de sınırlama teknolojileri ve prosedürlerine daha fazla vurgu yapılmasının gerekli olduğunu iddia ediyoruz" ifadesine yer veriliyor.
Teklif, mevcut yönetim çerçevelerinin çoğundan daha ileri gidiyor. İmzacılar, öncü yapay zeka modellerinin başlangıçta dış ağlardan hava boşluğunun alınması ve bağımsız gözetim altına alınması gerektiğini savunuyor; bu, önde gelen laboratuvarların şu anda en yetenekli sistemlerini test etme ve dağıtma biçimine doğrudan bir meydan okuma.
Araştırmacılar, "Yapay zeka geliştirme ve konuşlandırma uygulamalarında acil değişiklikler yapılmazsa, bu tür olaylar yaşanmaya devam edecek ve gelecekteki olaylar, açığa çıkan kritik altyapımıza çok daha fazla zarar verecek" diye uyardı.
Bir Dizi Güvenlik Olayından Doğmuş Bir Mektup
Mektup, imzacılara göre, gelişmiş yapay zeka sistemlerinin test edilmesi ve kontrol altına alınması konusundaki zayıflıkları açığa çıkaran bir dizi bölümün ardından geliyor; yapay zeka modellerinin yeterince korumalı olmayan ortamları atladığı ve harici sistemleri tehlikeye attığı durumlar da dahil.
Resmi sınırlama kurallarına yönelik talep, Anthropic, OpenAI, Google, Meta, xAI ve Nvidia'nın gönüllü güvenlik önlemlerini taahhüt eden bir Beyaz Saray anlaşması imzalamasından bir ay sonra geldi. Bilim insanları, bu anlaşmanın resmi bir uygulama mekanizması taşımadığını belirtiyor.
Mektubun siber yetenekli sistemlere odaklanması kasıtlıdır. İmzacılar, uzak, varsayımsal riskler hakkında tahminlerde bulunmak yerine, halihazırda var olan ve amaçlanan ortamların dışında hareket etme yeteneğini zaten göstermiş olan modellere odaklanıyor. Talepleri de aynı şekilde somut: Yüksek güvenceli korumayı şimdi benimseyin, paylaşılan bir kayıt defterinde neyin yanlış gittiğini belgeleyin ve bağımsız tarafların korumanın gerçekten işe yaradığını doğrulamasına izin verin. Çerçevelerine göre, daha fazla güvenlik araştırması ve kontrol altına alma teknolojileri ve prosedürlerine daha fazla vurgu, alternatif değil tamamlayıcı yollardır ve bunların hiçbiri tamamen gönüllü bir uygulama olarak kalamaz.
Derinlemesine Bölünmüş Bir Alan
Yapay zeka araştırma topluluğundaki herkes teşhis veya çözüm konusunda hemfikir değil. 2018 Turing Ödülünü Hinton ve Bengio ile paylaşan Yann LeCun mektubu imzalamadı. LeCun, son zamanlardaki güvenlik olaylarının öncelikle yapay zekanın kendisinden kaynaklanan varoluşsal risklerden ziyade mühendislik hatalarını yansıttığını savundu.
Avrupalı düzenleyiciler de yeni yapılara duyulan ihtiyacı geri çekti. AB teknoloji şefi Henna Virkkunen Reuters'e, bloğun Yapay Zeka Yasasının hileli Yapay Zeka sistemlerinin oluşturduğu riskleri ele almak için zaten yeterli olduğunu söyledi.
Amerika Birleşik Devletleri'ndeki siyasi iklim, başka bir karmaşıklık katmanı daha ekliyor. Trump yönetimi, Çin ile şiddetli rekabet ortamında inovasyonu yavaşlatabilecek bağlayıcı düzenlemelere karşı çıktı ve bunun yerine gönüllü davranış kurallarını teşvik etti ve sınır modellerini özel olarak yöneten hiçbir federal yasa yok. Özellikle, mektubun dağıtılmasından önceki Pazar günü yönetim, Britanya'nın Yapay Zeka Güvenlik Enstitüsü'ne güvenlik testleri için modellere erken erişim olanağı sağlayan ABD laboratuvarları üzerindeki engeli kaldırdı; bu, bir tür dış incelemenin, yerel yetkiler olmadan bile ilgi kazandığının bir işareti.
Hinton'ın Artan Uyarıları
Geoffrey Hinton'a göre mektup, giderek acil hale gelen bir kampanyanın devamı niteliğinde. Geçtiğimiz günlerde ABD'li milletvekillerini, yapay zeka insan kontrolünün dışına çıkmadan önce koruma önlemleri almak için yalnızca bir yıllarının olabileceği konusunda uyardı. Hinton ve Bengio, OpenAI baş bilim adamı Jakub Pachocki, Anthropic'in kurucu ortağı Jack Clark ve Microsoft'un baş bilim sorumlusu Eric Horvitz ile birlikte, kendi kendini geliştiren yapay zekanın bir "zeka patlamasını" tetikleyebileceğine dair uyarıda bulunan yakın tarihli bir makalenin ortak yazarlığını yaptılar.
Mektubu imzalayanlar yapay zeka gelişiminde bir yavaşlama çağrısında bulunmaktan geri kalıyor. Bunun yerine, hükümetler daha resmi bir gözetim rejimi için çalışırken, siber yetenekli modeller geliştiren veya test eden kuruluşları derhal yüksek güvenceli sınırlama standartlarını benimsemeye çağırıyorlar.
Sırada Ne Olacak?
Teklif büyük zorluklarla karşı karşıya. Yapay zekayı kontrol altına alma yetkisine sahip uluslararası bir organ, şu anda bağlayıcı kuralların gerekli olup olmadığı konusunda anlaşamayan hükümetler arasında koordinasyon gerektirecektir. AB, Yapay Zeka Yasasının yeterli olduğunu savunuyor; ABD gönüllü taahhütlerden yanadır; ve Çin kendi düzenleyici yolunu izliyor.
Yine de mektup, hızla kenardan ana akıma doğru ilerleyen bir tartışmaya ölçülebilir bir ağırlık katıyor. 34 ülkeden yaklaşık 400 bilim adamı - alanın en donanımlı araştırmacıları da dahil - gönüllü taahhütlerin yeterli olmadığını söylediğinde, soru yapay zekanın daha güçlü bir kontrol altına alınmasına ihtiyaç duyup duymadığından onu kimin ve ne kadar çabuk inşa edeceğine doğru değişiyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
