Google DeepMind CEO'su Demis Hassabis, insanlığın yapay genel zekanın güvenli bir şekilde geliştirilmesini sağlamak için "değerli bir pencereye" sahip olduğu konusunda uyararak, sınır yapay zeka modellerini kamuya açıklanmadan önce değerlendirmek ve düzenlemek için Finansal Endüstri Düzenleme Otoritesi'ni (FINRA) örnek alan bağımsız, ABD liderliğindeki bir standartlar organının oluşturulmasını önerdi.

Salı sabahı X'te yayınlanan "Sınır Yapay Zekası ve Yeni Bir Çağın Doğuşu İçin Bir Çerçeve" başlıklı çerçeve belgesinde Hassabis, ABD'nin en güçlü yapay zeka sistemleri için nasıl güvenilir bir düzenleyici altyapı oluşturabileceğine dair ayrıntılı bir öneri ortaya koydu. Plan, sınır modellerini test edecek ve bunların dağıtımı için en iyi uygulamaları geliştirecek, AI endüstrisi tarafından finanse edilen ancak herhangi bir şirketten bağımsız olarak işletilen yeni bir organizasyona ihtiyaç duyuyor.

AI Buzz Wire, en son son dakika AI haberleri ve derinlemesine politika analizi için sektörü şekillendiren gelişmeleri takip ediyor.

Önerilen Standartlar Kurumu Nasıl Çalışır?

Hassabis'in önerisine göre yapay zeka laboratuvarları, sınır modellerini, kamuya açıklanmadan 30 gün öncesine kadar incelenmek üzere standartlar kurumuyla gönüllü olarak paylaşacak. Bu dağıtım öncesi değerlendirme, modelleri emniyet, emniyet ve olası kötüye kullanım riskleri açısından değerlendirecektir. Değerlendirme protokolünün etkili ve sağlam olduğu kanıtlandıktan sonra çerçeve, sürecin resmileştirilmesini ve böylece sınır modellerinin ABD pazarında uygulanmadan önce bu süreci geçmesinin gerekmesini öngörüyor.

Teklif, sınır yapay zeka sistemlerine ilişkin son hükümet incelemelerinin ortaya çıkardığı bir boşluğu doğrudan ele alıyor. Bu yılın başlarında ABD hükümeti, Anthropic'in Mythos modeli ve OpenAI'nin Sol modelinin ilgili sürümlerinden önce özel güvenlik incelemeleri gerçekleştirdi. Bu incelemeler, teknik derinlik eksikliği ve bir modelin kamuya açık dağıtım için ne zaman yeterince güvenli kabul edildiğine ilişkin karar verme sürecinin şeffaf olmaması nedeniyle önemli eleştirilere maruz kaldı.

Hassabis'in çerçevesi altında, bu kararlar, teknik uzmanlardan oluşan, ABD hükümeti tarafından desteklenen ancak siyasi baskıdan yalıtılmış, özel bir kuruluş tarafından ele alınacak. Laboratuvarların ayrıca piyasaya sürüldükten sonra keşfedilen kritik güvenlik açıklarını ele almak için standartlar kurumuyla birlikte çalışması gerekecek.

AGI'den Önce 'Değerli Bir Pencere'

Çerçevenin yayınlanmasıyla birlikte Axios, CNBC ve The Economist ile yapılan röportajlarda Hassabis, mevcut anın, yapay genel zeka gelmeden önce yönetişim mekanizmaları oluşturmak için dar bir fırsatı temsil ettiğini vurguladı. Bu dönemi "değerli bir pencere" olarak tanımlayarak pencerenin sonsuza kadar açık kalmayacağını ima etti.

Hassabis uzun süredir proaktif yapay zeka yönetiminin savunucusu. Onun çerçevesi, Amerika Birleşik Devletleri'nin resmi bir yapay zeka düzenleyicisi oluşturup oluşturmaması gerektiği ve eğer öyleyse bunun nasıl bir biçim alması gerektiği konusunda yoğunlaşan tartışmanın ortasında geldi. FINRA modeli dikkat çekicidir çünkü finans sektörünün öz düzenleyici organizasyonu üye firmalar tarafından finanse edilmektedir ancak hükümet gözetimi altında faaliyet göstermektedir ve bu kuruluşa hem sektör uzmanlığı hem de kamuya hesap verebilirlik sağlamaktadır.

Trump Yönetiminden direniş

Teklif önemli siyasi dalgalanmalarla karşı karşıya. Trump Yönetimi, yapay zeka için yeni düzenleyici kurumlar oluşturmaya yönelik derin şüphelerin sinyalini verdi. Beyaz Saray AI danışmanı ve a16z genel ortağı Sriram Krishnan - o zamandan beri görevinden ayrıldı - yürütme organı içinde bir AI düzenleyicisi fikrini açıkça reddetti ve açıkça "AI için bir FDA olmayacağını" belirtti.

Bu duruş, yönetim yetkililerinin sektörün en önde gelen liderlerinden bazılarıyla anlaşmazlığa düşmesine neden oldu. Anthropic ve OpenAI gibi şirketler dağıtım öncesi güvenlik testlerini geniş çapta desteklese de, bu tür testlerin mekanizması ve yetkisi hâlâ tartışmalı. Hassabis'in önerisi, standartlar kurumunu ilk etapta endüstri tarafından finanse edilen ve gönüllü olarak konumlandırarak bu ibreyi doldurmaya çalışıyor; resmileştirme ancak süreç değerini kanıtladıktan sonra geliyor.

Mevcut Çabaların Geliştirilmesi

Çerçeve sıfırdan başlamaz. Birçok öncü yapay zeka şirketinin güvenlik testleri ve kırmızı ekip oluşturma konusunda halihazırda yapmış olduğu gönüllü taahhütlere dayanıyor. Aynı zamanda, gelişmiş modellerin değerlendirilmesi için ön çerçeveler oluşturan Birleşik Krallık'taki Yapay Zeka Güvenlik Enstitüsü ve G7'nin Hiroşima Yapay Zeka Süreci de dahil olmak üzere uluslararası çabalardan da yararlanıyor.

Bununla birlikte, Hassabis'in teklifi daha da ileri giderek, piyasaya sürülmeden önce her sınır modelini test etme yetkisine sahip, kalıcı, iyi kaynaklara sahip bir organizasyon çağrısında bulunuyor; bu, mevcut hiçbir kurumun sağlamadığı bir inceleme düzeyidir. FINRA benzetmesi, küçük bir danışma paneli değil, yüzlerce teknik uzmanın yer aldığı ölçekli, profesyonel bir operasyonu önermektedir.

Teklif aynı zamanda, bir model kamuya açıklandıktan sonra keşfedilen güvenlik açıkları konusunda laboratuvarların standartlar organıyla birlikte çalışmasını gerektiren dağıtım sonrası izlemeyi de ele alıyor. Bu, birkaç yüksek profilli modelin piyasaya sürülmesinden sonra ortaya çıkan jailbreak ve kötüye kullanım vakalarının da gösterdiği gibi, güvenlik risklerinin lansman sırasında bitmediğine dair artan farkındalığı yansıtıyor.

Sektörün Yanıtı ve Sonraki Adımlar

Çerçeve, yapay zeka politikası topluluğunda büyük ilgi uyandırdı. Destekleyenler, güvenilir bir konuşlandırma öncesi test rejiminin, sınır modellerine yönelik kamu güvenini oluşturabileceğini ve yıkıcı suiistimal riskini azaltabileceğini savunuyor. Bazı serbest piyasa savunucuları da dahil olmak üzere eleştirmenler, zorunlu test zorunluluğunun, küçük şirketler ve açık kaynak geliştiricileri için düzenleyici engeller yaratarak büyük yerleşik şirketleri sağlamlaştırabileceği konusunda uyarıyor.

Hassabis'in önerisi hangi modellerin "sınır" olarak nitelendirileceğini belirtmiyor; bu, gelecekteki herhangi bir düzenleyici rejimin kapsamını belirleyecek bir eşik sorusudur. Ayrıca, özellikle sınıflandırılmış ABD sistemlerini kırmak için kullanılan yapay zeka modelleriyle ilgili son endişeler göz önüne alındığında, standartlar kurumunun sınıflandırılmış veya çift kullanımlı uygulamaları nasıl ele alacağına da açık bırakıyor.

Teklifin zamanlaması kasıtlıdır. YGZ'nin önümüzdeki birkaç yıl içinde giderek daha makul görünmesi nedeniyle Hassabis, yönetişim altyapısının tehlikeli bir yetenek ortaya çıktıktan sonra değil, şimdi inşa edilmesi gerektiği konusunda baskı yapıyor. Washington'un bu çağrıya göre hareket edip etmeyeceğini zaman gösterecek.

Yapay Zekanın Önünde Olun

Yapay zeka politikası, düzenlemeleri ve sektördeki gelişmelerin kapsamlı kapsamı için AI Buzz Wire adresini ziyaret edin.

Daha fazla AI haberini okuyun →