Anthropic'in kurucu ortaklarından biri, hükümetlerin yapay zeka şirketlerini, yapay zeka sistemlerini tamamen kapatmak için bir mekanizma olan bir "sonlandırma anahtarı" kurmaya zorlamaları gerekebileceğini ve dış denetçilerin bunun gerçekten işe yaradığını doğrulayabilmesi gerektiğini söylüyor.

965 milyar dolarlık yapay zeka laboratuvarının yedi kurucusundan biri olan Jack Clark, BBC'ye, önde gelen laboratuvarların çoğunun tehlikeli sistemlere "fişi çekmek" için dahili yöntemlere sahip olmasına rağmen, toplumun bu tür geçişleri zorunlu ve bağımsız olarak denetlenebilir hale getirecek "en sonunda kuralları geçirmek isteyebileceğini" söyledi. Daha geniş kapsamlı AI güvenlik tartışmasını takip eden okuyucular için onun müdahalesi, artan uyarılarla dolu bir hafta boyunca bir sınır laboratuvarından şimdiye kadarki en somut politika önerisine işaret ediyor.

"Şirketlerin mutlaka bir kapatma anahtarına sahip olmalarını zorunlu kılmalı mısınız? Bu kapatma anahtarı üçüncü bir tarafça doğrulanabilir mi?" Clark, teknoloji muhabiri Kali Hays ve ekonomi editörü Faisal İslam ile yaptığı röportajda şunları söyledi. "Bunun toplumun bilmek isteyeceği ve eninde sonunda kuralları geçirmek isteyebileceği türden bir şey olduğunu düşünüyorum."

'Muazzam Risklerle Zar Atıyoruz'

Clark'ın en çarpıcı yorumu statükoyu toptan reddetmesiydi. Sektörün gidişatı sorulduğunda, yapay zekanın "tamamen düzenlenmemiş bir endüstri" olarak devam etmesine izin vermenin kötü bir fikir olduğunu söyledi.

"Çok büyük risklerle zar atıyoruz" dedi. "Ve mesele şu ki, bu sektörün gidişatını değiştirmeliyiz."

Bazı meslektaşlarının aksine Clark, insanlığın yok olması riskine ilişkin bir rakam vermeyi reddetti. "Bu istatistiklerin o kadar da yararlı olduğunu düşünmüyorum" dedi; geçen hafta şahsen kendisinin önümüzdeki on yıl içinde insanların neslinin yapay zekadan dolayı %10'dan fazla tükeneceğine inandığını söyleyen Antropik araştırmacı Evan Hubinger ve Cuma günü BBC'ye %10'luk bir tahminin "mantıksız olmadığını" söyleyen yapay zeka öncüsü Geoffrey Hinton ile kayda değer bir tezat oluşturuyordu.

Clark'ın itiraz etmediği şey seyahatin yönüydü. Aynı röportajda belirttiği gibi yapay zeka "gün geçtikçe daha güçlü" ve herhangi bir kapatma gereksiniminin, bunu kimin ve nasıl doğrulayacağı da dahil olmak üzere ayrıntılarının, şu anda yapay zeka çevresinde gerçekleşen "daha büyük politika tartışmasına" ait olduğunu savundu.

Yasama Hızına Sahip Bir Teklif

Clark'ın teklifi bir boşlukta kalmıyor. ABD'li kanun yapıcılar, sınırdaki yapay zeka geliştiricilerinin sistemlerine kapatma mekanizmaları kurmasını gerektiren Kill Switch Yasası adı verilen bir yasayı zaten öne sürdüler; bu tasarı, sahte ajan olaylarının ardından aciliyeti arttıkça geçen ay AI Buzz Wire'ın ele aldığı bir yasa tasarısıydı.

Bu fikir aynı zamanda açık şüphecilikle de karşı karşıyadır. Birleşik Krallık'ta, Ticaret Bakanı Jonathan Reynolds BBC'ye bu kavramı faydalı bulmadığını söyleyerek "bunun pratikte ne anlama geldiğinden emin olmadığını" söyledi ve aşırı düzenlemenin ülkeyi yabancı geliştirilmiş modellerden mahrum bırakabileceği konusunda uyardı.

Arka Plan: Güvenlik İç Savaşı ve halka arz

Clark'ın yorumları yapay zeka güvenliğinin seminer konusundan ön sayfa haberlerine geçtiği bir haftayı kapsıyor. Anthropic CEO'su Dario Amodei hafta sonu sınır geliştirme hızının yavaşlaması ve daha yakından izlenmesi çağrısında bulunurken, herhangi bir duraklamanın "ticari avantajdan ödün vermeden" gerçekleşmesi gerektiğinde ısrar etti. Daha sonra CNN'den Anderson Cooper ile yaptığı röportajda bu vakayı ana akım Amerikalı izleyici kitlesine taşıdı ve Coxon'un kendisi de bu olaya tepki vermek için ağda yer aldı. Bu sözler, eski Antropik araştırmacı Jacob Coxon'un insanlığın kaderiyle ilgili uyarıda bulunan viral bir istifa gönderisinin ardından geldi ve bu da Hubinger'in yok oluş tahminine yol açtı. The Guardian ise bu özel kıyamet uyarısının neden öncekilerin zayıfladığı yerde ortaya çıktığını inceledi.

Alarmlar, teknoloji endüstrisinin bazı kesimleri tarafından açıkça alayla karşılandı. Hugging Face CEO'su Clement Delangue, Coxon'u yok olma riskinin sözcüsü haline getirme kararıyla alay etti ve şöyle yazdı: "Üzgünüm ama Jacob'a yapay zekanın yok olma riskini sormak klima görevlisine iklim değişikliğini sormaya benziyor." Grindr CEO'su George Arison daha da ileri giderek korku çığırtkanlığının ticari amaçlı olduğunu savundu. "Bu değerlemeleri haklı çıkarmanın tek yolu aslında şunu iddia etmektir: 'Her endüstriyi devralacağım ve her işi devralacağım ve tüm bu işi yapay zekam yapacak'" dedi.

Bu tartışmanın sonucuna da muazzam miktarda para bağlanıyor. Anthropic, 965 milyar dolarlık bir ilk halka arz için hazırlanırken, en son değeri 852 milyar dolar olan OpenAI'nin, CEO Sam Altman'ın Cuma günü güvenlik tartışması nedeniyle bu yıl halka arzın gerçekleşmeyeceğini söylemesinden önce halka açılması bekleniyordu. Arison gibi eleştirmenler, felaket retoriğinin ve bağış toplama konuşmasının aynı madalyonun iki yüzü olduğunu savunuyor; Clark'ın cevabı ne olursa olsun endüstrinin gidişatını değiştirmesi gerektiğidir.

Zorunlu, doğrulanabilir bir kapatma anahtarının yasalaşıp yasalaşmayacağı, şu ana kadar ABD ekonomisine güç veren bir sektörü kısıtlama konusunda pek istekli olmayan yasa yapıcılara bağlı olacak. Ancak ilk defa, teknolojinin en güçlü isimlerinden biri onları açıkça denemeye davet ediyor.

---

Yapay Zekanın Önünde Olun

En son AI haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →