Silikon Vadisi Demokratı Temsilci Ro Khanna, federal hükümet onları denetleyebilecek bir düzenleyici sistem oluşturana kadar kendilerini yinelemeli olarak geliştirebilen yapay zeka modellerini yasaklayacak bir yasa çıkaracak; bu, henüz Kongre'ye sunulan en kapsamlı yapay zeka güvenlik teklifi.

Yapay Zeka Üzerindeki İnsan Kontrolü Yasası olarak adlandırılan yasa tasarısı, tanıtılmadan önce özet olarak yalnızca CNBC ile paylaşıldı. Bu gelişme, OpenAI ve Anthropic'in CEO'larının sınır model gelişiminin yavaşlatılması çağrısında bulunmasına neden olan güvenlik endişelerinin arttığı bir dönemde geldi. For more context on this story, see our ongoing artificial intelligence updates.

Khanna Pazartesi günü CNBC'ye verdiği röportajda "Aslında uygarlığın yok olma riski var" dedi. "Kontrol kaybı gibi bir güvenlik riski var, bir de yanlış kullanım riski var ve her ikisini de ciddiye almamız gerekiyor."

Tasarının Neleri Yasaklayacağı

Özünde, Yapay Zeka Üzerindeki İnsan Kontrolü Yasası, federal korkuluklar mevcut olmadığı ve yeni bir hükümet kurumu faaliyetleri onaylamadığı sürece, yinelemeli olarak kendini geliştiren veya kendi temel hedeflerini, sınırlama mekanizmalarını veya kapatma kontrollerini özerk bir şekilde değiştiren yapay zeka modellerini yasaklayacaktır.

Pratik anlamda bu, güvenlik araştırmacılarının en çok korktuğu yeteneği hedef alıyor: Kendi kendini yönlendiren bir döngü içinde kendilerini yeniden tasarlayabilen ve insanlara her adımda daha az gözetim bırakan sistemler. Yasak, düzenleyiciler riskleri değerlendirecek donanıma sahip olana kadar yürürlükte kalacak.

Sınır Yapay Zekası için Yeni Bir Federal Ajans

Tasarı, OpenAI, Anthropic, Google DeepMind ve xAI tarafından geliştirilen en güçlü yapay zeka modellerine odaklanan özel bir federal kurum oluşturacak; çünkü bu şirketler kendilerini giderek daha fazla inceleme altında buluyor.

CNBC ile paylaşılan özete göre ajans aşağıdakilerden sorumlu olacak:

  • Sınır yapay zeka sistemleri için güvenlik düzenlemelerinin yazılması
  • Model eğitimi ve dağıtımını onaylamak için bir lisanslama sisteminin işletilmesi
  • Sınır yapay zeka modellerinin denetimlerinin gerçekleştirilmesi
  • Sürekli test ve etkili insan kontrolü için güvenlik standartlarının belirlenmesi

Bağımsız denetçiler her sınır laboratuvarına yerleştirilecek ve doğrudan kuruma rapor verecek; bu, laboratuvarların kendi ödevlerini kolayca işaretlememelerini sağlamak için tasarlanmış yapısal bir kontrol. Ajans ayrıca sandbox test ortamlarını, test sistemlerini internetten izole eden hava boşluklarını, sonlandırma anahtarlarını ve modellerin laboratuvar ayarlarından kaçmasını ve açık internette dolaşmasını engelleyen kontrolleri kapsayan standartlar belirleyecek.

Özellikle mevzuat, bu işlemcilerin nasıl konuşlandırıldığını izlemeye veya kontrol etmeye yönelik mekanizmalar da dahil olmak üzere, sınır laboratuvarlarının kullandığı gelişmiş çiplere federal gözetimi genişletecek.

Cezai Cezalar ve Zorunlu Sigorta

Tasarı, cezalara ilişkin önceki tekliflerden daha ileri gidiyor. Sivil nüfusun yok olmasına yol açan yapay zeka modellerinin uygulanması, "insanlığa karşı suçlar" olarak tanımladığı suçları suç sayacak.

Yapay zeka şirketlerinin çalışanları, güvenlik önlemlerini devre dışı bırakma, anahtarları durdurma, kayıt veya muhafaza sistemlerini devre dışı bırakma veya bilerek yetkisiz bir sistem kurma nedeniyle cezai yaptırımlarla karşı karşıya kalacak. Yapay zeka şirketlerinin, modellerini piyasaya sürmeden önce kapsamlı bir sorumluluk sigortası yaptırmaları da gerekecek, bu da finansal başarısızlık riskini halktan ziyade sektöre kaydıracak.

Jeopolitik cephede tasarı, yönetime Çin'i ve diğer düşmanları tehlikeli yapay zeka sistemleri geliştirmekten caydırmak için tasarlanmış uygulanabilir anlaşmalar ve hedeflenen ihracat kontrollerini takip etmeye çağırıyor.

Laboratuvarlarla Değil Güvenlik Topluluğuyla Geliştirildi

Khanna tasarıyı kimin katkısının şekillendirdiği konusunda açık konuştu. Düzenleyeceği şirketlerin yöneticileriyle müzakere etmek yerine, mevzuatın bağımsız kar amacı gütmeyen kuruluşlar Model Değerlendirme ve Tehdit Araştırması, Makine İstihbaratı Araştırma Enstitüsü ve Palisade Araştırması dahil olmak üzere yapay zeka güvenlik kuruluşlarıyla yapılan görüşmelere göre modellendiğini söyledi.

Khanna, CNBC'ye "Bunun yapay zeka güvenlik topluluğunun sesini duyuracak bir model olmasını istiyorum" dedi. "Bilim kurgu olarak haksız yere reddedildiklerine ve yeterince ciddiye alınmadıklarına inanıyorum. Bu tartışmayı onların, öncü laboratuvarların yöneticilerinin değil, AI güvenlik topluluğunun yönlendirmesi gerekiyor."

Khanna, tedbiri bugüne kadar teklif edilen en kapsamlı yapay zeka güvenlik mevzuatı olarak nitelendirdi.

Bölünmüş Kongrede Uzun Oranlar

Yapay Zeka Üzerindeki İnsan Kontrolü Yasası, Capitol Hill'deki kalabalık yapay zeka güvenlik önerileri alanına katılıyor. Bunların arasında, Kaliforniya Cumhuriyetçi Temsilciler Jay Obernolte ve Massachusetts Demokrat Lori Trahan'ın, sınır laboratuvarlarına bağımsız denetçiler yerleştirecek ve hükümete felaket riski oluşturduğuna karar verilen modelleri kapatma yetkisi verecek iki partili FRONTIER Yasası da yer alıyor. Sanders-Casar'ın yapay süper zekayı yasaklamaya yönelik ayrı bir önerisi, Khanna'nın kendisi de dahil olmak üzere on Temsilciler Meclisi Demokratından kamuoyunun desteğini aldı.

Ancak siyasi gerçeklik ciddidir. Ara seçimler sonrasına kadar hiçbir Meclis yasa tasarısının oylanması beklenmiyor ve Senato'nun Washington'dan ayrılması ve seçmenler sandık başına gidene kadar geri dönmemesi bekleniyor.

Bu zaman çizelgesi, Yapay Zeka Üzerindeki İnsan Kontrolü Yasası'nın en azından şimdilik bir işaretleyici olarak işlev göreceği anlamına geliyor: Yapay zeka güvenlik topluluğunun kalemi elinde tutması durumunda ne inşa edeceğine dair ayrıntılı bir plan; tam da öncü yapay zekayı inşa eden kişilerin, kayıtlara göre teknolojinin kontrollerini aştığı konusunda uyardığı anda tanıtılıyor.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →