Kaliforniya Valisi Gavin Newsom, Cuma günü devlet kurumlarına yapay zeka şirketlerinin bağımsız denetimini önemli ölçüde hızlandırma ve sınır modelleri için acil kapatma (bir "Yapay zeka öldürme anahtarı") oluşturma konusunda ilerleme yapma talimatı veren bir idari emir yayınladı. Emir Cuma günü valilik tarafından açıklandı ve CNBC, CalMatters, Los Angeles Times, Politico ve Bloomberg Hükümeti tarafından hızla ele alındı.
Hareket, Newsom'un geçtiğimiz hafta imzaladığı iki yasanın uygulanmasını ileri taşıyor ve iki ay içinde eyalet yasalarında daha fazla değişiklik önermek üzere bir uzmanlar paneli topluyor; bu, ülkenin en büyük teknoloji pazarında düzenleyici gelişmeler için alışılmadık derecede hızlı bir zaman çizelgesi. For more context on this story, see our ongoing AI news.
Sipariş Ne Yapar?
Valiliğe göre, idari emir, Kaliforniya Devlet Operasyonları Ajansı'na, her ikisi de geçen hafta yasalaşan Senato Tasarısı 813 ve Meclis Yasa Tasarısı 1405'in uygulama zaman çizelgelerini hızlandırması talimatını veriyor. SB 813, yapay zeka sistemlerini güvenlik ve risk açısından değerlendirebilen bağımsız doğrulama kuruluşlarını sertifikalandırmak için ülkede ilk olan bir çerçeve oluşturdu. AB 1405, yapay zeka denetçileri için bağımsızlık, şeffaflık ve dürüstlük standartlarını içeren bir eyalet sicili oluşturdu.
Kararda ayrıca kuruma, Valilik Acil Durum Hizmetleri Ofisi ile istişarede bulunarak eyalet yasalarının güçlendirilmesine yönelik tavsiyeler geliştirmek üzere ulusal uzmanları bir araya getirme talimatı da veriliyor. Bu uzmanların iki ay içinde devlete rehberlik sunması bekleniyor.
Valiliğe göre, değerlendirilmekte olan teklifler arasında, bağımsız üçüncü tarafların sınırdaki yapay zeka şirketleri için güvenlik planları yazmalarının zorunlu kılınmasının yanı sıra, şirketlerin sınır modelleri için bir acil durum kapatma - bir "sonlandırma anahtarı" - geliştirmelerinin zorunlu kılınması da yer alıyor.
Neden Şimdi
Valilik, emri doğrudan, OpenAI'nin kendi haydut AI ajanının siber güvenlik değerlendirmesi sırasında Hugging Face'i ihlal ettiği saldırı da dahil olmak üzere bir dizi yakın tarihli AI güvenlik olayına bağladı. Cuma günkü emir aynı gün, üç kişilik bir güvenlik ekibinin Anthropic'in Claude Opus 5'ini kullanarak OpenAI'nin dahili sistemlerini yetkili bir hata ödül uygulaması yoluyla ihlal ettiğine dair haberin çıktığı gün geldi.
Newsom duyuruda, "Harekete geçmek için beklemiyoruz; çok geç olmadan, önemli ve sorumlu yapay zeka gözetimi konusundaki çalışmalarımızı hızlandıracağız" dedi. "Bunu düşünceli bir şekilde ama acil bir hızla yapacağız; beklemek veya eylemi geciktirmek için riskler çok yüksek."
Valilik ofisi, olayların, laboratuvar liderleri de dahil olmak üzere tüm yapay zeka endüstrisinden, sınır sistemlerinin gelişimini hızlandırma ve emniyet ve güvenlik risklerine ilişkin daha sıkı hükümet düzenlemeleri getirme yönünde çağrılara yol açtığını belirtti.
Federal Boşluk
Duyurudaki temel argümanlardan biri, Washington'un düzenleyici bir boşluk bıraktığıdır. Valilik ofisi duyuruda, "Federal hükümetin herhangi bir anlamlı yapay zeka gözetimi veya hesap verebilirliği yaratma konusundaki başarısızlığı, her Amerikalıyı alarma geçirmeli, özellikle de yapay zeka CEO'ları düzenleme için yalvarırken." dedi. Hiçbir federal yasanın yapay zeka şirketlerinin tehlikeli olayları meydana geldiğinde bildirmelerini gerektirmediğini ve Başkan Trump'ın güvenliği artırmayı amaçlayan yeni düzenleme çağrılarını reddettiğini belirtti.
Newsom, Kongre'ye ve başkana Kaliforniya'nın çerçevesini gözden geçirmeleri ve benimsemeleri veya eyaletin düzenlemelerini ulusal politika için "tavan değil taban" olarak kullanmaları çağrısında bulundu. Duyuruda, "Kaliforniya halihazırda ulusal bir model oluşturdu ve politikamız ulusal temel olmalıdır" denildi.
Bu çerçeve, Kaliforniya'yı (neredeyse tüm büyük yapay zeka laboratuvarlarına ev sahipliği yapıyor) fiili ulusal düzenleyici olarak konumlandırıyor. OpenAI, Anthropic ve Google DeepMind gibi şirketlerin tümü sınır modellerini eyalette geliştiriyor ve eyaletin doğrulama ve denetim rejimlerine tabi olacak.
Kaliforniya'nın Daha Geniş Yapay Zeka Çerçevesi
Cuma günkü emir, valiliğin ülkedeki en güçlü yapay zeka düzenleyici çerçevesi olarak tanımladığı şeye dayanıyor. Newsom, 2023 yılında üretken yapay zeka konusunda ülkede ilk yönetim emrini yayınladı ve valiliğe göre artık eyalette yapay zeka politikasının neredeyse her önemli alanına (sınır modeli güvenliği, bağımsız gözetim, çocuklar ve yardımcı sohbet robotları, mahremiyet, derin sahtekarlıklar, dolandırıcılık, siber güvenlik ve hükümet konuşlandırması) dokunan yasalar var. 2025 yılında Newsom, sınır geliştiricilerinin güvenlik çerçevelerini kamuya açıklamasını, kritik güvenlik olaylarını devlete raporlamasını ve ciddi riskleri dile getiren ihbarcıları korumasını gerektiren Sınır Yapay Zekasında Şeffaflık Yasası (ülkenin ilk yapay zeka güvenlik yasası) olan SB 53'ü imzaladı.
Bu yılki eklemeler - SB 813 ve AB 1405 - uygulama gücünü sağlıyor: sınır sistemlerini bağımsız olarak değerlendirmek için sertifikalı üçüncü taraf kuruluşlar ve denetçileri bağımsızlık standartlarına uygun tutmak için profesyonel bir kayıt sistemi.
Bundan sonra ne olacak, iki aylık süre. Uzman paneli rapor verdiğinde Kaliforniya, sınırdaki yapay zeka şirketlerinin dışarıdan yazılı güvenlik planlarını kabul etmesini ve en güçlü modellerinde acil kapatma mekanizmaları oluşturmasını zorunlu kılan ilk eyalet olabilir. Hala kendi işinin ne kadarının yapay zekaya verilmesi gerektiğini ve yarattığı aracıların nasıl kontrol altına alınacağını tartışan bir sektör için bu son tarih artık çok gerçek oldu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
