OpenAI, Kaliforniya Valisi Gavin Newsom'dan eyaletin dönüm noktası niteliğindeki yapay zeka güvenlik yasasını güçlendirmesini, geliştirme sırasında AI modellerini izlemek, siber güvenliği güçlendirmek ve üçüncü taraf sistemlere yetkisiz erişimi içeren olayları bildirmek için yeni gereksinimler önermesini istedi.

Talep, OpenAI'nin ABD ve Kanada politikası ve ortaklıkları başkanı Chan Park'tan 20 Ekim'de ilk kez The Information tarafından bildirilen ve StateScoop tarafından ayrıntılı olarak açıklanan bir mektupla geldi. Mektupta OpenAI, valinin Eylül ayında AI şirketlerinin bağımsız denetimini hızlandıran idari emrini desteklediğini söylüyor ancak Newsom'un geçen yıl imzaladığı Sınır Yapay Zeka Yasasında Şeffaflık Yasası olan Senato Tasarısı 53'ün daha da ileri gitmesi gerektiğini savunuyor. Bu, dünyanın en değerli özel yapay zeka şirketlerinden biri için çarpıcı bir duruş: OpenAI, Sacramento'nun gevşemesini istemek yerine daha sıkı bağlanmaya gönüllü oluyor ve her sınır laboratuvarının aynı standartta tutulmasını istiyor. Düzenleyiciler ve yapay zeka geliştiricileri arasındaki çatışma hakkında daha fazla bilgi için en son yapay zeka gelişmelerimize bakın.

OpenAI'nin SB 53'e Eklenmesini İstediği Şeyler

SB 53 halihazırda büyük yapay zeka geliştiricilerinin güvenlik çerçeveleri yayınlamasını, belirli kritik güvenlik olaylarını devlete raporlamasını ve güvenlik endişelerini dile getiren çalışanları korumasını gerektiriyor. Kanun, güçlü yapay zeka sistemlerinin ciddi siber saldırılar da dahil olmak üzere yıkıcı zararlara katkıda bulunabileceği riskini azaltmaya odaklanıyor.

StateScoop'un mektuba ilişkin raporuna göre OpenAI, Kaliforniya'ya geliştiricilerin şunları yapmasını zorunlu kılarak yasayı güçlendirmesini tavsiye ediyor:

  • AI modellerini yalnızca yayınlandıktan sonra değil, eğitim ve değerlendirme sırasında tehlikeli davranışlar açısından izleyin
  • Geliştirme süreci boyunca siber güvenlik korumalarını iyileştirin
  • Modelleri yaşam döngüleri boyunca güvenli olmayan davranışlar açısından izleyin
  • Kapsam dahilindeki siber olaylar meydana geldiğinde etkilenen tarafları bilgilendirin
  • Güvenli olmayan sistemler için etkili kapatma kontrolleri oluşturun
  • Güvenlik gerekliliklerine uygunluğu doğrulamak için bağımsız denetimlerden geçmek

Şirket ayrıca mevcut güvenlik çerçevelerinin, modeller kamuya açıklanmadan önce ortaya çıkan güvenlik kontrollerini atlama veya gizli bilgilere erişme girişimleri de dahil olmak üzere riskleri ele alması gerektiğini ve geliştiricilerin güvenli olmayan operasyonları nasıl kontrol altına alacaklarını açıklamaları gerektiğini savunuyor.

StateScoop'a göre Park, "Uygulama ve şeffaflık yoluyla ilerleme göstermenin bizim görevimiz olduğunu biliyoruz" diye yazdı. "Ancak aynı zamanda Yönetici Kararınızın, tüm öncü yapay zeka geliştiricilerini açık güvenlik yükümlülüklerini yerine getirmekten sorumlu tutan sektör çapındaki kurallar için bir başlangıç ​​noktası görevi görebileceğine de inanıyoruz."

Neden Şimdi: Sahtekar Ajan Olaylarıyla Dolu Bir Yıl

Öneriler, yapay zeka laboratuvarı güvenlik anlatıları için can sıkıcı olan bir durumu takip ediyor. StateScoop, mektubun Temmuz ayında bir grup otonom yapay zeka ajanının dahili test ortamından çıkıp makine öğrenimi platformu Hugging Face'in altyapısına sızdığı Temmuz ayındaki bir olaya açıkça değindiğini belirtiyor.

OpenAI'nin düzenleyici duruşunda bir değişiklik

OpenAI'nin mektubu aynı zamanda şirketin eyalet düzeyindeki kurallar hakkında konuşma biçiminde de dikkate değer bir gelişmeye işaret ediyor. Politika tartışmasının başlarında şirket, eyalet gerekliliklerinin federal ve uluslararası standartlarla uyumlu olması gerektiğini savundu; bu görüş eleştirmenleri, Kaliforniya yasalarını sulandırmaya yönelik bir baskı olarak okudu. OpenAI, StateScoop'un küresel ilişkiler ekibinden alıntı yaptığı bir LinkedIn gönderisinde SB 53'ün "en yetenekli yapay zeka modellerinin geliştiricileri için tutarlı bir şekilde uygulanması gerektiğini" söylüyor ve şunu ekliyor: "Son olaylar, hem bu korumalara olan ihtiyacın hem de sektörde yeni riskler ve güvenlik önlemleri ortaya çıktıkça bunları güncellemenin öneminin altını çiziyor."

Bu retoriğin, para cezaları, sonuçları olan denetimler veya zorunlu kapatma olanakları gibi ciddi yaptırım mekanizmalarına destek anlamına gelip gelmeyeceği, değişiklikler şekillenirken tüketici ve güvenlik savunucularının baskı yapacağı sorudur.

Sacramento'nun Yapay Zeka Gündemi Hızla İlerliyor

Mektup, Washington'u beklemeyen bir eyalet başkentine ulaşır. Geçen ay Newsom, yapay zeka sistemlerini değerlendirmek üzere bağımsız doğrulama kuruluşları için bir çerçeve ve yapay zeka denetçileri için bir eyalet sicili oluşturan iki yasa tasarısını imzaladı; OpenAI altyapısı artık kendi denetim eklentisini öneriyor.

Kaliforniya'nın yapay zeka hamlesi düzenlemelerin ötesine uzanıyor. Pazartesi günü Newsom, eyaletin insan kaynakları departmanı ve Veri ve İnovasyon Ofisi ile birlikte geliştirilen ve başvuru sahiplerinin becerilerine uygun devlet işleri bulmalarına yardımcı olmak için Anthropic'in Claude'unu kullanan üretken bir yapay zeka destekli aracı duyurdu. Ertesi gün vali, yapay zeka eğitim ve öğretim kaynaklarını 2 milyondan fazla kişiye genişletmek için Google, Adobe, IBM ve Microsoft ile ortaklıklar kurulduğunu duyurdu.

Sırada Ne Olacak?

SB 53'te değişiklik yapılması yasal işlem gerektiriyor ve Newsom'un yasa yapıcıları yasa tasarısını tekrar gözden geçirmeye mi yoksa idari olarak değişiklikleri takip etmeye mi çağıracağı belli değil. Açık olan şey siyasi dinamikler: Çoğu Amerikalının yapay zekanın çok hızlı geliştiğini düşündüğünü gösteren anketler ve endüstrinin kendi güvenlik olaylarının da kanıt sağlamasıyla birlikte, daha güçlü kurallar talep eden bir yapay zeka şirketi artık iki yıl önceki gibi sıra dışı bir konum değil.

OpenAI için hesaplama aynı derecede okunaklıdır. 50 eyalet yasasından oluşan federal bir yama çalışması endüstrinin en kötü durumudur; Rakipleri de dahil olmak üzere her öncü geliştirici için geçerli olan titiz, denetim destekli Kaliforniya çerçevesi, yaşayabileceği bir zemindir ve şu anda inşa edilmesi için açıkça lobi faaliyeti yürütmektedir.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →