PYMNTS tarafından bildirildiği üzere 22 Eylül Salı günü yayınlanan bir blog yazısında OpenAI'nin sınır yapay zeka güvenliği konusunda uzmanlığa sahip ve etkili üçüncü taraf değerlendirmeleri sağlayabilen şirketlerin sayısının artmasına yardımcı olmak için çok sayıda bağımsız değerlendiriciyle görüştüğü belirtildi.

Gönderi, OpenAI'nin etkili üçüncü taraf gözetimi için önerdiği öncelikleri ve ilkeleri ortaya koyuyor; bu çerçevenin, giderek daha yetenekli modelleri eğitirken, değerlendirirken ve dağıtırken tüm sınır yapay zeka laboratuvarlarına uygulanması gerektiğini söylüyor. Duyuru, yapay zeka güvenlik politikası açısından alışılmadık derecede yüklü bir ayın ortasına denk geliyor ve hem eleştirmenlere verilen bir taviz hem de hükümetler bunları yazmadan önce kuralları şekillendirme girişimi olarak okunuyor. Son dakika yapay zeka haberlerini takip eden herkes için bu, laboratuvarlar, onları eleştirenler ve düzenleyiciler arasında sınır modellerinin güvenli olduğunu kimin doğrulayacağı konusunda haftalarca süren yarışmanın son hamlesidir.

OpenAI Ne Öneriyor?

PYMNTS'ye göre OpenAI, gönderide "Bağımsız değerlendiricileri desteklemeye ve etkili üçüncü taraf değerlendirmeleri için hem gelecekteki yasalar hem de özel yönetim girişimleri aracılığıyla daha net, ortak uluslararası standartlar oluşturmaya kararlıyız" dedi.

OpenAI'nin tanımladığı temel sorun bir pazar başarısızlığıdır: Sınır modelini denetleyecek teknik derinliğe sahip çok az kuruluş vardır. Anlamlı bir güvenlik değerlendirmesi, yayınlanmamış sistemlere erişimi, siber güvenlikten biyogüvenliğe kadar alanlarda uzmanlığı ve istenmeyen bulguları yayınlamak için kurumsal bağımsızlığı gerektirir. OpenAI, tek bir ayrıcalıklı denetçi yerine birden fazla değerlendiriciyi işe alarak ve destekleyerek, üçüncü taraf değerlendirmesinin tek seferlik bir halkla ilişkiler uygulaması değil, sınır sistemlerinin uygulanmasının rutin bir parçası olduğu bir ekosistem oluşturmak istediğini söylüyor.

Şirket, görüştüğü değerlendiricilerin isimlerini açıklamadı ve sonuçta ortaya çıkan düzenlemelerin, güvenlik araştırmacılarının anlamlı bulduğu erişim, finansman bağımsızlığı ve yayın haklarını değerlendiricilere verip vermeyeceği henüz bilinmiyor.

Yapay Zeka Politikasında Kırbaçla Geçen Bir Hafta

Teklif, Eylül ayındaki yapay zeka tartışmasını belirleyen hızlı bir dizi politika gelişmesinin ortasında geldi:

  • 21 Eylül Pazartesi: OpenAI, Amerika Birleşik Devletleri'ni, yapay zeka sistemlerinin kendilerini iyileştirdiği nokta olan özyinelemeli kendini geliştirme de dahil olmak üzere, sınır yapay zeka için küresel teknik standartlar geliştirmek üzere uluslararası bir çabaya liderlik etmeye çağırdı. Şirket, tamamen otonom yapay zeka geliştirmenin, insanların onu anlama ve kontrol etme yeteneğini geride bırakabileceği konusunda uyardı ve ilerlenip ilerlemeyeceğine ve nasıl ilerleneceğine ilişkin kararların şimdi verilmesi gerektiğini söyledi.
  • 18 Eylül Cuma: Kaliforniya Valisi Gavin Newsom, eyaletin yapay zeka güvenlik yasalarını güçlendirmek için ulusal uzmanları bir araya getiren ve açıkça yapay zeka sistemlerinde emniyet ve güvenlik risklerine yönelik yeni üçüncü taraf gözetiminin uygulanmasını hızlandırmayı amaçlayan bir idari emir imzaladı.
  • 19 Eylül Cumartesi: Başkan Donald Trump, Truth Social gönderisinde sektörün güvenlik kaygılarını reddetti ve şöyle yazdı: "Bu inanılmaz endüstrinin Büyümesini hiçbir şekilde engellemeyeceğiz veya bastırmayacağız. Yapay zeka, bir sonraki Sanayi Devrimi veya İnternet'tir, ancak daha da büyük ve daha etkili olacak, muhtemelen Ülkemizin GSYİH'sının %25'i kadar olacaktır."

Bu haftanın başlarında bildirdiğimiz gibi, OpenAI'nin ABD öncülüğündeki standartlar teklifi, yıllarca bağlayıcı gözetime direnen bir şirket için çarpıcı bir değişime işaret ediyordu ve yeni üçüncü taraf değerlendirme ilkeleri, bu duruşu özel yönetim cephesine de taşıyor.

Bağımsızlık Sorunu

OpenAI'nin dış gözlemcileri benimsemesi, baş rakibinin paralel bir önerisini takip ediyor. Yaklaşık bir hafta önce, Anthropic CEO'su Dario Amodei, önde gelen yapay zeka şirketlerinin içine yerleştirilmiş bağımsız değerlendiriciler, demokratik ülkelerdeki şirketler arasındaki koordinasyon ve sonunda Çin'i de içeren uluslararası bir anlaşma etrafında inşa edilen bir yapay zeka güvenlik planı öneren bir makale yayınladı.

Her iki öneri de uzmanların anında şüphelerine yol açtı. CNBC, 100'den fazla yapay zeka uzmanından oluşan bir koalisyonun, değerlendirmeleri yürüten Anthropic, OpenAI ve diğer temel model laboratuvarlarından bağımsızlık ve şeffaflık çağrısında bulunduğunu ve denetledikleri şirketlere yerleşik veya onlar tarafından ödeme yapılan değerlendiricilerin kaçınılmaz çıkar çatışmalarıyla karşı karşıya olduğu konusunda uyardığını bildirdi. Yapay zeka öncüsü Geoffrey Hinton'un desteklediği gözlemciler, her iki şirkete de güvenlik planlarının ayrıntıları konusunda baskı yaptı ve yorumcular, yapay zeka güvenlik değerlendirme kuruluşları ile laboratuvarların kendileri arasındaki döner kapıyı işaretlediler: Güvenlik ödevini derecelendiren kişiler, onu yazanlar da olabilir.

Bu gerilim, OpenAI'nin yeni gönderisinin etkisiz hale getirmeye çalıştığı tartışmanın özüdür. Şirketin cevabı - daha fazla değerlendirici, ortak uluslararası standartlar ve hem gelecekteki yasalar hem de özel girişimler yoluyla uygulanan gözetim - henüz bir garanti değil, bir çerçevedir. Eleştirmenler, kuralları öneren laboratuvarların bunlara tabi olan laboratuvarlarla aynı olduğunu ve kendi kendini şekillendiren yönetimin tarihsel olarak şekillendirmeyi yapan şirketlerin lehine olduğunu belirtecek.

Neden Önemlidir

Bir sonraki sınır modelleri halihazırda eğitim aşamasındadır ve konuşlandırma öncesinde gözetimin tasarlanmasına yönelik pencere kapanmaktadır. OpenAI'nin bağımsız değerlendiricileri işe alması, gerçek erişime ve gerçek bağımsızlığa sahip denetçiler üretirse, bu, yapay zekanın dünya çapında nasıl yönetileceğine dair bir şablon haline gelebilir; Washington, Brüksel ve diğer yerlerdeki yasa koyucuların şu ana kadar kendilerini kurmayı başaramadığı özel bir rejim. Eğer gizlilik anlaşmaları ile bağlantılı danışmanlıklar üretirse, şüphecilerin en kötü yorumunu teyit etmiş olacaktır.

Her iki durumda da OpenAI'nin, en güvenilir gözetim rejimini kimin önerebileceği konusunda Anthropic ile rekabet ettiği gerçeğinin kendisi yenidir. Bir yıl önce laboratuvarlar esas olarak mevzuata karşı çıkma konusunda birleşmişti. Şimdi bunu tanımlamak için yarışıyorlar.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →