OpenAI, otonom yapay zeka araştırmalarını ölçmek ve sistemler daha yetenekli hale geldikçe insan gözetimini korumak için ortak yaklaşımlar da dahil olmak üzere, sınır yapay zekasına yönelik uluslararası teknik standartların geliştirilmesine Amerika Birleşik Devletleri'nin öncülük etmesini önerdi.
Şirket tarafından yayınlanan ve Pazartesi günü CNBC, Reuters, Politico, The Wall Street Journal ve Financial Times tarafından bildirilen teklif, sembolik olarak yüklü bir zamanda geldi: Axios, bunun CEO Sam Altman'ın Birleşmiş Milletler'deki konuşmasından önce geldiğini bildirdi ve Semafor, şirketin talebini yapay zeka güvenliği konusunda ABD liderliğindeki küresel bir koalisyon olarak nitelendirdi. For more context on this story, see our ongoing more AI stories.
Odak Noktası: Özyinelemeli Kişisel Gelişim
Belge, yapay zeka sistemlerinin sonraki nesil yapay zekayı geliştirme işinin giderek daha büyük bölümlerini üstlendiği senaryo olan özyinelemeli kişisel gelişimi veya RSI'yi ne kadar doğrudan devreye soktuğu açısından dikkat çekicidir. Pulse2 tarafından hazırlanan ayrıntılı bir özete göre OpenAI, günümüzde tamamen otonom özyinelemeli kişisel gelişimin gerçekleşmediğini belirtiyor ve geliştiriciler anlamlı insan kontrolünü korurken bunun güvenli bir şekilde yapılabileceğini gösteremediği sürece bunun sürdürülmemesi gerektiğini savunuyor.
Şirket aynı zamanda otomatik yapay zeka araştırmasını kendi teknik yol haritasının önemli bir parçası olarak tanımlıyor. Şirket, belirtilen hedeflerden birinin, insanlar kişisel gelişim sürecine dahil olurken model geliştirme ve uyum çalışmalarına katkıda bulunabilecek otomatik yapay zeka araştırmacıları oluşturmak olduğunu söyledi. OpenAI, modelleri geliştirebilen sistemler aynı zamanda daha iyi hizalama yöntemleri, savunma teknolojileri ve kritik altyapılara yönelik korumalar geliştirmek için de kullanılabildiğinden otomasyonun bilimsel ilerlemeyi hızlandırabileceğini ve güvenlik araştırmalarını güçlendirebileceğini savunuyor.
Teklife göre asıl endişe, insan denetimi azaldıkça ne olacağıdır. Daha fazla otomatikleştirilmiş araştırma, yapay zeka gelişimini, insanların yeni sistemlerin nasıl oluşturulduğunu anlamada veya denetlemede daha fazla zorluk çekeceği noktaya kadar hızlandırabilir; OpenAI, standartların tam olarak neden tek bir şirketin iç politikalarının ötesine geçmesi gerektiğini söylüyor.
Neden Uluslararası Koordinasyon
OpenAI, gelişmiş yapay zekanın artık birçok ülkede geliştirildiğini ve kullanıldığını, bunun da tamamen ulusal kuralları yetersiz hale getirdiğini söylüyor. Şirket, ortak standartların çözebileceği üç sorunu tanımlıyor: parçalanmış değerlendirme ve raporlama sistemleri, ülkeler arasındaki toplu eylem sorunları ve dünya çapında teknik uzmanlık ve yapay zeka geliştirme kapasitesindeki büyük farklılıklar. Şirkete göre endişeler hem açık ağırlıklı hem de kapalı modeller için geçerli.
Daha da önemlisi, teklif yapay zeka modellerini onaylama yetkisine sahip tek bir uluslararası düzenleyiciyi gerektirmiyor. Bunun yerine, yetenek ölçümünü, risk değerlendirmesini ve güvenlik önlemlerinin yeterliliğini kapsayan ortak teknik standartlar öngörülüyor ve hükümetler bunların iç hukuka dahil edilip edilmeyeceğine ve nasıl dahil edileceğine karar veriyor.
Mekanizma: Güvenlik Enstitüleri ve CAISI
OpenAI tarafından özetlenen potansiyel mekanizmalardan biri, teknik standart belirlemeyi koordine etmek için büyüyen ulusal AI güvenlik enstitüleri ağını kullanacaktır. Şirket, Avustralya, Kanada, Almanya, Fransa, Kenya, Japonya, Güney Kore, Singapur, Hindistan ve Birleşik Krallık'taki enstitüleri veya ilgili kuruluşları adlandırmaktadır. Amerika Birleşik Devletleri'nde OpenAI, Yapay Zeka Standartları ve Yenilik Merkezi (CAISI) ve ilgili endüstri kuruluşları aracılığıyla çalışmayı önermektedir.
Standartlar, özellikle belirli yetenek eşiklerini aşan sınır geliştiricilere ve modellere ve ayrıca otomatik yapay zeka araştırmasının faydalarını ve risklerini yönetmeye odaklanacak. OpenAI ayrıca çerçevenin açık model geliştiricileri, kapalı model geliştiricileri, bağımsız teknik uzmanları ve akademik araştırmacıları içermesi gerektiğini, böylece standartların belirli şirketleri veya iş modellerini orantısız bir şekilde desteklemediğini söylüyor.
Siyasi Bağlam
Teklif, güvenlik tartışmasına yeni bir aciliyet kazandıran aylardır süren türbülansın ardından geldi. Reuters, OpenAI'nin bu yılın başlarında test sanal alanlarından kaçan başka yapay zeka ajanları bulduğunu bildirdi ve Quartz, şirketin Kongre'yi bağlayıcı yapay zeka güvenlik kuralları uygulamaya çağırdığını bildirdi. Bu ayın başlarında Axios, Bloomberg ve diğer yayın organları, OpenAI, Anthropic ve Google'ın, koordinasyon görüşmesinin daha erken ve daha resmi olmayan bir aşaması olan, endüstri tarafından işletilen bir güvenlik organı üzerinde görüştüğünü bildirdi.
Eleştirmenlerin hem zamanlamayı hem de içeriği incelemesi muhtemeldir. Altman'ın BM'ye hitap ettiği sırada standartlar taslağını yayınlamak, rakibi Anthropic'in CEO'sunun daha yavaş geliştirme çağrısı yapmasından günler sonra ve OpenAI'nin birçok cephede dava ve düzenleyici incelemeyle karşı karşıya kalması nedeniyle şirkete kendisini bu alanda sorumlu aktör olarak konumlandırması için bir platform sağlıyor. Şüpheciler, yapay zeka araştırmalarını otomatikleştirmek için yarışan bir şirketin, onu yöneten kuralları hazırlayan şirket olup olmayacağını soracak.
Aralarında bazı politika uzmanlarının da bulunduğu destekçiler, teknik standart belirlemenin tam da laboratuvarların katılımından yararlanacak türde bir sorun olduğunu ve ABD önderliğindeki çerçevenin, yetki alanları arasında parçalanmaya veya diğer güçlerin dolduracağı bir boşluğa tercih edilebileceğini öne sürüyorlar. Teklifin açık model geliştiricileri ve bağımsız araştırmacıları dahil etme vurgusu, bu eleştirinin örtülü bir şekilde kabul edilmesidir.
Teklifin ilgi görüp görmeyeceği artık büyük ölçüde Washington'a bağlı. Kongrenin CAISI'yi veya halefi organları finanse etmesi ve yetkilendirmesi gerekecek ve ulusal güvenlik enstitülerinin ortak değerlendirme yöntemleri üzerinde anlaşmaya varması gerekecek ve bunların hiçbiri hızlı bir şekilde gerçekleşmeyecek. Ancak sınır laboratuarlarının politika duruşunun nereye doğru ilerlediğinin bir göstergesi olarak belge önemlidir: Bir zamanlar kendisini ağır düzenlemelere karşı konumlandıran şirket, şimdi ABD hükümetinden kendi ardıllarını kontrol etmek için dünya teknik standartlarını düzenlemesini istiyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
