İlk kez endüstri yayını Data Center Dynamics tarafından bildirilen ve bu hafta Futurism tarafından ele alınan iş listelerine göre, Google DeepMind, öncü yapay zeka modellerinin nükleer silahların geliştirilmesine yardımcı olup olamayacağını değerlendirmek için nükleer uzmanlardan oluşan bir ekip işe alıyor.
Google'ın kariyer sitesinde yayınlanan listeler, DeepMind'ın Sorumlu Geliştirme ve İnovasyon organizasyonu içinde yer alan Kimyasal, Biyolojik, Radyolojik, Nükleer ve Yüksek Verimli Patlayıcılar (CBRNE) ekibinde nükleer konu uzmanı rolü için "yüksek nitelikli fizikçiler ve nükleer mühendisler" arıyor. For more context on this story, see our ongoing artificial intelligence updates.
İşin Aslında İstediği Şey
Minimum çubuk diktir. Adayların plazma fiziği veya nükleer mühendislik gibi bir alanda doktora derecesine sahip olmaları veya "eşdeğer pratik deneyime" sahip olmaları, ayrıca bir ABD hükümeti laboratuvarıyla işbirliği yapma geçmişine ve stok yönetimi, nükleer silahların yayılmasının önlenmesi, silah kontrolü veya tehditlerin azaltılması gibi politika alanlarına aşinalığa sahip olmaları gerekir.
Tercih edilen nitelikler daha da ileri gider: Yapay zeka güvenliğinde deneyim, hesaplamalı modelleme uzmanlığı, büyük lazer kullanıcı tesislerinde çalışarak geçirilen süre ve "silah konuları için çift kullanımlı bilim vekilleri geliştirilerek açıkça sınıflandırılmamış ve ihraç edilmeyen" güvenlik değerlendirmeleri tasarlama yeteneği.
Tazminat uzman gereksinimlerine uygundur. Google, %15'lik bir bonusla birlikte 174.000 ila 252.000 ABD Doları arasında bir maaş aralığı listeliyor.
Bir Yapay Zeka Laboratuvarının Neden Silah Uzmanlarına İhtiyacı Var?
Temel sorumluluk, nükleer alandaki sınır yapay zeka modellerinin güvenliğini değerlendirmektir. Liste, çalışmayı "fisyon, füzyon ve termonükleer silahların yayılması, radyasyon hidrodinamiği, manyetohidrodinamik vb. konularında açıkça sınıflandırılmamış ve ihracat kontrollü olmayan bir şekilde model yardımının" değerlendirilmesi olarak tanımlıyor.
İş ilanı dilinden tercüme edilmiştir: DeepMind, modellerinin nükleer silah geliştirme konusunda anlamlı yardım sağlayıp sağlayamayacağını belirleyebilecek ve bunu, değerlendirmelerin kendisi sınıflandırma sınırlarını aşmadan yapabilecek uzmanlar istiyor. "Çift kullanımlı bilim temsili araçlarına" yapılan atıf, bir modelin yanıtlamaması gereken silahlara özgü soruların yerine geçen, radyasyon hidrodinamiği gibi bitişik bilimsel problemler üzerine inşa edilen testleri önermektedir.
Listede adı geçen fizik alanları rastgele değildir. Radyasyon hidrodinamiği ve manyetohidrodinamik, nükleer silah fiziği ile ilgili aşırı koşullar altında enerji ve plazmanın nasıl davrandığını açıklar; bu da tam olarak hassas konular olarak ikiye katlanmalarının nedenidir: bu alanlardaki yeterlilik, savaş başlığı tasarımının temelidir, ancak bunun altında yatan bilim, füzyon ve astrofizik araştırmalarında da açıkça yayınlanmaktadır. Bu tür "vekiller" etrafında değerlendirme soruları oluşturmak, güvenlik ekiplerinin, değerlendirmelerin kendileri bir yayılma riski haline gelmeden bir modelin bu sınır bilgisinde gezinip dolaşamayacağını ölçmesine olanak tanır.
Fütürizm'in listelemeyle ilgili yorumu açık sözlüydü: Google'ın en iyi yapay zeka araştırma laboratuvarının, modellerinin eninde sonunda gerçek nükleer içerikli sorularla yüzleşmesini beklediğini ve bu davranışı daha önemli hale gelmeden yakalamak için gereken uzmanlığı işe aldığını öne sürüyor. Bu çerçeve spekülatiftir; işe alım baskısı mevcut modellerin eyleme geçirilebilir silah rehberliği üretebileceğinin kanıtı değil, hazırlıklı olunduğunu gösterir - ancak uzman gereksinimlerinin ölçeği, laboratuvarın senaryoyu ne kadar ciddiye aldığını vurguluyor.
Daha Büyük Bir Güvenlik Yapılanmasının Parçası
İşe alma, öncü laboratuvar endüstrisini yıllardır tanımlayan bir kalıba uyuyor: Yapay zeka şirketleri, modellerine stres testi yapmak için akademik disiplinlerde yetkili alan uzmanlarını işe alıyor. Model eğitimi için konu ile ilgili gerçekleri kontrol eden ordular olarak başlayan şey, giderek felaket riski alanlarına yönelik özel değerlendirme ekiplerine dönüştü; KBRN en hassas olanlar arasında yer alıyor.
DeepMind'ın kendi liderliği alarmı halka açık bir şekilde çalıyor. Reuters'in bildirdiğine göre, geçen hafta laboratuvarın liderliği yapay zeka destekli hackleme girişimlerinin daha büyük güvenlik risklerinin "erken uyarı atışı" olarak değerlendirilmesi gerektiği konusunda uyardı ve yapay zekanın yaklaşık iki yıl içinde büyük güvenlik olaylarına yol açabileceği öngörüsünde bulundu. KBRN değerlendirme ekibi oluşturmak bu söylemin operasyonel versiyonudur.
Bu hamle aynı zamanda Google'ın yapay zeka operasyonlarında yapısal bir değişiklik döneminin ortasında geldi. Ağustos ayında şirket, AI liderliğini yeniden düzenledi; Reuters ve CNBC, uzun süredir devam eden liderlik değişikliklerinin sorumluluk fonksiyonlarını değiştirdiğini bildirdi - ve The Wall Street Journal ayrıca Google'ın, bu sarsıntının bir parçası olarak bir AI sorumluluk ekibini DeepMind laboratuvarının dışına taşıdığını bildirdi. CBRNE ekibinin artık bir "Sorumlu Geliştirme ve Yenilik" organizasyonu içinde yer alması, yeniden yapılanma hakkındaki raporlama devam ederken bile güvenlik aparatının nasıl yeniden organize edildiğini ve genişletildiğini gösteriyor.
Yönetişim Alt Metni
Bir de politika boyutu var. Sınırdaki yapay zeka şirketleri, sistemlerinin geliştirebileceği en tehlikeli yetenekleri ölçebileceklerini ve kontrol edebileceklerini göstermeleri konusunda hükümetlerin artan baskısı altındadır. Nükleer ve biyolojik alanlardaki güvenilir değerlendirmeler, laboratuvar güvenilirliği için fiili bir gereklilik haline geliyor; düzenleyicilerin ve gözetim kurumlarının giderek daha fazla görmek istediği güvenlik vaka çalışması.
Bu açıdan bakıldığında, kariyerlerini nükleer silahların yayılmasını önleme kurumunda geçirmiş kişileri işe almak aynı anda iki amaca hizmet eder: titiz değerlendirmeler yürütmek için teknik kapasiteyi geliştirir ve mevcut silah kontrolü dünyasından kurumsal meşruiyeti ödünç alır.
Listeler Google'ın kariyer sitesinde açık olmaya devam edecek. Rollerin ister ihtiyatı ister rekabetçi konumlandırmayı işaret ettiği bir şey açıktır: Yapay zeka güvenliğinin genelcilerin işi olduğu dönem sona erdi.
_Bu makale, Data Center Dynamics ve Futurism tarafından hazırlanan raporlara ve Google DeepMind'ın herkese açık iş listelerine dayanmaktadır._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
