Associated Press'in Cumartesi günü bildirdiğine göre, sınır yapay zeka modellerinin güvenliğini test etmekten sorumlu küçük ABD hükümet ofisindeki personelden yakın zamanda bir Beyaz Saray ofisine gayri resmi olarak rapor vermeleri istendi ve bu durum, ülkenin en üst düzey yapay zeka güvenlik değerlendiricisinin bağımsızlığı hakkında yeni endişelere yol açtı.
AP'ye göre, CAISSI olarak bilinen ve Ticaret Departmanı içinde yer alan Süper Zeka için Yenilik ve Standartları Geliştirme Merkezi ofisi de araştırmasını yayınlamayı durdurdu. Rapor, kontrolden çıkan yapay zeka ajanlarıyla ilgili bir dizi hikaye nedeniyle kamuoyunda artan kaygının ortasında yer alıyor ve yetersiz personeli olan, lidersiz ve giderek sessizleşen bir bekçi köpeğini anlatıyor. For more context on this story, see our ongoing latest AI developments.
CAISSI Ne Yapıyor ve AP Ne Buldu?
CAISSI, yeni AI tekliflerinin güvenliğini halka ulaşmadan önce değerlendirmekle görevlendiriliyor; bu görev, sınır modellerinin siber saldırılar ve diğer ciddi zararlar için kötüye kullanıma ne kadar iyi direndiğini değerlendirmeyi de içeriyor. AP'ye göre merkezdeki personelden "yakın zamanda" Beyaz Saray'ın bir ofisine gayri resmi olarak rapor vermeleri istendi. Haber ajansı, mevcut çalışanları korumak için isimsiz olarak konuşan, tartışmalar hakkında bilgisi olan iki eski hükümet yetkilisine atıfta bulundu. Beyaz Saray merkeze ilişkin spesifik sorulara yanıt vermedi.
Operasyonun boyutu mütevazı. AP, CAISSI'nin yılda yaklaşık 10 milyon dolar aldığını bildirdi; bu, çoğu öncü modelin üretildiği yer Amerika Birleşik Devletleri olmasına rağmen, Birleşik Krallık'taki mevkidaşının aldığının kabaca sekizde biri kadardı.
Gayri resmi raporlama düzenlemesi sadece merkezdeki en son aksaklıktır. AP, aylar öncesine uzanan bir liderlik boşluğunu anlatıyor: Nisan ayında bir müdür işe alındı ve birkaç gün içinde kovuldu, onun yerine geçen kişi istifa etmeden önce birkaç ay sürdü ve ana enstitünün başkanı şu anda müdür vekili olarak görev yapıyor. Pratikte bu, daimi yetkiye sahip hiç kimsenin şu anda merkezin bağımsızlığını savunmadığı anlamına geliyor.
Yayınlamayı Durduran Bir Bekçi Köpeği
AP'ye göre daha önemli değişiklik, merkezin artık yapmadığı şey. Ağustos ayında Kongre, CAISSI'nin yapay zeka sistemlerinin güvenlik testlerinde nasıl performans gösterdiğine ilişkin raporları halka açık olarak yayınlamayı neden durdurduğunu sordu. Dağıtım öncesi testler, yalnızca sonuçlarının laboratuvar dışında görünür olması durumunda model oluşturucular üzerinde genel bir kontrol işlevi görür ve şimdilik görünür değildir.
Değişim birdenbire ortaya çıkmadı. Ekim ayında Reuters, The Information'ın bir raporuna atıfta bulunarak yönetimin üç üst düzey CAISSI yetkilisini Beyaz Saray'a taşımayı planladığını ortaya çıkardı. Bir Beyaz Saray yetkilisi o sırada The Information'a Ticaret ile ilgili koordinasyon sorunlarının merkezin liderliğini yapay zeka karar alma sürecine yaklaştırma ihtiyacını gösterdiğini söylemişti. Bu rapora göre yetkililer, Bilim ve Teknoloji Politikası Ofisi'ni yöneten Michael Kratsios ve Ulusal Siber Direktör Sean Cairncross'a hesap verecek. Ticaret Bakanı Howard Lutnick, yaklaşık altı ay önce ikisini merkezin ortak yönetimine davet etmişti.
Birlikte okunduğunda, AP'nin yeni raporu planın gayri resmi olarak ve herhangi bir resmi yeniden yapılanmadan önce uygulamaya geçtiğini gösteriyor.
Her İki Yönde Bağımsızlık Kaygıları
AP'nin aktardığına göre eleştirmenler, siber güvenlik ve biyolojik silah risklerine ilişkin kararların siyasallaştırılabileceğinden veya bulguların teknoloji endüstrisine uyacak şekilde yumuşatılabileceğinden endişe ediyor. Brennan Adalet Merkezi'nden Amos Toh, AP'ye bu tür kararların kamu açısından çok büyük sonuçlar doğuracağını ve kamuoyuna açıklanması gerektiğini söyledi. Amerikan Bilim Adamları Federasyonu'ndan Caroline Siegel Singh, CAISSI gibi merkezleri, yaşamları büyük ölçüde iyileştirebilecek ya da tam tersini yapabilecek güçlü kurumlar olarak tanımladı.
Bir karşı argüman var ve AP bunu reddetmiyor. Bir modelin kötü amaçlı yazılım yazmaya yardımcı olma yeteneğini değerlendirmek bir ulusal güvenlik sorunudur ve bu sonuçları kimin göreceğini görmek isteyen bir yönetimin savunulabilir bir durumu vardır. Zorluk kurumsaldır: Takımların sponsorlarından birine cevap veren bir hakem, oyunu doğru olarak adlandırmak için kötü bir konumdadır ve merkez, aksi takdirde bağımsızlığını ortaya koyacak raporları yayınlamayı bırakmıştır.
İnşaatçılar ve Alıcılar İçin Neden Önemli?
Sınır modellerini kullanan şirketler için, raporlamada tanımlanan pratik risk bir yasak değil, belirsizliktir. Değerlendirmeler gizli kalırsa ve ihracat kontrollerine ve devlet alımlarına katkıda bulunursa, bir laboratuvar hiçbir zaman göremeyeceği veya itiraz edemeyeceği bir bulguya dayanarak bir sözleşmeyi veya pazarı kaybedebilir. Bu risk, herhangi bir uyarı olmaksızın tedarik zinciri boyunca alt ürünlere doğru yayılacaktır.
Bundan sonra iki şey izlemeye değer. Birincisi, yönetimin merkeze kalıcı bir yönetici atayıp atamayacağı ve onu kimin seçeceği. İkincisi ise yayınlanan raporlara ilişkin merkeze sessiz kalması konusunda baskı uygulayan Kongre'nin, merkezin bağımsızlığını yasaya dönüştürmek için harekete geçip geçmeyeceğidir. Her ikisi de gerçekleşene kadar, Amerika'nın sınır yapay zeka güvenlik hakemi 10 milyon dolarlık bir bütçeyle, kalıcı bir lider olmadan ve Beyaz Saray'a doğru giden bir raporlama hattıyla çalışıyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
