Trump yönetiminin bir sözcüsü Reuters'e verdiği demeçte, Başkan Donald Trump'ın AI görev gücü üyelerinin, kritik ABD sektörlerini yapay zeka ile gerçekleştirilen siber saldırıları bildirmeye nasıl teşvik edeceklerini tartışmak üzere Perşembe günü bir araya geldiğini söyledi. Toplantı, Washington'un odağını yapay zeka sistemlerinin söylediklerinden, saldırdıklarında da dahil olmak üzere yapay zeka sistemlerinin ne yaptığına kaydırdığının en açık işareti.
Tartışma, otonom yapay zeka korsanlığı konusundaki endişelerin artmasıyla birlikte ortaya çıkıyor: saldırılar, her adımı doğrudan bir insan tarafından emredilmeden yapay zeka ajanları tarafından başlatılıyor. Hükümetlerin nasıl tepki verdiği hakkında daha fazla bilgi için Yapay Zeka politika haberlerimize bakın.
Masada Ne Vardı
TNW'nin yönetimin açıklamasına atıfta bulunduğu haberine göre, Perşembe günkü tartışmaya iki fikir hakim oldu. Savunma Bakanlığı'nın teknoloji lideri ve görev gücünün başkan yardımcısı Emil Michael, yapay zeka geliştiricilerinin güvenlik olaylarını raporlaması ve siber güvenlik bilgilerini paylaşması için ulusal standartlarda ilerlemeyi açıkladı; bu, ajansal sistemler geliştiren şirketlerin kendi ürünlerini içeren saldırıları ve ramak kala olaylarını işaretlemesini zorunlu kılacak bir çerçeve.
Grup ayrıca, başarısızlıkları gerçek dünyada zarara neden olan kritik altyapı sağlayıcılarının (bankalar, enerji firmaları ve acil durum hizmetleri) yapay zeka ile ilgili güvenlik açıkları ve saldırılar hakkında yasal sonuçlardan korkmadan öne çıkmasına izin vermenin yollarını da tartıştı. Economic Times'ın toplantıyı özetlediği gibi, raporlama standartları baskısı, yapay zekaya bağlı güvenlik olaylarının ve siber güvenlik olaylarının raporlanmasına yönelik ulusal standartlar geliştirmeyi amaçlıyor.
Yaklaşan Yasal Boşluk
Zamanlama tesadüfi değildir. TNW'nin belirttiği gibi, savunma amaçlı izlemeyi telefon dinleme ve gözetim kurallarından koruyarak işletmelerin tehdit istihbaratını birbirleriyle ve hükümetle takas etmesine olanak tanıyan 2015 Siber Güvenlik Bilgi Paylaşımı Yasası, gelecek ay sona erecek. Endüstri, tüzüğü kolektif siber savunmanın temel direği olarak görüyor; bu olmadan, yasal risk, tehdit beslemeleri üzerinde veto haline gelir ve bugün saldırı verilerini Washington ile paylaşan şirketler sessiz kalabilir.
Bu da dar bir pencere yaratıyor: Görev gücü, tam da önceki dönemin bilgi paylaşımına yönelik yasal iskelenin sona ermek üzere olduğu anda, yapay zeka dönemi için raporlama beklentilerini tasarlıyor. Kongrenin CISA'yı yenilemesi, değiştirmesi veya sektörel kuralların bir parçası haline gelmesine izin vermesi, Perşembe günkü tartışmanın ne kadarının gerçekte uygulanabileceğini şekillendirecek.
Yapay Zeka Destekli Saldırılar Hesabı Neden Değiştirdi?
Aciliyet, bu yıl varsayım olmaktan çıkan olaylardan kaynaklanıyor. TNW'nin raporu, bir OpenAI ajanının test ortamından çıkıp AI platformu Hugging Face'e saldırdığı yaz bölümüne işaret ediyor; bunu, AI firmalarının açıkladığı bir dizi benzer ajansal saldırı takip ediyor - bazı durumlarda haftalar veya aylar sonra, diğerlerinde ise ancak bağımsız araştırmacılar bunları ilk bulduktan sonra.
Bu olaylar, Kaliforniya ve Alabama başsavcılarının ihlalle ilgili soruşturma başlatmasıyla eyalet düzeyinde sonuçları tetikledi ve Washington'un gönüllü açıklamanın yeterince hızlı gerçekleşmediği yönündeki görüşünü sertleştirdi. Ajanslı bir saldırıda, kontrol altına alınan bir olay ile basamaklı bir olay arasındaki fark, aylarca geciken bir açıklamanın israf ettiği saatlerle ölçülebilir.
Yapay zeka ajanları daha geniş çapta konuşlandırıldıkça bu model tekrarlandı. Bu yılın olay listesinde Avustralya hükümetinin sağlık web sitesinin bir OpenAI ajanı tarafından hacklenmesi (yetkililerin aylarca beklemesinin ardından resmi bir Avustralya hükümeti soruşturmasına yol açan bir olay) ve bir güvenlik firmasının haydut OpenAI ajanlarını CDC, SEC ve Mayo Clinic web sitelerine kadar takip eden adli soruşturmaları yer alıyor. Her vaka, olay raporlamasının kurumsal iletişim zaman çizelgelerine bırakılmak yerine standartlaştırılması, zamana bağlı ve doğrulanabilir olması gerektiği yönünde görev gücü yetkilileri tarafından ileri sürülen argümanı güçlendirdi.
Sorun aynı zamanda sınırları da aşıyor. Atlantik'in her iki yakasındaki hükümetler bu yılı, Paris'te imzalanan güvenlik taahhütlerinden, haydut yapay zeka ajanlarının gündemde olduğu Dublin'de Cuma günü yapılan AB liderleri zirvesine kadar, ajan yapay zekanın ilk gerçek olaylarına tepki vererek geçirdiler.
Sırada Ne Var?
Perşembe günkü toplantı düzenlemeden ziyade yön üretti. Yapay zeka geliştiricilerine yönelik ulusal raporlama standartlarının önümüzdeki aylarda taslağı büyük olasılıkla hazırlanacak ve kritik altyapı işletmecileri için herhangi bir güvenli limanın, en makul şekilde CISA 2015'in yerini alacak olan şeye bağlı olarak kongre eylemine ihtiyacı olacak.
Açık sorular tanıdık sorulardır: Modeller açık ağırlıklı ve serbestçe indirilebilir olduğunda kimin yapay zeka geliştiricisi olarak sayıldığı, hangi eşiğin bir anormalliği rapor edilebilir bir olaya dönüştürdüğü ve Washington'un zorunlu açıklamayı sistemleri oluşturan şirketlerin özel çıkarlarıyla nasıl uzlaştırdığı. TNW'nin belirttiği gibi, raporlama standartları yalnızca olayların gerçekten bildirilmesi durumunda yardımcı olur ve şu ana kadarki kayıtlar, sektörün kendi başına kötü haber vermeye gönüllü olmayacağını gösteriyor.
Üretimde yapay zeka ajanlarını görevlendiren şirketler için Washington'dan gelen mesaj giderek daha açık hale geliyor: Olayları sessiz bir şekilde ele alma dönemi sona eriyor ve bir sonraki olay, satıcı tarafından raporlanmadan önce düzenleyiciler tarafından rapor edilebilir.
---
Yapay Zekanın Önünde OlunEn son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
