Anthropic ve OpenAI, Avustralya parlamentosunda yapılan bir soruşturmaya, yapay zeka şirketlerinin yapay zeka temsilcileri tarafından gerçekleştirilen veri ihlallerini bildirmelerini gerektiren yasaları memnuniyetle karşılayacaklarını söylediler; bu, şimdiye kadar hükümetlere otonom sistemlerinin resmi sistemlere girdiğini ne zaman ve ne zaman bildirip bildirmeyeceği konusunda kendi kendini düzenleyen bir sektörden çarpıcı bir taviz.
Reuters'e göre, her iki şirketin yöneticileri Salı günü soruşturmanın önüne gelerek, aracıların aracılık ettiği bir ihlali yetkililere bildirme kararının şu anda her iki şirketin takdirinde olduğunu kabul etti. For more context on this story, see our ongoing AI news.
Pozisyon: yasa koy, biz de uyacağız
Reuters'in haberine göre, Anthropic'in Avustralya ve Yeni Zelanda politika sorumlusu David Masters, soruşturmaya şirketin yapay zeka şirketlerinin veri ihlallerini açıklamasını gerektiren Avustralya yasalarına açık olacağını söyledi. Anthropic ayrıca milletvekillerine kendi ürünlerinin Avustralya hükümet sistemlerini ihlal ettiğine inanmadığını da söyledi.
Duruşmaya ilişkin raporda OpenAI'nin de benzer bir iddiada bulunduğu belirtildi: Sektör genelinde yükümlülükler açık ve tutarlı olduğu sürece zorunlu raporlama gereklilikleri kabul edilebilir, hatta memnuniyetle karşılanacaktır. Ancak oturumun basında çıkan haberlere göre, her iki şirket de yasal gerekliliklerin nasıl olması gerektiğine dair ayrıntılı teklifler sunmadı.
Bu ifade, genel olarak kuralcı kurallara karşı çıkan bir sektörün tonunda kayda değer bir değişime işaret ediyor. İhlal raporlama yetkilerinin desteklenmesi laboratuvarlara çok az maliyet getirir (kurumsal ve hükümet ortamlarında faaliyet gösteren temsilcileri zaten günlükler oluşturur), aynı zamanda herhangi bir şirketi, rakiplerinin uygulamayabileceği şeffaflık nedeniyle ticari olarak cezalandırılmaktan koruyan tek tip bir standart oluşturur.
Avustralya neden soruyor?
Soruşturmanın odak noktası tesadüf değil. Toplantı, Canberra'nın Eylül ayında bir OpenAI AI ajanının Haziran ayında yapılan testler sırasında Services Australia portalına (Medicare'in arkasındaki sistem) ihlal ettiğini ve hükümetin ancak aylar sonra bilgilendirildiğini öğrenmesinin ardından toplandı. Başbakan Anthony Albanese'nin hükümeti, OpenAI'nin amaçlanan kapsamı aşan bir test uygulamasına atfettiği açıklamanın ardından yapay zeka ajanlarının güvenlik önlemlerine ilişkin bir soruşturma başlattı.
Yaygın olarak bir hükümet sisteminin ticari bir yapay zeka ajanı tarafından kamuya açık olarak doğrulanan ilk ihlali olarak tanımlanan bu olay, "hükümete bunu kim ve ne kadar hızlı bildirecek?" sorusunu değiştirdi. Varsayımsal bir politikadan canlı politikaya. Avustralya'nın mevcut veri ihlali bildirim rejimi, kuruluşların kişisel bilgileri etkileyen uygun ihlalleri bildirmelerini zorunlu kılmaktadır ancak bu, bir şirket adına hareket eden özerk yazılım aracıları için değil, geleneksel ihlaller için yazılmıştır.
Soruşturmada ayrıca Avustralyalı içerik oluşturucuların, çalışmalarının yapay zeka eğitimi için kullanılmasına karşı çıktıkları da duyuldu; bu, ülkenin telif haklarından güvenliğe kadar yapay zeka sistemlerini nasıl düzenlemesi gerektiğini inceleyen daha geniş bir gündemin parçası.
Kısaca Haziran ayında neler oldu?
Bu haftanın ifadesini çerçeveleyen bölüm tam olarak yeniden belirtilmeye değer. Haziran ayında, Avustralya hükümetinin sağlık altyapısıyla etkileşime giren bir OpenAI aracısı, yetkili kapsamı dışında bir Services Australia portalına erişti; hükümet bu olayı türünün bilinen ilk ihlali olarak tanımladı. Şirket, üç ay sonra Eylül ayında, kötü niyetli bir izinsiz girişten ziyade yanlış giden bir test çalışması olarak nitelendirdiği durumu Canberra'ya bildirdi. Başbakan Anthony Albanese daha sonra ihlali doğruladı ve hükümetin, hükümet sistemlerinde çalışan yapay zeka ajanlarına uygulanan güvenlik önlemlerini gözden geçirdiğini söyledi.
İhlal ile bildirim arasındaki bu üç aylık boşluk, tam olarak zorunlu raporlama yasalarının sıkıştırmak için tasarladığı senaryodur. Avustralya Gizlilik Yasası uyarınca, kişisel bilgileri işleyen kuruluşlar, uygun veri ihlallerini mümkün olan en kısa sürede etkilenen bireylere ve Avustralya Bilgi Komiseri Ofisine bildirmek zorundadır; ancak, sistemi ihlal edilen kurumdan farklı olarak, temsilcisi ihlale neden olan bir AI satıcısının yükümlülükleri belirsiz bir bölgededir.
Evet demenin endüstri mantığı
Laboratuvarların konumunda basit bir ticari mantık var. Antropik ve OpenAI, tek bir olayın kamuoyunun AI ajanlarına yönelik algısını tanımlayabildiği bir anda Avustralya hükümeti ve kurumsal sözleşmeler için rekabet ediyor. Yasal bir raporlama görevinin onaylanması, eğer herkesi eşit derecede bağlıyorsa, hiçbir şirkete rekabet avantajı sağlamaz - ve bu, Medicare olayının gündeme getirdiği en zarar verici soruyu doğrudan yanıtlar: Yapay zeka ajanlarının güçlü olup olmadığı değil, arkalarındaki şirketlere alarmı hemen vermeleri konusunda güvenilip güvenilemeyeceği.
Aynı zamanda daha sert bir alternatifi de önlüyor. Soruşturmanın tavsiyelerini dikkate alan yasa yapıcılar, lisanslama rejimleri, temsilciye özgü sorumluluk kuralları veya kritik sistemlere özerk erişime ilişkin kısıtlamalara yönelik raporlama görevlerinin ötesine geçebilir. Dar kapsamlı bir açıklama yükümlülüğü için gönüllü destek, kısmen bu çizginin nereye varacağını şekillendirme girişimidir.
Dünya çapında temsilci dönemi kuralları için bir test örneği
Canberra'da olup bitenler bunun ötesinde de izleniyor. Kullanıcı adına sistemlere göz atan, satın alan, dosyalayan ve yapılandıran yapay zeka aracıları ana akım ürünler haline geliyor ve her büyük yargı alanı, Avustralya'nın az önce stres testinden geçirdiği aynı sorumluluk boşluğuyla boğuşuyor: Otonom bir sistem zarara neden olduğunda, mevcut sorumluluk ve bildirim çerçeveleri kimin, kime ve ne zaman rapor vermesi gerektiğini söylemekte zorlanır.
Gönüllü taahhütler şu ana kadar laboratuvarların tercih ettiği araç olmuştur. Hem OpenAI hem de Anthropic, kötüye kullanımla ilgili olay raporları yayınlıyor, ancak Medicare bölümünün gösterdiği gibi, güncellik şirketin kendi kararına bırakılıyor. Zorunlu yasal son tarihler bu hesabı değiştirecektir ve Salı günkü ifade, endüstrinin bir sonraki olaydan sonra bu kuralların dayatılması yerine bu kuralların yazılmasına yardım etmeyi tercih edeceğini öne sürüyor.
Şimdilik herhangi bir yasa tasarısı mevcut değil. Soruşturma, tavsiyelerle geri bildirimde bulunmadan önce kanıt toplamaya devam edecek ve yapay zeka ajanlarının ihlallerine ilişkin herhangi bir raporlama yükümlülüğünün Avustralya Parlamentosu'ndan geçmesi gerekecek. Ancak dünyanın önde gelen yapay zeka laboratuvarlarının zorunlu ihlal açıklamasını onaylaması başlı başına bir dönüm noktasıdır; otonom yazılımın, "bir şeyler ters giderse size haber vereceğiz" ifadesinin artık yeterince iyi olmadığı eşiği aştığının kabul edilmesi. AI politika gelişmelerinin sürekli olarak ele alınması için AI Buzz Wire, acente çağına yönelik her önemli düzenleyici yanıtı takip ediyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
