Papa Leo XIV, Vatikan'da bilim adamları ve yapay zeka uzmanlarından oluşan bir toplantıda yapay zeka sistemlerinin "kişiler değil, araçlar" olduğunu söyleyerek, yapay zeka ajanlarına yasal haklar verilmesine karşı uyarıda bulundu ve önümüzdeki ay Cenevre'de toplanan hükümetlere öldürücü otonom silahları yasaklama çağrısında bulundu.
Konuşma, Papalık Yaşam Akademisi ve Yaşamın Geleceği Enstitüsü tarafından ortaklaşa düzenlenen "Yapay Zekanın Geleceği: Vatikan ve Bilim Dünyası Arasında Akıllı Teknolojilerin Gelişmeleri ve Uygulamaları Üzerine Bir Diyalog" toplantısının katılımcılarına yapıldı. Papa, farklı ülkelerden katılımcıların "yapay zekanın gelişimi konusunda belirli bir rahatsızlık hissini paylaştıklarını" söyledi. Gitmemiz gereken yönün farkındayız ancak ilerlemek için yeterince şey yapılmıyor."
Makineler araçtır, kişi değil
Konuşmanın en net çizgisi, teknoloji endüstrisinin ve hukuk akademisinin bazı bölümlerinde ilgi çeken bir fikri hedef alıyordu: Tüzel kişiliğin veya hakların gelişmiş yapay zeka sistemlerine kadar genişletilmesi. Papa Leo bunun aksini savundu. Makinelerin deneyimleri, bedenleri, duyguları ya da ilişkileri olmadığını ve sevgiyi, işi ya da sorumluluğu anlamadıklarını söyledi.
Bazılarının bu sistemlere haklar veya tüzel kişilik verilmesini önerdiğini kabul etti ancak bunu yapmanın "insan sorumluluğunu gizleme ve zarar görenleri meçhul bir varlıkla karşı karşıya bırakma" riskini taşıdığını kabul etti. Bu yorum, yapay zeka ajanlarının işleri özerk bir şekilde yürüttüğü, sözleşmeler müzakere ettiği ve kullanıcılar adına hareket ettiği, otonom sistemler zarar verdiğinde sorumluluk konusunda gerçek yasal tartışmalara yol açtığı aynı sezona denk geliyor. AI Buzz Wire, bu ve diğer yapay zeka politikası gelişmelerini gerçekleştikçe takip ediyor. Papa'nın çerçevelemesi, sistemin arkasındaki insanlara şu soruyu yöneltiyor: Eğer bir yapay zeka ajanı hasara neden olursa, yüzü olan birinin bunun hesabını vermesi gerekir.
"Silahsızlandırma" yapay zekası: otonom silahların yasaklanması
Papa'nın üçüncü düşüncesi - belirli kararların hiçbir zaman makinelere devredilmemesi gerektiği - çarpıcı örneklerle gösterildi: Bir kişiyi hedef listesine veya sınır kontrol veri tabanına koymak, onu "bir veri noktasına" indirger. Selefi Papa Francis'in 2024'te G7 liderlerine yaptığı konuşmada, Francis'in yapay zekayı "heyecan verici ve korkutucu bir araç" olarak tanımladığı ve hiçbir makinenin bir insan hayatına son vermeyi seçemeyeceği konusunda ısrar ettiği konuşmasına atıfta bulundu.
Papa Leo, "İnsan yaşamını, özgürlüğünü ve güç kullanımını etkileyen kararlar her zaman etkili, bilgili ve sorumlu insan gözetimine tabi kalmalıdır." dedi. Yapay zekanın "silahsızlandırılması"nın nedeninin bu olduğunu savundu ve kasım ayında Cenevre'de toplanan eyaletleri ölümcül otonom silahları yasaklamak için adımlar atmaya açıkça teşvik etti. Diplomatlar yıllardır otonom silahlara ilişkin bağlayıcı kurallar üzerinde anlaşmaya varmak için çabalıyor; Papa'nın doğrudan çağrısı, çoğunlukla sivil toplum kampanyaları ve ilgili devletlerden oluşan bir blok tarafından yönlendirilen müzakere sürecine ahlaki ağırlık katıyor.
Magnifica Humanitas'tan beş önemli nokta
Konuşma, Papa'nın genelge niteliğindeki Magnifica Humanitas'ında ortaya koyduğu beş husus etrafında şekillendi:
1. Yapay zekanın geleceği önceden belirlenmemiştir. İnsanlar yapay zekayı geliştirdiğinden, onun geleceği insanlığın seçimlerine bağlıdır. Papa, "Başvurulara rehberlik etme, değiştirme ve gerektiğinde reddetme sorumluluğumuz var" dedi. Doğru soru "Yapay zeka ne yapabilir?" değildir. değil, "Hangi amaca hizmet etmeli?"
2. Makineler araçtır, insan değil. Yukarıdaki kişi olma uyarısı.
3. Bazı kararlar hiçbir zaman devredilemez. İnsan yaşamını, özgürlüğünü ve güç kullanımını etkileyen kararlar, etkili, bilgili ve sorumlu insan gözetimini gerektirir.
4. Akıllı teknolojiler kamu yararına hizmet etmelidir. "Asla kendi başlarına amaç haline gelmemeli veya yalnızca ayrıcalıklı bir azınlığın çıkarlarına hizmet etmemelidir" ve ilerlemenin faydalarını adil bir şekilde yaymalıdırlar.
5. Etiği işlevsel hale getirmek için kurumlara ihtiyaç vardır. Potansiyel olarak en acil zorluk olarak tanımlandı: Dünyanın "paylaşılan standartlara, bağımsız gözetime ve açık hesap verebilirlik mekanizmalarına ihtiyacı var, böylece yapay zekanın geliştirilmesi ve kullanımına ilişkin kararların incelenebilmesi, gerektiğinde sorgulanabilmesi ve neden olunan herhangi bir zarara yönelik uygun çözümlerin eşlik edebilmesi."
Vatikan'ın ötesi neden önemli?
Vatikan sessizce yapay zeka yönetişimi konusunda en tutarlı kurumsal seslerden biri haline geldi. Microsoft, IBM, FAO ve İtalyan hükümetiyle birlikte Papalık Yaşam Akademisi tarafından Şubat 2020'de imzalanan Roma Yapay Zeka Etiği Çağrısı bu ekosistemden doğdu ve Papalık Yaşam Akademisi biyoetik ve makine karar verme konusunda teknoloji uzmanlarını defalarca bir araya getirdi. Sınır modeli riskine ilişkin açık mektupların arkasındaki yapay zeka güvenlik örgütü olan Yaşamın Geleceği Enstitüsü ile ortak örgütlenme, dini ve seküler yapay zeka etik toplulukları arasında köprü kurmaya yönelik çabaların devam ettiğinin sinyalini veriyor.
Politika yapıcılar için Cenevre çağrısı somut bir sonuçtur: Otonom silahlarla ilgili müzakereler devam ederken Vatikan gönüllü kurallar değil, bağlayıcı bir yasak istiyor. Ve yapay zeka endüstrisi için, kişilikle ilgili mesaj kumda net bir çizgidir; ne kadar özerk ajanlar olursa olsun, ahlaki ve yasal sorumluluk onları inşa eden ve dağıtan insanlara aittir.
