San Francisco şehir savcısı, Apple ve Google'a yapay zeka çıplaklaştırma uygulamalarını uygulama mağazalarından kaldırmalarını emretti ve platformların derin sahte pornografi oluşturan hizmetleri yasaklayan Kaliforniya yasalarını ihlal ettiği konusunda uyarıda bulundu. Talep, gerçek insanların sıradan fotoğraflarını müstehcen görüntülere dönüştüren AI araçlarına yönelik artan çatışmayı artırıyor; bu kriz, kadınları ve çocukları orantısız bir şekilde mağdur ediyor.
Sorunun Boyutu
Çıplaklaştırma uygulamaları, gerçek insanların fotoğraflarından kıyafetleri çıkarmayı, özelliklerini değiştirmeyi, onları cinselleştirilmiş konumlara yerleştirmeyi ve yüzleri diğer insanların çıplak vücutlarıyla değiştirmeyi oldukça kolaylaştırmak için üretken yapay zeka kullanıyor. Teknoloji, mobil uygulama mağazalarında hızla yayıldı ve sonuçlar, mağdurlara zorbalık yapmak, aşağılamak ve yıkıcı sonuçlarla tehdit etmek için kullanılıyor.
San Francisco Şehir Savcısı David Chiu, Wired'a, çıplaklaştırma teknolojisinin her yerde yaygın hale gelmesinden ofisinin kesinlikle dehşete düştüğünü, daha fazla aletin piyasaya akın etmesiyle çoğunlukla kadınları ve çocukları endişe verici bir ölçekte mağdur ettiğini söyledi. Görüntülerin itibarı yok etmek, zihinsel sağlığa zarar vermek ve mağdurların özerkliğini ortadan kaldırmak için kullanıldığını ve bazı hedeflerin intihara meyilli hale geldiğini söyledi.
Mektupların Talep Ettiği Şeyler
Wired'a göre Chiu'nun ofisi her iki şirkete de uygulama mağazalarının derin sahte pornografi oluşturan destek hizmetlerini yasaklayan Kaliforniya yasalarını ihlal ettiği konusunda uyarıda bulunan resmi mektuplar gönderdi. Google'dan beş uygulamayı, Apple'dan da sekiz uygulamayı kaldırmasını istedi. İnsanları bu uygulamalara yönlendirmemek için kamuya açık haberlerde bu uygulamaların isimleri belirtilmedi ancak Wired, işaretlenen bir uygulamanın bir milyondan fazla indirildiğini ve kadın görsellerini cinselleştirmeye veya ücretsiz ve sansürsüz videolar üretmeye yönelik özelliklerin açıkça reklamını yaptığını belirtti.
Chiu'nun ofisi, Apple ve Google'ın, daha güçlü önlemler almak veya daha iyi algılama sistemleri geliştirmek yerine, zararlı uygulamaların mağazalarında kalmasına izin vererek muhtemelen milyonlarca dolar ücret kazandığını tahmin ediyor. Şehir savcısı, bu tür uygulamaların mevcut kalmasına izin verilmesinin kabul edilemez olduğunu savunarak, durumu kamunun rahatsızlığından kazanç sağlamak olarak nitelendirdi.
Google Yanıt Veriyor, Apple Sessiz Kalıyor
Google sözcüsü Dan Jackson, Ars Technica'ya yaptığı açıklamada, Chiu tarafından işaretlenen beş uygulamanın, zararlı içeriğe karşı politikaları ihlal ettiği gerekçesiyle Google Play mağazasından askıya alındığını doğruladı. Jackson, Google Play'in cinsel içerik barındıran uygulamalara izin vermediğini ve şirketin zararlı içeriğe sahip uygulamaları tespit etmek ve kaldırmak için sürekli olarak proaktif adımlar attığını söyledi. Jackson, ihlaller bildirildiğinde Google'ın araştırdığını ve hızlı bir şekilde harekete geçtiğini, buna ihlalde bulunan yüzlerce uygulamayı askıya almayı ve mağazasında nudify gibi ilgili arama terimlerini kısıtlamayı da dahil ettiğini söyledi.
Apple'ın tepkisi oldukça farklıydı. Şirket geçmişte araştırmacılar tarafından işaretlenen bazı uygulamaları kaldırmış olsa da, App Store'da polisin çıplaklaştırma uygulamalarına daha agresif bir şekilde yapılan çağrılar karşısında oldukça sessiz kalmıştı. İPhone üreticisi, şehir avukatının taleplerine hemen ayrıntılı bir kamuoyu yanıtı vermedi.
Kedi-Fare Tespit Oyunu
Bu uygulamaları denetlemenin zorluğu, gelişen taktikleriyle daha da artıyor. Wired, araştırmacıların son zamanlarda bazı zararlı uygulamaların, çıplaklaştırma yeteneklerini gizleyerek yalnızca yüz değiştirme özelliklerinin reklamını yaparak uygulama mağazasının kaldırılmasından kaçınma konusunda daha iyi hale geldiği konusunda uyardıklarını bildirdi. Mayıs ayında yayınlanan bir ön baskı makalesinde araştırmacılar, genel yüz değiştirme araçları olarak pazarlanan 420 uygulamayı belirledi ve bunlardan 155'ini test etti. Vakaların yüzde 70'inden fazlasında, uygulamalar görselleri cinselleştirmek için kullanılabiliyor ve bu da zararlı işlevlerin zararsız pazarlamanın arkasına ne kadar kolay gizlendiğini gösteriyor.
Bu tespit açığı, uygulama mağazalarının proaktif olarak çıplaklaştırma araçlarını aradığında bile birçoğunun kendilerini zararsız eğlence veya fotoğraf düzenleme yazılımı olarak sunarak kaçması anlamına geliyor. Araştırmacıların bulguları, dolaşımdaki sorunlu uygulamaların gerçek sayısının muhtemelen Chiu'nun ofisi tarafından işaretlenen on üç sayıdan çok daha yüksek olduğunu gösteriyor.
Grok Emsali
Nudify uygulamasına yönelik baskılar aynı zamanda yapay zeka tarafından oluşturulan zararlı içeriklere ilişkin daha geniş bir tartışmayla da kesişiyor. Bu hafta xAI, Grok tarafından oluşturulan çocuk cinsel istismarı materyalleri ve yetişkinleri hedef alan rıza dışı mahrem görüntüler bulduğunu doğrulayan bir dava açtı. Kötüye kullanımı gidermek için xAI, Grok'u yasa dışı içerik oluşturmaya teşvik etmekten sorumlu olduğu iddia edilen kullanıcıya dava açtı.
Grok davası, uygulama mağazaları için daha zorlu bir soruyu gündeme getiriyor: Yasadışı içerik üretmeye yönlendirilebilen yapay zeka sohbet robotlarının kendilerinin de kaldırılmaya tabi olup olmayacağı. NBC News'e göre Apple'ın Nisan ayında senatörlere Grok'u App Store'dan kaldırmakla özel olarak tehdit ettiğini söylediği bildirildi, ancak xAI uygulaması bugün hala mevcut. Grok'u yasadışı içerik oluşturmak için kullanmak mümkün olduğu sürece, uygulama mağazaları, tıpkı Chiu'nun bağımsız çıplaklaştırma uygulamaları için talep ettiği gibi, harekete geçme baskısıyla karşı karşıya kalmaya devam edecek.
Platform Sorumluluğu İçin Bir Dönüm Noktası
San Francisco emri, yapay zeka tarafından oluşturulan zararlı içerik üzerinden uygulama mağazalarını hedef alan bugüne kadarki en agresif hükümet müdahalelerinden birini temsil ediyor. Chiu, Kaliforniya'nın derin sahte pornografi yasalarını kullanarak, eyalet yasalarının platform operatörlerini pazaryerleri aracılığıyla dağıtılan yapay zeka araçlarının sorumluluğunu üstlenmeye zorlayıp zorlayamayacağını test ediyor.
Sonuç, diğer yetki alanlarının soruna nasıl yaklaştığına ve yapay zeka tarafından oluşturulan rıza dışı görüntüleri denetleme yükünün geliştiricilere, platform operatörlerine veya her ikisine birden düşüp düşmediğine dair bir emsal oluşturabilir. Bu araçların hedefi olan, çoğunluğu kadın ve kız çocukları olmak üzere milyonlarca insan için riskler düzenleyici teorinin çok ötesine uzanıyor.
Yapay Zekanın Önünde Olun
Yapay zeka etiği, platform sorumluluğu ve zararlı sentetik medyaya yönelik düzenleyici mücadeleler hakkında devam eden haberler için, yapay zekanın toplum üzerindeki etkisini şekillendiren sorunlar hakkında rapor vermek üzere AI Buzz Wire adresini takip edin.
Daha fazla yapay zeka etiği haberini okuyun →
