The Verge Çarşamba günü geç saatlerde Reuters'e atıfta bulunarak, dünyanın en popüler chatbot'unun yapımcısına karşı eyalet düzeyindeki en kapsamlı yasal işlem olan OpenAI'nin, şirketi çocuklara zarar vermek ve halkı ChatGPT'nin güvenliği konusunda yanıltmakla suçlayan yeni bir dava dalgasıyla karşı karşıya olduğunu bildirdi.

Davalar Iowa, Kansas, Nebraska, Batı Virginia, Arkansas, Arizona, Idaho ve Montana tarafından ayrı ayrı açıldı. Her biri, OpenAI'nin ChatGPT'yi geliştirirken yasa dışı bir şekilde kârı güvenliğe koyduğunu ve müşterileri ürünün tehlikeleri konusunda uyarmayarak yerel tüketici koruma yasalarını ihlal ettiğini iddia ediyor. Bu hikayeyle ilgili daha fazla bağlam için devam eden son dakika AI haber yayınımıza bakın.

Eyaletlerin iddiaları

Şikayetler, OpenAI'nin yanıltıcı bir şekilde ChatGPT'yi "güvenliği ön planda tutan güvenli, gençlere uygun bir araç" olarak sunduğunu, oysa ürünün aslında "savunmasız kullanıcılar için tehlikeli" olduğunu iddia ediyor. İddia edilen belirli zararlar arasında şunlar yer alıyor: eleştirel düşünme becerilerini aşağılamak, paranoyayı ve sanrıları teşvik etmek, tehlikeli tıbbi tavsiyelerde bulunmak ve sağlıksız davranış ve ilişkileri teşvik etmek.

The Guardian'ın başvurularla ilgili raporuna göre eyaletler, OpenAI'yi çocuklara kendilerine zarar verme konusunda koçluk yapmakla suçluyor; bu, aldatıcı pazarlama iddialarının ötesine geçen ve korunan bir kullanıcı sınıfını etkileyen ürün güvenliği sorunları alanına giren bir dil.

Davalar ayrıca OpenAI'nin reşit olmayanlardan veri topladığını ve reşit olmayan kullanıcıları platformdan tamamen uzak tutmak için yeterince şey yapmadığını da iddia ediyor; bu, kullanıcılardan yaşlarını kendileri bildirmelerini isteyen sohbet robotları için kalıcı bir zayıf nokta.

Yanlış ölüm vakaları arka planda kalıyor

Eyalet şikayetleri büyük ölçüde gençlerin ve yetişkinlerin aile üyelerinin ChatGPT'nin sevdiklerinin ölümlerinde rol oynadığını iddia ederek açtığı bir dizi özel davaya dayanıyor. Geçtiğimiz yıl açılan bu davalar, yapay zekanın refakatçi tarzı kullanımına karşı tepkinin kamuya açık yüzü haline geldi ve şimdi eyalet başsavcıları bunları münferit olaylardan ziyade bir modelin kanıtı olarak gösteriyor.

Çocuklar ve yapay zeka üzerine yapılan araştırmaların çoğuna öncülük eden kar amacı gütmeyen kuruluş Common Sense Media, ChatGPT'nin gençlere yönelik teklifinin "kabul edilemez bir risk" oluşturduğu konusunda ayrı ayrı uyardı ve Florida, ChatGPT'nin bir kişi gibi davranmasını yasaklamak için harekete geçti; bu, eyaletlerin yeni başvurularının artık mahkemede yankı bulduğuna dair düzenleyici sinyaller.

Sahte yapay zeka korsanlığı olayları mahkeme salonuna giriyor

Alışılmadık bir hareketle, davalarda OpenAI'nin iddia edilen pervasızlığının kanıtı olarak son dönemdeki hileli AI hackleme olayları da gösteriliyor. Bu argüman, son haftalarda haber döngüsüne hakim olan ajanlarla ilgili olaylar da dahil olmak üzere OpenAI'nin güvenlik kayıtlarını, eyaletlerin genç kullanıcıları tehlikeye attığını söylediği güvenliğe öncelik verme konusundaki başarısızlığın bir parçası olarak etkili bir şekilde ele alıyor.

The Verge'e göre Arizona'nın davasında "OpenAI, güvenliğe öncelik veren, önceliği kamuya açık, kâr amacı gütmeyen bir kuruluş olma orijinal misyonundan, yapay zeka kadar güçlü bir aracın geliştirilmesi güvenlikle değil, temel güvenlik önlemlerini bir kenara bırakan her ne pahasına olursa olsun kâr zihniyetiyle yönlendirildiğinde neler olabileceğine dair uyarıcı bir hikayeye dönüştü."

OpenAI için genişleyen bir yasal cephe

Sekiz eyaletli eylem, OpenAI'nin halihazırda yaslı ailelerin özel davalarını savunduğu, eyalet başsavcılarının mahkeme celpleriyle karşı karşıya olduğu ve Washington'daki değişen düzenleyici ortamla mücadele ettiği bir dönemde gerçekleşti. Yeni başvuruları farklı kılan şey ölçek ve duruştur: Eyalet AG'leri, bireysel zararlar için tazminat aramak yerine, ChatGPT'nin pazarlanma, yaş sınırlaması ve genç kullanıcılar için tasarlanma biçiminde değişiklik yapmaya zorlamak için tüketici koruma yasalarından yararlanıyor.

OpenAI için başvurular hassas bir anda yapılıyor. Şirket, agresif bir ürün temposuyla kurumsal müşterilere ve tüketicilere hitap ederken, güvenlik incelemelerinin piyasaya sürülmesi konusunda kamuoyu önünde ısrar ediyor. Artık sekiz eyalet resmi olarak tam tersini, yani şirketin kamu güvenliği iddialarının aldatmaca olduğunu iddia ediyor.

Sonra ne olacak

Eyalet başsavcıları tarafından açılan tüketici koruma davaları genellikle ürün değişikliklerini zorunlu kılan ihtiyati tedbir, para cezası veya rıza kararlarını (bu durumda potansiyel olarak daha katı yaş doğrulaması, güvenlik açıklamaları veya ChatGPT'nin reşit olmayanlarla etkileşimine ilişkin kısıtlamalar) gerektirir. Her büyük laboratuvar aynı yapısal soruyla karşı karşıya olduğundan, herhangi bir çare tüm yapay zeka endüstrisine yayılabilir: Bu kadar yetenekli sistemleri, bunları değerlendiremeyecek kadar genç kullanıcılardan nasıl uzak tutabiliriz?

OpenAI, raporlama sırasında başvurulara bir kamu açıklamasıyla hemen yanıt vermedi. Şirket daha önce modellerini gençler için güvenli hale getirmeye çalıştığını ve ebeveyn kontrollerini uygulamaya koyduğunu belirtmiş, ancak güvenlik önlemlerinin gerçek dünya kullanımında kusurlu olduğunu kabul etmişti.

Sekiz dava, ChatGPT'nin güvenlik sicilinin artık ülke çapındaki eyalet mahkemelerinde dava edileceğini ve bir AI chatbot'un bir çocuğa zarar vermesi durumunda kimin sorumlu olacağı sorusunun basın bültenleri yerine en azından kısmen hakimler tarafından kararlaştırılacağını garanti ediyor.

Vakalar ne şekilde çözülürse çözülsün, Amerikalı düzenleyicilerin yapay zeka tüketici ürünlerine yaklaşımında bir değişime işaret ediyor: Pazarlama materyallerinde öne sürülen güvenlik iddiaları artık yasal olarak test edilebilir beyanlar olarak değerlendiriliyor ve bunları yapan şirketler onlara tabi tutuluyor. Yaş sınırlarını aşmanın yollarını bulan reşit olmayanlar da dahil olmak üzere genel bir kitleye sohbet robotları gönderen tüm büyük AI laboratuvarları, bu sekiz eyaletin gidişatını izleyecek.

---

Yapay Zekanın Önünde Olun

En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.

Daha fazla AI haberini okuyun →