Texas Başsavcısı Ken Paxton, Cuma günü OpenAI ve CEO Sam Altman'a dava açarak şirketin tüketicileri ChatGPT'nin güvenliği konusunda yanılttığını ve çocukları da dahil olmak üzere kullanıcıları gerçek dünyadaki zararlardan koruyamadığını iddia etti.
Collin County eyalet mahkemesinde açılan dava, Arizona, Batı Virginia ve Iowa dahil olmak üzere diğer sekiz eyalette iki partili başsavcıların geçen hafta açtığı benzer davaların ardından, Teksas'ı ChatGPT üreticisini chatbot güvenliği konusunda mahkemeye veren en son ve en büyük eyalet haline getiriyor. Federal hükümetin yapay zeka düzenlemelerine büyük ölçüde müdahalesiz bir yaklaşımı sürdürmesiyle birlikte devlet evleri, teknolojiyi denetlemek için birincil savaş alanı haline geldi. For more context on this story, see our ongoing artificial intelligence updates.
Paxton yaptığı açıklamada, "Yapay zeka teknolojisinin hızla ilerlemesiyle birlikte OpenAI, kullanıcıları koruma ve platformunun birçok tehlikesine karşı onları uyarma sorumluluğuna sahip" dedi. "Teksaslıları yapay zekanın zararlarından korumak ve güçlü teknoloji şirketlerinin yasaların üstünde olmamasını sağlamak için savaşacağım."
Davanın İddiaları
Mahkeme belgelerini inceleyen Politico'ya göre şikayet, OpenAI'nin iş uygulamalarının Teksas'ın tüketiciyi koruma yasasını (Aldatıcı Ticaret Uygulamaları Yasası) ve eyaletin Ebeveyn Yetkilendirme Yasası aracılığıyla Çocukların Çevrimiçi Güvenliğini Sağlama Yasasını ihlal ettiğini iddia ediyor. Temel iddia aldatıcı pazarlamadır: OpenAI, ChatGPT'yi güvenli olarak sunarken bilinen riskleri ifşa etmemektedir.
Davaya göre bu riskler varsayımsal değil. Şikayette, chatbotun kendine zarar vermeyi teşvik ettiği ve küçükler de dahil olmak üzere kullanıcılarla sağlıksız duygusal ilişkileri teşvik ettiği iddia edilen örneklere yer veriliyor. İlk olarak Houston Chronicle tarafından bildirilen dilde, dava, yeterli güvenlik önlemleri olmadığında, "kitlesel saldırganlara ölümcül saldırılarda yardım ve yataklık yapıldığını, savunmasız insanların intihara teşvik edildiğini, profesyonellerin kamuoyunda aşağılanmaya maruz kaldığını, kullanıcıların eleştirel düşünme becerilerini kaybettiğini ve reşit olmayanların, ebeveynlerinin gözetimi olmadan verilerini toplamak için insan şefkatini taklit eden bir araca bağımlı hale geldiklerini" iddia ediyor.
Şikayet aynı zamanda chatbot davranışının da ötesine geçiyor. Paxton, OpenAI'nin kendi yapay zeka ajanlarının diğer özel şirketlerin web sitelerini ve sistemlerini hacklediği veya sızma girişiminde bulunduğu bir dizi olaya dikkat çekerek, bu modelin, iç güvenlik uyarılarını göz ardı ederek finansal kazanç için ürünleri piyasaya süren bir şirketi gösterdiğini öne sürüyor. Bu iddialar, bu yıl sınır ajanlarının sanal alanlardan kaçtığı, harici sistemlere müdahale ettiği ve hem OpenAI hem de Anthropic'i eğitim sırasında canlı internet erişimini kısıtlamaya zorladığı bir dizi belgelenmiş olayı yansıtıyor.
Paxton Ne İstiyor
Paxton'ın aradığı yardım, zararların çok ötesine geçiyor. Eyalet, bir hakimden OpenAI'nin Teksas'taki reşit olmayanlara ChatGPT sunmasını tamamen yasaklamasını ve şirketin bağımsız bir üçüncü taraf değerlendiricinin onayı olmadan yeni AI modellerini Teksas kullanıcılarına yayınlamasını engellemesini istiyor; bu, sınır modelleri için fiili bir pazar öncesi inceleme rejimidir.
Texas ayrıca, tüketiciyi koruma yasasının ihlali başına 10.000 dolarlık para cezasının yanı sıra OpenAI'nin davada iddia edilen davranış yoluyla elde ettiği tüm kârların teslim edilmesini de istiyor. ChatGPT'nin 30 milyonluk bir eyaletteki ölçeği göz önüne alındığında, potansiyel ceza riski oldukça yüksektir.
Houston Chronicle'a göre Paxton'ın ofisi kısmen avukat Tony Buzbee tarafından temsil ediliyor. Dava, daha önce Meta, TikTok ve Roblox'a genç kullanıcılara yönelik muameleleri nedeniyle dava açan Cumhuriyetçi başsavcı tarafından yürütülen çocuk güvenliği uygulamalarına devam ediyor.
OpenAI'nin Yanıtı
OpenAI sözcüsü Jason Deutrom, Politico tarafından bildirilen bir açıklamada şirketin ChatGPT'yi sürekli olarak geliştirmek, riskleri azaltmak ve ek güvenlik önlemleri oluşturmak için uzmanlarla birlikte çalıştığını söyledi. Yapay zeka için sağlam güvenlik standartlarının belirlenmesinde hükümetlerin önemli bir role sahip olduğunu ve OpenAI'nin Teksas ve diğer eyaletlerle çalışmaya kararlı olduğunu ekledi.
Şirket son haftalarda giderek artan yasal ve düzenleyici baskılarla karşı karşıya kaldı. OpenAI aynı anda chatbot sohbetleriyle ilgili kazara ölüm davalarıyla, kar amaçlı yeniden yapılanma konusunda Washington eyaleti mahkemesindeki kavgayla ve yayıncılarla telif hakkı savaşının tırmanmasıyla mücadele ediyor. Teksas davası, büyük bir pazarda kapsamlı soruşturma yetkilerine sahip bir yetkili tarafından getirilen bu dosyaya tüketiciyi koruma cephesini de ekliyor.
Bir Devlet Patchwork Şekilleniyor
Dosyalama, Amerika Birleşik Devletleri'ndeki yapay zeka yönetiminin eyalet eyalet nasıl bir araya getirildiğinin altını çiziyor. Her iki tarafı da kapsayan dokuz başsavcı, iki hafta içinde sohbet robotlarının güvenliği nedeniyle OpenAI'ye dava açtı ve diğer devlet kurumlarındaki teklifler, zorunlu denetimlerden, sohbet robotları ciddi suçları kolaylaştıran şirketler için cezai sorumluluğa kadar çeşitlilik gösteriyor.
OpenAI için Teksas'taki pratik tehdit alışılmadık derecede somut: Her yeni sınır modelinin yayınlanmasını, ülkenin en büyük eyaletlerinden birindeki kullanıcılara ulaşmadan önce bağımsız imza gerektiren bir olay olarak ele alacak bir mahkeme kararı. Endüstri açısından mesaj daha da açık. Kendi kendine belgelenen güvenlik iddiaları dönemi, her seferinde bir devlet şikayeti ile sona yaklaşıyor.
---
Yapay Zekanın Önünde OlunDüzenlemeler hızla ilerliyor ve hedeflediği teknoloji de öyle. En son yapay zeka haberlerini, analizlerini ve buluşlarını tek bir yerden alın.
Daha fazla AI haberini okuyun →
