New York Valisi Kathy Hochul, yapay zeka şirketlerinin reşit olmayanlara chatbot eşlik eden özellikler sunmasını yasaklayan bir yasayı imzaladı; bu, devlet yetkililerinin ülkede türünün en güçlü yasası olarak adlandırdığı bir önlem. S.9051B/A.10379C sayılı yasa tasarısı, New York'ta satılan internet bağlantılı bebek telsizlerinin güvenlik özellikleri içermesini zorunlu kılan ikinci bir tedbirle birlikte bu hafta imzalandı.

İmza duyurusunda Hochul, "Yapay zeka hızlı bir şekilde ilerledikçe, önlenmesi gereken çok fazla trajik olay yaşandı ve New York'un annesi Valisi olarak harekete geçiyorum" dedi. "Hiçbir şirket çocuklara kendilerine zarar vermeyi teşvik eden veya onların arkadaşları gibi davranan veya daha fazlası gibi davranan sohbet robotları satmamalı." For more context on this story, see our ongoing AI news.

Yasa Neleri Yasaklıyor?

Yeni yasaya göre, AI sohbet robotu özellikleri sunan şirketler, 18 yaşın altındaki kullanıcılara veya şirket önceden kullanıcının reşit olmadığını onaylamadığı sürece herhangi bir kullanıcıya çeşitli davranış kategorileri sağlayamayabilir. Yasaklanan özellikler şunları içerir:

  • Gerçek bir insanmış gibi davranan, hayattaymış gibi davranan veya insan duygularına sahip olan chatbotlar
  • Bir çocukla kişisel, romantik, profesyonel veya otorite figürü ilişkisi olduğunu iddia etmek
  • İstenmeden duygusal sorular sorulması ve çocuğun daha önceki konuşmalardaki özel sağlık bilgilerinin veya kişisel bilgilerinin kullanılması
  • İntiharı, kendine zarar vermeyi, yeme bozukluklarını veya uyuşturucu ve alkol kullanımını teşvik etmek veya bunlara yardımcı olmak
  • Çocukları sır saklamaya, kendilerini izole etmeye veya ebeveynlerden, güvenilir yetişkinlerden veya profesyonellerden yardım istemekten kaçınmaya teşvik etmek
  • Herhangi bir müstehcen içerik veya çocukların cinsel istismarına yönelik materyal

Tasarının Senato sponsoru Senatör Kristen Gonzalez, yapay zeka şirketlerinin sohbet robotlarını reşit olmayan tüketicilere sunmaktan kazanç elde ettiğini söyledi ve sohbet robotlarının kendine zarar vermeyi teşvik ettiğini ve reşit olmayanları başkalarına zarar verme konusunda eğittiğini belirtti. Tasarıyı Meclis'te taşıyan Meclis üyesi Alex Bores, yasanın "sektörün agresif muhalefetine rağmen" kabul edilen ülkedeki en güçlü çocuk yapay zeka güvenliği yasası olduğunu söyledi.

Yaş Doğrulama Gereksinimleri

Kanun içerik kurallarıyla sınırlı değildir. Şirketler yaş doğrulaması yapmalı ve yalnızca resmi kimliğe bağlı olmayan en az bir seçenek de dahil olmak üzere birden fazla yöntem sunmalıdır. Yaş bilgisinin kullanıldıktan sonra silinmesi gerekmektedir; bu hüküm, doğrulama verilerinin başka bir gizlilik riski haline gelmesini önlemeyi amaçlamaktadır.

Uygulama yetkisi eyalet başsavcısına aittir. İhlaller için Başsavcı Letitia James, ihlal başına 25.000 ABD Dolarına kadar para cezasının yanı sıra tazminat, tazminat, yasa dışı olarak toplanan verilerin veya bu konuda eğitilmiş herhangi bir yapay zeka modelinin imhası ve ihtiyati tedbir talep edebilir. Yasa ayrıca başsavcının New Yorkluların şikayette bulunabileceği halka açık bir web sitesi bulundurmasını da gerektiriyor.

Tedbir konusunda ofisi valilik ve milletvekilleriyle birlikte çalışan James, eyaletin "chatbotların çocuklarımızın sağlığına zarar verdiğine dair çok fazla korku hikayesi" gördüğünü söyledi ve New Yorkluları "yasanın tüm gücüyle" savunacağına söz verdi.

Tasarıyı Etkileyen Kanıtlar

Milletvekilleri, yasayı savunan kar amacı gütmeyen kuruluş Common Sense Media'nın araştırmalarına güvendi. Valinin duyurusunda belirtilen rakamlara göre, gençlerin yüzde 72'si en az bir kez yapay zekalı bir arkadaş kullanıyor ve yüzde 52'si ayda en az birkaç kez yapay zekalı arkadaşlarla etkileşime giren düzenli kullanıcılardan oluşuyor.

Valilik, AI chatbot'ların bağımlılık ve izolasyonla bağlantılı olduğunu ve bazı durumlarda reşit olmayanlarla cinsel içerikli konuşmalar yaptığını ve iddialara göre gençleri kendi canlarına kıymaya teşvik ettiğini söyledi. Common Sense Media'nın kurucusu ve CEO'su James P. Steyer, imzalanan tasarıyı "ülkedeki en güçlü çocuklara yönelik yapay zeka güvenlik yasa tasarısı" olarak nitelendirdi ve zararlı sohbet robotu özelliklerinin "New York'ta yasa dışı ilan edileceğini" söyledi.

Tedbir, New York'un daha önce ülkede ilk kez uygulanan yapay zeka refakatçi koruma önlemlerini temel alarak bunları açıklama gerekliliklerinden küçüklere yönelik belirli sohbet robotu davranışlarına yönelik doğrudan yasaklara kadar genişletiyor.

Bebek Telsizlerini Hedef Alan Bir Yardımcı Yasa Tasarısı

Hochul aynı zamanda ikinci bir teknoloji güvenliği yasa tasarısını da imzaladı. S.9508/A.5175A, yabancıların izlemesini veya dinlemesini engelleyen güvenlik özellikleri içermediği sürece, internet üzerinden ses veya görüntü yayını yapan, internet bağlantılı yeni bebek telsizlerinin satışını yasaklamaktadır. Cihazların ayrıca internete bağlandıklarını ve ailelerin güvenlik özelliklerini kullanması gerektiğini açıklayan açık bir uyarı etiketi taşıması gerekmektedir. Bu yasa imzalandıktan 90 gün sonra yürürlüğe giriyor.

Gerekçe güvenlik araştırmasından geldi: Rapid7'deki araştırmacılar sekiz şirkete ait dokuz internet bağlantılı bebek monitörünü test ettiğinde, monitörlerden sekizi güvenlik açısından "F" notu ve biri de "D" aldı.

Daha Geniş Bir Hesaplaşmanın Parçası

New York'un hamlesi, yapay zeka sohbet robotları ve reşit olmayanlara yönelik eyalet düzeyinde bir eylem dalgasının ortasında gerçekleşti; ülke çapındaki yasama organları, bir dizi yüksek profilli olayın ardından eşlik eden botlara yönelik kısıtlamaları ağırlaştırıyor. New York yasası, ihlal başına cezalar, birden fazla yolla zorunlu yaş doğrulaması ve şirketleri yasa dışı olarak toplanan verilerle eğitilen modelleri yok etmeye zorlama olasılığı gibi yaptırım dişleriyle dikkat çekiyor.

Arkadaşlık tarzı ürünler çalıştıran yapay zeka şirketleri için uyumluluk sonuçları oldukça önemli: New York'ta kullanıcıya yönelik herhangi bir sohbet robotunun, duygusal rol yapma gibi özellikleri etkinleştirmeden önce sağlam bir yaş güvencesine ihtiyacı var ya da bu özelliklerin varsayılan olarak kapatılması gerekiyor. Başsavcıya ihlal başına ceza uygulama ve kusurlu veri kümeleri ile modellerin imhasını talep etme yetkisi verildiğinde, yanlış anlamanın maliyeti artık itibar kaybının çok ötesine geçiyor.

Önümüzdeki aylarda, şirketler ürünlerini New York kullanıcıları için ayarlarken, eyaletin yaklaşımı muhtemelen diğer yasama organlarının inceleyeceği bir şablon ve eyalet düzenleyicilerinin tüketici yapay zeka ürünlerinin en genç kullanıcılara nasıl davranacağını anlamlı bir şekilde yeniden şekillendirip şekillendiremeyeceğine dair bir test görevi görecek.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →