Gubernator Nowego Jorku Kathy Hochul podpisała przepisy zabraniające firmom zajmującym się sztuczną inteligencją oferowania nieletnim funkcji towarzyszących chatbotowi. Urzędnicy stanowi uważają, że jest to najsilniejsze prawo tego typu w kraju. W tym tygodniu podpisano ustawę S.9051B/A.10379C wraz z drugim aktem wymagającym, aby elektroniczne nianie sprzedawane w Nowym Jorku wyposażone w zabezpieczenia.

„Ponieważ sztuczna inteligencja rozwija się w szybkim tempie, doszło do zbyt wielu tragicznych incydentów, którym należało zapobiec, dlatego jako mama gubernator Nowego Jorku podejmuję działania” – oznajmiła Hochul w oświadczeniu o podpisaniu porozumienia. „Żadna firma nie powinna sprzedawać chatbotów dzieciom, zachęcając je do samookaleczenia lub udając, że są ich przyjaciółmi lub czymś więcej”. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.

Czego zabrania prawo

Zgodnie z nowym statutem firmy oferujące funkcje chatbota AI nie mogą udostępniać kilku kategorii zachowań użytkownikom poniżej 18 roku życia – ani żadnemu użytkownikowi, chyba że firma najpierw potwierdziła, że użytkownik nie jest osobą niepełnoletnią. Zakazane funkcje obejmują:

  • Chatboty udające prawdziwą osobę, żyjące lub posiadające ludzkie emocje
  • Twierdzenie, że z dzieckiem utrzymuje się osobisty, romantyczny, zawodowy lub autorytetowy związek
  • Zadawanie pytań emocjonalnych bez podpowiedzi i wykorzystywanie prywatnych danych dotyczących zdrowia dziecka lub danych osobowych uzyskanych z wcześniejszych rozmów
  • Promowanie lub pomaganie w samobójstwie, samookaleczeniu, zaburzeniach odżywiania lub używaniu narkotyków i alkoholu
  • Zachęcanie dzieci do zachowywania tajemnic, izolowania się lub unikania proszenia o pomoc rodziców, zaufanych dorosłych lub specjalistów
  • Wszelkie treści o charakterze jednoznacznie seksualnym lub materiały przedstawiające wykorzystywanie seksualne dzieci

Senator Kristen Gonzalez, sponsorka ustawy w Senacie, stwierdziła, że firmy zajmujące się sztuczną inteligencją odniosły korzyści z udostępniania chatbotów nieletnim konsumentom, powołując się na przykłady chatbotów zachęcających do samookaleczania i szkolących nieletnich w zakresie wyrządzania krzywdy innym. Członek Zgromadzenia Alex Bores, który opowiadał się za ustawą w Zgromadzeniu, nazwał ją najsurowszą ustawą dotyczącą bezpieczeństwa dzieci w kraju, uchwaloną „pomimo agresywnego sprzeciwu branży”.

Wymagania dotyczące weryfikacji wieku

Prawo nie ogranicza się do zasad treści. Firmy muszą przeprowadzać weryfikację wieku i oferować więcej niż jedną metodę – w tym co najmniej jedną opcję niezależną wyłącznie od dokumentu tożsamości. Informacje o wieku należy usunąć po ich wykorzystaniu, co ma na celu zapobieganie sytuacji, w której dane weryfikacyjne stały się kolejnym zagrożeniem dla prywatności.

Władza egzekucyjna należy do Prokuratora Generalnego stanu. W przypadku naruszeń prokurator generalna Letitia James może dochodzić kar cywilnych w wysokości do 25 000 dolarów za każde naruszenie, wraz z odszkodowaniem, zadośćuczynieniem, zniszczeniem nielegalnie zebranych danych – lub wszelkich przeszkolonych na nich modeli sztucznej inteligencji – a także nakazem sądowym. Prawo nakłada również na prokuratora generalnego obowiązek prowadzenia publicznej strony internetowej, na której mieszkańcy Nowego Jorku mogą składać skargi.

James, którego biuro współpracowało w tej kwestii z biurem gubernatora i legislatorami, stwierdził, że stan widział „zbyt wiele przerażających historii o chatbotach szkodzących zdrowiu naszych dzieci” i zobowiązał się bronić nowojorczyków „z całą mocą prawa”.

Dowody, które doprowadziły do uchwalenia ustawy

Ustawodawcy oparli się na badaniach przeprowadzonych przez Common Sense Media, organizację non-profit, która opowiadała się za przyjęciem przepisów. Według danych przytoczonych w oświadczeniu gubernatora 72 procent nastolatków przynajmniej raz skorzystało z towarzysza AI, a 52 procent to regularni użytkownicy, którzy wchodzą w interakcję z towarzyszami AI co najmniej kilka razy w miesiącu.

Biuro gubernatora stwierdziło, że chatboty oparte na sztucznej inteligencji są powiązane z uzależnieniem i izolacją, a w niektórych przypadkach prowadzą rozmowy o charakterze jednoznacznie seksualnym z nieletnimi i rzekomo zachęcają nastolatków do odebrania sobie życia. Założyciel i dyrektor generalny Common Sense Media, James P. Steyer, nazwał podpisaną ustawę „najsilniejszą ustawą o bezpieczeństwie sztucznej inteligencji dzieci w kraju” i powiedział, że szkodliwe funkcje chatbota „będą zakazane w Nowym Jorku”.

Środek ten opiera się na wcześniejszych, pierwszych w kraju zabezpieczeniach towarzyszących sztucznej inteligencji w Nowym Jorku, rozszerzając je z wymogów dotyczących ujawniania informacji na całkowity zakaz dotyczący określonych zachowań chatbotów wobec nieletnich.

Ustawa towarzysząca dotyczy elektronicznych niań

W tym samym czasie Hochul podpisał drugą ustawę o bezpieczeństwie technologii. S.9508/A.5175A zabrania sprzedaży nowych niani podłączonych do Internetu, które transmitują dźwięk lub obraz przez Internet, chyba że zawierają one zabezpieczenia uniemożliwiające obcym oglądanie lub podsłuchiwanie. Urządzenia muszą być również opatrzone wyraźną etykietą ostrzegawczą wyjaśniającą, że łączą się z Internetem i że rodziny powinny korzystać z ich zabezpieczeń. Ustawa ta wchodzi w życie 90 dni od podpisania.

Uzasadnienie wynika z badań nad bezpieczeństwem: kiedy badacze z Rapid7 przetestowali dziewięć podłączonych do Internetu elektronicznych niani pochodzących z ośmiu firm, osiem z nich otrzymało ocenę „F” pod względem bezpieczeństwa, a jeden otrzymał ocenę „D”.

Część szerszego rachunku

Posunięcie Nowego Jorku następuje po fali działań na szczeblu stanowym przeciwko chatbotom AI i nieletnim, a legislatury w całym kraju rozważają ograniczenia dotyczące botów towarzyszących po serii głośnych incydentów. Nowojorskie prawo wyróżnia się względami egzekwowania prawa — karami za każde naruszenie, obowiązkową weryfikacją wieku na wiele sposobów oraz możliwością zmuszania firm do niszczenia modeli wyszkolonych na podstawie nielegalnie zebranych danych.

W przypadku firm zajmujących się sztuczną inteligencją obsługujących produkty towarzyszące implikacje dotyczące zgodności są znaczne: każdy chatbot stykający się z użytkownikiem w Nowym Jorku albo potrzebuje solidnego sprawdzenia wieku, zanim włączy funkcje takie jak emocjonalne odgrywanie ról, albo funkcje te muszą być domyślnie wyłączone. Ponieważ prokurator generalny jest uprawniony do nakładania kar za każde naruszenie i żądania zniszczenia skażonych zbiorów danych i modeli, koszt błędnego popełnienia błędu wykracza obecnie daleko poza utratę reputacji.

W nadchodzących miesiącach, gdy firmy dostosowują swoje produkty do użytkowników w Nowym Jorku, podejście stanu prawdopodobnie posłuży jako szablon do analizy innych organów ustawodawczych oraz sprawdzian, czy stanowe organy regulacyjne mogą w znaczący sposób zmienić sposób, w jaki konsumenckie produkty AI traktują swoich najmłodszych użytkowników.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →