Guvernatorul New York-ului, Kathy Hochul, a semnat o legislație care interzice companiilor de inteligență artificială să ofere minorilor funcții însoțitoare de chatbot, o măsură pe care oficialii de stat o numesc cea mai puternică lege de acest gen din țară. Proiectul de lege, S.9051B/A.10379C, a fost semnat săptămâna aceasta, alături de o a doua măsură care impune ca monitoarele pentru copii conectate la internet vândute în New York să includă funcții de securitate.

„Pe măsură ce inteligența artificială avansează într-un ritm rapid, au existat prea multe incidente tragice care ar fi trebuit prevenite și, în calitate de mama guvernatoare a New York-ului, iau măsuri”, a spus Hochul în anunțul de semnare. „Nici o companie nu ar trebui să ofere chatbot-uri copiilor care încurajează auto-vătămarea sau pretind că sunt prietenul lor sau mai mult.” For more context on this story, see our ongoing AI news.

Ceea ce interzice legea

Conform noului statut, companiile care oferă funcții de chatbot AI nu pot oferi mai multe categorii de comportament utilizatorilor sub 18 ani – sau oricărui utilizator decât dacă compania a confirmat mai întâi că utilizatorul nu este minor. Caracteristicile interzise includ:

  • Chatbots care pretind că sunt o persoană reală, că sunt în viață sau că au emoții umane
  • Pretinderea unei relații personale, romantice, profesionale sau de autoritate cu un copil
  • Întrebări emoționale nesolicitate și utilizarea informațiilor personale ale copilului sau a sănătății private din conversațiile anterioare
  • Promovarea sau asistarea la sinucidere, autovătămare, tulburări de alimentație sau consum de droguri și alcool
  • Încurajarea copiilor să păstreze secrete, să se izoleze sau să evite să ceară ajutor părinților, adulților de încredere sau profesioniștilor
  • Orice conținut sexual explicit sau material de abuz sexual asupra copiilor

Senatorul Kristen Gonzalez, sponsorul Senatului proiectului de lege, a declarat că companiile de inteligență artificială au profitat de pe urma lansării de chatbot-uri către consumatorii minori, citând cazuri de chatbot-uri care încurajează auto-vătămarea și încurajează minorii să facă rău altora. Deputatul Alex Bores, care a susținut proiectul de lege în Adunare, a numit-o cea mai puternică lege privind siguranța IA pentru copii din țară, a fost adoptată „în ciuda opoziției agresive din industrie”.

Cerințe de verificare a vârstei

Legea nu se oprește la regulile de conținut. Companiile trebuie să efectueze verificarea vârstei și să ofere mai multe metode, inclusiv cel puțin o opțiune care nu depinde doar de un act de identitate guvernamental. Informațiile privind vârsta trebuie șterse după ce sunt utilizate, o prevedere menită să împiedice datele de verificare să devină un alt risc de confidențialitate.

Autoritatea de executare revine procurorului general al statului. Pentru încălcări, procurorul general Letitia James poate solicita sancțiuni civile de până la 25.000 USD per încălcare, împreună cu daune, restituirea, distrugerea datelor colectate ilegal - sau orice model AI instruit pe acestea - și măsuri de injoncțiune. Legea cere, de asemenea, procurorului general să mențină un site web public unde new-yorkezii pot depune plângeri.

James, al cărui birou a colaborat cu biroul guvernatorului și parlamentarii cu privire la măsură, a declarat că statul a văzut „prea multe povești de groază despre chatbot-uri care rănesc sănătatea copiilor noștri” și s-a angajat să îi apere pe new-yorkezi „cu toată forța legii”.

Dovezile care au condus proiectul de lege

Parlamentarii s-au sprijinit pe cercetările de la Common Sense Media, organizația nonprofit care a susținut legislația. Potrivit cifrelor citate în anunțul guvernatorului, 72 la sută dintre adolescenți au folosit un însoțitor AI cel puțin o dată, iar 52 la sută sunt utilizatori obișnuiți care interacționează cu însoțitorii AI de cel puțin câteva ori pe lună.

Biroul guvernatorului a spus că chatbot-urile AI au fost legate de dependență și izolare și, în unele cazuri, s-au angajat în conversații sexuale explicite cu minori și i-au încurajat pe adolescenți să-și ia viața. Fondatorul și CEO-ul Common Sense Media, James P. Steyer, a numit proiectul de lege semnat „cel mai puternic proiect de lege privind siguranța IA pentru copii din țară” și a spus că funcțiile dăunătoare ale chatbotului „vor fi interzise în New York”.

Măsura se bazează pe măsurile de protecție anterioare ale AI din New York, primul în națiune, extinzându-le de la cerințele de dezvăluire la interdicții definitive privind comportamentele specifice chatbot pentru minori.

Un proiect de lege însoțitor vizează monitoarele pentru copii

Hochul a semnat un al doilea proiect de lege privind siguranța tehnologiei în același timp. S.9508/A.5175A interzice vânzarea de noi monitoare pentru bebeluși conectate la internet care difuzează audio sau video prin internet, cu excepția cazului în care includ caracteristici de securitate care împiedică străinii să vizioneze sau să asculte. Dispozitivele trebuie să aibă, de asemenea, o etichetă clară de avertizare care să explice că se conectează la internet și că familiile ar trebui să-și folosească caracteristicile de securitate. Legea intră în vigoare la 90 de zile de la semnare.

Motivul a venit din cercetarea în domeniul securității: când cercetătorii de la Rapid7 au testat nouă monitoare pentru copii conectate la internet de la opt companii, opt dintre monitoare au primit nota „F” pentru securitate, iar unul a primit „D”.

Parte dintr-un calcul mai amplu

Mișcarea New York-ului a aterizat pe fondul unui val de acțiuni la nivel de stat asupra chatbot-urilor și minorilor AI, legislaturi din toată țara cântărind restricții asupra roboților însoțitori după o serie de incidente importante. Legea din New York se remarcă prin dinții de aplicare - sancțiuni pentru încălcare, verificarea obligatorie a vârstei cu mai multe căi și posibilitatea de a forța companiile să distrugă modele instruite pe date colectate ilegal.

Pentru companiile de inteligență artificială care operează produse în stil însoțitor, implicațiile conformității sunt substanțiale: orice chatbot orientat către utilizatori din New York fie are nevoie de o asigurare solidă a vârstei înainte de a activa funcții precum jocul de rol emoțional, fie acele funcții trebuie dezactivate implicit. Având în vedere că procurorul general este împuternicit să urmărească sancțiuni pentru încălcare și să ceară distrugerea seturilor de date și modelelor contaminate, costul greșirii se extinde acum mult dincolo de deteriorarea reputației.

În lunile următoare, pe măsură ce companiile își adaptează produsele pentru utilizatorii din New York, abordarea statului va servi probabil ca un șablon pe care alte legislaturi îl studiază - și un test pentru a stabili dacă autoritățile de reglementare de stat pot remodela în mod semnificativ modul în care produsele AI de consum își tratează cei mai tineri utilizatori.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →