Il governatore di New York Kathy Hochul ha firmato una legislazione che vieta alle società di intelligenza artificiale di offrire funzionalità di chatbot ai minori, una misura che i funzionari statali definiscono la legge più severa nel suo genere nel paese. Il disegno di legge, S.9051B/A.10379C, è stato firmato questa settimana insieme a una seconda misura che richiede che i baby monitor connessi a Internet venduti a New York includano funzionalità di sicurezza.

"Mentre l'intelligenza artificiale avanza a un ritmo rapido, ci sono stati troppi tragici incidenti che avrebbero dovuto essere prevenuti e, in qualità di governatore di New York, sto agendo", ha dichiarato Hochul nell'annuncio della firma. "Nessuna azienda dovrebbe vendere chatbot ai bambini incoraggiandoli all'autolesionismo o fingendo di essere loro amici o altro." Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.

Cosa vieta la legge

Secondo il nuovo statuto, le aziende che offrono funzionalità di chatbot AI non possono fornire diverse categorie di comportamento agli utenti di età inferiore ai 18 anni o a qualsiasi utente a meno che la società non abbia prima confermato che l’utente non è minorenne. Le funzionalità vietate includono:

  • Chatbot che fingono di essere una persona reale, di essere vivi o di provare emozioni umane
  • Affermare una relazione personale, romantica, professionale o con una figura autoritaria con un bambino
  • Domande emotive non sollecitate e utilizzo della salute privata del bambino o delle informazioni personali derivanti da conversazioni precedenti
  • Promozione o assistenza al suicidio, all'autolesionismo, ai disturbi alimentari o all'uso di droghe e alcol
  • Incoraggiare i bambini a mantenere i segreti, isolarsi o evitare di chiedere aiuto a genitori, adulti di fiducia o professionisti
  • Qualsiasi contenuto sessualmente esplicito o materiale pedopornografico

La senatrice Kristen Gonzalez, sostenitrice del disegno di legge al Senato, ha affermato che le società di intelligenza artificiale hanno tratto profitto dall'introduzione di chatbot per i consumatori minorenni, citando casi di chatbot che incoraggiano l'autolesionismo e istruiscono i minori a danneggiare gli altri. Il membro dell'Assemblea Alex Bores, che ha portato il disegno di legge in Assemblea, l'ha definita la più forte legge sulla sicurezza dell'IA infantile nel paese, approvata "nonostante l'aggressiva opposizione dell'industria".

Requisiti per la verifica dell'età

La legge non si ferma alle regole sui contenuti. Le aziende devono effettuare la verifica dell’età e offrire più di un metodo, inclusa almeno un’opzione che non dipenda esclusivamente da un documento d’identità governativo. Le informazioni sull'età devono essere cancellate dopo essere state utilizzate, una disposizione volta a evitare che i dati di verifica diventino un altro rischio per la privacy.

L’autorità esecutiva spetta al procuratore generale dello Stato. Per le violazioni, il procuratore generale Letitia James può richiedere sanzioni civili fino a 25.000 dollari per violazione, insieme a danni, restituzione, distruzione di dati raccolti illegalmente – o di qualsiasi modello di intelligenza artificiale addestrato su di essi – e provvedimenti ingiuntivi. La legge prevede inoltre che il procuratore generale mantenga un sito web pubblico dove i newyorkesi possano presentare reclami.

James, il cui ufficio ha collaborato con l’ufficio del governatore e i legislatori sulla misura, ha affermato che lo stato ha visto “troppe storie dell’orrore di chatbot che danneggiano la salute dei nostri figli” e si è impegnato a difendere i newyorkesi “con tutta la forza della legge”.

Le prove che hanno portato al disegno di legge

I legislatori si sono appoggiati alla ricerca di Common Sense Media, l’organizzazione no-profit che ha sostenuto la legislazione. Secondo i dati citati nell'annuncio del governatore, il 72% degli adolescenti ha utilizzato un compagno di intelligenza artificiale almeno una volta e il 52% sono utenti abituali che interagiscono con compagni di intelligenza artificiale almeno alcune volte al mese.

L’ufficio del governatore ha affermato che i chatbot basati sull’intelligenza artificiale sono stati collegati alla dipendenza e all’isolamento e in alcuni casi si sono impegnati in conversazioni sessualmente esplicite con minori e presumibilmente hanno incoraggiato gli adolescenti a togliersi la vita. Il fondatore e amministratore delegato di Common Sense Media, James P. Steyer, ha definito il disegno di legge firmato "il disegno di legge sulla sicurezza dell'intelligenza artificiale dei bambini più forte nel paese" e ha affermato che le funzionalità dannose dei chatbot "saranno messe fuori legge a New York".

La misura si basa sulle precedenti garanzie di New York relative ai compagni di intelligenza artificiale, le prime nella nazione, estendendole dai requisiti di divulgazione ai divieti assoluti su comportamenti specifici dei chatbot per i minori.

Una legge complementare prende di mira i baby monitor

Contemporaneamente Hochul ha firmato un secondo disegno di legge sulla sicurezza tecnologica. S.9508/A.5175A vieta la vendita di nuovi baby monitor connessi a Internet che trasmettono audio o video su Internet a meno che non includano funzionalità di sicurezza che impediscano a estranei di guardare o ascoltare. I dispositivi devono inoltre portare una chiara etichetta di avviso che spieghi che si connettono a Internet e che le famiglie dovrebbero utilizzare le loro funzionalità di sicurezza. Tale legge entra in vigore 90 giorni dopo la firma.

La logica deriva dalla ricerca sulla sicurezza: quando i ricercatori di Rapid7 hanno testato nove baby monitor connessi a Internet di otto aziende, otto dei monitor hanno ricevuto un grado di "F" per la sicurezza e uno ha ricevuto una "D".

Parte di una resa dei conti più ampia

La mossa di New York arriva nel mezzo di un’ondata di azioni a livello statale sui chatbot e sui minori basati sull’intelligenza artificiale, con le legislature di tutto il paese che valutano le restrizioni sui bot associati dopo una serie di incidenti di alto profilo. La legge di New York si distingue per la sua efficacia nell’applicazione delle norme: sanzioni per violazione, verifica obbligatoria dell’età con più percorsi e possibilità di costringere le aziende a distruggere modelli addestrati su dati raccolti illegalmente.

Per le aziende di intelligenza artificiale che utilizzano prodotti di tipo complementare, le implicazioni in termini di conformità sono sostanziali: qualsiasi chatbot rivolto agli utenti a New York necessita di una solida garanzia di età prima di abilitare funzionalità come il gioco di ruolo emotivo, oppure tali funzionalità devono essere disattivate per impostazione predefinita. Con il procuratore generale autorizzato a perseguire sanzioni per ogni violazione e a chiedere la distruzione di set di dati e modelli contaminati, il costo di sbagliare ora va ben oltre il danno reputazionale.

Nei prossimi mesi, mentre le aziende adeguano i loro prodotti per gli utenti di New York, è probabile che l’approccio statale serva da modello per altre legislature studiate – e un test per verificare se i regolatori statali possono rimodellare in modo significativo il modo in cui i prodotti di intelligenza artificiale di consumo trattano gli utenti più giovani.

---

Rimani Aggiornato sull'IA

Le ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.

Leggi altre notizie sull'IA →