A governadora de Nova York, Kathy Hochul, assinou uma legislação que proíbe as empresas de IA de oferecer recursos complementares de chatbot a menores, uma medida que as autoridades estaduais estão chamando de a lei mais forte desse tipo no país. O projeto de lei, S.9051B/A.10379C, foi assinado esta semana juntamente com uma segunda medida que exige que as babás eletrônicas conectadas à Internet vendidas em Nova York incluam recursos de segurança.

“À medida que a inteligência artificial avança a um ritmo rápido, tem havido demasiados incidentes trágicos que deveriam ter sido evitados e, como mãe-governadora de Nova Iorque, estou a agir”, disse Hochul no anúncio de assinatura. “Nenhuma empresa deveria vender chatbots para crianças, incentivando a automutilação ou fingindo ser amigos ou algo mais.” Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.

O que a lei proíbe

De acordo com o novo estatuto, as empresas que oferecem recursos de chatbot de IA não podem fornecer diversas categorias de comportamento a usuários menores de 18 anos – ou a qualquer usuário, a menos que a empresa tenha primeiro confirmado que o usuário não é menor de idade. Os recursos proibidos incluem:

  • Chatbots fingindo ser uma pessoa real, estar vivo ou ter emoções humanas
  • Reivindicar um relacionamento pessoal, romântico, profissional ou de autoridade com uma criança
  • Perguntas emocionais não solicitadas e uso de informações pessoais ou de saúde privadas de uma criança de conversas anteriores
  • Promover ou ajudar em casos de suicídio, automutilação, transtornos alimentares ou uso de drogas e álcool
  • Incentivar as crianças a guardar segredos, isolar-se ou evitar pedir ajuda aos pais, adultos de confiança ou profissionais
  • Qualquer conteúdo sexualmente explícito ou material de abuso sexual infantil

A senadora Kristen Gonzalez, patrocinadora do projeto no Senado, disse que as empresas de IA lucraram com a implantação de chatbots para consumidores menores de idade, citando casos de chatbots que incentivam a automutilação e treinam menores para prejudicar outras pessoas. O membro da Assembleia, Alex Bores, que apresentou o projeto de lei na Assembleia, chamou-a de a lei de segurança de IA infantil mais forte do país, aprovada "apesar da oposição agressiva da indústria".

Requisitos de verificação de idade

A lei não se limita às regras de conteúdo. As empresas devem realizar a verificação de idade e oferecer mais de um método — incluindo pelo menos uma opção que não dependa apenas de um documento de identidade governamental. As informações de idade devem ser excluídas após serem usadas, uma disposição que visa evitar que os dados de verificação se tornem outro risco à privacidade.

A autoridade de execução cabe ao procurador-geral do estado. Por violações, a procuradora-geral Letitia James pode solicitar penalidades civis de até US$ 25.000 por violação, juntamente com danos, restituição, destruição de dados coletados ilegalmente – ou quaisquer modelos de IA treinados para eles – e medida cautelar. A lei também exige que o procurador-geral mantenha um site público onde os nova-iorquinos possam registrar reclamações.

James, cujo gabinete trabalhou com o gabinete do governador e legisladores sobre a medida, disse que o estado viu “muitas histórias horríveis de chatbots prejudicando a saúde de nossos filhos” e prometeu defender os nova-iorquinos “com toda a força da lei”.

A evidência que impulsionou o projeto de lei

Os legisladores apoiaram-se em pesquisas da Common Sense Media, a organização sem fins lucrativos que defendeu a legislação. De acordo com os números citados no anúncio do governador, 72% dos adolescentes usaram um companheiro de IA pelo menos uma vez e 52% são usuários regulares que interagem com companheiros de IA pelo menos algumas vezes por mês.

O gabinete do governador disse que os chatbots de IA têm sido associados à dependência e ao isolamento e, em alguns casos, envolveram-se em conversas sexualmente explícitas com menores e alegadamente encorajaram os adolescentes a suicidarem-se. O fundador e CEO da Common Sense Media, James P. Steyer, chamou o projeto de lei assinado de "o projeto de lei de segurança de IA para crianças mais forte do país" e disse que recursos prejudiciais do chatbot "serão proibidos em Nova York".

A medida baseia-se nas salvaguardas anteriores de IA, pioneiras no país, de Nova York, estendendo-as de requisitos de divulgação a proibições completas de comportamentos específicos de chatbot para menores.

Um projeto de lei complementar visa monitores de bebês

Hochul assinou um segundo projeto de lei de segurança tecnológica ao mesmo tempo. S.9508/A.5175A proíbe a venda de novos monitores para bebês conectados à Internet que transmitam áudio ou vídeo pela Internet, a menos que incluam recursos de segurança que impeçam estranhos de assistir ou ouvir. Os dispositivos também devem ter uma etiqueta de advertência clara explicando que eles se conectam à Internet e que as famílias devem usar seus recursos de segurança. Essa lei entra em vigor 90 dias após a assinatura.

A justificativa veio de pesquisas de segurança: quando pesquisadores da Rapid7 testaram nove monitores para bebês conectados à Internet de oito empresas, oito dos monitores receberam nota “F” em segurança e um recebeu nota “D”.

Parte de um cálculo mais amplo

A ação de Nova York ocorre em meio a uma onda de ações em nível estadual contra chatbots de IA e menores, com legislaturas em todo o país avaliando restrições aos bots complementares após uma série de incidentes de alto perfil. A lei de Nova Iorque é notável pela sua força de aplicação – penalidades por violação, verificação obrigatória da idade com múltiplos caminhos e a possibilidade de forçar as empresas a destruir modelos treinados em dados recolhidos ilegalmente.

Para empresas de IA que operam produtos complementares, as implicações de conformidade são substanciais: qualquer chatbot voltado para o usuário em Nova York precisa de uma garantia robusta de idade antes de ativar recursos como roleplay emocional, ou esses recursos devem ser desativados por padrão. Com o procurador-geral autorizado a aplicar sanções por violação e a exigir a destruição de conjuntos de dados e modelos contaminados, o custo de errar agora vai muito além dos danos à reputação.

Nos próximos meses, à medida que as empresas ajustam os seus produtos para os utilizadores de Nova Iorque, a abordagem do estado provavelmente servirá como um modelo que outras legislaturas estudarão – e um teste para saber se os reguladores estaduais podem remodelar significativamente a forma como os produtos de IA de consumo tratam os seus utilizadores mais jovens.

---

Fique à Frente da IA

As últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.

Ler mais notícias de IA →