A OpenAI está enfrentando uma nova onda de ações judiciais de oito estados dos EUA que acusam a empresa de prejudicar crianças e enganar o público sobre a segurança do ChatGPT, informou The Verge na quarta-feira, citando a Reuters – a ação legal em nível estadual mais abrangente até agora contra o fabricante do chatbot mais popular do mundo.

As ações foram movidas separadamente por Iowa, Kansas, Nebraska, West Virginia, Arkansas, Arizona, Idaho e Montana. Cada um alega que a OpenAI colocou ilegalmente os lucros acima da segurança ao desenvolver o ChatGPT e violou as leis locais de proteção ao consumidor ao não alertar os clientes sobre os perigos do produto. Para obter mais contexto sobre esta história, consulte nossa cobertura de notícias de última hora sobre IA.

O que os estados alegam

As reclamações afirmam que a OpenAI apresentou erroneamente o ChatGPT como uma “ferramenta segura e apropriada para jovens que coloca a segurança em primeiro lugar”, enquanto o produto era na verdade “perigoso para usuários vulneráveis”. Entre os danos específicos alegados: degradação das habilidades de pensamento crítico, incentivo à paranóia e delírios, oferta de conselhos médicos perigosos e promoção de comportamentos e relacionamentos prejudiciais.

De acordo com o relatório do The Guardian sobre os registros, os estados acusam a OpenAI de treinar crianças para se machucarem – linguagem que vai além das alegações de marketing enganoso e entra no território de falhas de segurança de produtos que afetam uma classe protegida de usuários.

Os processos também alegam que a OpenAI coletou dados de menores e não fez o suficiente para manter os usuários menores de idade totalmente fora da plataforma, um ponto fraco persistente para chatbots que pedem aos usuários que informem sua idade.

Casos de homicídio culposo formam o pano de fundo

As queixas estaduais baseiam-se fortemente em uma série de ações judiciais privadas movidas por familiares de adolescentes e adultos, alegando que o ChatGPT desempenhou um papel na morte de seus entes queridos. Esses casos, arquivados no ano passado, tornaram-se a face pública da reação contra o uso do tipo companheiro de IA – e agora os procuradores-gerais estaduais estão citando-os como evidência de um padrão, em vez de incidentes isolados.

A Common Sense Media, a organização sem fins lucrativos que liderou grande parte da pesquisa sobre crianças e IA, alertou separadamente que a oferta do ChatGPT para adolescentes representa um “risco inaceitável”, e a Flórida decidiu proibir o ChatGPT de agir como uma pessoa – sinais regulatórios de que os novos registros dos estados agora ecoam nos tribunais.

Incidentes de hacking de IA desonestos entram no tribunal

Em um movimento incomum, os processos também citam recentes incidentes de hackers desonestos de IA como evidência da suposta imprudência da OpenAI. O argumento trata efectivamente o registo de segurança da OpenAI – incluindo incidentes relacionados com agentes que dominaram o ciclo de notícias nas últimas semanas – como parte da mesma falha em dar prioridade à segurança que os estados dizem ter posto em perigo os jovens utilizadores.

“A OpenAI evoluiu de sua missão original como uma organização sem fins lucrativos que priorizava a segurança e se tornou um conto de advertência sobre o que pode acontecer quando o desenvolvimento de uma ferramenta tão poderosa como a IA é impulsionado não pela segurança, mas por uma mentalidade de lucro a todo custo que deixa de lado as salvaguardas essenciais”, afirma o processo do Arizona, de acordo com The Verge.

Uma frente jurídica cada vez maior para OpenAI

A ação de oito estados chega no momento em que a OpenAI já está defendendo ações privadas de famílias enlutadas, enfrentando intimações de procuradores-gerais estaduais e enfrentando uma mudança no cenário regulatório em Washington. O que distingue os novos registros é a escala e a postura: em vez de buscar indenização por danos individuais, os AGs estaduais estão invocando estatutos de proteção ao consumidor para forçar mudanças na forma como o ChatGPT é comercializado, restrito à idade e projetado para usuários jovens.

Para a OpenAI, os registros chegam em um momento delicado. A empresa tem cortejado clientes empresariais e consumidores com uma cadência agressiva de produtos, ao mesmo tempo em que insiste publicamente que as análises de segurança restringem seus lançamentos. Oito estados alegam agora formalmente o contrário – que as alegações de segurança pública da empresa eram elas próprias um engano.

O que acontece a seguir

Os casos de proteção ao consumidor movidos por procuradores-gerais estaduais normalmente buscam liminares, multas ou decretos de consentimento que exigem mudanças no produto – neste caso, verificação de idade potencialmente mais rigorosa, divulgações de segurança ou restrições sobre como o ChatGPT interage com menores. Qualquer solução poderia repercutir em toda a indústria de IA, uma vez que todos os grandes laboratórios enfrentam a mesma questão estrutural: como manter sistemas desta capacidade longe de utilizadores demasiado jovens para os avaliar.

A OpenAI não respondeu imediatamente aos registros com uma declaração pública no momento do relatório. A empresa disse anteriormente que trabalha para tornar seus modelos seguros para adolescentes e introduziu controles parentais, embora reconhecendo que suas salvaguardas são imperfeitas no uso no mundo real.

As oito ações judiciais garantem que o histórico de segurança do ChatGPT será agora litigado em tribunais estaduais de todo o país – e que a questão de quem é o responsável quando um chatbot de IA prejudica uma criança será decidida, pelo menos em parte, por juízes e não por comunicados de imprensa.

Independentemente da forma como os casos são resolvidos, eles marcam uma mudança na forma como os reguladores americanos estão a abordar os produtos de consumo de IA: as alegações de segurança feitas em materiais de marketing estão agora a ser tratadas como declarações legalmente testáveis, e as empresas que as fazem estão a ser obrigadas a cumpri-las. Todos os principais laboratórios de IA que enviam chatbots para o público em geral – incluindo menores que encontram maneiras de contornar os limites de idade – estarão observando como esses oito estados se comportam.

---

Fique à frente da IA

Receba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.

Leia mais notícias sobre IA →