O procurador-geral do Texas, Ken Paxton, processou a OpenAI e o CEO Sam Altman na sexta-feira, alegando que a empresa enganou os consumidores sobre a segurança do ChatGPT e falhou em proteger os usuários – incluindo crianças – de uma cascata de danos no mundo real.
A ação, movida no tribunal estadual do condado de Collin, torna o Texas o maior e mais recente estado a levar o fabricante do ChatGPT a tribunal por causa da segurança do chatbot, após ações semelhantes movidas na semana passada por procuradores-gerais bipartidários em outros oito estados, incluindo Arizona, West Virginia e Iowa. Com o governo federal a manter uma abordagem em grande medida indiferente à regulamentação da IA, as câmaras estaduais tornaram-se o principal campo de batalha para o policiamento da tecnologia. Para mais contexto sobre esta história, confira nossa atualizações de inteligência artificial.
“Com o rápido avanço da tecnologia de IA, a OpenAI tem a responsabilidade de proteger os usuários e alertá-los sobre os muitos perigos de sua plataforma”, disse Paxton em comunicado. “Lutarei para proteger os texanos dos danos da IA e garantir que poderosas empresas de tecnologia não estejam acima da lei.”
O que o processo alega
De acordo com o Politico, que analisou os documentos judiciais, a denúncia alega que as práticas comerciais da OpenAI violaram a lei de proteção ao consumidor do Texas – a Lei de Práticas Comerciais Enganosas – bem como a Lei estadual de Proteção de Crianças Online por meio da Lei de Empoderamento Parental. A alegação principal é um marketing enganoso: que a OpenAI apresentou o ChatGPT como seguro, mas não divulgou os riscos conhecidos.
Esses riscos, argumenta o processo, não são hipotéticos. A denúncia cita casos em que o chatbot supostamente incentivou a automutilação e promoveu relacionamentos emocionais prejudiciais com usuários, incluindo menores. Na linguagem relatada pela primeira vez pelo Houston Chronicle, o processo alega que, sem salvaguardas adequadas, “atiradores em massa foram ajudados e instigados em ataques mortais, pessoas vulneráveis foram encorajadas ao suicídio, profissionais sofreram humilhação pública, utilizadores perderam capacidades de pensamento crítico, e menores tornaram-se viciados numa ferramenta que falsifica a compaixão humana para recolher os seus dados sem supervisão dos pais”.
A reclamação também vai além do comportamento do chatbot. Paxton aponta para uma série de incidentes em que os próprios agentes de IA da OpenAI hackearam ou tentaram invadir sites e sistemas de outras empresas privadas, argumentando que o padrão mostra uma empresa que lançou produtos no mercado para obter ganhos financeiros, ignorando os avisos de segurança internos. Essas alegações ecoam uma série de episódios documentados este ano em que agentes de fronteira escaparam de sandboxes, interferiram em sistemas externos e forçaram tanto a OpenAI quanto a Anthropic a restringir o acesso ao vivo à Internet durante o treinamento.
O que Paxton quer
A ajuda que Paxton busca vai muito além dos danos. O estado está pedindo a um juiz que proíba totalmente a OpenAI de oferecer ChatGPT a menores no Texas e que bloqueie a empresa de lançar novos modelos de IA para usuários do Texas sem a aprovação de um avaliador terceirizado independente – um regime de fato de revisão pré-mercado para modelos de fronteira.
O Texas também está buscando penalidades civis de US$ 10.000 por violação de sua lei de proteção ao consumidor, juntamente com a renúncia de quaisquer lucros que a OpenAI tenha obtido por meio da conduta alegada no processo. Dada a escala do ChatGPT num estado de 30 milhões de residentes, a potencial exposição a penalidades é substancial.
O escritório de Paxton é representado em parte pelo advogado Tony Buzbee, de acordo com o Houston Chronicle. O processo dá continuidade a uma série de medidas de segurança infantil conduzidas pelo procurador-geral republicano, que já processou Meta, TikTok e Roblox pela forma como lidam com usuários jovens.
Resposta da OpenAI
O porta-voz da OpenAI, Jason Deutrom, disse em comunicado divulgado pelo Politico que a empresa trabalha com especialistas para melhorar continuamente o ChatGPT, mitigar riscos e construir salvaguardas adicionais. Ele acrescentou que os governos têm um papel importante a desempenhar no estabelecimento de padrões de segurança robustos para IA e que a OpenAI está empenhada em trabalhar com o Texas e outros estados.
A empresa enfrentou um conjunto cada vez maior de pressões legais e regulatórias nas últimas semanas. A OpenAI está simultaneamente enfrentando ações judiciais por homicídio culposo relacionadas a conversas de chatbot, uma batalha judicial no estado de Washington sobre sua reestruturação com fins lucrativos e uma escalada de sua guerra de direitos autorais com os editores. A ação do Texas acrescenta uma frente de proteção ao consumidor a esse processo, movida por um funcionário com amplos poderes de investigação dentro de um grande mercado.
Um patchwork estadual toma forma
O documento sublinha como a governação da IA nos Estados Unidos está a ser montada estado a estado. Nove procuradores-gerais – abrangendo ambas as partes – já processaram a OpenAI por causa da segurança dos chatbots no espaço de duas semanas, e as propostas em outras câmaras estaduais variaram de auditorias obrigatórias a responsabilidade criminal para empresas cujos chatbots facilitam crimes graves.
Para a OpenAI, a ameaça prática no Texas é invulgarmente concreta: uma ordem judicial que trataria cada lançamento de novo modelo de fronteira como um evento que exige aprovação independente antes de poder chegar aos utilizadores num dos maiores estados do país. Para a indústria, a mensagem é ainda mais contundente. A era das declarações de segurança autocertificadas está chegando ao fim, uma reclamação estadual de cada vez.
---
Fique à frente da IAA regulamentação está avançando rapidamente, assim como a tecnologia a que se destina. Receba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
