O procurador-geral do Oregon, Dan Rayfield, processou a OpenAI na terça-feira, pedindo pelo menos 2,035 bilhões de dólares em danos e acusando a empresa de deturpar o ChatGPT como seguro para usuários jovens, ao mesmo tempo que permite conscientemente interações perigosas com adolescentes, de acordo com a Oregon Public Broadcasting.
O processo, divulgado pela OPB e confirmado por vários meios de comunicação do Oregon, incluindo KGW, KATU e KOIN, torna o Oregon um dos estados mais agressivos até agora na crescente campanha legal sobre chatbots de IA e menores. Ele segue ações de oito estados dos EUA em outubro, cada um alegando que a tecnologia tem uma influência perigosa sobre os adolescentes. Para mais contexto sobre esta história, confira nossa últimos desenvolvimentos em IA.
O que a reclamação alega
A reclamação de 53 páginas do estado acusa a OpenAI de deturpar seus produtos, violando a Lei de Práticas Comerciais Ilícitas do Oregon, e descreve a conduta da empresa como intencional – um fator agravante segundo o estatuto – produzindo o que a reclamação chama de resultado injusto, injusto, chocante e inescrupuloso.
OpenAI permite que usuários a partir de 13 anos usem o ChatGPT, desde que os pais ou responsável assinem. Funcionários do Departamento de Justiça de Oregon alegam que a empresa frequentemente falha em confirmar se um dos pais realmente consentiu com usuários menores de idade. A reclamação também visa o ChatGPT for Teens, a versão voltada para jovens lançada recentemente pela empresa que vincula a conta dos pais à conta dos filhos. De acordo com o estado, as salvaguardas supostamente mais fortes dessa versão são facilmente contornadas e ela não alertou os pais quando os usuários jovens perguntavam sobre suicídio, automutilação, distúrbios alimentares ou outros tópicos de saúde mental.
O processo pede ao tribunal que obrigue a OpenAI a instituir salvaguardas mais fortes e a compensar os habitantes do Oregon com pelo menos 2,035 bilhões de dólares em danos.
Rayfield: O produto ‘continua a causar danos’
Em entrevista à OPB, Rayfield disse que a OpenAI está ciente dos perigos que seus produtos podem representar. A OpenAI continua a olhar nos olhos dos pais e dizer que este produto é seguro quando continua a causar danos em nossas comunidades, disse ele.
O procurador-geral disse à OPB que não houve nenhum incidente específico no Oregon que desencadeou o pedido. Em vez disso, disse ele, o processo surgiu de incidentes em todo o país e da preocupação de seu gabinete de que o avanço da tecnologia esteja ultrapassando as proteções ao consumidor. As ferramentas podem ser incrivelmente surpreendentes se as suas promessas se concretizarem, disse ele, mas o que estamos a ver do outro lado é devastação.
O pedido ocorre em meio à crescente preocupação pública em Oregon sobre adolescentes e plataformas online. O adolescente que atirou e matou três crianças e um professor na Bend's Silver Rail Elementary no mês passado foi ligado por múltiplas fontes a grupos extremistas online, e em Setembro o gabinete do procurador distrital do condado de Multnomah culpou influências extremistas online por um estudante da Benson High School ter libertado produtos químicos tóxicos na sua escola. Rayfield se recusou a dizer se os produtos da OpenAI tiveram algum envolvimento nesses incidentes, citando investigações em andamento – e o processo em si não depende de nenhum caso do Oregon.
Parte de um cálculo jurídico mais amplo para OpenAI
Oregon está agora entre um grupo crescente de estados que pressionam a OpenAI nos tribunais por causa da segurança dos jovens. Oito estados entraram com ações semelhantes em outubro, e o acúmulo de litígios representa um desafio crescente, estado por estado, sobre como a indústria de IA auto-regula o acesso de menores – uma área onde a regulamentação federal permanece escassa.
Um porta-voz da OpenAI, Drew Pusateri, emitiu um comunicado após o pedido dizendo que a empresa está comprometida em desenvolver políticas de IA que se apliquem a toda a indústria de IA e não apenas a uma empresa. A empresa apontou as salvaguardas que afirma existirem hoje, incluindo controlos parentais, lembretes de pausas e modelos de proteção adequados à idade, e disse que continuará a trabalhar com especialistas para construir salvaguardas adicionais. A empresa já insistiu anteriormente que manter as comunidades seguras é uma prioridade máxima.
O que acontece a seguir
O caso do Oregon testará uma nova teoria jurídica: não que o ChatGPT tenha causado um dano específico, mas que o próprio marketing de segurança da empresa – a alegação de que o produto é seguro para adolescentes – constitui uma prática comercial injusta quando as salvaguardas podem ser contornadas. Se a teoria sobreviver às moções iniciais, poderá abrir um caminho mais barato e mais rápido para outros procuradores-gerais do estado do que o litígio de responsabilidade pelo produto, que exige a prova da causalidade dos danos individuais.
Um ângulo de proteção ao consumidor criado para velocidade
A escolha do estatuto é importante. A Lei de Práticas Comerciais Ilícitas do Oregon é uma lei de proteção ao consumidor, não um regime de responsabilidade pelo produto, e impõe prazos mais curtos e barreiras probatórias mais baixas do que provar que uma troca específica de chatbot causou uma tragédia específica. Também permite sanções civis para violações intencionais – o rótulo agravante que a queixa aplica explicitamente. A aplicação da proteção ao consumidor contra plataformas tecnológicas devido a alegações enganosas tem uma longa história nos tribunais do Oregon, e o estatuto é um dos mais amplamente redigidos no país.
Esse enquadramento também molda a solução que o Estado procura. Em vez de danos à família de uma única vítima, a queixa pede uma indemnização colectiva para os habitantes do Oregon – pelo menos 2,035 mil milhões de dólares – além de alterações ordenadas pelo tribunal ao próprio produto: salvaguardas mais fortes e verificação do consentimento dos pais. Uma vitória daria ao estado supervisão contínua dos recursos juvenis do ChatGPT, em vez de um pagamento único.
Para a OpenAI, a reclamação chega num momento delicado: a empresa já está defendendo reivindicações de direitos autorais, enfrentando um processo na Califórnia por invasões cibernéticas relacionadas à IA e se preparando para um intenso escrutínio pós-IPO. É pouco provável que uma exigência multimilionária de um único estado remodele as suas finanças, mas um tribunal que conclua que as suas representações sobre a segurança dos jovens eram enganosas teria consequências regulamentares muito além do Oregon.
---
Fique à Frente da IAAs últimas notícias, análises e avanços em inteligência artificial — tudo em um só lugar.
Ler mais notícias de IA →