El fiscal general de Oregón, Dan Rayfield, demandó a OpenAI el martes, solicitando al menos 2.035 millones de dólares en daños y perjuicios y acusando a la compañía de tergiversar ChatGPT como seguro para usuarios jóvenes y al mismo tiempo permitir a sabiendas interacciones peligrosas con adolescentes, según Oregon Public Broadcasting.

La demanda, divulgada por OPB y confirmada por varios medios de Oregón, incluidos KGW, KATU y KOIN, convierte a Oregón en uno de los estados más agresivos hasta el momento en la creciente campaña legal sobre los chatbots de IA y los menores. Esto sigue a las demandas presentadas por ocho estados de EE. UU. en octubre, cada uno de los cuales afirma que la tecnología tiene una influencia peligrosa en los adolescentes. Para más contexto sobre esta historia, consulta nuestra novedades de IA.

Lo que alega la denuncia

La denuncia de 53 páginas del estado acusa a OpenAI de tergiversar sus productos en violación de la Ley de Prácticas Comerciales Ilícitas de Oregón y describe la conducta de la empresa como intencionada (un factor agravante según el estatuto) que produce lo que la denuncia llama un resultado injusto, impactante y desmedido.

OpenAI permite a usuarios de hasta 13 años utilizar ChatGPT, siempre que un padre o tutor lo autorice. Los funcionarios del Departamento de Justicia de Oregón alegan que la empresa con frecuencia no confirma que un padre realmente haya dado su consentimiento para usuarios menores de edad. La denuncia también apunta a ChatGPT para adolescentes, la versión orientada a jóvenes lanzada recientemente por la compañía que vincula la cuenta de un padre con la de un niño. Según el estado, las salvaguardias supuestamente más fuertes de esa versión se pasan por alto fácilmente y no alertaba a los padres cuando los usuarios jóvenes preguntaban sobre suicidio, autolesiones, trastornos alimentarios u otros temas de salud mental.

La demanda pide al tribunal que obligue a OpenAI a establecer salvaguardias más estrictas y a compensar a los habitantes de Oregón con al menos 2.035 millones de dólares en daños.

Rayfield: El producto 'continúa causando daño'

En una entrevista con OPB, Rayfield dijo que OpenAI es consciente de los peligros que pueden plantear sus productos. OpenAI continúa mirando a los padres a los ojos y diciendo que este producto es seguro cuando continúa causando daño en nuestras comunidades, dijo.

El fiscal general le dijo a la OPB que no hubo ningún incidente específico en Oregon que desencadenó la presentación. En cambio, dijo, la demanda surgió de incidentes en todo el país y la preocupación de su oficina de que el avance tecnológico esté superando las protecciones al consumidor. Las herramientas pueden ser increíblemente sorprendentes si sus promesas se cumplen, dijo, pero lo que estamos viendo del otro lado es devastación.

La presentación se produce en medio de una mayor preocupación pública en Oregón sobre los adolescentes y las plataformas en línea. El adolescente que disparó y mató a tres niños y a un maestro en la escuela primaria Silver Rail de Bend el mes pasado ha sido vinculado por múltiples fuentes con grupos extremistas en línea, y en septiembre la oficina del fiscal de distrito del condado de Multnomah culpó a influencias extremistas en línea por la liberación de sustancias químicas tóxicas en su escuela por parte de un estudiante de la escuela secundaria Benson. Rayfield se negó a decir si los productos de OpenAI tuvieron alguna participación en esos incidentes, citando investigaciones en curso, y la demanda en sí no depende de ningún caso de Oregon.

Parte de un ajuste de cuentas legal más amplio para OpenAI

Oregón se encuentra ahora entre un grupo cada vez mayor de estados que presionan a OpenAI ante los tribunales por la seguridad de los jóvenes. Ocho estados presentaron demandas similares en octubre, y el litigio acumulado representa un desafío creciente, estado por estado, sobre cómo la industria de la IA autorregula el acceso de menores, un área donde la regulación federal sigue siendo escasa.

Un portavoz de OpenAI, Drew Pusateri, emitió un comunicado después de la presentación diciendo que la compañía está comprometida a desarrollar políticas de IA que se apliquen a toda la industria de la IA y no solo a una empresa. La compañía señaló las salvaguardas que, según dice, existen hoy en día, incluidos controles parentales, recordatorios de descanso y protecciones de modelos apropiados para la edad, y dijo que continuará trabajando con expertos para crear salvaguardas adicionales. La compañía ha insistido anteriormente en que mantener seguras a las comunidades es una máxima prioridad.

¿Qué pasa después?

El caso de Oregón pondrá a prueba una teoría legal novedosa: no que ChatGPT causó un daño específico, sino que el marketing de seguridad de la compañía en sí (la afirmación de que el producto es seguro para los adolescentes) constituye una práctica comercial desleal cuando se pueden eludir las salvaguardias. Si la teoría sobrevive a las primeras mociones, podría abrir un camino más barato y más rápido para otros fiscales generales estatales que los litigios por responsabilidad de productos, que requieren demostrar la causalidad de los daños individuales.

Un ángulo de protección al consumidor diseñado para la velocidad

La elección del estatuto es importante. La Ley de Prácticas Comerciales Ilícitas de Oregón es una ley de protección al consumidor, no un régimen de responsabilidad por productos, y conlleva plazos más cortos y barreras probatorias más bajas que las de demostrar que un intercambio de chatbot específico causó una tragedia específica. También permite sanciones civiles por violaciones intencionadas, etiqueta agravante que la denuncia aplica explícitamente. La aplicación de medidas de protección al consumidor contra plataformas tecnológicas por reclamos engañosos tiene una larga historia en los tribunales de Oregón, y el estatuto es uno de los más amplios del país.

Ese marco también da forma al remedio que busca el Estado. En lugar de daños y perjuicios para la familia de una sola víctima, la demanda pide una compensación para los habitantes de Oregón en conjunto (al menos 2.035 millones de dólares) además de cambios ordenados por el tribunal en el producto en sí: salvaguardias más fuertes y verificación del consentimiento de los padres. Una victoria le daría al estado una supervisión continua de las funciones juveniles de ChatGPT en lugar de un pago único.

Para OpenAI, la denuncia llega en un momento delicado: la compañía ya está defendiendo reclamos de derechos de autor, enfrentando una demanda en California por intrusiones cibernéticas relacionadas con la IA y preparándose para un intenso escrutinio posterior a la IPO. Es poco probable que una demanda multimillonaria de un solo estado reforme sus finanzas, pero un tribunal que determine que sus representaciones sobre la seguridad de los jóvenes eran engañosas tendría consecuencias regulatorias mucho más allá de Oregón.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →