OpenAI anunció su apoyo el martes al proyecto de ley 1119 del Senado de California, una legislación que establecería amplias salvaguardias sobre cómo los jóvenes usan la inteligencia artificial, e instó al gobernador Gavin Newsom a convertir el proyecto en ley.
El respaldo llegó en una carta pública a Newsom escrita por Ann O'Leary, vicepresidenta de política global de OpenAI, y en una publicación de blog publicada en el sitio de la compañía. En él, la compañía enmarca la SB 1119 como un camino intermedio significativo: fuertes protecciones para los usuarios menores de 18 años, sin privar a los adolescentes de las herramientas que, según dice, les ayudan a aprender, crear y prepararse para el futuro. El anuncio es el último de una serie de historias sobre políticas de IA que remodelan la forma en que los gobiernos tratan a los usuarios más jóvenes de la IA. Para más contexto sobre esta historia, consulta nuestra cobertura de la industria de IA.
Por qué OpenAI está adoptando la regulación; esta, de todos modos
El posicionamiento de OpenAI se basa en una estadística sorprendente de su propia publicación: casi nueve de cada diez adolescentes que usan ChatGPT recurren a él para aprender, obtener información, desarrollar habilidades o ser productivos en una semana determinada. "Los adolescentes son la primera generación que crece con IA", escribió la compañía, argumentando que la oportunidad conlleva la responsabilidad de diseñar experiencias en torno a las distintas necesidades de desarrollo de los jóvenes.
La empresa es explícita sobre el vacío federal que motiva su postura. "En ausencia de una acción federal, California tiene la oportunidad de establecer un estándar sólido para la seguridad de la IA juvenil", afirma la carta a Newsom. OpenAI dice que el proyecto de ley se basa en los compromisos que el director ejecutivo Sam Altman asumió el año pasado al describir los principios de la compañía sobre la seguridad de los adolescentes, así como el trabajo de la compañía en la Ley de IA segura para padres y niños.
Lo que requeriría la SB 1119
Según el resumen del proyecto de ley de OpenAI, la SB 1119 requeriría que las empresas de IA:
- Determinar la edad de un usuario antes de proporcionarle acceso;
- Identificar y abordar los riesgos de seguridad antes de poner un producto a disposición de los jóvenes;
- Someterse a auditorías independientes de esos esfuerzos;
- Proteger a los jóvenes de contenidos dañinos, incluidos contenidos de autolesión y explotación sexual, y otras interacciones de alto riesgo;
- Dar herramientas a los padres para guiar y limitar el uso de sus hijos;
- Conectar a los jóvenes con recursos de apoyo en caso de crisis cuando surjan riesgos de seguridad graves; y
- Limitar la publicidad dirigida y proteger la información personal de los jóvenes.
Para los usuarios identificados entre 13 y 17 años, estas protecciones se aplicarían automáticamente, no como configuraciones opcionales que los adolescentes pueden desactivar.
"La IA no es una red social"
Uno de los argumentos más trascendentales de la carta de OpenAI es una distinción que los legisladores incluyeron en el propio proyecto de ley: la IA no es una red social. En lugar de trasladar las reglas basadas en publicidad creadas para plataformas como Instagram a chatbots y herramientas de estudio, la SB 1119 adapta las protecciones para preservar lo que OpenAI llama características educativas y críticas para la seguridad, incluido lo que describe como usos responsables de la función de memoria de ChatGPT, que ayuda a las salvaguardas a reconocer patrones preocupantes a lo largo del tiempo.
Los críticos de los límites generales de edad han advertido que las reglas estrictas podrían empujar a los adolescentes hacia alternativas menos reguladas o bloquear el acceso a herramientas de aprendizaje genuinamente útiles. El respaldo de OpenAI sugiere que el actor más grande de la industria considera que la SB 1119 logra el equilibrio con el que puede vivir.
ChatGPT para adolescentes ya está disponible
La aprobación del proyecto de ley no se produce en el vacío. OpenAI ha lanzado ChatGPT para adolescentes, una experiencia dedicada para usuarios más jóvenes que, según la compañía, coloca automáticamente a cualquier persona que su sistema considere menor de 18 años, o que indique que su edad está entre 13 y 17 años, en un modo protegido. Las salvaguardias son parte de la experiencia básica, dice la compañía, no de configuraciones de suscripción voluntaria.
Ese detalle de la estimación de la edad importa más de lo que parece a primera vista. Las estimaciones, no las identificaciones verificadas, determinan qué experiencia obtiene un usuario, y la compañía dice que el contexto de conversaciones anteriores (incluida la memoria) ayuda a aplicar salvaguardas de manera consistente y a reconocer patrones preocupantes a lo largo del tiempo. Lo bien que funcione esa estimación en la práctica y lo que suceda cuando los adolescentes indiquen erróneamente su edad determinarán si los reguladores consideran creíble la autocontrol de la industria.
El producto para adolescentes también se inclina hacia el aprendizaje: funciones como cuestionarios, visualizaciones de aprendizaje y modo de estudio se desarrollaron con educadores y expertos en aprendizaje para guiar a los estudiantes a través de los problemas paso a paso, según OpenAI. La compañía posiciona esas herramientas como evidencia de que los requisitos de seguridad y los productos útiles no están en tensión, un argumento que efectivamente le está planteando tanto a Newsom como al público.
La política en Sacramento
En su carta, OpenAI elogia a Newsom junto con el senador Steve Padilla y los asambleístas Buffy Wicks y Rebecca Bauer-Kahan por su liderazgo en el tema. El proyecto de ley ahora está en manos del gobernador, y la campaña de cabildeo público de OpenAI, completa con una carta descargable, deja en claro que la compañía quiere su firma.
La medida también se produce cuando los reguladores de otros lugares aprietan las tuercas. La Unión Europea designó recientemente a ChatGPT como un motor de búsqueda en línea muy grande en virtud de su Ley de Servicios Digitales, dando a OpenAI hasta finales de diciembre de 2026 para cumplir con las normas más estrictas de la UE sobre menores y transparencia. Frente a las designaciones de arriba hacia abajo de Bruselas, OpenAI parece estar calculando que respaldar una ley estatal adaptada en Sacramento es la mejor manera de dar forma a las reglas antes de que se redacten.
Si Newsom firma (y si otros estados siguen el ejemplo de California) contribuirá en gran medida a responder la pregunta que el Congreso ha dejado abierta hasta ahora: ¿quién establece las reglas para los usuarios más jóvenes de la IA?
Manténgase informado sobre la política de IASiga cada desarrollo a medida que sucede. Lea más noticias sobre IA en AI Buzz Wire →
