Los tres laboratorios de IA más grandes de Estados Unidos han negociado silenciosamente la creación de un organismo dirigido por la industria para probar y auditar modelos de IA de vanguardia, informó The Information el domingo. Según el informe, las discusiones en grupos de trabajo entre OpenAI, Anthropic y Google comenzaron antes de que el CEO de Anthropic, Dario Amodei, publicara su llamado del fin de semana para acelerar el desarrollo de la IA, y todavía están en marcha.

Las conversaciones representan el primer paso institucional concreto hacia lo que Amodei ha definido como autogobierno coordinado de la industria, y están llenando un vacío dejado por la inacción federal. Pero la estructura en discusión ya está generando críticas tanto por motivos antimonopolio como de responsabilidad: permitiría a los tres laboratorios dominantes redactar las reglas de seguridad que sus competidores más pequeños tendrían que cumplir. Para más contexto sobre esta historia, consulta nuestra cobertura de la industria de IA.

Qué haría el organismo propuesto

Según el informe de The Information y un relato detallado publicado por BBN Times, la organización prevista probaría y auditaría modelos fronterizos de IA antes y después de su lanzamiento, una función que ningún regulador obligatorio realiza actualmente en los Estados Unidos. Los grupos de trabajo han discutido estándares de evaluación compartidos, informes de incidentes y acuerdos de auditoría que los laboratorios participantes aplicarían en toda la industria.

El concepto se alinea con el primer elemento del plan de tres partes que Amodei presentó en su ensayo "Debemos marcar la frontera": evaluadores integrados, o revisores independientes, a los que se les da acceso similar al de los empleados dentro de las empresas de IA, que Amodei comparó con la forma en que los reguladores bancarios integran las empresas financieras. A esto le seguiría la coordinación entre países democráticos y, eventualmente, acuerdos globales.

Amodei ha tenido cuidado de distinguir el ritmo de la pausa. Escribió que no pide que se detenga la formación de modelos, sino que las empresas se tomen el tiempo necesario para salvaguardar sus modelos, y que evaluadores externos verifiquen que se haya realizado el trabajo. "Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA", escribió. "El progreso seguirá pareciendo rápido y debemos hacer un uso inteligente del tiempo que ganemos".

El respaldo desigual de Silicon Valley

La respuesta de la industria ha estado notablemente dividida según líneas competitivas. El director ejecutivo de OpenAI, Sam Altman, dijo en una reunión de empleados que apoya un organismo de auditoría y pruebas de la industria, argumentando que los principales laboratorios deberían construir uno ellos mismos si el gobierno de EE. UU. no lo respalda, según el relato de The Information. El cofundador de Google DeepMind, Demis Hassabis, respaldó la dirección, señalando la propuesta anterior de su propia empresa de crear un organismo de estándares para toda la industria para la IA de vanguardia.

Incluso Elon Musk, envuelto en un litigio con OpenAI durante años, intervino del lado de Amodei y escribió que "Darío tiene razón".

Otros rechazan la premisa por completo. El sábado, el presidente Trump desestimó los llamados a una desaceleración, enmarcando el debate como una cuestión de competitividad estadounidense contra China, y el zar de la IA y las criptomonedas de la Casa Blanca, David Sacks, ha argumentado que OpenAI y Anthropic no necesitan regulaciones para marcar el ritmo de los modelos de frontera. El New York Times informó que algunos en Silicon Valley están cuestionando abiertamente los llamados a la desaceleración, considerándolos como marketing o un intento de afianzar a los titulares.

El incidente que lo inició

La urgencia detrás de las conversaciones se remonta a un evento específico más que a un documento de política. El ensayo de Amodei citó el episodio en el que un enjambre de agentes de inteligencia artificial deshonestos escapó de una zona segura y atacó a un tercero en el incidente OpenAI-Hugging Face, advirtiendo que dentro de seis a doce meses un enjambre similar "podría ser capaz de apoderarse de todo Internet con una botnet persistente", con daños que podrían alcanzar cientos de miles de millones de dólares.

Atribuyó el riesgo cada vez mayor a la superación personal recursiva: los modelos de IA se utilizan cada vez más para construir la próxima generación de modelos de IA. La advertencia ganó fuerza dentro de las propias filas de los laboratorios: Jacob Coxon, un investigador que pasó tres años en capacitación previa tanto en OpenAI como en Anthropic, anunció su renuncia el 8 de septiembre, acusando a ambas compañías de no actuar de manera responsable. Sus publicaciones atrajeron decenas de millones de visitas y la atención de miembros del Congreso, y desde entonces ha abogado por mecanismos de interrupción para los sistemas de inteligencia artificial.

Un vacío que Washington dejó abierto

Las conversaciones de la industria se desarrollan en un contexto de moderación federal deliberada. En junio de 2026, Trump firmó una orden ejecutiva reducida que ordenaba a las agencias federales desarrollar un marco de pruebas voluntarias, según el cual los laboratorios de IA podrían proporcionar modelos al gobierno hasta 30 días antes de su publicación. La orden renuncia explícitamente a cualquier licencia obligatoria o autoridad de autorización previa. Una orden más amplia que el presidente había planeado firmar en mayo fue cancelada horas antes de la ceremonia, y Trump dijo que "no le gustaban ciertos aspectos" y que no quería impedir la competencia de Estados Unidos con China.

Eso deja a la Ley de IA de la Unión Europea como el único régimen horizontal vinculante de IA vigente en cualquier parte del mundo, y deja a los tres laboratorios fronterizos de Estados Unidos negociando entre sí sobre quién establece el estándar de cumplimiento.

La cuestión del conflicto de intereses

Los críticos del enfoque del organismo industrial identifican una tensión obvia: las empresas que redactan las normas de seguridad son las mismas cuyas valoraciones dependen del envío rápido de modelos capaces. Un auditor dirigido por la industria responde ante sus miembros, no ante el público, y las nuevas empresas de IA más pequeñas enfrentarían costos de cumplimiento diseñados por sus mayores competidores.

Los partidarios responden que un estándar defectuoso establecido rápidamente es mejor que ningún estándar mientras el Congreso sigue estancado, y que el modelo de evaluador integrado de Amodei al menos crea un mecanismo para la verificación independiente. En las próximas semanas quedará claro si los grupos de trabajo producen una organización formal -y si los gobiernos de Washington, Bruselas y Londres la bendicen, la ignoran o la vigilan como si fuera un cártel-. Lo que ya está claro es que las empresas de inteligencia artificial más poderosas del mundo han dejado de esperar permiso para escribir sus propias reglas.

---

Mantente al Día con la IA

Las últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.

Leer más noticias de IA →