OpenAI ha confirmado que Anthropic y Google DeepMind han estado manteniendo conversaciones sobre la coordinación de la seguridad de la IA durante varias semanas y dice que apoya una legislación que obligaría a los laboratorios fronterizos a abrir sus puertas a organizaciones de verificación independientes.
Chris Lehane, director de asuntos globales de OpenAI, hizo la revelación en una reunión el martes, según TechCrunch. Reuters y Bloomberg, citando los mismos comentarios, informaron que OpenAI está trabajando con Anthropic y Google en la seguridad de la IA. La confirmación convierte semanas de insinuaciones (incluida una entrevista de Fortune en la que Sam Altman reconoció conversaciones privadas con otros líderes de IA) en una admisión explícita de que los tres principales laboratorios fronterizos del mundo se están coordinando sobre qué tan rápido se mueven y cómo se verifican sus modelos.
Para los lectores que siguen el tiroteo político más amplio en torno a una desaceleración de la IA, la cobertura de actualizaciones de inteligencia artificial esta semana ha variado desde el cofundador de Anthropic, Jack Clark, respaldando un interruptor de apagado obligatorio hasta el presidente Trump calificando los temores de seguridad como un engaño durante una llamada en el escenario con Jensen Huang de Nvidia.
Una confirmación que tarda semanas en realizarse
Las conversaciones siguen a un ensayo publicado el sábado por el director ejecutivo de Anthropic, Dario Amodei, que pide a la industria que trabaje en conjunto para frenar el ritmo del desarrollo de la IA de vanguardia para evitar riesgos catastróficos. La carta obtuvo el apoyo de toda la industria: Altman, Demis Hassabis de Google y Elon Musk respaldaron el llamado a la acción, y Altman dijo que OpenAI se uniría al esfuerzo.
Posteriormente, The Information informó que las tres empresas han estado trabajando para crear un organismo de normalización para la industria de la IA. Hassabis tiene un historial sobre la idea: en julio pidió a Estados Unidos que estableciera un nuevo organismo de estándares para actuar como un organismo de control de la IA, con el poder de examinar los modelos más avanzados del mundo y coordinar las desaceleraciones en toda la industria si los peligros progresaban.
Lo que añaden las declaraciones de Lehane es una confirmación oficial. Hasta ahora, los portavoces de los laboratorios habían apuntado en gran medida a un diálogo informal; El jefe de asuntos globales de OpenAI ahora ha dejado constancia de la coordinación.
La sombra antimonopolio
Cualquier acuerdo entre competidores directos para frenar el desarrollo plantea cuestiones antimonopolio obvias, y los laboratorios lo saben. El propio Altman ha señalado que tales conversaciones podrían poner a las empresas en riesgo de violar la ley antimonopolio si se descubriera que la coordinación suprime la competencia. El ensayo de Amodei proponía una exención gubernamental estrecha que permitiría la coordinación de la seguridad sin activar la ley de competencia, una señal de cuán seriamente se está tomando el tema dentro de las empresas.
Los críticos se han apresurado a señalar la tensión en el centro del acuerdo: las tres empresas que dominan las mayores cuotas de mercado en IA fronteriza que deciden conjuntamente racionar el progreso parece, a los escépticos, como un comportamiento de cartel con un envoltorio de seguridad. Los partidarios responden que el riesgo catastrófico es precisamente el tipo de problema que los competidores no pueden resolver unilateralmente, ya que cualquier laboratorio que se desacelere por sí solo simplemente cede la frontera a sus rivales.
OpenAI adopta controles de terceros
La noticia política más concreta en los comentarios de Lehane se refiere a la legislación. Dijo que OpenAI apoya una disposición de la Ley FRONTIER que requeriría que los laboratorios de vanguardia permitan el ingreso de "organizaciones de verificación independientes" a sus empresas para garantizar que los modelos se desarrollen de manera segura. Politico informó que OpenAI respalda un plan bipartidista de la Cámara basado en evaluaciones de seguridad de terceros.
Esa posición habría sido impensable para el campo hace dos años, cuando los compromisos voluntarios y los equipos rojos internos eran el estándar de la industria. Ahora alinea OpenAI con la postura de auditoría primero que Anthropic ha promovido durante mucho tiempo, y crea un raro punto de acuerdo entre los laboratorios y el ala del debate político que ha pasado el año exigiendo una supervisión ejecutable.
También provoca un choque con la Casa Blanca. El presidente Trump ha descartado las preocupaciones de seguridad como un engaño y ha argumentado que cualquier desaceleración le daría a China una ventaja en la carrera de la IA. Su asesor de inteligencia artificial, David Sacks, un inversor de larga data con intereses personales en toda la industria, ha calificado de exagerados los temores de riesgo existencial. En el Reino Unido, los ministros siguen públicamente divididos sobre la misma cuestión: una facción insta al gobierno a prestar atención a las advertencias de los expertos, mientras que el secretario de Negocios, Reynolds, ha rechazado hablar de un interruptor de apagado para sistemas avanzados.
Una lucha política sin terreno neutral
En las próximas semanas se comprobará si la coordinación de los laboratorios sobrevive al contacto con las autoridades de competencia y una administración escéptica. Un organismo de normalización creado por tres empresas que controlan la frontera enfrentará exigencias de incluir directores independientes, publicar sus criterios y someterse a revisión gubernamental, o será descartado como un cártel privado disfrazado de público.
Para la Ley FRONTIER, el respaldo de OpenAI brinda a los patrocinadores del proyecto de ley un respaldo titular, pero también una nueva línea de ataque para los oponentes que argumentan que los laboratorios más grandes simplemente están capturando el campo regulatorio, escribiendo reglas que solo ellos pueden darse el lujo de seguir. Los laboratorios más pequeños y la comunidad de pesos abiertos, que no tiene asiento en las conversaciones, están observando de cerca: cualquier régimen de verificación que surja definirá los costos de cumplimiento para todos los que están detrás de la frontera.
Lo que ya no está en discusión es el hecho mismo de la coordinación. Las tres empresas que definen la vanguardia de la IA ahora están discutiendo abiertamente qué tan rápido deben funcionar e invitando al gobierno a ayudar a arbitrar.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
