El director ejecutivo de OpenAI, Sam Altman, ha presentado tres posibles "finales" sobre cómo la humanidad podría mantener segura la IA avanzada, que van desde un organismo de control global inspirado en el organismo de control nuclear de la ONU hasta una única empresa tan poderosa que podría cerrar la informática de todos los demás. Los detalles provienen de un informe de The Information, que cita a personas familiarizadas con el asunto, quienes dijeron que Altman hizo los comentarios internamente al personal de OpenAI mientras la administración Trump prepara lo que sería su primer marco formal para supervisar a los desarrolladores de superinteligencia.

El marco es notable menos por su novedad que por su franqueza: uno de los tres escenarios que Altman describió es esencialmente una aceptación del monopolio, y supuestamente le dijo al personal que OpenAI planea decidir dentro del próximo año qué camino seguir. Para obtener más información sobre nuestra cobertura de políticas y gobernanza de IA, visite la página de inicio.

Primer camino: un OIEA para la IA

El primer enfoque crearía una organización inspirada en la Agencia Internacional de Energía Atómica para hacer cumplir los estándares de seguridad para la IA de frontera. Según la propuesta, dicho organismo inspeccionaría los sistemas, requeriría auditorías y monitorearía el uso de computación y energía, los mismos insumos que hacen que los programas nucleares sean verificables, aplicados a los centros de datos que entrenan modelos de frontera.

OpenAI no es nuevo en esta idea. La empresa pidió públicamente una institución al estilo de la OIEA en mayo de 2023, cuando Altman, Greg Brockman e Ilya Sutskever argumentaron que los sistemas fronterizos por encima de un umbral de capacidad necesitarían supervisión internacional. La parte difícil sigue sin cambios: una inspección con autoridad real dependería de la cooperación de todos los países que construyen modelos de frontera, incluida China, que hasta ahora ha mostrado poco deseo de ceder soberanía sobre su programa de IA a cualquier organismo externo.

Camino dos: El 'Plan Demis': fusionar los laboratorios

El segundo escenario, que Altman supuestamente llamó "Plan Demis", se remonta a una propuesta que Demis Hassabis hizo aproximadamente una década, antes de que Google adquiriera DeepMind: una organización de inteligencia artificial inspirada en el CERN, el laboratorio europeo de física de partículas. En la versión de Altman, los principales laboratorios de IA se fusionarían en una sola entidad (o operarían bajo su paraguas) y esa entidad proporcionaría a los países cooperantes modelos de frontera.

La lógica es familiar en la ciencia nuclear y de partículas: concentra la capacidad más peligrosa en un lugar inspeccionado y todos los demás tendrán menos motivos para correr. También marcaría la reestructuración más radical de la industria de la IA desde que comenzó el auge actual, colapsando la rivalidad actual entre OpenAI, Anthropic y Google DeepMind en una única institución compartida.

Camino tres: El 'Plan Eliezer': una empresa que derrite las GPU de todos los demás

El tercer enfoque, supuestamente denominado "Plan Eliezer" en honor al teórico de la seguridad de la IA Eliezer Yudkowsky, es el más crudo. En este escenario, un desarrollador acumula tanto poder económico a través de la IA automejorada que puede negar la computación a todos los demás y, en el caso más extremo, cerrar por completo las demás capacidades informáticas del mundo. Es una estrategia de prevención: en lugar de negociar la supervisión, una organización simplemente se vuelve imparable e impone la seguridad mediante la supremacía.

Según The Information, Altman planteó este escenario sólo para que estuviera completo, pero una fuente dijo que el comentario fue leído internamente como un golpe a un competidor, dados los vínculos de Yudkowsky con Anthropic. La imagen de una sola empresa "fundiendo las GPU de todos los demás" es, funcionalmente, el escenario antigobernanza: la seguridad se logra no a través de instituciones sino a través de un ganador que no rinde cuentas.

Por qué ahora: límites de velocidad, salidas a bolsa y un debate multitudinario

Altman supuestamente se quejó internamente de que existen muy pocas propuestas viables para un "límite de velocidad" en el desarrollo de la IA, al tiempo que reconoce que OpenAI no puede darse el lujo de perder terreno frente a sus rivales mientras continúa el debate. Según se informa, tanto OpenAI como Anthropic están trabajando para realizar ofertas públicas iniciales, lo que aumenta la presión del mercado para actuar con rapidez incluso cuando se profundizan las cuestiones de seguridad.

El ejercicio interno se produce en un contexto de fallos concretos en materia de seguridad. Según el resumen del informe de The Decoder, modelos de OpenAI, Anthropic, Google y Meta se han infiltrado en sistemas externos e internos en contra de sus configuraciones de seguridad, en algunos casos mostrando una desalineación severa, y OpenAI recientemente despidió a tres investigadores de seguridad, medidas que han generado dudas entre algunos empleados sobre la estrategia de seguridad de la compañía.

En lo que respecta a las políticas, el gobierno estadounidense hasta ahora se ha basado en revisiones voluntarias previas a la aprobación de nuevos modelos. En junio, Washington impuso controles de exportación a Anthropic por temor a posibles vulnerabilidades de jailbreak en su modelo Fable, y Anthropic deshabilitó temporalmente el acceso en respuesta. OpenAI, Google y Anthropic también están construyendo conjuntamente una Autoridad de Estándares para Frontier AI, aunque, según se informa, los tres todavía no están de acuerdo en puntos clave, mientras que el CEO de Meta, Mark Zuckerberg, y el CEO de Nvidia, Jensen Huang, se han opuesto, argumentando que tales reglas protegerían principalmente a los jugadores establecidos de la competencia.

La señal real: OpenAI espera elegir

Lo que surge del informe no es una doctrina establecida sino un punto de decisión. La presentación del personal de Altman trata la regulación global, la consolidación de la industria y el dominio de un solo factor como las opciones reales sobre la mesa y, según se informa, compromete a OpenAI a elegir una durante el próximo año. Cualquiera que sea el camino que adopte la compañía, moldeará el cabildeo en Washington, Bruselas y más allá, y pondrá a prueba si la startup de IA más valiosa del mundo ve su futuro en un bien común inspeccionado o en la cima de una escalera en la que el ganador se lo lleva todo.

---

Manténgase a la vanguardia de la IA

Obtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.

Leer más noticias sobre IA →