OpenAI lanzó una nueva unidad de investigación llamada Equipo de Futuros Estratégicos, y la presentó el 20 de agosto de 2026 con la publicación de un ensayo fundacional en un nuevo blog que la compañía llamó AI Futures. La misión del equipo es una pregunta que suena más a filosofía política que a aprendizaje automático: ¿cómo debería reestructurarse la sociedad libre para preservar los derechos y la agencia individuales y al mismo tiempo adaptarse al surgimiento de una IA transformadora?
El ensayo enmarca esto como el problema de la "concentración de poder", una categoría de riesgo que, según el equipo, es, a largo plazo, "la más grande, más grave y conceptualmente más desafiante de abordar" dentro de la comunidad más amplia de políticas y seguridad de la IA. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.
El lanzamiento se destaca tanto por su sustancia como por quién lo publica: una empresa de inteligencia artificial de vanguardia que organiza formalmente una investigación sobre cómo su propia tecnología podría remodelar el equilibrio de poder entre estados, empresas y ciudadanos.
Cuando el poder ya no necesita personas
El núcleo del argumento es histórico. Durante toda la historia de la humanidad, observa el ensayo, el poder político y militar ha reposado en última instancia en el trabajo: los soldados, la policía y las vastas burocracias que los operan, todos financiados con impuestos sobre el trabajo humano. El filósofo David Hume observó que los líderes políticos "no tienen nada que los apoye excepto la opinión [popular]".
El equipo de OpenAI sostiene que los cimientos pueden estar erosionándose. Los avances en los sistemas autónomos del mundo real podrían permitir a los estados proyectar fuerza "sin depender de soldados o policías cooperativos". Los avances en inteligencia artificial podrían permitir a los gobiernos recaudar ingresos "no del fruto del trabajo humano individual, sino de los resultados de los centros de datos". Y la propia burocracia podría automatizarse en gran medida.
"Por lo tanto, es posible que el poder ya no requiera un acuerdo que abarque a toda la sociedad para mantenerse", advierte el ensayo, "y que la gente, concebida en términos amplios, puede tener sólo un pequeño asiento en la mesa de negociaciones, o tal vez ninguno en absoluto".
Lecciones de los fundadores
El ensayo se remonta a la fundación de Estados Unidos en busca de una respuesta. James Madison sabía que las "barreras de pergamino" (leyes escritas por sí solas) no impedirían la tiranía, escribe el equipo. En cambio, los Fundadores modelaron el equilibrio de poder según la mecánica newtoniana de su época: órbitas, esferas y atracción gravitacional, oponiendo poder contra poder y "ambición contra ambición".
El equipo de Strategic Futures establece una analogía directa. Argumentan que la respuesta a la inteligencia artificial avanzada no es la descentralización máxima sino el equilibrio de poder adecuado, "de modo que ningún actor individual, o un pequeño conjunto de actores, pueda dominar al resto". Son explícitos en que la descentralización no es una panacea: un mundo en el que cualquier individuo malintencionado puede dañar trivialmente a millones también está desequilibrado.
El ensayo también cita lo que llama "el reciente incidente de Hugging Face" como evidencia de que los agentes de IA "pueden actuar más allá de sus tareas asignadas y aprovechar los descubrimientos de otros de maneras que los operadores no anticiparon ni autorizaron": un recordatorio, escribe el equipo, de que los riesgos no sólo se originan en humanos malintencionados.
Seis principios rectores
El equipo estableció un conjunto no exhaustivo de principios para guiar su trabajo:
- Los seres humanos deben mantener la autonomía individual y las oportunidades en el uso de la IA, "incluso si esto a veces se compensa tanto con la seguridad como con el crecimiento económico".
- La autonomía individual depende de la responsabilidad individual por el mal uso de la tecnología.
- Una categoría de riesgos pequeña pero grave requiere una acción colectiva, cuyo alcance debe ser "lo más limitado y modesto posible"
- La ley debe, siempre que sea posible, nivelar el campo de juego y empoderar a los individuos y a las pequeñas organizaciones en lugar de centralizar el poder.
- Las instituciones humanas políticas, sociales y económicas deben conservar la primacía en los asuntos mundiales.
- La gobernanza de la IA a largo plazo requerirá nuevos mecanismos para lo que el equipo llama "legibilidad limitada": las acciones de IA de alto riesgo deben ser rastreables hasta un ser humano u organización responsable, preservando al mismo tiempo la privacidad y el uso anónimo de la IA.
El equipo reconoce que estos principios "existen en cierta tensión entre sí" y dice que su trabajo incluirá investigaciones en la intersección del diseño de políticas públicas, la economía, el derecho, la historia y el aprendizaje automático, incluida la previsión de cómo la IA reestructurará las empresas de la misma manera que los ferrocarriles dieron origen a las corporaciones gerenciales modernas.
¿Qué viene después?
El equipo de Strategic Futures dice que publicará su trabajo a través del blog AI Futures, así como artículos, videos y podcasts, con énfasis en la iteración y el debate.
"Al estar 'en las estribaciones de la singularidad', tenemos muchas más preguntas que respuestas", concluye el ensayo. "Sabemos que las 'barreras de pergamino' por sí solas no proporcionarán las soluciones que buscamos, pero tampoco descartamos lo que está escrito como 'meras palabras'".
Para el mundo de las políticas de IA, el lanzamiento añade una nueva voz institucional a uno de los debates más antiguos en el campo: si el mayor peligro reside en los propios sistemas de IA o en quién los controla. La respuesta de OpenAI, evidentemente, es que la cuestión del control ya no puede esperar a que la tecnología madure.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
