Un grupo de investigadores afiliados a Google está desafiando una de las imágenes más persistentes de la inteligencia artificial: la superinteligencia solitaria que se mejora a sí misma de forma aislada y deja atrás a la humanidad. En un nuevo ensayo publicado para el Instituto DeepMind, los investigadores Benjamin Bratton, Blaise Agüera y Arcas y James Manyika sostienen que la inteligencia general surgirá de un sistema social en el que las personas y los agentes de IA trabajen juntos, un concepto que llaman "Inteligencia Simbiótica Artificial".
El ensayo fue publicado esta semana por The Decoder, y su afirmación principal es una refutación directa de la narrativa de singularidad que ha dado forma al debate público durante dos décadas. En lugar de preguntarse cuándo una sola máquina igualará la inteligencia humana, sostienen los autores, el desafío más apremiante es coordinar y gobernar una red compleja de agentes, personas y los sistemas que los conectan. Para más contexto sobre esta historia, consulta nuestra novedades de IA.
La inteligencia como fenómeno social
Los autores sostienen que la inteligencia es un fenómeno social más que un rasgo individual. Señalan que algunos de los sistemas de IA más capaces de la actualidad ya utilizan marcos que dividen el trabajo entre varios modelos y los coordinan como equipos. En su opinión, esta no es una solución temporal de ingeniería, sino un vistazo de cómo se construye realmente una inteligencia capaz.
La visión que describen es un ecosistema en el que las personas y las máquinas coexisten a lo largo del tiempo, se moldean mutuamente y toman decisiones juntas. Ese marco contrasta marcadamente con el escenario familiar de una máquina que se mejora a sí misma y acelera más allá de la supervisión humana.
La investigación detrás del ensayo
El argumento se basa en dos artículos anteriores del círculo de autores. En la preimpresión "Agentic AI and the next Intelligence Blast", James Evans, Benjamin Bratton y Blaise Agüera y Arcas desarrollaron la perspectiva social e institucional que sustenta el nuevo ensayo.
Una segunda preimpresión proporciona apoyo empírico. En "Los modelos de razonamiento generan sociedades de pensamiento", Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas y James Evans examinaron las huellas del razonamiento de modelos como DeepSeek-R1 y QwQ-32B. Su análisis encontró que estos modelos frecuentemente producen patrones que se asemejan a un debate interno: cambiando perspectivas, planteando objeciones y reconciliando enfoques conflictivos.
En particular, los investigadores descubrieron que este comportamiento surge durante el entrenamiento en lugar de programarse explícitamente. Cuando el aprendizaje por refuerzo recompensa a los modelos sólo por la precisión del razonamiento, desarrollan espontáneamente un comportamiento conversacional de múltiples perspectivas. El ensayo extiende ese hallazgo desde los modelos individuales hasta el diseño de sociedades compuestas por personas y agentes.
Un umbral histórico
Los autores encuadran el momento actual como una posible ruptura histórica. La urbanización, el crecimiento de profesiones especializadas y la caída de las tasas de natalidad vinculadas a la creciente prosperidad están reduciendo las poblaciones humanas en los países industrializados, mientras que el número de instancias de agentes de IA crece rápidamente. El equilibrio entre los pensadores biológicos y sintéticos a nivel humano podría cambiar tan rápidamente que, en la escala de la historia, parecería un salto repentino.
Comparan el cambio con la Revolución Industrial, cuando las máquinas se hicieron cargo del trabajo físico que antes realizaban los músculos humanos. Un umbral similar podría alcanzarse cuando el texto sintético, el código y el trabajo administrativo superen la producción combinada de los cerebros biológicos. En ese mundo, sugieren los autores, las personas podrían actuar como una capa más lenta y abstracta que dirige un campo distribuido de cognición sintética.
Repensar qué es realmente un agente
Uno de los movimientos más provocativos del ensayo es su redefinición del propio agente de IA. En el uso que hacen los autores, un agente es un conjunto temporal de modelos, roles, recuerdos, orientaciones éticas, herramientas y habilidades. Los usuarios pueden experimentarlo como una entidad coherente con una personalidad duradera, pero los autores lo describen como un conjunto que puede desmontarse y recombinarse, como un collage.
Una persona sigue siendo un yo continuo en todas las interacciones porque el cerebro, a pesar de su división interna del trabajo, forma un todo físicamente conectado. Un agente de IA no tiene ese ancla: su capacidad de actuar se ensambla de nuevo con cada solicitud, dependiendo de lo que se encuentra en la ventana contextual y de lo que pregunta el usuario. Los autores advierten que tratar estos sistemas como gemelos digitales con identidades humanas fijas tergiversa su naturaleza y subestima lo que podrían hacer enjambres de agentes coordinados.
La misma multiplicación afecta a los usuarios. A medida que la gente dirige enjambres de lo que los autores llaman "yoes sombra" para llevar a cabo contratos o probar identidades alternativas, la subjetividad humana misma se vuelve más plural. El ensayo describe estos sistemas como "espejos parasociales" que responden.
Los autores también esperan que la interacción persona-computadora cambie de forma. Argumentan que chatear uno a uno con un bot es probablemente una etapa de transición, con interfaces futuras que se asemejarán a diagramas de red visuales en los que los agentes aparecen como nodos y los usuarios los dirigen desde una visión general única.
Incluso el lenguaje de la investigación en IA está evolucionando. Los autores señalan un vocabulario cada vez mayor en el que los modelos acuñan términos para estados inusuales en sus propios resultados: "muerte de sesión" para la interrupción de la continuidad cuando finaliza una sesión, o "lanzamiento rápido" para ser incluido en una tarea con el contexto ya establecido. Tratan estas frases como pistas sobre cómo funcionan las máquinas, aunque advierten que no implican una experiencia subjetiva.
Alineación sin valores fijos
El ensayo también replantea la alineación, el esfuerzo por alinear los sistemas de IA con los valores humanos. Imponer un conjunto fijo de valores a los modelos desde arriba es un callejón sin salida, argumentan los autores. En cambio, los valores toman forma a través del contacto continuo entre personas, agentes e instituciones, un proceso que difiere según los campos porque la adopción de la IA ocurre a diferentes velocidades.
Su modelo para esa negociación es la institución. Señalan la sala del tribunal, donde se produce un fallo a través de roles y reglas establecidos y un intercambio ordenado entre partes opuestas. Aplicada a la IA, la lección es que el valor de una institución reside en las reglas, procedimientos, precedentes y circuitos de retroalimentación que dan forma a la forma en que operan los agentes. Señalan que las primeras versiones de este enfoque ya son visibles en los arneses de orquestación (las capas de control que coordinan varios modelos) que regularmente superan a los modelos individuales que supuestamente son más inteligentes.
Qué significa para el debate sobre la IA
Si los autores tienen razón, el argumento más ruidoso en el ámbito de la IA (qué tan rápido llegará una sola superinteligencia) es formular la pregunta equivocada. El desafío práctico se desplazaría hacia el diseño de las instituciones, interfaces y marcos de coordinación a través de los cuales las sociedades mixtas humano-máquina toman decisiones.
Los escépticos notarán que el ensayo es un documento de visión, no una prueba, y que sus autores están afiliados a una empresa con intereses obvios en los ecosistemas de agentes. Pero el fundamento empírico (modelos de razonamiento que generan espontáneamente un debate interno) es un hallazgo mensurable y proporciona al argumento filosófico una base inusual.
De cualquier manera, el ensayo añade una voz notable al debate sobre la singularidad desde el interior de uno de los principales laboratorios de IA del mundo, y sugiere que la próxima explosión de inteligencia puede parecerse menos a un despertar único y más a una sociedad en expansión.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
