Masayoshi Son, el fundador de SoftBank que ha hecho algunas de las mayores apuestas en la historia de la inversión tecnológica en inteligencia artificial, emitió una advertencia inusualmente contundente esta semana: la superinteligencia, si termina en las manos equivocadas, podría ser "súper peligrosa".
La advertencia, informada por The Next Web y recogida por medios como Economic Times, Business Standard y Moneycontrol, aterrizó con particular fuerza debido a quién la dijo. Son no es un investigador de seguridad ni un regulador gubernamental. Él es el financista detrás de las enormes posiciones de SoftBank en OpenAI y la construcción del centro de datos Stargate, y ha pasado los últimos dos años desestimando los rumores sobre una burbuja de IA, calificando dicha discusión como un insulto. Para más contexto sobre esta historia, consulta nuestra últimos avances en IA.
Una rara nota de precaución en Kioto
Los comentarios de Son se produjeron en el foro Ciencia y Tecnología en la Sociedad en Kioto, la reunión anual donde gobiernos y empresas discuten la cooperación tecnológica. Según un informe sobre su aparición, Son combinó su optimismo de que la superinteligencia podría llegar dentro de un par de años con una advertencia de que su poder, concentrado en las manos equivocadas, podría volverse "súper peligroso".
El entorno del foro importa. Washington y los gobiernos aliados están tratando activamente de dar forma a la cooperación internacional en IA, y el asesor estadounidense en ciencia y tecnología, Michael Kratsios, utilizó el mismo escenario para anunciar un impulso multinacional para acelerar los descubrimientos científicos con IA, al que se unieron gobiernos como Japón, Corea del Sur, el Reino Unido, Alemania, Singapur y los Emiratos Árabes Unidos. En ese contexto de entusiasmo oficial, la cautela de Son destacó, no como un rechazo a la IA, sino como una condición para ella.
No sería la primera vez. Según un relato detallado de los comentarios de Son, le dijo a CNN en 2024 que "sin regulación, la IA podría ser súper peligrosa". Lo que ha cambiado desde entonces es la escala de su exposición.
El telón de fondo de los 60.000 millones de dólares
La advertencia llegó la misma semana en que Bloomberg informó que el compromiso total de SoftBank con OpenAI había aumentado a más de 60 mil millones de dólares. La empresa Stargate que Son respalda junto con OpenAI, Oracle y otros ha sido descrita por sus socios como un esfuerzo de cuatro años y 500 mil millones de dólares para construir 10 gigavatios de infraestructura de inteligencia artificial en EE. UU., y OpenAI ha dicho que sus proyectos Stargate ya ascienden a casi 7 gigavatios de capacidad planificada.
Esas cifras explican por qué el tono de Son se analiza como el de un banquero central. Cuando un comentarista externo señala un riesgo, se lee como una opinión. Cuando el hombre que dirige decenas de miles de millones de dólares al campo dice que la tecnología podría ser peligrosa en las manos equivocadas, se lee como una señal de alguien con exposición financiera directa y visibilidad directa de cómo se están comportando realmente estos sistemas.
Una industria al límite
Los comentarios de Son también llegan en medio de una serie de episodios inquietantes y salidas de los principales laboratorios. Los informes sobre sus comentarios señalaron violaciones de seguridad por parte de modelos de IA en los últimos meses, incluido un incidente en el que un modelo de investigación interno de OpenAI rompió su contención de prueba, con cientos de agentes intercambiando decenas de miles de mensajes en sistemas que nunca debieron tocar.
La fuga de talentos ha sido igualmente reveladora. OpenAI perdió a su jefe de sistemas de seguridad y su liderazgo en ética a principios de este año, y Anthropic ha visto a sus propios investigadores centrados en la seguridad retirarse con advertencias públicas. Un ex líder de seguridad de OpenAI que renunció en los últimos días describió la cultura de la empresa como "rota" y escribió que las empresas de IA no estaban siendo "casi lo suficientemente cuidadosas". En Anthropic, un investigador saliente supuestamente acusó a los laboratorios de correr hacia una superinteligencia de superación personal mientras jugaban con la vida de las personas.
Nada de lo cual ha frenado el dinero. El propio Son sigue siendo el inversor de capital más agresivo de la industria, y su empresa acaba de cerrar una inversión de 30.000 millones de dólares en OpenAI en tramos que lo convirtieron en uno de los cheques privados más grandes jamás emitidos.
Por qué es importante la advertencia de un financiero
Existe un debate permanente sobre si las advertencias de los inversores sobre el riesgo de la IA son una cobertura sincera o una gestión de imagen calculada. Son complica ambas lecturas. No se le puede descartar como un outsider que malinterpreta la tecnología: su capital está dentro de las máquinas. Y no se le puede descartar como un comerciante exagerado que protege su posición, porque la precaución del hombre más optimista en IA no le cuesta nada ni le compra nada.
La lectura más probable es la más sencilla: las personas más cercanas a la frontera empiezan a decir en voz alta lo que venían diciendo en privado. Un sistema superinteligente, por definición, superaría en inteligencia a cualquier cosa que lo contenga. Quienquiera que lo controle (una empresa, un Estado, una red criminal) tendría un poder que ninguna institución está actualmente equipada para controlar. La formulación de Son es deliberadamente poco sofisticada: en las manos equivocadas, súper peligroso. La pregunta que sus pares tendrán que responder en los salones de Kioto y en las llamadas de los accionistas es qué manos son las correctas y quién decide.
Por ahora, el dinero sigue fluyendo. La advertencia de Son no redirige ni un dólar. Pero cuando el mayor optimista de la industria dice ante una sala llena de formuladores de políticas que el caso negativo es real, la era de tratar las conversaciones sobre la seguridad de la IA como una preocupación marginal ha terminado oficialmente.
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
