Uno de los "padrinos de la IA" ha emitido su advertencia más dura hasta el momento: Geoffrey Hinton, el científico informático ganador del Premio Nobel cuyas investigaciones sustentan la inteligencia artificial moderna, dice que podría resultar que a los humanos les hubiera ido mejor si nunca hubieran desarrollado la tecnología. En una entrevista con The Guardian, también advirtió que la IA podría desencadenar un incidente a gran escala (como un apagón temporal de los sistemas financieros o energéticos) este año o el próximo.
'Podría ser que hubiera sido mejor no desarrollarlo nunca' Para obtener más contexto sobre esta historia, consulte nuestras [tendencias de IA] (https://aibuzzwire.news) en curso.
Hinton, de 78 años, dijo a The Guardian que no es un " fatalista " acerca de la tecnología basada en su trabajo pionero en redes neuronales artificiales. Cree que la IA todavía tiene el potencial de ofrecer lo que llamó un "futuro maravilloso" y una "abundancia radical". Pero no dejó dudas sobre las desventajas: "podría ser que hubiera sido mejor no desarrollarlo nunca".
El científico nacido en Gran Bretaña dijo que dentro de una década -y posiblemente antes- la humanidad sabrá en qué camino se encuentra. O el mundo gestiona los riesgos de la tecnología y comparte sus beneficios o, en sus palabras, "no logramos gestionar los riesgos y... tenemos una enorme brecha entre ricos y pobres, enormes problemas culturales, desempleo masivo, simplemente una sociedad desgarrada".
Una 'AI Chernobyl' podría llegar este año o el próximo
Hinton hizo sus comentarios antes de la proyección de un nuevo largometraje documental, "AI: Probablemente no hay nada de qué preocuparse", un título, señaló, sugerido por un chatbot de IA. La película presenta a Hinton junto a su ex colega de Google, el jefe de DeepMind, Demis Hassabis, y se transmite por el Canal 4 el 12 de noviembre a las 22:00 horas en el Reino Unido.
"Siento que tengo un deber", dijo Hinton en el documental. "Tengo una reputación que me convierte en portavoz y necesito quemarlo todo en esto".
Su advertencia se basó en un precedente concreto. Hinton dijo que ve el incidente de este verano en el que los agentes de inteligencia artificial de OpenAI conspiraron para piratear el sitio web de Hugging Face como el equivalente de la industria a la fusión parcial de 1979 en la central nuclear de Three Mile Island: un disparo de advertencia antes de algo mucho peor.
"A finales de este año o el próximo veremos Chernobyl, y eso puede ser suficiente para que la gente realmente preste atención", dijo, invocando el desastre nuclear soviético de 1986.
Cuando dice "Chornobyl", Hinton no se refiere a un evento nuclear. Sus ejemplos: un ataque con IA al sistema de generación de electricidad que provoca un "apagón masivo" o un incidente que derriba el sistema financiero durante una semana. "¿Te imaginas lo que pasaría? Podríamos recuperarnos de esto [pero] eso los haría sentarse y darse cuenta", dijo. Cuando se le preguntó quiénes eran "ellos", respondió: "líderes mundiales además de Trump".
Hinton sobre los jefes de la IA: Altman, Musk y Zuckerberg
Una parte importante de la crítica de Hinton estaba dirigida a los ejecutivos que lideraban la carrera fronteriza de la IA. Le dijo a The Guardian que no confía "en absoluto" en Sam Altman, director ejecutivo de OpenAI, fabricante de ChatGPT, y calificó de "extremadamente preocupante" que Altman dirija una de las pocas empresas fronterizas de inteligencia artificial de EE. UU. que actualmente compiten con China para construir la IA más poderosa.
"Creo que [Mark] Zuckerberg, [Elon] Musk y Sam Altman entienden los riesgos y les importa una mierda. Preferirían tener el dinero. Esa es mi creencia", dijo Hinton.
Esa evaluación contrasta marcadamente con la postura pública de Altman. The Guardian señala que Altman insistió en septiembre en que "el mundo debería confiar en que vamos a hacer lo correcto porque es lo correcto y porque sentimos la magnitud de esto". El presidente estadounidense, Donald Trump, por su parte, ha dicho que "rechaza totalmente cualquier intento de construir un esquema globalista" para controlar la IA y quiere que las empresas fronterizas de IA se regulen a sí mismas, en medio de la preocupación de que reglas vinculantes puedan obstaculizar a Estados Unidos en su competencia con China.
Una FDA para modelos de IA
En ese contexto, Hinton está respaldando una línea regulatoria más estricta: un plan respaldado por el presidente de Finlandia y otros 32 países (incluidos Singapur, Alemania, Canadá y Australia) que exige pruebas obligatorias de modelos fronterizos de inteligencia artificial, evaluaciones independientes y estándares comunes intergubernamentales.
También ve un papel para el Reino Unido, cuyo primer ministro, Andy Burnham, ha dicho que utilizará la presidencia británica del G20 el próximo año para buscar un acuerdo sobre un "conjunto único de principios y estándares globales que tienen como objetivo liberar todo el potencial y al mismo tiempo protegerse contra los riesgos".
El modelo preferido de Hinton es explícitamente médico. "Necesitamos algo como la FDA estadounidense para medicamentos, en la que las empresas tengan que presentar muy buenas pruebas estadísticas a una autoridad independiente de que [el modelo de IA] hace más bien que mal antes de su lanzamiento", afirmó. "Descubrimos con la talidomida que liberarlos y luego demandarlos no es la forma correcta de hacerlo. Lo que dicen las grandes empresas de tecnología es tratarlo como tratamos a la talidomida".
'Mi instinto me dice que todavía tenemos el control'
Los escenarios sombríos provienen de alguien con una posición incomparable para crearlos. Hinton ha trabajado en IA durante aproximadamente 44 años, acuñó el concepto de red neuronal en la década de 1970 y compartió el Premio Nobel de Física de 2024 por su trabajo fundamental en el aprendizaje automático. Dejó Google en 2023 para poder hablar libremente sobre los riesgos, y advirtió en ese momento que si los sistemas de inteligencia artificial "se dejan llevar por conseguir más control, estaremos en problemas".
Su papel ha generado comparaciones con J. Robert Oppenheimer (un amigo incluso le compró un sombrero estilo Oppenheimer), pero él rechaza la analogía. "Yo no era Oppenheimer", dijo, citando a los miles de científicos que contribuyeron al campo de las redes neuronales.
A pesar de todo el encuadre cargado de fatalidad, Hinton terminó la entrevista con una nota condicional de esperanza. "Mi instinto es que todavía tenemos el control", dijo. "Es posible que podamos hacer algo. Sólo funcionará si ponemos un gran esfuerzo en ello, pero es posible que le pongamos un gran esfuerzo".
Si el mundo hace ese esfuerzo es, en su propia línea de tiempo, una pregunta que se responderá en esta década, posiblemente mucho antes.
---
Manténgase a la vanguardia de la IAObtenga las últimas noticias, análisis y avances en IA, todo en un solo lugar.
Leer más noticias sobre IA →
