Una ola de advertencias públicas desde dentro de Anthropic se intensificó esta semana cuando varios investigadores de la compañía de inteligencia artificial se hicieron eco de la evaluación apocalíptica de un ex colega sobre la inteligencia artificial, lo que provocó una respuesta desdeñosa de Elon Musk, quien sugirió que la protesta era una "operación psicológica" coordinada.
Según The Guardian, la escalada se produjo un día después de que el investigador de Anthropic Jacob Coxon anunciara su renuncia en una publicación viral, escribiendo que ni Anthropic ni OpenAI (su antiguo empleador) estaban construyendo modelos de IA de manera responsable y estaban "jugando con nuestras vidas". En lugar de desvanecerse, la controversia creció cuando el personal actual de Anthropic publicó sus propias evaluaciones nefastas en apoyo. Para más contexto sobre esta historia, consulta nuestra actualidad de inteligencia artificial.
Las advertencias se acumulan
Anna Wang, que trabaja en seguridad de inteligencia artificial general en Anthropic y anteriormente trabajó en DeepMind de Google, dijo el jueves que muchas personas en la compañía quieren desacelerar el desarrollo para planificar los riesgos que plantean modelos cada vez más capaces.
"Aún no existe un plan científico viable para resolver los riesgos de la IA que se mejora a sí misma recursivamente", escribió Wang en X.
Otro empleado de Anthropic, Drake Thomas, dijo que respetaba la decisión de Coxon de dejar de desarrollar la tecnología. "Las cosas están avanzando demasiado rápido, no tenemos ni de lejos el grado de seguridad que querríamos para la ASI [superinteligencia artificial]", escribió Thomas.
Samuel Marks, que trabaja en investigación de seguridad en la empresa, argumentó que las preocupaciones son ampliamente compartidas dentro de la industria y que la antigüedad se correlaciona con la alarma. "Los desarrolladores de IA creen que su tecnología podría causar la extinción humana (o resultados igualmente malos)", escribió Marks. "Esto podría suceder en los próximos años. En general, cuanto más alto es el empleado, más preocupado está".
Evan Hubinger, quien se describe a sí mismo como líder en la división de alineación de Anthropic, fue el que más lejos llegó. "¡Realmente creemos seriamente que la IA podría matar a todos los humanos!" Hubinger escribió, añadiendo que él personalmente sitúa la probabilidad por encima del 10 por ciento dentro de la próxima década.
Las notas de Insider siguen al informe de CBS News de que un investigador de Anthropic asignó una probabilidad superior al 10 por ciento a que la IA cause la extinción humana, y a la cobertura de The Japan Times de que las advertencias han renovado los llamados a nuevas reglas de IA en los Estados Unidos.
Musk: 'Parece una trampa'
Elon Musk adoptó una postura marcadamente contradictoria. "Parece una trampa", escribió el hombre más rico del mundo en X, su propia plataforma social.
Coxon respondió con una selfie: "Soy real y estas son mis creencias reales. Podrías preguntarles a tus investigadores de xAI sobre mí si no los hubieras despedido".
Musk y otras voces comprensivas amplificaron una teoría planteada por Parker Thayer, un investigador del grupo de expertos conservador Capital Research, quien sugirió (con poca evidencia, señala The Guardian) que la publicación de Coxon fue el movimiento inicial de una "operación de relaciones públicas MUY sofisticada y bien financiada para obtener apoyo para que los demócratas regulen la IA hasta dejarla en el olvido".
El multimillonario administrador de fondos de cobertura Bill Ackman citó la publicación de Thayer con una respuesta de una sola palabra: "Interesante".
Musk dio más detalles al respecto. "Creo que el trabajo preliminar para esta operación psicológica (a falta de un término mejor) ha estado preparado durante mucho tiempo", publicó. "Ésta fue la cerilla que encendió el fuego".
Anthropic defiende su planteamiento
Atrapada entre las advertencias de sus propios empleados y los ataques externos, Anthropic ofreció una respuesta pública mesurada.
"Siempre hemos sido transparentes en cuanto a que la IA traerá enormes beneficios y riesgos sin precedentes", dijo un portavoz de la compañía a The Guardian. "Para abordar estos riesgos, continuamos construyendo modelos con algunas de las salvaguardas más sólidas de la industria".
La empresa destacó su historial de documentación e interrupción del uso indebido. El mismo día que las advertencias se volvieron virales, Anthropic publicó su informe de inteligencia de amenazas de septiembre, que detallaba cómo la compañía desmanteló una operación que intentaba construir un arma biológica utilizando sus modelos de inteligencia artificial, junto con campañas interrumpidas que abarcaban ciberataques y operaciones de influencia. Al Jazeera y la BBC estuvieron entre los medios que destacaron los hallazgos sobre armas biológicas el viernes.
Los escépticos ven un riesgo diferente
No todo el mundo acepta el marco de la extinción. Gary Marcus, el científico y crítico de la IA desde hace mucho tiempo, argumentó que la tecnología ya está causando daños que justifican la acción independientemente de los escenarios de superinteligencia, y pidió un boicot a la IA por los daños actuales.
Más que la extinción, Marcus dijo a The Guardian que le preocupaba el "riesgo de catástrofe" por "patógenos generados por IA, por guerras iniciadas o intensificadas por desinformación generada por IA, por hackeos que destruyen infraestructura crítica, etc. Nada de lo que he visto da ninguna indicación de que algo de eso esté bajo control".
Su posición subraya una división dentro del propio debate sobre la seguridad de la IA: entre aquellos que se centran en los riesgos a largo plazo y a escala de civilización de los sistemas futuros, y aquellos que se centran en los daños concretos de los modelos actuales.
Un debate que se niega a permanecer interno
Lo que comenzó como la carta de renuncia de un investigador se ha convertido en un referéndum muy público sobre cómo la industria de la IA está construyendo sus sistemas más poderosos. Dentro de Anthropic, los empleados debaten abiertamente si sus propios plazos para un desarrollo seguro se han retrasado. Fuera de él, las advertencias se están convirtiendo en una lucha política cada vez más polarizada sobre si los gobiernos deberían intervenir y cómo.
Los informes de The Guardian sugieren que muchos miembros del personal de Anthropic comparten estas preocupaciones en privado pero no han hablado públicamente. Si más de ellos siguen a Coxon, Wang, Thomas, Marks y Hubinger, la presión sobre los principales laboratorios de IA para que disminuyan la velocidad (y sobre los reguladores para que actúen) no hará más que crecer.
_Este artículo se basa en informes de The Guardian, con contexto adicional de CBS News, The Japan Times, Al Jazeera y la BBC._
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
