Google DeepMind está contratando un equipo de especialistas nucleares para evaluar si los modelos de inteligencia artificial de vanguardia podrían ayudar con el desarrollo de armas nucleares, según las ofertas de trabajo reportadas por primera vez por la publicación de la industria Data Center Dynamics y cubiertas esta semana por Futurism.
Los listados, publicados en el sitio de carreras de Google, buscan "físicos e ingenieros nucleares altamente calificados" para el rol de experto en temas nucleares en el equipo de Explosivos Químicos, Biológicos, Radiológicos, Nucleares y de Alto Rendimiento (CBRNE), que forma parte de la organización de Innovación y Desarrollo Responsable de DeepMind. Para más contexto sobre esta historia, consulta nuestra noticias de IA.
Lo que realmente pide el trabajo
La barra mínima es empinada. Los candidatos necesitan un doctorado en un campo como física del plasma o ingeniería nuclear -o "experiencia práctica equivalente"-, además de un historial de colaboración con un laboratorio del gobierno de EE. UU. y familiaridad con áreas de políticas que incluyen administración de arsenales, no proliferación, control de armas o reducción de amenazas.
Las calificaciones preferidas van aún más allá: experiencia en seguridad de IA, experiencia en modelado computacional, tiempo dedicado a trabajar en importantes instalaciones de usuarios de láser y la capacidad de diseñar evaluaciones de seguridad que estén "demostrablemente no clasificadas y no controladas mediante el desarrollo de sustitutos científicos de doble uso para temas de armas".
La compensación está en línea con los requisitos del especialista. Google enumera un rango salarial de $174,000 a $252,000, con una bonificación del 15% además.
Por qué un laboratorio de IA necesita expertos en armas
La responsabilidad principal es evaluar la seguridad de los modelos de IA de vanguardia en el ámbito nuclear. La lista describe el trabajo como una evaluación de "asistencia modelo en fisión, fusión y proliferación de armas termonucleares, hidrodinámica de radiación, magnetohidrodinámica, etc. de una manera demostrablemente no clasificada y sin control de exportación".
Traducido del lenguaje de publicación de empleo: DeepMind quiere expertos que puedan determinar si sus modelos son capaces de proporcionar una ayuda significativa para el desarrollo de armas nucleares, y hacerlo sin que las evaluaciones mismas crucen las líneas de clasificación. La referencia a "representantes científicos de doble uso" sugiere pruebas basadas en problemas científicos adyacentes, como la hidrodinámica de la radiación, que sustituyen a preguntas específicas de armas que un modelo no debería responder.
Los dominios de física mencionados en el listado no son arbitrarios. La hidrodinámica y la magnetohidrodinámica de la radiación describen cómo se comportan la energía y el plasma en condiciones extremas relevantes para la física de las armas nucleares, que es precisamente la razón por la que también son temas delicados: la competencia en esos campos es fundamental para el diseño de ojivas, pero la ciencia subyacente también se publica abiertamente en la investigación de la fusión y la astrofísica. Crear preguntas de evaluación en torno a tales "representantes" permite a los equipos de seguridad medir si un modelo puede navegar ese conocimiento límite sin que las evaluaciones mismas se conviertan en un riesgo de proliferación.
La lectura que hace Futurism de la lista fue contundente: sugiere que el principal laboratorio de investigación de inteligencia artificial de Google espera que sus modelos eventualmente enfrenten preguntas con contenido nuclear real, y está contratando la experiencia necesaria para detectar ese comportamiento antes de que importe. Ese marco es especulativo: un impulso de contratación demuestra preparación, no prueba de que los modelos actuales puedan producir orientación sobre armas procesables, pero la escala de los requisitos de los especialistas subraya la seriedad con la que el laboratorio trata el escenario.
Parte de un desarrollo de seguridad más amplio
La contratación se ajusta a un patrón que ha definido la industria de los laboratorios de vanguardia durante años: empresas de inteligencia artificial que contratan expertos en dominios acreditados en todas las disciplinas académicas para probar sus modelos. Lo que comenzó como ejércitos de verificadores de datos para la capacitación de modelos ha evolucionado cada vez más hasta convertirse en equipos de evaluación dedicados a dominios de riesgo catastrófico, siendo QBRN uno de los más sensibles.
El propio liderazgo de DeepMind ha estado haciendo sonar la alarma públicamente. La semana pasada, la dirección del laboratorio advirtió que los intentos de piratería mediante IA deberían tratarse como "disparos de alerta temprana" de mayores riesgos de seguridad, informó Reuters, con predicciones de que la IA podría permitir incidentes de seguridad importantes en aproximadamente dos años. La creación de un equipo de evaluación QBRN es la versión operativa de esa retórica.
El impulso también llega en medio de un período de cambio estructural en las operaciones de inteligencia artificial de Google. En agosto, la compañía reorganizó su liderazgo en IA, y Reuters y CNBC informaron que cambios de liderazgo de larga data cambiaron las funciones de responsabilidad, y The Wall Street Journal informó por separado que Google reubicó un equipo de responsabilidad de IA fuera del laboratorio DeepMind por completo como parte de esa reestructuración. El hecho de que el equipo CBRNE ahora se encuentre dentro de una organización de "Innovación y Desarrollo Responsable" muestra cómo el aparato de seguridad se ha reorganizado (y ampliado) incluso mientras continúan los informes sobre la reestructuración.
El subtexto de la gobernanza
También hay una dimensión política. Las empresas fronterizas de IA están bajo una presión cada vez mayor por parte de los gobiernos para demostrar que pueden medir y controlar las capacidades más peligrosas que sus sistemas podrían desarrollar. Las evaluaciones creíbles en los ámbitos nuclear y biológico se están convirtiendo en un requisito de facto para la credibilidad de los laboratorios: el trabajo sobre casos de seguridad que los reguladores y los organismos de supervisión piden cada vez más ver.
Desde ese punto de vista, contratar personas que hayan desarrollado carreras dentro del establishment de la no proliferación tiene dos propósitos a la vez: desarrolla la capacidad técnica para realizar evaluaciones rigurosas y toma prestada legitimidad institucional del mundo de control de armas existente.
Los listados permanecen abiertos en el sitio de carreras de Google. Ya sea que los roles indiquen precaución o posicionamiento competitivo, una cosa está clara: la era en la que la seguridad de la IA era un trabajo para generalistas ha terminado.
_Este artículo se basa en informes de Data Center Dynamics and Futurism y en las ofertas de trabajo públicas de Google DeepMind._
---
Mantente al Día con la IALas últimas noticias, análisis y avances de inteligencia artificial, en un solo lugar.
Leer más noticias de IA →
