Google DeepMind huurt een team van nucleaire specialisten in om te evalueren of grensverleggende AI-modellen zouden kunnen helpen bij de ontwikkeling van kernwapens, volgens vacatures die voor het eerst werden gerapporteerd door de branchepublicatie Data Center Dynamics en deze week besproken door Futurism.
De vermeldingen, geplaatst op de carrièresite van Google, zoeken naar 'hooggekwalificeerde natuurkundigen en nucleaire ingenieurs' voor de rol van expert op het gebied van kernenergie in het Chemical, Biological, Radiological, Nuclear, and high-yield Explosives (CBRNE)-team, dat deel uitmaakt van de Responsible Development and Innovation-organisatie van DeepMind. Voor meer context over dit verhaal, zie ons AI-nieuws.
Waar de baan eigenlijk om vraagt
De minimumlat is steil. Kandidaten hebben een doctoraat nodig op een gebied als plasmafysica of kerntechniek – of ‘gelijkwaardige praktische ervaring’ – plus een staat van dienst op het gebied van samenwerking met een laboratorium van de Amerikaanse overheid en bekendheid met beleidsterreinen zoals voorraadbeheer, non-proliferatie, wapenbeheersing of dreigingsreductie.
De voorkeurskwalificaties reiken nog verder: ervaring op het gebied van AI-veiligheid, expertise op het gebied van computationele modellering, de tijd besteed aan het werken bij grote lasergebruikersfaciliteiten en het vermogen om veiligheidsevaluaties te ontwerpen die "aantoonbaar niet-geclassificeerd zijn en niet-exportgecontroleerd zijn door het ontwikkelen van wetenschappelijke proxy's voor tweeërlei gebruik voor wapenonderwerpen."
De vergoeding is conform de specialistische eisen. Google vermeldt een salarisbereik van $174.000 tot $252.000, met daarbovenop een bonus van 15%.
Waarom een AI-lab wapenexperts nodig heeft
De kernverantwoordelijkheid is het evalueren van de veiligheid van grensverleggende AI-modellen in het nucleaire domein. De lijst beschrijft het werk als het beoordelen van "modelondersteuning bij kernsplijting, fusie en proliferatie van thermonucleaire wapens, stralingshydrodynamica, magnetohydrodynamica, enz. op een aantoonbaar niet-geclassificeerde en niet-exportgecontroleerde manier."
Vertaald uit vacaturetaal: DeepMind wil experts die kunnen bepalen of zijn modellen in staat zijn betekenisvolle hulp te bieden bij de ontwikkeling van kernwapens – en dat doen zonder dat de evaluaties zelf de classificatiegrenzen overschrijden. De verwijzing naar 'wetenschappelijke proxy's voor tweeërlei gebruik' suggereert tests die zijn gebaseerd op aangrenzende wetenschappelijke problemen, zoals stralingshydrodynamica, die in de plaats komen van wapenspecifieke vragen die een model niet zou moeten beantwoorden.
De natuurkundedomeinen die in de lijst worden genoemd, zijn niet willekeurig. Stralingshydrodynamica en magnetohydrodynamica beschrijven hoe energie en plasma zich gedragen onder de extreme omstandigheden die relevant zijn voor de kernwapenfysica, en dat is precies de reden waarom ze ook zo gevoelige onderwerpen zijn: competentie op die gebieden is van fundamenteel belang voor het ontwerp van kernkoppen, maar de onderliggende wetenschap wordt ook openlijk gepubliceerd in fusie- en astrofysica-onderzoek. Door evaluatievragen rond dergelijke ‘proxy’s’ te bouwen, kunnen veiligheidsteams meten of een model door die grenskennis heen kan navigeren zonder dat de evaluaties zelf een proliferatierisico vormen.
De interpretatie door het futurisme van de lijst was bot: het suggereert dat het beste AI-onderzoekslaboratorium van Google verwacht dat zijn modellen uiteindelijk geconfronteerd zullen worden met vragen met echte nucleaire inhoud, en de expertise inhuurt die nodig is om dat gedrag te onderkennen voordat het er toe doet. Dat kader is speculatief – een aanwervingscampagne demonstreert paraatheid, geen bewijs dat de huidige modellen bruikbare wapenrichtlijnen kunnen opleveren – maar de omvang van de specialistische vereisten onderstreept hoe serieus het laboratorium het scenario behandelt.
Onderdeel van een grotere veiligheidsconstructie
De aanwerving past in een patroon dat de frontier-lab-industrie al jaren definieert: AI-bedrijven rekruteren gediplomeerde domeinexperts uit academische disciplines om hun modellen aan een stresstest te onderwerpen. Wat begon als een leger van feitelijke factcheckers voor modeltraining is steeds meer uitgegroeid tot toegewijde evaluatieteams voor domeinen met catastrofale risico's, waarbij CBRN tot de meest gevoelige behoort.
Het eigen leiderschap van DeepMind heeft publiekelijk alarm geslagen. Vorige week waarschuwde de leiding van het laboratorium dat AI-gebaseerde hackpogingen moeten worden behandeld als ‘vroege waarschuwingsschoten’ voor grotere veiligheidsrisico’s, meldde Reuters, met voorspellingen dat AI binnen ongeveer twee jaar grote veiligheidsincidenten mogelijk zou kunnen maken. Het opbouwen van een CBRN-evaluatieteam is de operationele versie van die retoriek.
Deze impuls komt ook te midden van een periode van structurele veranderingen bij de AI-activiteiten van Google. In augustus herschikte het bedrijf zijn AI-leiderschap, waarbij Reuters en CNBC meldden dat langdurige leiderschapsveranderingen de verantwoordelijkheidsfuncties verschoven – en The Wall Street Journal meldde afzonderlijk dat Google een AI-verantwoordelijkheidsteam uit het DeepMind-lab had verplaatst, geheel als onderdeel van die opschudding. Dat het CBRNE-team nu deel uitmaakt van een ‘Verantwoorde Ontwikkeling en Innovatie’-organisatie laat zien hoe het veiligheidsapparaat is gereorganiseerd – en uitgebreid – terwijl de berichtgeving over de herstructurering doorgaat.
De governance-subtekst
Er is ook een beleidsdimensie. Frontier AI-bedrijven staan onder toenemende druk van overheden om aan te tonen dat zij de gevaarlijkste capaciteiten die hun systemen kunnen ontwikkelen, kunnen meten en controleren. Geloofwaardige evaluaties op nucleair en biologisch gebied worden de facto een vereiste voor de geloofwaardigheid van laboratoria – het veiligheidsonderzoek waar toezichthouders en toezichthoudende instanties steeds vaker om vragen.
In dat licht dient het aannemen van mensen die een carrière binnen het non-proliferatie-establishment hebben doorgebracht twee doelen tegelijk: het bouwt de technische capaciteit op om rigoureuze evaluaties uit te voeren, en het ontleent institutionele legitimiteit aan de bestaande wereld van wapenbeheersing.
De vermeldingen blijven open op de carrièresite van Google. Of de rollen nu duiden op voorzichtigheid of concurrentiepositie, één ding is duidelijk: het tijdperk waarin AI-veiligheid een taak voor generalisten was, is voorbij.
_Dit artikel is gebaseerd op rapporten van Data Center Dynamics and Futurism en op de openbare vacatures van Google DeepMind._
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
