Google DeepMind anställer ett team av kärnkraftsspecialister för att utvärdera om frontier AI-modeller kan hjälpa till med utvecklingen av kärnvapen, enligt jobbannonser som först rapporterades av branschpublikationen Data Center Dynamics och som täcktes denna vecka av Futurism.
Listorna, som publiceras på Googles karriärsajt, söker "högt kvalificerade fysiker och kärntekniska ingenjörer" för rollen som expert på kärnkraftsämnen i teamet Chemical, Biological, Radiological, Nuclear, and High Yield Explosives (CBRNE), som sitter inom DeepMinds organisation för ansvarsfull utveckling och innovation. For more context on this story, see our ongoing AI industry coverage.
Vad jobbet faktiskt kräver
Minsta ribban är brant. Kandidater behöver en doktorsexamen inom ett område som plasmafysik eller kärnteknik - eller "motsvarande praktisk erfarenhet" - plus en meritlista av att samarbeta med ett amerikanskt statligt laboratorium och förtrogenhet med politikområden inklusive lagerförvaltning, icke-spridning, vapenkontroll eller hotminskning.
Föredragna kvalifikationer sträcker sig ännu längre: erfarenhet av AI-säkerhet, expertis inom beräkningsmodellering, tid som ägnas åt att arbeta på stora laseranvändaranläggningar och förmågan att designa säkerhetsutvärderingar som är "bevisligen oklassificerade och icke-exportstyrda genom att utveckla vetenskapliga proxyservrar med dubbla användningsområden för vapenämnen."
Ersättningen är i linje med specialistkraven. Google listar ett löneintervall på $174 000 till $252 000, med en 15% bonus på toppen.
Varför ett AI-labb behöver vapenexperter
Huvudansvaret är att utvärdera säkerheten hos frontier AI-modeller inom kärnkraftsområdet. Listan beskriver arbetet som att bedöma "modellassistans vid spridning av fission, fusion och termonukleära vapen, strålningshydrodynamik, magnetohydrodynamik, etc. på ett bevisligen oklassificerat och icke-exportkontrollerat sätt."
Översatt från jobbannonseringsspråk: DeepMind vill ha experter som kan avgöra om dess modeller är kapabla att ge meningsfull hjälp med kärnvapenutveckling – och göra det utan att själva utvärderingarna korsar klassificeringsgränserna. Hänvisningen till "vetenskapsfullmakter med dubbla användningsområden" föreslår tester som bygger på angränsande vetenskapliga problem, såsom strålningshydrodynamik, som står för vapenspecifika frågor som en modell inte borde svara på.
De fysikdomäner som nämns i förteckningen är inte godtyckliga. Strålningshydrodynamik och magnetohydrodynamik beskriver hur energi och plasma beter sig under de extrema förhållanden som är relevanta för kärnvapenfysik, och det är just därför de fungerar som känsliga ämnen: kompetens inom dessa områden är grundläggande för stridsspetsdesign, men den underliggande vetenskapen publiceras också öppet inom fusions- och astrofysikforskning. Att bygga utvärderingsfrågor kring sådana "proxies" låter säkerhetsteam mäta om en modell kan navigera i den gränskunskapen utan att själva utvärderingarna blir en spridningsrisk.
Futurismens läsning av listningen var rak: det tyder på att Googles främsta AI-forskningslabb förväntar sig att dess modeller så småningom kommer att möta frågor med verkligt kärnkraftsinnehåll och anställer den expertis som behövs för att fånga det beteendet innan det spelar någon roll. Den inramningen är spekulativ - en anställningsförsök visar beredskap, inte bevis på att nuvarande modeller kan producera handledning för vapen - men omfattningen av specialistkraven understryker hur seriöst labbet behandlar scenariot.
Del av en större säkerhetsbyggnad
Anställningen passar ett mönster som har definierat frontier-lab-industrin i flera år: AI-företag som rekryterar legitimerade domänexperter över akademiska discipliner för att stresstesta sina modeller. Det som började som arméer av ämnesfaktagranskare för modellträning har alltmer utvecklats till dedikerade utvärderingsteam för katastrofriskdomäner, med CBRN bland de mest känsliga.
DeepMinds eget ledarskap har slagit larm offentligt. Förra veckan varnade labbets ledning för att AI-aktiverade hackningsförsök borde behandlas som "tidiga varningsskott" för större säkerhetsrisker, rapporterade Reuters, med förutsägelser om att AI skulle kunna möjliggöra större säkerhetsincidenter inom ungefär två år. Att bygga ett CBRN-utvärderingsteam är den operativa versionen av den retoriken.
Stödet kommer också mitt i en period av strukturella förändringar av Googles AI-verksamhet. I augusti blandade företaget om sitt AI-ledarskap, där Reuters och CNBC rapporterade att långvariga ledarskapsförändringar flyttade ansvarsfunktioner runt - och The Wall Street Journal rapporterade separat att Google flyttade ett AI-ansvarsteam från DeepMind-labbet helt som en del av den omvälvningen. Att CBRNE-teamet nu sitter inne i en "Responsible Development and Innovation"-organisation visar hur säkerhetsapparaten har omorganiserats — och utökats — även när rapporteringen om omstruktureringen fortsätter.
Undertexten Styrning
Det finns också en politisk dimension. Frontier AI-företag är under växande press från regeringar att visa att de kan mäta och kontrollera de farligaste funktionerna som deras system kan utveckla. Trovärdiga utvärderingar inom nukleära och biologiska domäner håller på att bli ett de facto-krav för laboratoriets trovärdighet - det säkerhetsfallsarbete som tillsynsmyndigheter och tillsynsorgan i allt högre grad ber om att se.
I det ljuset tjänar det två syften att anställa personer som har tillbringat karriärer inom icke-spridningsetablissemanget: det bygger upp den tekniska förmågan att genomföra rigorösa utvärderingar, och det lånar institutionell legitimitet från den befintliga vapenkontrollvärlden.
Listorna förblir öppna på Googles karriärsajt. Oavsett om rollerna signalerar försiktighet eller konkurrenskraftig positionering är en sak klar: eran då AI-säkerhet var ett jobb för generalister är över.
_Den här artikeln är baserad på rapporter från Data Center Dynamics and Futurism och på Google DeepMinds offentliga platsannonser._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
