Google DeepMind najímá tým jaderných specialistů, aby vyhodnotili, zda by modely hraniční umělé inteligence mohly pomoci s vývojem jaderných zbraní, podle pracovních nabídek poprvé zveřejněných průmyslovou publikací Data Center Dynamics a pokrytých tento týden Futurismem.
Seznam zveřejněný na kariérním webu Google hledá „vysoce kvalifikované fyziky a jaderné inženýry“ pro roli experta na jadernou problematiku v týmu pro chemické, biologické, radiologické, jaderné a vysoce výnosné výbušniny (CBRNE), který je součástí organizace DeepMind Responsible Development and Innovation. For more context on this story, see our ongoing AI trends.
Co práce ve skutečnosti vyžaduje
Minimální laťka je strmá. Kandidáti potřebují doktorát v oboru, jako je fyzika plazmatu nebo jaderné inženýrství – nebo „ekvivalentní praktické zkušenosti“ – plus zkušenosti ze spolupráce s americkou vládní laboratoří a znalost oblastí politiky včetně správy zásob, nešíření, kontroly zbrojení nebo snižování hrozeb.
Preferované kvalifikace sahají ještě dále: zkušenosti s bezpečností umělé inteligence, odbornost v oblasti výpočetního modelování, čas strávený prací ve velkých zařízeních pro uživatele laserů a schopnost navrhovat hodnocení bezpečnosti, která jsou „prokazatelně neklasifikovaná a nejsou kontrolována exportem díky vývoji vědeckých proxy pro dvojí použití pro témata týkající se zbraní“.
Kompenzace je v souladu s požadavky specialisty. Google uvádí platové rozpětí 174 000 až 252 000 USD s 15% bonusem navrch.
Proč laboratoř AI potřebuje odborníky na zbraně
Hlavní odpovědností je hodnocení bezpečnosti hraničních modelů umělé inteligence v jaderné oblasti. Výpis popisuje práci jako hodnocení „modelové pomoci při štěpení, fúzi a šíření termonukleárních zbraní, radiační hydrodynamice, magnetohydrodynamice atd. prokazatelně neklasifikovaným a nekontrolovaným způsobem exportu“.
Přeloženo z jazyka nabídek práce: DeepMind chce odborníky, kteří dokážou určit, zda jsou její modely schopny poskytnout smysluplnou pomoc při vývoji jaderných zbraní – a to bez toho, aby samotná hodnocení překročila klasifikační linie. Odkaz na „vědecké proxy s dvojím použitím“ naznačuje testy postavené na přilehlých vědeckých problémech, jako je radiační hydrodynamika, které zastupují otázky specifické pro zbraně, na které by model neměl odpovídat.
Fyzikální domény uvedené v seznamu nejsou libovolné. Radiační hydrodynamika a magnetohydrodynamika popisují, jak se energie a plazma chovají za extrémních podmínek relevantních pro fyziku jaderných zbraní, což je přesně důvod, proč se zdvojnásobují jako citlivá témata: kompetence v těchto oblastech je základem návrhu hlavic, ale základní věda je také otevřeně publikována ve výzkumu fúze a astrofyziky. Vytváření hodnotících otázek kolem takových „proxy“ umožňuje bezpečnostním týmům změřit, zda model může procházet touto hranicí znalostí, aniž by se samotná hodnocení stala rizikem šíření.
Čtení seznamu futurismem bylo neomalené: naznačuje to, že špičková výzkumná laboratoř společnosti Google pro umělou inteligenci očekává, že její modely budou nakonec čelit otázkám se skutečným jaderným obsahem, a najímá odborníky potřebné k zachycení tohoto chování dříve, než na něm bude záležet. Toto uspořádání je spekulativní – tlak na nábor demonstruje připravenost, nikoli důkaz, že současné modely dokážou produkovat akceschopné pokyny ke zbraním – ale rozsah požadavků specialistů podtrhuje, jak vážně laboratoř tento scénář bere.
Část větší bezpečnostní budovy
Nábor zapadá do vzoru, který definoval průmysl hraničních laboratoří už léta: společnosti s umělou inteligencí najímají odborníky na domény z různých akademických oborů, aby zátěžově otestovali své modely. To, co začalo jako armády ověřovatelů věcných faktů pro modelový výcvik, se stále více vyvinulo ve specializované týmy pro hodnocení pro oblasti s katastrofickým rizikem, přičemž CBRN patří mezi nejcitlivější.
Vlastní vedení DeepMind veřejně bije na poplach. Minulý týden vedení laboratoře varovalo, že pokusy o hackerské útoky s umělou inteligencí by měly být považovány za „výstřely včasného varování“ před většími bezpečnostními riziky, uvedla agentura Reuters s předpovědí, že umělá inteligence by mohla umožnit velké bezpečnostní incidenty zhruba do dvou let. Operativní verzí této rétoriky je vybudování CBRN hodnotícího týmu.
Tento tlak také přichází uprostřed období strukturálních změn v operacích AI společnosti Google. V srpnu společnost přeskupila své vedení v oblasti AI, přičemž agentury Reuters a CNBC uvedly, že dlouhodobé změny ve vedení přesunuly funkce odpovědnosti – a The Wall Street Journal samostatně uvedl, že Google zcela přemístil tým odpovědný za AI z laboratoře DeepMind jako součást tohoto otřesu. To, že tým CBRNE nyní sedí v organizaci „Odpovědný vývoj a inovace“, ukazuje, jak byl bezpečnostní aparát reorganizován – a rozšířen – i když zprávy o restrukturalizaci pokračují.
Podtext řízení
Existuje také politický rozměr. Společnosti Frontier AI jsou pod rostoucím tlakem vlád, aby prokázaly, že dokážou měřit a řídit ty nejnebezpečnější schopnosti, které jejich systémy mohou vyvinout. Důvěryhodná hodnocení v jaderné a biologické oblasti se stávají de facto požadavkem důvěryhodnosti laboratoře – práce na případu bezpečnosti, kterou regulační a dozorčí orgány stále častěji vyžadují.
V tomto světle najímání lidí, kteří strávili kariéru v nešíření zbraní, slouží dvěma účelům najednou: buduje technickou schopnost provádět přísná hodnocení a půjčuje si institucionální legitimitu ze stávajícího světa kontroly zbrojení.
Výpisy zůstávají otevřené na kariérním webu Google. Ať už role signalizují opatrnost nebo konkurenční pozici, jedna věc je jasná: éra, ve které byla bezpečnost umělé inteligence prací pro všeobecné odborníky, je u konce.
_Tento článek je založen na zprávách společnosti Data Center Dynamics a Futurism a na veřejných seznamech pracovních míst Google DeepMind._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
