Google DeepMind angajează o echipă de specialiști în domeniul nuclear pentru a evalua dacă modelele AI de frontieră ar putea ajuta la dezvoltarea armelor nucleare, potrivit listelor de locuri de muncă raportate pentru prima dată de publicația din industrie Data Center Dynamics și acoperite în această săptămână de Futurism.
Listările, postate pe site-ul de carieră al Google, caută „fizicieni și ingineri nucleari cu înaltă calificare” pentru rolul de expert în domeniul nuclear din echipa de explozivi chimici, biologici, radiologici, nucleari și de mare randament (CBRNE), care face parte din organizația de dezvoltare responsabilă și inovare a DeepMind. For more context on this story, see our ongoing latest AI developments.
Ce cere de fapt jobul
Bara minimă este abruptă. Candidații au nevoie de un doctorat într-un domeniu precum fizica plasmei sau inginerie nucleară – sau „experiență practică echivalentă” – plus o experiență de colaborare cu un laborator guvernamental american și familiaritate cu domeniile de politică, inclusiv administrarea stocurilor, neproliferarea, controlul armelor sau reducerea amenințărilor.
Calificările preferate ajung și mai departe: experiență în siguranța AI, expertiză în modelare computațională, timpul petrecut lucrând la unitățile majore ale utilizatorilor de laser și capacitatea de a proiecta evaluări de siguranță care sunt „neclasificate în mod demonstrabil și controlate fără export prin dezvoltarea proxy-urilor științifice cu dublă utilizare pentru subiecte legate de arme”.
Compensația este în conformitate cu cerințele specialiștilor. Google afișează o gamă de salarii cuprinsă între 174.000 USD și 252.000 USD, cu un bonus de 15% în plus.
De ce un laborator AI are nevoie de experți în arme
Responsabilitatea de bază este evaluarea siguranței modelelor de IA de frontieră în domeniul nuclear. Lista descrie lucrarea ca fiind evaluarea „asistenței model în fisiune, fuziune și proliferarea armelor termonucleare, hidrodinamică radiațiilor, magnetohidrodinamică etc. într-o manieră demonstrabilă neclasificată și fără exporturi controlate”.
Tradus din limbajul de postare a locurilor de muncă: DeepMind vrea experți care să poată determina dacă modelele sale sunt capabile să ofere ajutor semnificativ în dezvoltarea armelor nucleare - și să facă acest lucru fără ca evaluările în sine să depășească liniile de clasificare. Referirea la „proxy-uri științifice cu dublă utilizare” sugerează teste construite pe probleme științifice adiacente, cum ar fi hidrodinamica radiațiilor, care reprezintă întrebări specifice armelor la care un model nu ar trebui să răspundă.
Domeniile de fizică numite în listă nu sunt arbitrare. Hidrodinamica radiațiilor și magnetohidrodinamica descriu modul în care energia și plasma se comportă în condiții extreme relevante pentru fizica armelor nucleare, tocmai de aceea ele se dublează ca subiecte sensibile: competența în aceste domenii este fundamentală pentru proiectarea focoaselor, dar știința de bază este, de asemenea, publicată în mod deschis în cercetarea fuziunii și astrofizicii. Construirea întrebărilor de evaluare în jurul unor astfel de „proxy” permite echipelor de siguranță să măsoare dacă un model poate naviga pe acele cunoștințe de limită fără ca evaluările în sine să devină un risc de proliferare.
Citirea de către futurism a listei a fost directă: sugerează că cel mai important laborator de cercetare AI al Google se așteaptă ca modelele sale să se confrunte în cele din urmă cu întrebări cu conținut nuclear real și angajează expertiza necesară pentru a surprinde acel comportament înainte de a fi important. Această încadrare este speculativă - un impuls de angajare demonstrează pregătirea, nu o dovadă că modelele actuale pot produce îndrumări de arme acționabile - dar amploarea cerințelor specialiștilor subliniază cât de serios tratează laboratorul scenariul.
Parte dintr-o construcție mai mare de siguranță
Angajarea se potrivește unui model care a definit industria laboratoarelor de frontieră de ani de zile: companiile de inteligență artificială care recrutează experți de domeniu acreditați din disciplinele academice pentru a-și testa modelele. Ceea ce a început ca armate de verificatori de fapte pentru modele de formare a evoluat din ce în ce mai mult în echipe de evaluare dedicate pentru domeniile cu risc catastrofal, cu CBRN printre cele mai sensibile.
Conducerea propriei DeepMind a tras un semnal de alarmă public. Săptămâna trecută, conducerea laboratorului a avertizat că încercările de hacking cu ajutorul inteligenței artificiale ar trebui să fie tratate ca „capete de avertizare timpurie” a riscurilor de securitate mai mari, a raportat Reuters, cu previziuni că AI ar putea activa incidente majore de securitate în aproximativ doi ani. Construirea unei echipe de evaluare CBRN este versiunea operațională a acelei retorici.
Impingerea vine și pe fondul unei perioade de schimbări structurale în operațiunile AI ale Google. În august, compania și-a reorganizat conducerea AI, Reuters și CNBC raportând că schimbările de lungă durată în conducere au mutat funcțiile de responsabilitate – iar The Wall Street Journal a raportat separat că Google a mutat o echipă de responsabilitate AI din laboratorul DeepMind în întregime ca parte a acelei schimbări. Faptul că echipa CBRNE se află acum într-o organizație „Dezvoltare responsabilă și inovare” arată modul în care aparatul de siguranță a fost reorganizat – și extins – chiar dacă raportarea privind restructurarea continuă.
Subtextul guvernanței
Există, de asemenea, o dimensiune de politică. Companiile de frontieră AI sunt supuse unei presiuni tot mai mari din partea guvernelor pentru a demonstra că pot măsura și controla cele mai periculoase capabilități pe care le-ar putea dezvolta sistemele lor. Evaluările credibile în domeniile nuclear și biologic devin o cerință de facto pentru credibilitatea laboratoarelor - munca de caz de siguranță pe care autoritățile de reglementare și organismele de supraveghere cer din ce în ce mai mult să o vadă.
În această lumină, angajarea de oameni care și-au petrecut o carieră în cadrul instituției de neproliferare servește simultan două scopuri: construiește capacitatea tehnică de a efectua evaluări riguroase și împrumută legitimitatea instituțională din lumea existentă a controlului armelor.
Listările rămân deschise pe site-ul de cariere al Google. Indiferent dacă rolurile semnalează prudență sau poziționare competitivă, un lucru este clar: era în care siguranța AI era o sarcină pentru generaliști s-a încheiat.
_Acest articol se bazează pe rapoartele Data Center Dynamics and Futurism și pe listele publice de locuri de muncă ale Google DeepMind._
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
