Jak wynika z ofert pracy opublikowanych po raz pierwszy w publikacji branżowej Data Center Dynamics i omówionych w tym tygodniu w czasopiśmie Futurism, Google DeepMind zatrudnia zespół specjalistów nuklearnych, aby ocenił, czy pionierskie modele sztucznej inteligencji mogłyby pomóc w rozwoju broni nuklearnej.
W ogłoszeniu opublikowanym w witrynie karier Google poszukuje się „wysoko wykwalifikowanych fizyków i inżynierów nuklearnych” na stanowisko eksperta w dziedzinie energii jądrowej w zespole ds. chemii, biologii, radiologii, jądrowej i materiałów wybuchowych o dużej wydajności (CBRNE), który należy do organizacji Odpowiedzialnego Rozwoju i Innowacji firmy DeepMind. Więcej kontekstu na ten temat znajdziesz w naszych wiadomości AI.
O co właściwie prosi ta praca
Minimalny pasek jest stromy. Kandydaci muszą mieć doktorat w takiej dziedzinie, jak fizyka plazmy lub inżynieria nuklearna – lub „równoważne doświadczenie praktyczne” – a także doświadczenie we współpracy z laboratorium rządowym USA i znajomość takich obszarów polityki, jak zarządzanie zapasami, nieproliferacja, kontrola zbrojeń lub ograniczanie zagrożeń.
Preferowane kwalifikacje sięgają jeszcze dalej: doświadczenie w zakresie bezpieczeństwa sztucznej inteligencji, wiedza specjalistyczna w zakresie modelowania obliczeniowego, czas spędzony w pracy w głównych obiektach użytkowników laserów oraz umiejętność projektowania ocen bezpieczeństwa, które są „w sposób ewidentny niesklasyfikowane i nie podlegają kontroli eksportu poprzez opracowywanie naukowych wskaźników zastępczych podwójnego zastosowania w odniesieniu do tematów związanych z bronią”.
Wynagrodzenie odpowiada wymaganiom specjalisty. Google podaje zakres wynagrodzeń od 174 000 do 252 000 dolarów plus 15% premii.
Dlaczego laboratorium sztucznej inteligencji potrzebuje ekspertów od broni
Do głównych obowiązków należy ocena bezpieczeństwa pionierskich modeli sztucznej inteligencji w dziedzinie energii jądrowej. W wykazie opisano tę pracę jako oceniającą „modelowe wsparcie w zakresie rozszczepienia, syntezy termojądrowej i rozprzestrzeniania broni termojądrowej, hydrodynamiki promieniowania, magnetohydrodynamiki itp. w sposób wyraźnie niesklasyfikowany i niekontrolowany przez eksport”.
W tłumaczeniu z języka ogłoszeń o pracę: DeepMind potrzebuje ekspertów, którzy będą w stanie określić, czy jej modele są w stanie zapewnić znaczącą pomoc w rozwoju broni nuklearnej – i zrobi to tak, aby same oceny nie przekroczyły granic klasyfikacji. Odniesienie do „naukowych wskaźników zastępczych podwójnego zastosowania” sugeruje testy oparte na sąsiadujących problemach naukowych, takich jak hydrodynamika promieniowania, które zastępują pytania dotyczące konkretnej broni, na które model nie powinien odpowiadać.
Domeny fizyki wymienione na liście nie są dowolne. Hydrodynamika promieniowania i magnetohydrodynamika opisują, jak energia i plazma zachowują się w ekstremalnych warunkach istotnych dla fizyki broni jądrowej i właśnie dlatego są to tematy drażliwe: kompetencje w tych dziedzinach są podstawą projektowania głowic bojowych, jednak leżące u ich podstaw nauki są również otwarcie publikowane w badaniach nad syntezą termojądrową i astrofizyką. Tworzenie pytań oceniających wokół takich „zastępców” pozwala zespołom ds. bezpieczeństwa zmierzyć, czy model może poruszać się po tej granicy wiedzy, tak aby same oceny nie stwarzały ryzyka proliferacji.
Futuryzm odczytuje tę listę bez ogródek: sugeruje, że czołowe laboratorium Google zajmujące się badaniami nad sztuczną inteligencją spodziewa się, że jego modele w końcu staną przed pytaniami dotyczącymi prawdziwej zawartości broni nuklearnej, i zatrudnia specjalistyczną wiedzę niezbędną do wykrycia takiego zachowania, zanim stanie się ono istotne. Takie sformułowanie ma charakter spekulacyjny – zachęta do zatrudnienia pokazuje gotowość, a nie dowód, że obecne modele mogą generować praktyczne wytyczne dotyczące broni – ale skala specjalistycznych wymagań podkreśla, jak poważnie laboratorium traktuje ten scenariusz.
Część większego projektu zapewniającego bezpieczeństwo
Zatrudnianie wpisuje się w schemat, który od lat definiuje branżę pionierskich laboratoriów: firmy zajmujące się sztuczną inteligencją rekrutują certyfikowanych ekspertów dziedzinowych ze wszystkich dyscyplin akademickich w celu przetestowania swoich modeli w warunkach skrajnych. To, co zaczęło się jako armie weryfikatorów faktów merytorycznych na potrzeby szkolenia modelowego, w coraz większym stopniu przekształciło się w wyspecjalizowane zespoły oceniające domeny ryzyka katastroficznego, przy czym CBRN jest jednym z najbardziej wrażliwych.
Kierownictwo DeepMind publicznie podniosło alarm. W zeszłym tygodniu kierownictwo laboratorium ostrzegło, że próby włamań z wykorzystaniem sztucznej inteligencji należy traktować jako „wczesne strzały ostrzegawcze” przed większymi zagrożeniami dla bezpieczeństwa, jak podał Reuters, przewidywając, że sztuczna inteligencja może umożliwić poważne incydenty związane z bezpieczeństwem w ciągu około dwóch lat. Operacyjną wersją tej retoryki jest budowanie zespołu oceniającego CBRJ.
Nacisk pojawia się również w okresie zmian strukturalnych w operacjach Google związanych ze sztuczną inteligencją. W sierpniu firma dokonała zmian w kierownictwie AI, a Reuters i CNBC doniosły, że długotrwałe zmiany w kierownictwie przeniosły funkcje odpowiedzialności, a dziennik „The Wall Street Journal” osobno poinformował, że Google w ramach tej zmiany całkowicie przeniósł zespół odpowiedzialny za sztuczną inteligencję z laboratorium DeepMind. Fakt, że zespół CBRNE zasiada obecnie w organizacji „Odpowiedzialny rozwój i innowacje”, pokazuje, jak zreorganizowano i rozszerzono aparat bezpieczeństwa, mimo że raporty na temat restrukturyzacji są kontynuowane.
Podtekst zarządzania
Istnieje również wymiar polityczny. Frontierowe firmy zajmujące się sztuczną inteligencją znajdują się pod rosnącą presją rządów, aby wykazały, że potrafią mierzyć i kontrolować najniebezpieczniejsze możliwości, jakie mogą rozwinąć ich systemy. Wiarygodne oceny w dziedzinach nuklearnych i biologicznych stają się de facto wymogiem wiarygodności laboratoriów – jest to praca dotycząca analizy bezpieczeństwa, o którą coraz częściej proszą organy regulacyjne i organy nadzoru.
W tym świetle zatrudnianie osób, które spędziły karierę w establishmentu nieproliferacyjnym, służy dwóm celom jednocześnie: buduje zdolność techniczną do przeprowadzania rygorystycznych ocen i zapożycza legitymację instytucjonalną od istniejącego świata kontroli zbrojeń.
Oferty pozostają otwarte w witrynie karier Google. Niezależnie od tego, czy role sygnalizują ostrożność, czy pozycję konkurencyjną, jedno jest jasne: era, w której bezpieczeństwo sztucznej inteligencji było zadaniem dla specjalistów, dobiegła końca.
_Ten artykuł powstał na podstawie raportów Data Center Dynamics and Futurism oraz publicznych ofert pracy Google DeepMind._
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
