Google DeepMind stellt ein Team von Nuklearspezialisten ein, um zu bewerten, ob Grenz-KI-Modelle bei der Entwicklung von Nuklearwaffen helfen könnten. Dies geht aus Stellenangeboten hervor, die zuerst von der Branchenpublikation Data Center Dynamics veröffentlicht und diese Woche von Futurism abgedeckt wurden.

Die auf der Karriereseite von Google veröffentlichten Einträge suchen nach „hochqualifizierten Physikern und Nuklearingenieuren“ für die Rolle eines Nuklearexperten im Team für chemische, biologische, radiologische, nukleare und hochexplosive Sprengstoffe (CBRNE), das innerhalb der Organisation für verantwortungsvolle Entwicklung und Innovation von DeepMind angesiedelt ist. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.

Was der Job eigentlich verlangt

Der Mindestbalken ist steil. Kandidaten benötigen einen Doktortitel in einem Bereich wie Plasmaphysik oder Nukleartechnik – oder „gleichwertige praktische Erfahrung“ – sowie eine Erfolgsbilanz in der Zusammenarbeit mit einem Labor der US-Regierung und Kenntnisse in Politikbereichen wie Lagerverwaltung, Nichtverbreitung, Rüstungskontrolle oder Bedrohungsreduzierung.

Bevorzugte Qualifikationen reichen noch weiter: Erfahrung in der KI-Sicherheit, Fachwissen in der Computermodellierung, Zeit, die er in großen Laseranwendereinrichtungen verbracht hat, und die Fähigkeit, Sicherheitsbewertungen zu entwerfen, die „nachweislich nicht klassifiziert und nicht exportkontrolliert sind, indem sie wissenschaftliche Dual-Use-Proxys für Waffenthemen entwickeln“.

Die Vergütung richtet sich nach den fachlichen Anforderungen. Google gibt eine Gehaltsspanne von 174.000 bis 252.000 US-Dollar an, mit einem Bonus von 15 % obendrauf.

Warum ein KI-Labor Waffenexperten braucht

Die Hauptaufgabe besteht in der Bewertung der Sicherheit von Grenz-KI-Modellen im Nuklearbereich. In der Auflistung wird beschrieben, dass die Arbeit „Modellunterstützung bei Spaltung, Fusion und der Verbreitung thermonuklearer Waffen, Strahlungshydrodynamik, Magnetohydrodynamik usw. auf nachweislich nicht klassifizierte und nicht exportkontrollierte Weise“ bewertet.

Übersetzt aus der Sprache der Stellenausschreibungen: DeepMind sucht Experten, die feststellen können, ob seine Modelle in der Lage sind, sinnvolle Hilfe bei der Entwicklung von Atomwaffen zu leisten – und zwar ohne dass die Bewertungen selbst Klassifizierungsgrenzen überschreiten. Der Verweis auf „Wissenschafts-Proxys mit doppeltem Verwendungszweck“ deutet auf Tests hin, die auf angrenzenden wissenschaftlichen Problemen wie der Strahlungshydrodynamik basieren und für waffenspezifische Fragen stehen, die ein Modell nicht beantworten sollte.

Die in der Auflistung genannten physikalischen Fachgebiete sind nicht willkürlich. Strahlungshydrodynamik und Magnetohydrodynamik beschreiben, wie sich Energie und Plasma unter den extremen Bedingungen verhalten, die für die Kernwaffenphysik relevant sind, und genau deshalb sind sie gleichzeitig sensible Themen: Kompetenz in diesen Bereichen ist grundlegend für das Gefechtskopfdesign, doch die zugrunde liegende Wissenschaft wird auch in der Fusions- und Astrophysikforschung offen veröffentlicht. Durch die Erstellung von Bewertungsfragen rund um solche „Proxys“ können Sicherheitsteams messen, ob ein Modell dieses Grenzwissen bewältigen kann, ohne dass die Bewertungen selbst zu einem Verbreitungsrisiko werden.

Futurism interpretierte die Auflistung unverblümt: Sie deutet darauf hin, dass Googles führendes KI-Forschungslabor damit rechnet, dass seine Modelle irgendwann mit Fragen konfrontiert werden, die echten nuklearen Inhalt haben, und das nötige Fachwissen einstellt, um dieses Verhalten zu erkennen, bevor es ins Gewicht fällt. Diese Formulierung ist spekulativ – ein Einstellungsschub zeigt Bereitschaft, nicht ein Beweis dafür, dass aktuelle Modelle umsetzbare Waffenanweisungen liefern können – aber der Umfang der Fachkräfteanforderungen unterstreicht, wie ernst das Labor das Szenario nimmt.

Teil eines größeren Sicherheitsausbaus

Die Einstellung entspricht einem Muster, das die Frontier-Lab-Branche seit Jahren prägt: KI-Unternehmen rekrutieren ausgewiesene Fachexperten aus allen akademischen Disziplinen, um ihre Modelle einem Stresstest zu unterziehen. Was als Armeen von Sachverständigen für die Modellschulung begann, hat sich zunehmend zu speziellen Bewertungsteams für Katastrophenrisikobereiche entwickelt, wobei CBRN zu den sensibelsten gehört.

Die Führung von DeepMind hat öffentlich Alarm geschlagen. Letzte Woche warnte die Leitung des Labors, dass KI-gestützte Hackerversuche als „Frühwarnschüsse“ größerer Sicherheitsrisiken betrachtet werden sollten, berichtete Reuters, mit Vorhersagen, dass KI innerhalb von etwa zwei Jahren zu größeren Sicherheitsvorfällen führen könnte. Der Aufbau eines CBRN-Bewertungsteams ist die operative Version dieser Rhetorik.

Der Vorstoß erfolgt auch inmitten einer Zeit struktureller Veränderungen im KI-Bereich von Google. Im August hat das Unternehmen seine KI-Führung neu besetzt. Reuters und CNBC berichteten, dass langjährige Führungswechsel die Verantwortungsfunktionen verschoben hätten – und das Wall Street Journal berichtete separat, dass Google im Zuge dieser Umstrukturierung ein KI-Verantwortungsteam komplett aus dem DeepMind-Labor verlagert habe. Dass das CBRNE-Team nun in einer „Responsible Development and Innovation“-Organisation angesiedelt ist, zeigt, wie der Sicherheitsapparat neu organisiert – und erweitert – wurde, auch wenn die Berichterstattung über die Umstrukturierung weitergeht.

Der Governance-Subtext

Es gibt auch eine politische Dimension. Frontier-KI-Unternehmen stehen unter zunehmendem Druck von Regierungen, nachzuweisen, dass sie die gefährlichsten Fähigkeiten, die ihre Systeme entwickeln könnten, messen und kontrollieren können. Glaubwürdige Bewertungen im nuklearen und biologischen Bereich werden de facto zu einer Voraussetzung für die Glaubwürdigkeit von Laboren – die Sicherheitsnachweisarbeit, die Regulierungsbehörden und Aufsichtsbehörden zunehmend fordern.

Vor diesem Hintergrund dient die Einstellung von Leuten, die ihre berufliche Laufbahn im Nichtverbreitungs-Establishment verbracht haben, gleich zwei Zwecken: Sie baut die technische Fähigkeit auf, strenge Bewertungen durchzuführen, und übernimmt institutionelle Legitimität aus der bestehenden Welt der Rüstungskontrolle.

Die Einträge bleiben auf der Karriereseite von Google geöffnet. Ob die Rollen Vorsicht oder Wettbewerbspositionierung signalisieren, eines ist klar: Die Ära, in der KI-Sicherheit eine Aufgabe für Generalisten war, ist vorbei.

_Dieser Artikel basiert auf Berichten von Data Center Dynamics und Futurism sowie auf den öffentlichen Stellenangeboten von Google DeepMind._

---

Bleib vorne bei KI

Die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Mehr KI-Nachrichten lesen →