Google DeepMind는 업계 간행물인 Data Center Dynamics에서 처음 보고하고 이번 주 Futurism에서 다룬 채용 목록에 따르면 첨단 AI 모델이 핵무기 개발에 도움이 될 수 있는지 평가하기 위해 핵 전문가 팀을 고용하고 있습니다.

Google 채용 사이트에 게시된 목록에서는 DeepMind의 책임 있는 개발 및 혁신 조직에 속한 화학, 생물학, 방사선학, 핵 및 고수익 폭발물(CBRNE) 팀에서 핵 분야 전문가 역할을 할 "고급 자격을 갖춘 물리학자와 원자력 엔지니어"를 찾고 있습니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

직무가 실제로 요구하는 것

최소바가 가파릅니다. 지원자는 플라즈마 물리학이나 핵 공학과 같은 분야의 박사 학위 또는 "동등한 실무 경험"이 필요하며, 미국 정부 연구소와 협력한 기록과 비축 관리, 비확산, 무기 통제 또는 위협 감소를 포함한 정책 영역에 대한 지식이 필요합니다.

선호하는 자격은 AI 안전 경험, 전산 모델링 전문 지식, 주요 레이저 사용자 시설에서 근무한 시간, "무기 주제에 대한 이중 용도 과학 프록시를 개발하여 명백히 분류되지 않고 수출이 통제되는" 안전 평가를 설계하는 능력 등입니다.

보상은 전문가 요구 사항에 부합합니다. 구글은 연봉 범위를 174,000달러에서 252,000달러로 표시하고 여기에 15% 보너스를 추가합니다.

AI 연구실에 무기 전문가가 필요한 이유

핵심 책임은 핵 분야에서 프론티어 AI 모델의 안전성을 평가하는 것입니다. 목록에는 "분명히 분류되지 않고 수출이 통제되는 방식으로 핵분열, 핵융합, 열핵 무기 확산, 방사선 유체 역학, 자기 유체 역학 등에 대한 모델 지원"을 평가하는 작업이 설명되어 있습니다.

채용 공고 문구에서 번역: DeepMind는 평가 자체가 분류 선을 넘지 않고 모델이 핵무기 개발에 의미 있는 도움을 제공할 수 있는지 여부를 판단할 수 있는 전문가를 원합니다. "이중 용도 과학 프록시"에 대한 언급은 모델이 대답해서는 안되는 무기 관련 질문을 대신하는 방사선 유체 역학과 같은 인접한 과학적 문제를 기반으로 구축된 테스트를 암시합니다.

목록에 명명된 물리 영역은 임의적이지 않습니다. 방사선 유체 역학 및 자기 유체 역학은 핵무기 물리학과 관련된 극한 조건에서 에너지와 플라즈마가 어떻게 작용하는지 설명합니다. 이것이 바로 민감한 주제이기도 한 이유입니다. 이러한 분야의 역량은 탄두 설계의 기초이지만 기본 과학은 핵융합 및 천체 물리학 연구에서도 공개적으로 발표됩니다. 이러한 "프록시"를 중심으로 평가 질문을 작성하면 안전 팀이 평가 자체가 확산 위험이 되지 않으면서 모델이 해당 경계 지식을 탐색할 수 있는지 여부를 측정할 수 있습니다.

목록에 대한 미래주의의 해석은 무뚝뚝했습니다. 이는 Google의 최고 AI 연구소가 모델이 결국 실제 핵 콘텐츠에 대한 질문에 직면할 것으로 예상하고 문제가 발생하기 전에 해당 동작을 포착하는 데 필요한 전문 지식을 고용하고 있음을 시사합니다. 그 프레이밍은 추측에 불과합니다. 채용 추진은 준비 상태를 보여주는 것이지 현재 모델이 실행 가능한 무기 지침을 생성할 수 있다는 증거는 아닙니다. 그러나 전문가 요구 사항의 규모는 연구소가 시나리오를 얼마나 심각하게 다루는지를 강조합니다.

대규모 안전 구축의 일부

채용은 수년 동안 프론티어 연구실 산업을 정의해 온 패턴에 맞습니다. AI 회사는 모델 스트레스 테스트를 위해 학문 분야 전반에 걸쳐 자격을 갖춘 도메인 전문가를 모집합니다. 모델 교육을 위한 주제 사실 확인팀으로 시작된 팀은 점점 더 심각한 위험 영역에 대한 전담 평가 팀으로 발전했으며, CBRN은 가장 민감한 팀 중 하나입니다.

DeepMind의 리더십은 공개적으로 경종을 울리고 있습니다. 지난주 연구소 경영진은 AI를 활용한 해킹 시도가 더 큰 보안 위험에 대한 '조기 경고 사격'으로 취급되어야 한다고 경고했다고 로이터는 보도했습니다. AI가 약 2년 내에 주요 보안 사고를 일으킬 수 있다는 예측이 나왔습니다. CBRN 평가팀을 구성하는 것은 그 수사의 운영 버전입니다.

이러한 추진은 Google AI 운영의 구조적 변화 기간 중에도 이루어졌습니다. 8월에 회사는 AI 리더십을 개편했습니다. Reuters와 CNBC는 오랜 리더십 변화로 인해 책임 기능이 이동했다고 보고했습니다. 그리고 Wall Street Journal은 Google이 개편의 일환으로 AI 책임 팀을 DeepMind 연구소에서 완전히 이전했다고 별도로 보도했습니다. CBRNE 팀이 이제 "책임 있는 개발 및 혁신" 조직 내에 있다는 것은 구조 조정에 대한 보고가 계속되는 동안에도 안전 장치가 어떻게 개편되고 확장되었는지를 보여줍니다.

거버넌스 하위 텍스트

정책적인 측면도 있습니다. 프론티어 AI 기업은 시스템이 개발할 수 있는 가장 위험한 기능을 측정하고 제어할 수 있음을 입증하라는 정부의 압력을 점점 더 많이 받고 있습니다. 핵 및 생물학적 영역에서 신뢰할 수 있는 평가는 실험실 신뢰성을 위한 사실상의 요구 사항이 되고 있습니다. 이는 규제 기관과 감독 기관이 점점 더 요구하는 안전 사례 작업입니다.

그런 점에서 비확산 기관에서 경력을 쌓은 사람들을 고용하는 것은 두 가지 목적을 동시에 수행합니다. 엄격한 평가를 수행할 수 있는 기술적 역량을 구축하는 것과 기존 군축 세계에서 제도적 정당성을 차용하는 것입니다.

목록은 Google 채용 사이트에 계속 열려 있습니다. 역할이 주의를 나타내든 경쟁적 포지셔닝을 나타내든 한 가지 분명한 것은 AI 안전이 일반 직원의 일이었던 시대는 끝났다는 것입니다.

_이 기사는 Data Center Dynamics and Futurism의 보고와 Google DeepMind의 공개 채용 정보를 기반으로 합니다._

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →