연방 정부의 최고 감시 기관에 따르면 인공 지능의 책임감 있고 윤리적인 사용을 조정하는 임무를 맡은 미 국방부 사무실에는 인력이 상당히 부족하다고 합니다. 이는 군대가 "AI 우선" 전투 부대가 되기 위해 노력하고 있음에도 불구하고 부서의 주력 AI 윤리 프레임워크를 방해하는 부족입니다.

미국 회계감사원(GAO)은 10월 14일자 보고서에서 최고 디지털 및 인공 지능 사무국(Chief Digital and Artificial Intelligence Office)의 직원 부족으로 인해 국방부의 책임 있는 AI 이니셔티브를 완전히 구현하지 못했다고 밝혔습니다. 이번 발견은 국방 분야의 AI 의사결정이 실험실에서 전장으로 옮겨져 인력 격차가 구체적인 결과를 낳는 순간에 이루어졌습니다.

10개 자리 중 3개가 채워졌고 공석은 계속 열려 있을 수 있습니다.

책임 있는 AI(Responsible AI)는 전투 시스템과 비전투 시스템 모두에서 AI 기능의 개발, 배치 및 운영을 관리하는 국방부의 통합 윤리 프레임워크입니다. CDAO는 책임 있는 AI 프레임워크를 포함하여 부서의 AI 채택 및 통합을 위한 주요 사무소입니다. 이를 통해 직원 수준을 감독 기능이 실제로 얼마나 많은 역량을 가지고 있는지 직접 측정할 수 있습니다.

GAO는 2월 현재 사무실의 승인된 직위 10개 중 3개만 채워졌다는 사실을 발견했습니다. 국방부 관리들은 감시단에 남은 자리가 채워질 가능성이 없다고 말했는데, 이는 부족이 일시적인 채용 지연이 아니라 사무실 감독 권한의 구조적 조건임을 시사하는 것입니다.

자체 안전장치를 능가하는 'AI 우선' 전략

인력 공개는 부서의 전략적 방향 옆에 어색하게 자리 잡고 있습니다. 지난 1월, 피트 헤그세스(Pete Hegseth) 국방장관은 GAO 보고서에 따라 AI 통합 및 채택 가속화를 다시 강조하는 AI 전략을 발표했습니다. 보고서에 따르면 이 전략은 "전시 기반을 강조하여 국방부가 모든 구성 요소에 걸쳐 'AI 우선' 전투 전력이 되도록 촉구했습니다."라고 명시되어 있습니다.

대조는 극명합니다. 승인된 전력의 30%로 운영되는 사무실에서 감독하는 전투 시스템 전반에 걸쳐 AI에 대한 명령이 가속화되고 있습니다. 급속한 AI 개발은 기술이 전통적인 입법 감독 및 인간 감독을 능가함에 따라 전 세계 통치 기관에 도전하고 있으며, 이제 미 국방부의 자체 감시 기관은 세계 최대 군사 관료 내부의 격차를 기록하고 있습니다. AI 정책 및 거버넌스에 대한 자세한 내용은 AI 뉴스 홈페이지를 참조하세요.

위험: 정책을 재구성하는 타겟팅, 가드레일 및 거부

얇은 감독의 결과는 가상이 아닙니다. 블룸버그는 지난달 보도했고 스타즈 앤 스트라이프스(Stars and Stripes)는 표적 선택에 사용된 AI 기반 소프트웨어가 이란 전쟁 첫날인 2월 28일 토마호크 미사일로 초등학교를 공격해 100명 이상의 어린이가 사망한 미국의 공격에 영향을 미쳤다고 거듭 보도했다.

군의 AI 거버넌스 싸움은 민간 부문에서도 이어졌다. 지난 2월, 피트 헤그세스(Pete Hegseth) 국방장관과 도널드 트럼프 대통령은 앤트로픽(Anthropic)에 정부와 계약한 클로드(Claude) 모델의 안전 가드레일을 제거하라고 압력을 가해 이 시스템이 완전 자율 무기와 대규모 감시에 사용되는 것을 막고 있다. Anthropic이 이를 거부하자 행정부는 해당 회사를 국가 안보 위험 요소로 지정하고 정부 기관이 Claude를 사용하는 것을 금지했습니다. 이는 AI Buzz Wire가 블랙리스트를 지지하는 항소 법원 판결을 포함하여 법원을 통해 다루었던 교착 상태입니다.

30%에서 실행하는 것이 실제로 의미하는 것

승인된 10개 직책 중 3개에 대한 감독 사무소는 밀린 업무가 있는 관료주의가 아닙니다. 이는 의도된 용량의 일부만 운영되는 프레임워크입니다. Responsible AI 이니셔티브는 윤리적 원칙을 실제 무기 및 통신 프로그램이 따라야 하는 검토 프로세스로 변환하는 CDAO에 의존하며, 채워지지 않은 모든 자리는 취소되거나 포트폴리오 전체에 걸쳐 나머지 직원에게 넘어간 작업을 나타냅니다.

국방부 관계자는 GAO에 공석이 채워질 가능성이 낮다고 말했기 때문에 제약 조건은 순환적이라기보다는 내구성이 있는 것으로 보입니다. 프로그램은 계속해서 AI 기능을 활용할 것이며, 윤리적 프레임워크를 적용하는 실질적인 부담은 점점 더 적은 수의 사람들에게 집중될 것입니다.

최후의 방어선으로서의 인간윤리

군 변호사들은 인력 격차로 인해 인간의 판단이 유일한 의미 있는 점검 수단이 된다고 주장합니다. Stars and Stripes에 따르면 Tully Rinckey의 군법 전문 변호사인 Sean Timmons는 화요일 전화 통화에서 "군사 결정은 인간 윤리에 기초해야 하며 컴퓨터에 무언가를 수행하도록 지시하는 것만으로도 매우 빠른 방법일 수 있지만 우리가 원하는 모든 것을 수행하는 윤리적, 도덕적 또는 합법적인 법적 방법론이 아닐 수 있습니다"라고 말했습니다.

일부 AI 업계 리더들은 자율 AI 에이전트의 통제력 상실이 실존적 위협을 초래할 수 있다고 경고하면서 AI 발전 속도를 늦춰야 한다고 주장해왔습니다. 이는 자율 무기에 적용될 때 특히 중요한 경고입니다. GAO의 조사 결과에 따르면 현재로서는 가장 빠르게 성장하는 미국 군사력의 구성 요소가 이를 관리할 인간 인프라보다 먼저 확장되고 있음을 알 수 있습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →