UN, 인간의 통제력 상실에 대한 우려 속에 군사 AI에 관한 첫 번째 국제 포럼 개최

UNIDIR의 새로운 계획은 5개 원자력 보유국 모두가 자금을 지원하는 센터의 지원을 받아 AI의 군사적 사용에 관한 최초의 국제 포럼을 창설했다고 AP는 보도했습니다.

유엔은 인공지능의 군사적 활용에 관한 새로운 이니셔티브를 시작하고, 정부, 산업체, 연구원들이 전쟁에서 증가하는 기술의 역할을 다루기 위해 노력할 최초의 국제 포럼을 설립했습니다. AP 통신은 목요일로 예정된 포럼의 공식 데뷔에 앞서 2026년 10월 20일에 출시를 보도했습니다. AI 정책 속보를 추적하는 사람이라면 누구나 군사 AI를 뚜렷한 거버넌스 문제로 취급하려는 글로벌 기구의 가장 구조화된 시도입니다.

이 계획은 제네바에 본부를 둔 UN 군축연구소(UNIDIR)가 운영하며, UNIDIR이 올 여름 설립한 AI, 평화, 안보 우수센터(Center of Excellence on AI, Peace and Security) 하에서 운영될 예정이다. 이는 해당 문제에 초점을 맞춘 UN 시스템 최초의 영구 플랫폼이다.

'인간의 판단 한계는 점점 좁아지고 있다'

UNIDIR의 로빈 가이스(Robin Geiss) 대표는 화요일 유엔 기자회견에서 “핵 분야를 포함해 인간의 판단 한계가 점점 좁아지고 있다”고 경고했다. 그는 세상이 인간의 통제를 벗어나 작동할 수 있는 기계와 얼마나 가까운지 평가하기 어렵고 이러한 불확실성이 "우리가 여기서 해결하려고 하는 문제"라고 말했습니다.

Geiss에 따르면 문제의 일부는 AI가 조기 경보 시스템, 정보 수집, 정찰 등 수많은 군사 기능으로 확산되어 "어느 시점에서 실제로 통제력을 상실하는지 말하기가 매우 어렵다"는 것입니다. 그는 오랫동안 AI 가드레일에 대해 논의하는 것을 꺼리는 분위기가 널리 퍼져 있었지만 역량의 확산으로 인해 "우리가 기로에 서 있다는 인식이 점점 커지고 있으며, 이제는 군사 AI를 포함하여 행동해야 할 때"라고 지적했습니다.

원자력 5개국 모두가 자금을 지원하는 센터

AP의 보도에서 한 가지 놀라운 세부 사항은 AI, 평화 및 안보 우수 센터가 유엔 안전보장이사회의 5개 상임이사국(미국, 러시아, 중국, 영국, 프랑스) 모두로부터 자금을 지원받았다는 것입니다. 이러한 수준의 지원은 강대국들이 서로의 계획을 자주 막는 유엔 군축 작업에서는 이례적이다.

가이스는 AI를 주도하기 위한 글로벌 경쟁이 협력에 심각한 장애물이 된다는 점을 인정하면서도 "AI의 영향에 대한 우려는 이미 지정학적 블록을 초월하고 있다"고 주장했다. 그 증거로 그는 지난 달 미국과 중국이 국가 안보를 위협할 수 있는 문제에 대해 AI 안전 경보 시스템을 구축하자는 제안을 지적했습니다. 이는 긴장된 기술 경쟁에서 미-중 AI 협정의 드문 영역입니다.

세 가지 작업 흐름: 포럼, 업계 규칙, 무장 단체

목요일에 시작되는 새로운 군사 AI 포럼은 "모든 관련 분야와 전 세계의 행위자들"을 한 자리에 모을 것이라고 Geiss는 말했습니다. 그러나 그는 이 포럼이 이 문제를 위한 전용 장소 역할을 하는 것 이상으로 정확히 무엇을 할 것인지에 대해서는 모호했습니다.

이와 함께 두 가지 동반 노력이 시작됩니다. 첫 번째는 책임 있는 산업 행동을 위한 프레임워크입니다. 즉, AI 기반 군사 능력이 "신뢰할 수 있고 예측 가능"하며 "국제법에 따라" 작동할 수 있도록 보장하기 위한 실용적이고 자발적인 지침입니다. UNIDIR은 이번 주 정부, 시민사회, 학계, 전문가와 협력하여 방산기술업체, 소프트웨어 개발자, 하청업체, 투자자와 협의를 가질 예정이다. Geiss는 기업의 설계 및 개발 결정이 궁극적으로 군사 AI가 국제법과 인권을 준수하는지 여부를 결정한다고 주장했습니다.

두 번째는 무장 단체의 AI 오용 위험에 중점을 둡니다. Geiss는 비국가 행위자가 이미 AI를 사용하여 작전 계획, 실행 및 병참을 지원하고 있다고 경고했습니다. 이는 국가 군대를 중심으로 한 이전 논의에서는 거의 없는 차원입니다.

중요한 이유

이번 발사는 의미 있는 인간의 통제 없이 표적을 선택하고 교전할 수 있는 소위 "킬러 로봇"이라고 불리는 치명적인 자율 무기 시스템에 대한 수년간의 경고에 따른 것입니다. 안토니오 구테헤스 유엔 사무총장과 적십자는 법적 구속력이 있는 규칙을 거듭 촉구해 왔으며, 지난달 고위급 회의에서 유엔 193개 회원국 지도자들의 연설에서 AI 위험이 두드러지게 등장했습니다.

자율 무기에 대한 구속력 있는 조약은 아직 협상되지 않았으며, 외교관들은 주요 군사 강대국의 서로 다른 안보 원칙을 고려할 때 모든 과정이 점진적으로 진행될 것이라고 경고합니다. 이 계획은 회원국 간의 비공식 협의로 시작될 것으로 예상되며, 잠재적으로 공식 실무그룹이나 고위급 패널이 뒤따를 것이며 유엔 군축 사무국이 중앙 조정 역할을 할 것으로 예상됩니다. 이는 과거 유엔이 사이버 규범과 재래식 무기에 접근한 방식과 유사한 구조입니다.

이것이 집행 가능한 규칙을 생성하는지 여부는 주요 강대국 자체에 달려 있습니다. 국방부는 AI가 정밀도를 향상하고 부수적 피해를 줄일 수 있다고 주장합니다. 군비 통제 전문가들은 군사 AI의 규제되지 않은 경쟁이 전략적 균형을 불안정하게 만들고 갈등의 문턱을 낮출 수 있다고 반박합니다. 새로운 포럼에서 변경된 것은 장소입니다. 군사 AI는 이제 반복되는 의제 항목이 아닌 UN 시스템 내부에 영구적인 전용 테이블을 갖게 되었습니다.

Geiss는 이 이니셔티브를 임계 순간으로 구성했습니다. "군사 영역에서 AI의 시급한 문제는 확실히 더 이상 그림자 속에 머무르는 것이 허용되지 않을 것입니다."라고 그는 말했습니다. "우리의 강점을 살려 군에서 AI와 정면으로 맞서야 할 때가 왔다."