디펜스스쿠프(DefenseScoop)가 검토한 스티브 파인버그(Steve Feinberg) 국방부 부장관이 발행한 메모에 따르면 미 국방부는 민감한 군사 정보를 분류하고 처리하는 방법을 관리하기 위해 인공 지능을 사용할 파일럿 프로그램을 시작한다고 합니다. 이 지침은 향후 6개월 이내에 자동화된 보안 분류 기능의 초기 소규모 배포를 명령합니다. 이는 부서에서 위험할 정도로 오래된 것으로 설명하는 프로세스를 점검하기 위한 노력의 시작입니다.

파인버그 메모 내부 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

월요일에 발행된 메모에는 국방부가 임무를 "위태롭게" 하고 있다고 말하는 "기능 장애"의 원인으로 국방부의 기존 분류 및 기밀 해제 절차가 포함되어 있습니다. 오래된 절차가 "중요한 정보의 적시 공개"를 지연시키고 부서에 대한 대중의 신뢰를 약화시킨다고 주장합니다.

DefenseScoop에 따르면 메모에는 "이러한 절차로 인한 기능 장애로 인해 국가 보안 시스템에 부담을 주고 상호 운용성을 방해하며 중요한 데이터를 난로통에 가두어 혁신을 지연시키는 잘못된 분류가 발생합니다"라고 명시되어 있습니다.

ACME: 센터의 공군 시스템

이번 시험에서 국방부는 공군이 최근 개발한 자동분류관리환경(ACME)이라는 AI 지원 시스템을 사용할 예정이다. 메모에는 공군 최고 민간인을 조종사의 집행 대리인으로 지정했으며, 공군 대변인은 DefenseScoop에 해당 서비스가 "메모의 지시를 따를 것"이라고 말했습니다.

ACME는 지난 8월 군이 수십 년 동안 사용해 왔던 "수동적이고 인간 집약적인" 프로세스를 대체하기 위해 분류 관리 생태계 구축을 업계에 요청하는 정보 요청을 발표하면서 공개적으로 알려졌습니다. 해당 공지는 시스템이 긴장 상태에 있음을 설명합니다. 수백 명의 공무원이 정보 분류 권한을 갖고 있으며, 많은 공무원이 구식 프로그램을 사용하고, 오래된 문서를 생성하고, 오류율이 높으며, 과도한 분류가 빈번하고, 데이터 무결성이 저하되었습니다. 이 부서는 또한 약 1억 4천만 페이지에 달하는 하드카피 백로그를 보유하고 있습니다.

파일럿에서 단일 권위 있는 참조로

메모에는 파일럿이 성공하면 자동화된 시스템이 결국 부서의 모든 원래 분류 결정에 대한 "단일, 디지털 권위 있는 참조" 역할을 하게 될 것이라고 메모에 나와 있습니다. 그 책임은 역사적으로 민감한 정보가 어떻게 분류되는지 결정하는 특별히 지정된 인간 공무원에게 속해 있었습니다. 즉, 성공적인 출시는 핵심 정부 기능을 현재까지 AI 시스템으로 이전하는 가장 중요한 일 중 하나가 될 것임을 의미합니다.

공무원들이 변화가 필요하다고 말하는 이유

자동화의 필요성은 현대 군사 정보의 양과 속도에 달려 있습니다. 8월 정보 요청에서는 수동 프로세스가 디지털 시대의 정보 양과 속도와 "호환되지 않는다"고 말했습니다. 과잉 분류는 정보를 필요로 하는 유닛과 동맹국으로부터 정보를 차단합니다. 미분류로 인해 능력과 계획이 적에게 노출될 위험이 있습니다. 어느 방향에서든 오류가 발생하면 비용이 발생하며, 하드카피 페이지가 7자릿수 백로그로 남아 있기 때문에 부서에서는 점진적인 수정만으로는 충분하지 않다는 결론을 내렸습니다.

New American Security 센터의 국방 프로그램 연구원인 Josh Wallin은 DefenseScoop과의 인터뷰에서 과소 분류된 정보는 적에게 능력이나 계획을 노출시킬 수 있고, 과도하게 분류된 정보는 지연된 검토 프로세스로 인해 보류되거나 지연될 수 있습니다. 즉, "정보 공유가 조정에 중요한 연합 환경에서" 이를 필요로 하는 조직에 도달하지 못할 수 있다는 의미입니다. 그는 많은 경우에 "대부분의 정보가 오분류에 대해 걱정할 만큼 민감한 것은 아니다"라고 덧붙였습니다. 이것이 바로 더 빠르고 일관된 처리가 부서 전체에 이익을 줄 수 있는 이유입니다.

분석가들은 이익과 실제 위험을 확인합니다

Wallin은 자동화가 인간에 의해 과잉 보호되거나, 과소 보호되거나, 잘못 분류된 정보를 포함하여 잘못된 분류 문제를 해결하는 데 도움이 될 수 있으며, 특히 현대 분쟁을 통해 신속한 정보 흐름이 결정적인 이점이 될 수 있음을 보여주었기 때문에 난로 배관을 줄일 수 있다고 말했습니다.

그러나 월린은 위험도 지적했다. AI 지원 시스템에서는 잘못된 분류가 더 빠른 규모로 발생할 수 있습니다. 동맹국 및 파트너와의 빠른 공유는 수신 네트워크의 사이버 보안 프로토콜에 대한 의문을 제기합니다. 그리고 가속화된 기밀 해제는 공격자가 개별적으로 무해한 공개로부터 민감한 통찰력을 종합할 수 있는 "집합" 효과를 생성합니다.

Wallin은 "분류 오류에 대한 우려가 있습니다"라고 말했습니다. "일부 정보가 민감할 것이라는 본질적인 우려가 있습니다. 의도치 않게 잘못 분류되어 공유되고 누군가가 이를 포착하지 않을까요?"

감독 문제가 남아 있습니다

Wallin은 또한 파일럿의 간결성과 AI가 원래 분류 기관에 대한 최종 참조 역할을 할 때 인간의 감독이 어떻게 작동하는지에 대해 의문을 제기했습니다. 그는 DefenseScoop과의 인터뷰에서 "실제로 인간의 감독을 어떻게 할 것인가? 그것은 영원히 지속되어야 할 것입니다"라고 말하면서 시스템은 시간이 지남에 따라 발전할 것이며 완전한 신뢰는 결코 달성할 수 없다고 지적했습니다.

미 국방부는 어떤 기본 AI 모델이 조종사에게 힘을 실어줄지, 해당 기술을 이러한 목적으로 사용하는 데 우려가 있는지에 대한 질문에 즉각 답변하지 않았습니다. 이 명령은 적들이 자국 군대에 AI를 배치하는 동안 AI는 무시하기에는 너무 강력한 도구라고 국방 관계자들이 주장하는 가운데 AI 감독을 두고 워싱턴에서 광범위한 논쟁이 벌어지고 있는 가운데 나온 것입니다. 부서가 공격적인 채택과 의미 있는 인간 통제라는 두 가지 충동의 균형을 어떻게 맞추느냐가 6개월 파일럿의 결정적인 질문이 될 것입니다.

공군에게 이번 임무는 신임투표이기도 하다. 분류 개혁에 대한 부서 전체의 대화가 여전히 이론적인 동안 육군은 ACME를 구축했으며 이제 메모는 작동할 경우 모든 군 부서가 비밀을 처리하는 방식을 재구성할 기능에 대한 책임을 맡습니다. 분류 백로그와 분류 초과 불만이 만성적인 나머지 연방 정부의 경우 성공적인 국방부 파일럿은 AI 지원 정보 처리를 위한 최초의 대규모 템플릿을 제공하고 면밀히 관찰되는 템플릿을 제공할 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →