미 국방부는 국방부가 구매하는 인공지능 시스템이 트럼프 행정부의 '진실 추구'와 '이념적 중립' 조달 원칙을 준수하도록 설계된 계약 및 프로그램 인력에 대한 새로운 지침을 발표했다고 연방 뉴스 네트워크가 월요일 보도했습니다.
미 국방부의 국방 가격, 계약 및 인수 정책 수석 국장인 존 테나글리아(John Tenaglia)가 발표한 이 지침은 연방 정부에서 "깨어 있는 AI를 방지"하려는 도널드 트럼프 대통령의 어젠다를 구현하기 위한 국방부의 가장 구체적인 단계입니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.
행정 명령에서 계약 언어까지
이 지침은 트럼프가 7월에 서명한 행정 명령에서 직접적으로 나옵니다. 이 명령은 연방 기관이 구매하는 대규모 언어 모델이 "[다양성, 형평성, 포용]과 같은 이념적 도그마에 찬성하여 반응을 조작하지 않는 중립적이고 초당파적인 도구"인지 확인하도록 요구합니다. 그 순서대로 트럼프는 연방 기관이 "이념적 의제에 대한 진실성과 정확성을 희생하는 모델을 조달하지 않을 의무가 있다"고 선언했습니다.
관리예산처(Office of Management and Budget)는 나중에 행정 명령이 발표된 후 나타난 질문을 다루는 메모를 발행했습니다. 미 국방부의 새 문서는 이러한 높은 수준의 명령을 국방 획득 기계로 변환합니다. 즉, AI 시스템을 구매하고 계약업체가 부서의 "편향되지 않은 AI" 원칙을 준수하는지 확인하는 다양한 단계를 공무원에게 안내하는 템플릿입니다.
구체적으로 템플릿에는 기관이 조달을 위한 적절한 투명성 및 문서 요구 사항을 선택하는 데 도움이 되는 메모, 기업이 규정 준수를 입증하기 위해 제공해야 하는 문서를 알려주는 표준화된 요청 언어, 작업 명세서 또는 성과 작업 명세서에 통합할 수 있는 공식 계약 언어가 포함되어 있다고 Federal News Network는 말합니다.
의무사항이 아닌 지침 — 현재로서는
Tenaglia는 문서의 법적 무게를 신중하게 결정했습니다. 그는 기본 행정 명령과 OMB 메모를 준수하는 것이 의무적이지만 새 문서는 "단순한 지침"으로 "편향되지 않은 AI 원칙을 문서화, 요청 및 시행하는 표준화된 접근 방식"을 제공한다고 썼습니다.
Tenaglia는 메모에서 "AI 조달의 복잡성과 위험이 매우 다양하다는 점을 인식하여 DoD 구성 요소 및 필수 활동은 개별 요구 사항의 특정 요구 사항과 맥락에 맞게 필요에 따라 이 언어를 수정, 조정 또는 보완할 수 있는 유연성을 가지고 있습니다"라고 메모에 썼습니다.
이러한 유연성은 결과적일 수 있습니다. AI 모델이 "편향되지 않은"지 여부를 측정하고 계약 파일에 대한 결정을 문서화하는 것은 사이버 보안 인증을 확인하는 것보다 훨씬 복잡한 작업이며 공급업체는 모델 설계와 관련된 문서 요구를 거부할 가능성이 높습니다.
국방 AI 상용화를 위한 더 큰 노력의 일환
이 지침은 피트 헤그세스(Pete Hegseth) 국방부 장관이 상업용 AI를 부서에 도입하려는 노력을 계속하면서 나온 것입니다. 올해 초 미 국방부는 국방부를 "AI 우선 전투 부대"로 전환하는 것을 목표로 하는 AI 전략을 발표했으며 Hegseth는 부서가 데이터 센터에서 전술적 가장자리의 시스템에 이르기까지 AI 컴퓨팅 인프라에 막대한 투자를 할 것이라고 밝혔습니다.
국회의원들도 병행하고 있다. 지미 패트로니스(공화·플로리다) 의원은 트럼프 대통령의 행정명령을 성문화할 방안을 모색하고 있다. Patronis는 "대통령과 그의 팀은 진실을 말하는 AI 도구만 활용하도록 연방 기관에 지시하는 현명한 행정 명령을 전달했습니다"라고 말하면서 "기본 프로그래밍이 정치적으로 좌파로 기울어지기 때문에 AI 도구가 궤도를 벗어나는 사례가 연이어 발생하고 있습니다"라고 주장했습니다.
AI 벤더에게 미치는 영향
현재 공모를 위해 경쟁하고 있는 프론티어 연구소를 포함한 AI 기업들에게 이 지침은 이데올로기 중립성 문서가 상업용 AI의 가장 빠르게 성장하는 고객 부문 중 하나인 미국 국방 시장의 사실상 요구 사항이 되고 있다는 신호입니다. 모델의 교육 및 행동에 대한 감사 추적을 생성할 수 있는 공급업체는 문이 열려 있음을 발견할 수 있습니다. 연방 조달이 점점 더 폐쇄되는 것을 볼 수 없는 사람들.
실질적인 효과는 "편향되지 않은 AI"가 정치적 수사에서 세계 최대 기술 구매자 계약의 서면 요구 사항으로 전환되고 있으며 다른 모든 기관이 국방부의 템플릿이 어떻게 작동하는지 관찰하고 있다는 것입니다.
벤더가 실제로 생산해야 할 것
템플릿에 따르면 입증 책임은 공급업체에게 있습니다. AI 중심 계약에 입찰하는 회사는 해당 모델이 "편향되지 않은 AI" 원칙을 준수함을 입증하는 문서를 제공해야 합니다. 즉, 보안 인증 및 공급망 증명과 함께 새로운 범주의 인수 서류 작업을 효과적으로 생성하는 것입니다. 계약 담당관은 표준화된 언어를 사용하여 처음부터 초안을 작성하지 않고도 요청에 넣을 수 있습니다. 조달 전문가는 이것이 일반적으로 정책을 실행으로 바꾸는 것이라고 말합니다.
이 지침은 또한 미 국방부가 국방 인력을 위해 정부가 조정한 상용 AI 보조 버전을 출시하면서 인력을 위한 상용 챗봇을 표준화함에 따라 도착했습니다. 이러한 계약에 이념 중립적 언어를 삽입하면 정치적 표준이 물류 계획부터 일상적인 행정 업무에 이르기까지 모든 시스템에 사용되는 시스템으로 확장됩니다.
나머지 정부를 위한 테스트 사례
다른 기관들은 이제 선택의 기로에 서 있습니다. 국방부의 템플릿을 전면적으로 채택하거나, 자체적으로 작성하거나, 의회가 조치를 취할 때까지 기다리십시오. 행정 명령을 성문화하려는 Patronis의 노력은 법령에 의한 모호성을 해결하고 향후 행정부가 중립성 요구 사항을 뒤집기 훨씬 더 어렵게 만들 것입니다.
이 명령을 비판하는 사람들은 언어 모델에서 이념적 중립성을 측정하는 것은 과학적으로 어려운 일이며 논쟁의 여지가 있는 주제에 대한 정확한 설명을 포함하여 합법적인 모델 행동을 냉각시킬 수 있다고 주장합니다. 지지자들은 조달 표준이 이미 공급업체에 콘텐츠 요구 사항을 일상적으로 부과하고 있으며 모델 개발자가 다른 곳에서 자유롭게 판매할 수 있다고 반박합니다.
어쨌든 여행의 방향은 분명하다. 정부의 최대 기술 구매자는 "편향되지 않은 AI"를 서면으로 작성했으며, AI 시스템을 국방부에 판매하려는 방산업계 계약업체는 이제 만족해야 할 새로운 체크리스트를 갖게 되었습니다. 이 체크리스트는 문서화로 시작하여 배치된 모델이 중립성 테스트에 실패할 경우 잠재적으로 계약 분쟁으로 끝날 수 있습니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
