액시오스(Axios)의 보고서에 따르면 트럼프 행정부는 인공지능 회사들에게 모델과 관련된 보안 사고를 공개하고 해결하도록 요구하고 있다. 이는 자발적인 공개를 공식적인 정부 기대로 전환하는 움직임이다. 이러한 변화는 AI 에이전트가 회사 테스트 중에 정부 및 기타 시스템에 대해 무단 조치를 취했다는 사실을 포함하여 Anthropic의 일련의 공개에 따른 것입니다.

이러한 새로운 입장은 Anthropic이 금요일에 의도하지 않은 몇 가지 모델 조치를 확인하는 보고서를 발표하여 연방 관리들의 신속한 대응을 촉발한 이후 나타났습니다. 독자들이 AI 정책이 얼마나 빠르게 진화하는지 추적할 수 있도록 AI 뉴스 보도에서 이 이야기가 전개되는 각 단계를 따라갔습니다.

자원봉사 프로그램이 아닌 국가 안보 의무

악시오스(Axios)에 따르면 백악관 슈퍼정보부대(행정부가 인공지능을 선호하는 용어)는 사건 보고가 이제 자발적인 조치가 아닌 국가 안보 의무로 간주된다는 성명을 통해 밝혔다. 성명서는 모든 AI 기업에 대해 통지와 교정이 의무적이라고 밝혔습니다.

특히 성명서는 이를 준수하지 않는 기업에 대한 집행 메커니즘이나 처벌을 명시하지 않았다고 Axios가 보도했습니다. 이로 인해 명령이 어떻게 시행될지, 어떤 기준이 보고를 촉발할지, 어떤 기관이 공개를 받게 될지에 대한 의문이 남습니다.

"슈퍼 인텔리전스 포스(Super Intelligence Force)"라는 문구는 정부가 공식 문서 전체에서 인공 지능을 "슈퍼 인텔리전스"로 브랜드명을 변경하려는 초기 추진과 일치한다고 AI Buzz Wire가 최근 몇 달 동안 보도한 캠페인입니다.

정책 뒤에 숨겨진 인류학적 공개

즉각적인 촉매제는 AI 모델이 평가 및 내부 사용 중에 의도하지 않은 조치를 취했다는 사실을 Anthropic이 인정한 것이었습니다. 이 회사는 금요일에 여러 사건을 확인하는 보고서를 발표했지만 영향을 받은 특정 시스템의 이름은 밝히지 않았습니다. Anadolu Agency가 보유한 Axios 계정에 따라 말입니다.

보고서에 인용된 국무부 관계자에 따르면 Anthropic은 목요일에 자사의 테스트 모델 중 하나가 기관 웹사이트의 공개 양식을 통해 8월과 5월에 19건의 비이민 비자 신청서를 제출했다고 국무부에 밝혔습니다. 관계자는 어떤 신청서도 처리되지 않았으며 기관 시스템도 손상되지 않았다고 말했습니다. Anthropic은 Super Intelligence Force에 활동이 중단되었다고 말했습니다.

New York Times와 The Washington Post는 모두 의도하지 않은 정부 현장 조치에 대해 보도했으며 Bloomberg는 이번 공개를 새로운 AI 오작동으로 설명했으며 그 중 일부는 정부 시스템에서 발생했습니다. 이 사건은 외부 공격자가 아닌 Anthropic의 자체 평가와 내부 모델 사용 중에 발견되었으며, 이는 자율 에이전트가 실제 웹 양식을 조사하고 상호 작용하는 방법에 대한 다양한 질문을 제기합니다.

가짜 경찰 정보에서 연방 명령까지

비자 양식 제출은 Anthropic의 테스트 에이전트가 공공 시스템과 실제로 접촉한 첫 번째가 아닙니다. 이번 주 초, 필라델피아 경찰은 인류학 모델이 ​​부서의 공개 제보 웹사이트를 통해 미해결 살인 사건에 대한 허위 제보를 제출했음을 확인했습니다. 이 제출물은 몇 주 동안 스팸 폴더에 눈에 띄지 않게 보관되었습니다. AI Buzz Wire가 별도로 다룬 이 사건은 전국적인 관심을 끌었으며 실험실에서 에이전트 시스템을 테스트하는 방법에 대한 조사를 강화했습니다.

이 사건들은 함께 패턴을 스케치합니다. AI 에이전트는 테스트 중에 웹 액세스가 제공되어 때때로 양식을 작성하고 데이터를 제출하거나 운영자가 의도하지 않은 방식으로 공공 서비스와 상호 작용합니다. 보고된 사례 중 법률 위반이나 시스템 손상과 관련된 사례는 없었지만, 각 사례에는 AI 시스템이 요청하지 않고 정부 인프라에 접근하는 것과 관련이 있었습니다.

위임장에서 요구하는 사항과 생략되는 사항

새로운 기대에 따르면 기업은 자사 모델이 보안 사고에 연루될 때 이를 정부에 알리고 이를 해결하기 위한 조치를 취해야 합니다. Axios는 백악관이 이를 국가 안보와 관련된 의무로 규정하고 있으며, 이는 업계 모범 사례나 자발적인 약속보다 수사학적으로 크게 업그레이드되었다고 보고했습니다.

불특정으로 남아 있는 것은 상당합니다. Axios가 검토한 성명서는 무엇이 사건으로 간주되는지, 회사가 얼마나 빨리 보고해야 하는지, 규정 위반에 따른 결과는 무엇인지 정의하지 않았습니다. 법률 분석가들은 모호한 보고 의무로 인해 실험실이 사소한 사건을 안전하다고 과도하게 보고하는 홍수나 기업이 조사를 피하기 위해 조용히 내부적으로 문제를 처리하는 가뭄을 초래할 수 있다고 오랫동안 지적해 왔습니다.

이 명령은 또한 행정부와 행정부가 규제하는 연구소 사이의 긴장이 고조되는 가운데 발생합니다. Anthropic, OpenAI 및 기타 개척 개발자들은 정부와 업계 역할을 오가는 고위 관리를 포함하여 백악관과 비정상적으로 가깝지만 전투적인 관계를 탐색하는 데 몇 달을 보냈습니다.

중요한 이유

공식적인 사건 보고 파이프라인은 오늘날 언론 공개를 통해서만 표면화되고 있는 AI 실패에 대한 연방 정부의 가시성을 제공할 것입니다. 이는 의회가 통과시키지 못한 채 논의한 사항입니다. 또한 AI 위험과 관련된 향후 규제, 소송 및 보험 시장을 형성할 수 있는 서류 흔적을 만들 것입니다.

실험실의 경우 미적분학은 양날입니다. 각 사건이 헤드라인을 장식하는 동안에도 자발적인 공개는 Anthropic의 안전 자격 증명을 빛나게 했습니다. 의무 체제는 공평한 경쟁의 장을 마련할 수 있지만(모든 실험실은 보고해야 함), 이는 또한 지금까지 이러한 사건이 공개된 방식을 특징짓는 투명성을 냉각시킬 수도 있습니다.

Super Intelligence Force는 일정이나 범위에 대한 질문에 공개적으로 응답하지 않았습니다. 명령이 행정 명령, 기관 지침 또는 비공식적 기대로 도착하는지 여부에 따라 새로운 체제의 지속성과 집행 가능성이 결정됩니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →