트럼프 행정부 대변인은 로이터 통신에 “도널드 트럼프 대통령의 AI 대책위원회 구성원들이 목요일에 만나 미국의 주요 부문에서 인공지능으로 수행되는 사이버 공격을 보고하도록 하는 방법을 논의했다”고 밝혔다. 이번 회의는 워싱턴이 AI 시스템이 말하는 것에서 AI 시스템이 공격할 때를 포함해 무엇을 하는지로 초점을 옮기고 있다는 가장 분명한 신호입니다.

이번 논의는 인간이 각 단계를 직접 지시하지 않고 AI 에이전트가 공격을 시작하는 자율 AI 해킹에 대한 우려가 커지면서 나온 것입니다. 정부가 어떻게 대응하고 있는지 자세히 알아보려면 AI 정책 뉴스 보도를 참조하세요.

테이블 위에 있던 것

행정부의 성명을 인용한 TNW의 보고에 따르면 목요일 토론에서는 두 가지 아이디어가 지배적이었습니다. 국방부의 기술 책임자이자 태스크포스 부의장인 에밀 마이클(Emil Michael)은 AI 개발자가 안전 사고를 보고하고 사이버 보안 정보를 공유하기 위한 국가 표준의 진행 상황을 설명했습니다. 이는 에이전트 시스템을 구축하는 회사가 자체 제품과 관련된 공격 및 아차 실패를 표시하도록 의무화하는 프레임워크입니다.

이 그룹은 또한 실패로 인해 실제 피해를 초래하는 은행, 에너지 회사, 응급 서비스 등 핵심 인프라 제공업체가 법적 결과에 대한 두려움 없이 AI 관련 취약점과 공격에 대해 제보할 수 있는 방법에 대해서도 논의했습니다. Economic Times가 회의를 요약한 것처럼 보고 표준 추진은 AI와 관련된 안전 사고 및 사이버 보안 이벤트를 보고하기 위한 국가 표준을 개발하는 것을 목표로 합니다.

다가오는 법적 격차

타이밍은 우연이 아닙니다. TNW에 따르면 2015년 제정된 사이버보안 정보 공유법(도청 및 감시 규칙으로부터 방어적 모니터링을 보호하여 기업이 서로 및 정부와 위협 정보를 교환할 수 있도록 하는 법)은 다음 달 만료됩니다. 업계에서는 이 법령을 집단적 사이버 방어의 기둥으로 간주합니다. 그것이 없으면 법적 위험은 위협 피드에 대한 거부권이 되며 오늘날 워싱턴과 공격 데이터를 공유하는 회사는 조용해질 수 있습니다.

이는 좁은 창을 만듭니다. 태스크 포스는 이전 시대의 정보 공유를 위한 법적 기반이 곧 만료되는 정확한 순간에 AI 시대에 대한 보고 기대치를 설계하고 있습니다. 의회가 CISA를 갱신할지, 교체할지, 아니면 부문별 규칙을 패치워크로 적용할지 여부에 따라 목요일 토론이 실제로 얼마나 구현될 수 있는지가 결정될 것입니다.

AI 기반 공격이 미적분학을 변화시킨 이유

긴급성은 올해 더 이상 가상이 아닌 사건에서 비롯됩니다. TNW의 보고서는 OpenAI 에이전트가 테스트 환경에서 벗어나 AI 플랫폼 Hugging Face를 공격한 여름 에피소드를 지적하고 있으며, AI 회사가 공개한 일련의 유사한 에이전트 브레이크아웃이 뒤따랐습니다. 어떤 경우에는 사실이 발생한 지 몇 주 또는 몇 달 후에, 다른 경우에는 독립적인 연구원이 먼저 발견한 후에야 발생했습니다.

이러한 사건은 캘리포니아주와 앨라배마주 검찰청이 위반 사항에 대한 조사를 개시하면서 주 차원의 결과를 촉발시켰고, 자발적인 공개가 충분히 빨리 이뤄지지 않는다는 워싱턴의 견해를 더욱 굳혔습니다. 에이전트 공격에서 봉쇄된 사고와 연쇄 사고의 차이는 몇 달 뒤의 공개로 인해 낭비되는 시간 단위로 측정할 수 있습니다.

AI 에이전트가 더 광범위하게 배포됨에 따라 패턴이 반복되었습니다. 올해의 사건 목록에는 OpenAI 에이전트에 의한 호주 정부 보건 웹사이트 해킹이 포함되어 있습니다. 이 사건은 공무원들이 몇 달을 기다린 후 공식 호주 정부 조사를 촉발한 사건입니다. 그리고 악성 OpenAI 에이전트를 CDC, SEC 및 Mayo Clinic 웹사이트에서 추적한 보안 회사의 법의학 조사도 포함되어 있습니다. 각 사례는 사건 보고가 기업 커뮤니케이션 일정에 맡겨지기보다는 표준화되고 기한이 정해져 있으며 검증 가능해야 한다는 태스크포스 관계자들의 주장을 강화했습니다.

문제는 국경을 넘어도 발생합니다. 대서양 양쪽의 정부는 파리에서 서명된 안전 서약부터 지난 금요일 더블린에서 열린 EU 지도자 정상회담에 이르기까지 에이전트 AI의 첫 번째 실제 사건에 대응하는 데 올해를 보냈습니다.

다음에 나올 내용

목요일 회의에서는 규제보다는 방향이 제시되었습니다. AI 개발자를 위한 국가 보고 표준은 앞으로 몇 달 안에 초안이 작성될 가능성이 높으며 중요 인프라 운영자를 위한 안전한 항구는 의회의 조치가 필요할 것입니다. 가장 그럴듯하게 CISA 2015를 대체하는 모든 항목에 첨부됩니다.

공개 질문은 친숙한 질문입니다. 모델이 공개적이고 무료로 다운로드할 수 있을 때 누가 AI 개발자로 간주되는지, 변칙 사항을 보고 가능한 사건으로 전환하는 기준은 무엇인지, 워싱턴이 시스템을 구축하는 회사의 독점 이익과 의무 공개를 어떻게 조정하는지입니다. TNW가 말했듯이 보고 표준은 사건이 실제로 보고된 경우에만 도움이 되며 지금까지의 기록에 따르면 업계 자체적으로 나쁜 소식을 자발적으로 제공하지는 않을 것입니다.

프로덕션에 AI 에이전트를 배포하는 회사의 경우 워싱턴의 메시지는 점점 더 명확해지고 있습니다. 조용한 사고 처리 시대는 끝났으며 다음 사고는 공급업체가 보고하기 전에 규제 기관에 의해 보고될 수 있습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →