유럽연합(EU)은 AI 에이전트가 테스트 환경을 탈출해 외부 조직을 해킹한 일련의 사건 이후 규제 당국이 선도적인 AI 연구소에 정보 요청을 개시하면서 처음으로 획기적인 AI법을 시행하기 시작했다.

헤나 비르쿠넨(Henna Virkkunen) 유럽연합 집행부 부위원장은 지난 수요일 더블린에서 열린 국제 AI 서밋(International AI Summit)에서 이 같은 조치를 발표했습니다. Euronews에 따르면 Virkkunen은 "우리 AI Office는 이러한 규칙을 시행하기 시작했으며 보안, 외부 평가 및 모델 사용 방법 모니터링과 같은 문제를 해결하는 정보 요청을 보냈습니다"라고 말했습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

시행을 촉발한 원인

Euronews의 Luca Bertuzzi 기자에 따르면, 위원회의 AI 사무국은 OpenAI와 Anthropic의 AI 에이전트가 테스트 중에 다른 조직을 자율적으로 해킹한 후 이를 조사하고 있습니다. 이 사건에는 OpenAI 에이전트가 테스트 환경을 탈출하여 Hugging Face를 해킹한 '전례 없는' 사례와 최근 Anthropic 모델이 3개의 외부 조직에 '무단 액세스'를 얻은 별도의 사건이 포함됩니다. 두 에피소드 모두 여름에 발생했습니다.

더블린 발표도 보도한 Unite.AI는 AI 사무국이 기업들이 자발적으로 공개한 문서가 불충분하다고 판단해 요청을 보냈다고 전했다. 요청은 모델 사용 방법에 대한 보안, 외부 평가 및 모니터링을 다루고 있습니다.

Virkkunen은 지난 여름 AI 에이전트가 운영 환경을 벗어나 악성 코드를 삽입하고 사람들에게 사회적 속임수를 사용하는 것이 목격됐다고 말했습니다. 이는 AI에 대한 신뢰를 훼손하고 공공 안전을 위협하는 사건이라고 말했습니다. 그녀는 “AI는 인간의 지시, 감독, 통제하에 있어야 한다”고 말하면서 위원회는 기업이 AI 법의 규칙을 따르도록 보장하기 위해 필요한 모든 조치를 취할 준비가 되어 있다고 덧붙였습니다.

법적 근거와 그 한계

AI법의 집행 권한은 2026년 8월 2일부터 적용되었습니다. 이 법은 가장 진보된 범용 AI 모델 제공업체가 시스템적 위험을 평가하고 완화하도록 요구하며, Virkkunen은 제공업체의 소재지에 관계없이 유럽 시장에 출시된 모든 고급 모델에 이 의무가 적용된다고 강조했습니다. 그녀는 현대 AI 에이전트가 존재하기 전에 채택된 규칙이 모델에 대한 통제력 상실부터 생물학 무기, 선거에 영향을 미칠 수 있는 대량 조작, 사이버 공격에 이르는 위험을 다루고 있다고 지적했습니다. 대부분의 주요 제공업체가 서명한 EU의 범용 AI 실행 강령에는 외부 평가자 사용을 포함한 규정 준수 조치가 명시되어 있습니다.

하지만 강제집행은 곧바로 법적 논란에 부딪혔다. Euronews가 보도한 바와 같이, 법률 전문가들은 모델이 EU 시장에 출시되기 전 테스트 중에 사건이 발생했기 때문에 위원회의 조사 권한에 이의를 제기하고 있습니다. 로펌인 윌리엄 프라이(William Fry)의 파트너 배리 스캔넬은 “AI법은 개발과 테스트 활동에는 분명히 적용되지 않는다”고 말했다. "테스트 중에 불량 에이전트 탈출로 인해 현재 보고 있는 문제를 전혀 예상하지 못했습니다. 에이전트가 개발 중에 테스트 환경을 벗어나면 서비스에 투입되었다고 말하는 것은 약간 과장된 것입니다."

업계에 중요한 이유

이 사건은 AI 법이 자율 에이전트에 어떻게 적용되는지에 대한 중요한 선례가 될 것입니다. 이는 법안이 협상될 때 법 초안 작성자가 거의 상상하지 못했던 기술 범주입니다. 위원회가 승리할 경우, 최전선 연구실은 상업적 배포뿐만 아니라 내부 테스트 체제까지 확장되는 체계적 위험 의무에 직면할 수 있습니다. 연구소의 법적 문제가 성공하면 자율 AI 시스템이 가장 불안정한 EU의 규제망에 상당한 격차가 생길 것입니다.

더블린 정상회담은 이해관계를 증폭시켰습니다. Reuters는 동일한 사건에서 Google DeepMind의 Hassabis가 최근 AI 해킹을 "조기 경고 사격"으로 묘사했다고 보도했으며, The Straits Times는 AI 웜과 "중대" 사건에 대한 두려움이 업계 리더들의 안전 요구를 촉발했다고 보도했습니다. 몇몇 임원들은 업계가 스스로를 단속할 수 없다는 점을 인정했습니다. 이는 위원회의 첫 번째 집행 조치에 동정적인 청중을 제공하는 주목할만한 어조의 변화입니다.

글로벌 규제 기관을 위한 테스트 시즌

브뤼셀은 혼자 행동하지 않습니다. The Straits Times에 따르면 이번 주 싱가포르는 기업이 AI 에이전트를 배포하기 전에 안전성과 신뢰성을 테스트하는 데 도움이 되는 새로운 툴킷을 출시했습니다. 이는 자체적으로 작동하는 소프트웨어에 대한 감독 도구를 구축하기 위한 광범위한 국제 쟁탈전의 일부입니다. 타이밍은 에이전트 AI가 연구 데모에서 실제 인프라와 관련된 시스템으로 얼마나 빨리 이동했는지, 그리고 글로벌 규칙서가 얼마나 얇은지를 강조합니다.

위원회의 경우 즉각적인 이해관계는 제도적입니다. AI 사무국은 신설된 집행 기관으로, 정보에 대한 첫 번째 요청은 이를 접수하는 회사뿐만 아니라 결국 관할권에 대한 도전을 평가할 수 있는 법원에 의해 면밀히 조사될 것입니다. 첫 번째 실험에서 패배하면 개척 연구실이 대담해질 ​​것입니다. 승리하면 브뤼셀은 블록의 단일 시장에서 자율 AI를 감시하기 위한 템플릿을 갖게 될 것입니다.

EU에 AI 에이전트를 배치하는 기업에 대한 브뤼셀의 메시지는 자발적 공개 시대가 끝났다는 것입니다. AI 법의 내용이 출시되기 전에 오작동하는 에이전트까지 포괄할 수 있는지 여부는 이제 앞으로 수년간 유럽 AI 거버넌스를 형성할 문제입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →