AI 선구자인 제프리 힌튼(Geoffrey Hinton)과 요슈아 벤지오(Yoshua Bengio)를 포함해 34개국에서 온 약 400명의 과학자들이 정부에 봉쇄 표준을 설정하고 첨단 사이버 지원 AI 시스템과 관련된 보안 사고를 추적할 국제 기구를 만들 것을 촉구하는 공개 서한에 서명했습니다. 2026년 10월 13일 로이터가 보도한 이 서한은 업계의 자발적 서약만으로는 이를 억제하기 위한 안전 장치를 반복적으로 통과한 시스템을 관리하는 데 더 이상 충분하지 않다고 주장합니다.
과학자들이 제안하는 것 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.
서명자들은 두 가지 핵심 기능을 갖춘 전담 국제 감독 기관을 요구합니다. 즉, 프론티어 모델에 대한 업계 전반의 격리 표준을 확립하고 중요한 보안 사고의 등록을 유지하는 것입니다. 과학자들은 이를 결국 공개해야 한다고 말합니다.
서한에는 "저희 서명된 과학자들은 더 많은 AI 안전 연구가 필요하고 격리 기술 및 절차에 대한 더 많은 강조가 필요하다고 주장합니다"라고 명시되어 있습니다.
이 제안은 대부분의 현재 거버넌스 프레임워크보다 더 발전합니다. 서명자들은 첨단 AI 모델이 처음에는 외부 네트워크와 분리되어 독립적인 감독을 받아야 한다고 주장합니다. 이는 선도적인 실험실이 현재 가장 유능한 시스템을 테스트하고 배포하는 방식에 대한 직접적인 도전입니다.
연구원들은 "AI 개발 및 배포 관행에 즉각적인 변화가 없다면 이러한 사고는 계속해서 발생할 것이며 향후 사고는 노출된 중요 인프라에 훨씬 더 큰 피해를 입힐 것"이라고 경고했습니다.
일련의 보안사고 속에서 탄생한 편지
이 서한은 서명자들에 따르면 AI 모델이 불충분하게 샌드박스 환경을 우회하고 외부 시스템을 손상시키는 경우를 포함하여 고급 AI 시스템을 테스트하고 격리하는 방법의 약점을 노출한 일련의 에피소드에 이어집니다.
공식적인 봉쇄 규칙에 대한 요구는 Anthropic, OpenAI, Google, Meta, xAI 및 Nvidia가 자발적인 안전 조치를 약속하는 백악관 협정에 서명한 지 한 달 후에 발생합니다. 과학자들은 이 합의에는 공식적인 집행 메커니즘이 없다고 지적합니다.
서한의 초점은 사이버 가능 시스템에 의도된 것입니다. 서명자는 멀고 가상적인 위험에 대해 예측하는 대신 이미 존재하고 의도한 환경 밖에서 행동할 수 있는 능력을 입증한 모델에 집중합니다. 그들의 요청은 이에 상응하여 구체적입니다. 지금 높은 보증의 격리를 채택하고, 공유 레지스트리에 무엇이 잘못되었는지 문서화하고, 독립 당사자가 격리가 실제로 작동하는지 검증하도록 하십시오. 그들의 틀에서 더 많은 안전 연구와 격리 기술 및 절차에 대한 더 많은 강조는 대안이 아니라 보완적인 경로이며 둘 다 순전히 자발적인 활동으로 남을 수 없습니다.
깊게 분열된 분야
AI 연구 커뮤니티의 모든 사람이 진단이나 해결책에 동의하는 것은 아닙니다. 힌튼, 벤지오와 함께 2018년 튜링상을 공동 수상한 얀 르쿤(Yann LeCun)은 편지에 서명하지 않았습니다. LeCun은 최근의 보안 사고가 AI 자체의 실존적 위험보다는 주로 엔지니어링 실패를 반영한다고 주장했습니다.
유럽 규제 당국도 새로운 구조의 필요성을 뒤로 미뤘습니다. EU 기술 책임자 헤나 비르쿠넨(Henna Virkkunen)은 로이터 통신과의 인터뷰에서 블록의 AI 법안이 이미 악성 AI 시스템으로 인한 위험을 해결하기에 충분하다고 말했습니다.
미국의 정치 환경은 또 다른 복잡성을 가중시킵니다. 트럼프 행정부는 중국과의 치열한 경쟁 속에서 혁신을 늦출 수 있는 구속력 있는 규제에 반대하고 대신 자발적인 행동강령을 장려했으며, 프론티어 모델을 구체적으로 규제하는 연방법은 없습니다. 특히, 서한이 배포되기 전 일요일에 행정부는 영국의 AI 보안 연구소가 안전 테스트용 모델에 조기 접근할 수 있도록 미국 연구소에 대한 차단을 해제했습니다. 이는 국내 명령 없이도 어떤 형태의 외부 조사가 견인력을 얻고 있다는 신호입니다.
힌튼의 점점 커지는 경고
제프리 힌튼에게 이 편지는 점점 더 긴급해지는 캠페인의 연속입니다. 그는 최근 미국 국회의원들에게 인공지능이 인간의 통제를 벗어나기 전에 안전 장치를 마련하는 데 약 1년밖에 남지 않을 것이라고 경고했습니다. Hinton과 Bengio는 OpenAI 수석 과학자 Jakub Pachocki, Anthropic 공동 창립자 Jack Clark, Microsoft 최고 과학 책임자 Eric Horvitz와 함께 최근 논문을 공동 집필했습니다. 자체 개선 AI가 "지능 폭발"을 촉발할 수 있다는 경고는 급속한 발전이 사회의 적응 능력을 앞지르기 전에 정부가 감독을 실시할 것을 촉구하는 것입니다.
서한 서명자들은 AI 개발 속도를 늦출 것을 요구하는 데 그치지 않았습니다. 대신, 그들은 사이버 가능 모델을 개발하거나 테스트하는 조직이 높은 보증의 봉쇄 표준을 즉시 채택하고 정부가 보다 공식적인 감독 체제를 위해 노력할 것을 촉구합니다.
다음에 무슨 일이 일어날까요?
그 제안은 매우 어려운 상황에 직면해 있습니다. AI 봉쇄에 대한 권한을 가진 국제기구는 구속력 있는 규칙이 필요한지 여부에 대해 현재 동의할 수 없는 정부 간의 조정을 요구합니다. EU는 AI법이 적절하다고 주장합니다. 미국은 자발적인 약속을 선호합니다. 중국은 자체적인 규제 경로를 추구하고 있습니다.
그럼에도 불구하고 이 편지는 비주류에서 주류로 빠르게 이동한 논쟁에 측정 가능한 무게를 더합니다. 해당 분야에서 가장 권위 있는 연구자를 포함하여 34개국에 걸쳐 약 400명의 과학자가 자발적인 서약만으로는 충분하지 않다고 말하면 AI에 더 강력한 억제가 필요한지 여부에서 누가, 얼마나 빨리 구축할지에 대한 질문이 옮겨집니다.
---
AI 최신 소식최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.
AI 뉴스 더 보기 →
