안토니오 구테흐스 유엔 사무총장은 이번 주 인공 지능에 대해 역대 가장 강력한 경고 중 하나를 발표하면서 정부가 유엔 총회 고위급 주간을 위해 뉴욕에 모일 준비를 하고 있는 가운데 세계는 "AI 안전에 관해 바닥까지 경쟁할 여유가 없다"고 선언했습니다. 구테레스는 세계 지도자들의 연례 회의에 앞서 기자들과 대화하면서 폭주하는 AI를 기후 위기와 심화되는 불평등과 함께 지구가 직면한 세 가지 실존적 위협으로 꼽았습니다.
로이터 통신, UN 뉴스 및 전 세계 언론 매체가 보도한 이 발언은 미국이 더 가벼운 손길을 신호하는 것처럼 UN은 AI 거버넌스에 대한 구속력 있는 국제 조정을 추진하고 있으며, 로이터 통신은 트럼프 대통령이 더 엄격한 AI 규제의 필요성을 무시한 후 유엔 사무총장이 경고를 울렸다고 지적했습니다.
"심각한 불확실성의 시대"
구테레스는 지도자들이 뉴욕에 도착하기 6일 전에 언론에 브리핑하면서 세계가 "심각한 불확실성의 시대"에 진입했다고 말했습니다. 그는 건강, 교육, 기후 과학과 같은 분야에서 AI의 '엄청난 잠재력'을 인정하면서도 기술이 위험에 대한 인간의 이해보다 빠르게 발전하고 있다고 경고했습니다.
그는 "세계는 AI 안전에 대해 바닥까지 경쟁할 여유가 없다"며 국가 규정만으로는 충분하지 않다고 주장했다. "국가적 행동이 필수적이지만, 글로벌 협력도 필수적입니다."
사무총장은 또한 최첨단 AI 개발에 대한 자발적인 중단이 고립되어 있을 때, 즉 소수의 국가로 제한되거나, 검증할 수 없거나, 고르지 않게 적용될 때 효과가 있을 수 있다는 회의적인 입장을 표명했습니다. 미국과 중국 간의 AI 군비 경쟁이 커질 것이라는 우려가 커지면서 그는 지정학적 분열로 인해 조정이 더 어려워지고 덜 필요하다는 점을 인정했습니다. 그는 "위험이 너무 커질 때 AI 개발이 느려져야 한다고 믿는다면 좋은 의도 이상의 것이 필요하다"고 말했다.
UN의 새로운 AI 거버넌스 기계
수사 뒤에는 지난 2년 동안 조용히 형성된 거버넌스 아키텍처가 자리잡고 있습니다. 2024년 UN 회원국이 미래를 위한 협약의 일환으로 채택한 글로벌 디지털 콤팩트(Global Digital Compact)는 두 가지 새로운 메커니즘, 즉 AI의 위험과 기회를 평가하는 과학 기관과 정부가 접근 방식을 조정할 수 있는 연례 포럼을 요구했습니다. 총회는 2025년 8월에 공식적으로 설립되었습니다.
첫 번째인 AI에 관한 독립 국제 과학 패널(Independent International Scientific Panel on AI)은 7월 1일 예비 보고서를 발표했습니다. AI 기능은 특히 추론, 코딩 및 과학 연구 분야에서 빠르게 발전하고 있으며, 잘못된 정보, 차별, 개인정보 침해, 사이버 공격 및 통제하기 어려워질 수 있는 "초지능" 형태를 포함한 위험을 지적하고 있다고 결론지었습니다.
두 번째인 AI 거버넌스에 관한 글로벌 대화(Global Dialogue on AI Governance)는 쌍의 대응 측면으로 설계되었습니다. 패널은 증거를 제공하고 국가는 이를 어떻게 할지 결정합니다.
구테레스는 패널이 정보에 입각한 글로벌 의사 결정의 기초라고 지적하고 정부가 "인간 존엄성을 중심으로 AI를 안전하고 투명하며 책임감 있게 만드는" 가드레일을 구축할 것을 촉구했습니다. 그는 또한 개발도상국이 AI 인프라와 역량을 구축하도록 돕기 위해 AI 어린이 안전 서약과 AI를 위한 글로벌 기금이라는 두 가지 구체적인 계획을 추진했습니다.
넓어지는 대서양 횡단 분할
UN 사무총장의 개입은 유럽의 규제 추진과 미국의 규제 완화 방향 사이에 가시적인 분열이 있는 가운데 이루어졌습니다. 유럽연합이 AI법을 시행하고 UN 기구가 평가 메커니즘을 구축하는 동안 미국 행정부는 혁신과 경쟁력을 강조해 왔으며, 로이터 통신은 트럼프 대통령이 구테레스 등 관료들이 계속 제기하는 AI 위험 우려를 무시했다고 보도했습니다.
유엔이 효과적인 규제로 이어지는 정상회담을 얼마나 빨리 소집할 수 있느냐는 질문에 구테레스는 다음 주 총회에서는 열릴 수 없지만 공공, 민간, 과학, 시민 사회 부문의 "모두가 참여"해 곧 열릴 것이라고 말했습니다.
그의 어조의 긴급성은 업계 내부에서 최근 쏟아져 나온 경고를 반영합니다. 이달 초 Anthropic의 전 연구원은 첨단 AI가 인류에 실존적 위협을 가할 수 있다고 공개적으로 경고했으며, 구테레스 자신의 발언은 이 기술의 궤적을 국제 사회가 더 이상 미룰 수 없는 문제로 규정했습니다.
다음에 무슨 일이 일어날까요?
AI는 가자지구와 우크라이나 전쟁에 대한 토론과 함께 총회 고위급 주간이 진행될 때 눈에 띄게 등장할 것입니다. UN의 과학 패널과 글로벌 대화가 대화방에서 국가 정책에 실질적인 영향을 미치는 메커니즘으로 진화할 수 있는지 여부는 여전히 핵심적인 공개 질문으로 남아 있으며, 이는 다자간 기관이 관리하려는 기술의 속도에 가까운 속도로 움직일 수 있는지 여부를 테스트할 것입니다.
현재 사무총장이 세계 지도자들에게 전하는 메시지는 분명합니다. 위험은 전 세계에 있지만 거버넌스는 그렇지 않으며 그 격차를 줄일 수 있는 기회가 좁아지고 있다는 것입니다.
_ 앞서 나가세요. AI Buzz Wire에서 AI 규칙을 둘러싼 전 세계적인 싸움과 인공지능의 가장 큰 이야기를 만나보세요._
