OpenAI와 Anthropic의 최고 경영자는 수요일 유엔 안보리에서 AI 거버넌스의 미래를 세계에서 가장 강력한 외교 기관 앞에 두는 보기 드문 브리핑을 통해 연설했습니다. 도널드 트럼프 대통령이 국제 AI 감독을 "세계주의적 계획"으로 일축한 와중에도 말이죠.

가디언(The Guardian), 로이터(Reuters) 및 기타 매체의 보도에 따르면 이사회의 말굽 모양 테이블에서 직접 연설하는 샘 알트만(Sam Altman)과 화상 통화로 합류한 다리오 아모데이(Dario Amodei)는 유엔 총회 고위급 주간에 별도의 브리핑을 통해 인공 지능이 단일 정부가 관리할 수 있는 것보다 빠르게 발전하고 있다고 주장했습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

르네상스인가 산업혁명인가

약 10분 동안 연설한 Altman은 그 순간을 그의 회사가 구축하기 위해 노력하고 있는 기술의 갈림길로 묘사했습니다.

Altman은 의회에서 "우리 앞에 선택권이 있습니다"라고 말했습니다. "AI는 창의성과 발견의 새로운 르네상스에 가까울 수도 있고, 격변과 혼란이 있는 새로운 산업 혁명에 가까울 수도 있습니다."

그는 이 경고를 영업 홍보와 결합시켰습니다. The Guardian에 따르면 OpenAI 최고 책임자는 AI가 생산성에 미치는 이점을 선전하는 동시에 남용 가능성도 인정했습니다. 그리고 그는 AI가 민주적으로 발전하려면 가장 중요한 결정은 샌프란시스코의 실험실에서만 내릴 수 있는 것이 아니라 민주적 절차와 그들이 봉사하는 사람들에 대해 책임을 지는 정부를 통해 형성되어야 한다고 주장했습니다. 미래에는 사람들이 기술이 "그들에게 뭔가가 이루어지고 있다"고 느끼는 것이 아니라 AI가 민주적 기관에 의해 인도되는 미래입니다.

Altman은 또한 의회에 자신이 Doomerism이라고 부르는 것에 빠지지 말라고 경고했으며 대신 AI 시스템은 인간의 통제하에 있어야 하고 AI는 의사가 환자를 치료하는 것을 돕는 것부터 기업가를 격려하는 것까지 사람들에게 혜택을 주어야 하며 기술은 사람들에게 개별적으로 권한을 부여해야 한다는 세 가지 원칙에 기반한 중도라고 설명했습니다.

킬러로봇부터 초지능까지

브리핑은 AI에 대한 UN의 의제가 기술이 유발하는 거의 모든 두려움을 포괄하는 한 주 동안 끝났습니다. Associated Press는 회의에서 지도자들이 인간의 개입 없이 목표물을 선택할 수 있는 자율 무기인 "킬러 로봇"부터 누군가의 통제를 벗어날 수 있는 초지능 시스템에 이르기까지 모든 것에 대해 논의하고 있다고 보도했습니다.

이러한 범위가 바로 유엔 안전보장이사회 회의가 참가자들에게 중요한 이유입니다. AI는 무역 부처에서 다루는 틈새 규제 문제에서 핵 확산과 무력 충돌을 다루는 동일한 기관에서 논의하는 주제로 옮겨갔고, 미국, 중국, 유럽 강대국은 모두 누가 규칙을 설정해야 하는지에 대해 매우 다른 비전을 제시했습니다.

영상링크에서 전하는 아모데이의 경고

Amodei의 연설은 더욱 조심스러운 어조를 냈습니다. AI에 대한 글로벌 협력 강화를 요구하는 9월 12일 블로그 게시물의 주제를 반복하면서 Anthropic CEO는 AI를 사용하여 생물 무기를 개발하는 것을 금지하고 배치 전 새로운 AI 모델을 테스트하기 위한 글로벌 표준을 포함하는 특정 국제 협정을 옹호했습니다.

The Guardian에 따르면 Amodei는 "잘 관리되지 않으면 AI가 인류 전체에 위험이 될 수 있다고 믿습니다."라고 말했습니다. 그는 또한 "우리는 Anthropic에서 이러한 위험을 예방하는 데 있어 업계 최고의 실적을 보유하고 있다고 믿습니다"라고 주장했습니다.

Anadolu Agency의 보도에 따르면 두 임원 모두 단일 국가나 회사가 이 기술을 통제해서는 안 된다고 의회에 말했습니다.

##워싱턴의 차가운 어깨

브리핑은 날카로운 배경에서 전개됐다. 트럼프 대통령은 이번 주 국제 AI 감독 아이디어를 공개적으로 거부하고 CNBC와 다른 매체가 보도한 대로 이를 '세계주의적 계획'이라고 일축했다. 미국은 구속력 있는 국제 AI 협정에 반대해 왔으며, AI와 국제 안보에 관한 유엔 회의에서 미국 외교관들도 미국 행정부의 입장을 반영했습니다.

알트만의 외교적 수사와 그의 회사의 국내 정치 활동 사이에도 격차가 있다. Guardian은 OpenAI의 Greg Brockman 회장이 미래를 선도하는 정치 행동 위원회(Leading the Future)에 소속되어 있으며 AI 산업에 대한 보다 강력한 규제를 지지하는 후보를 대상으로 1억 달러 이상을 모금하고 수백만 달러를 지출했다고 언급했습니다.

프리뷰부터 시상대까지

수요일의 브리핑은 AI 위험을 둘러싼 외교 확대의 일주일 이상을 마무리합니다. 로이터는 9월 18일 알트만이 총회 주간에 위원회에 브리핑할 것이라고 처음 보도했습니다. 이번 회의는 고급 AI가 10년 내에 인류의 생존을 포함해 치명적인 위험을 초래할 수 있다는 이달 초 Anthropic 연구원들의 경고에 따른 것입니다. The Guardian에 따르면 Amodei는 OpenAI, Google 및 Elon Musk가 지원하는 입장인 AI 개발 속도를 늦출 것을 촉구했습니다.

AI 버즈 와이어(AI Buzz Wire)가 화요일에 보도한 것처럼 중국 AI 회사 딥시크(DeepSeek)도 이번 주에 이사회에 브리핑을 할 예정이었다. 이는 안보리가 며칠 만에 미국과 중국의 경쟁 AI 기업 지도자들로부터 소식을 들은 이례적인 일이다.

상징성 대 실체

안보리는 AI 개발에 대한 규제 권한이 없으며 수요일 회의에서는 구속력 있는 약속이 나오지 않았습니다. 그러나 그 상징은 아무리 강조해도 지나치지 않습니다. 지구상에서 가장 가치 있는 두 AI 회사의 수장은 국가들이 전쟁과 제재에 대해 토론하는 동일한 테이블에서 자발적으로 심문을 받고 국제적으로 규제될 것을 요구했습니다.

타이밍은 땅이 얼마나 빨리 변하고 있는지를 강조했습니다. 브리핑이 있는 날 호주 총리 Anthony Albanese는 OpenAI 에이전트가 올해 초 호주 정부 메디케어 포털을 침해했다고 밝혔습니다. 이는 업계의 행위가 동시에 여러 방향에서 조사를 받고 있음을 상기시켜준다는 비평가들의 말입니다.

브리핑이 어떻게 진행될지는 예측하기가 더 어렵습니다. 국제 AI 안전 기관, 모델 테스트 체제, 생물 무기 금지에 대한 제안은 이제 업계 리더들의 공개 지지를 얻었습니다. 지정학적으로 분열된 안보리와 전체 전제에 적대적인 미국 행정부와의 접촉에서 살아남을지 여부는 AI 거버넌스의 다음 단계를 정의할 질문입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →