중국의 AI 스타트업 딥시크(DeepSeek)는 이번 주 유엔 안전보장이사회에서 인공지능이 제기하는 위험에 대해 브리핑하는 회사 중 하나가 될 것이라고 이 문제에 정통한 두 소식통이 로이터 통신에 전했습니다. 전 세계 정상들이 연례 유엔 총회를 위해 뉴욕에 모이는 가운데 말입니다.

15개 회원국으로 구성된 안보리는 AI와 국제 안보를 논의하기 위해 9월 23일 회의를 가질 예정입니다. 여러 AI 업계 지도자들이 점점 더 강력해지는 AI 시스템의 개발을 공동으로 늦추고 곧 자체적으로 개선되어 인간의 통제를 벗어날 수 있다고 경고한 지 몇 주가 지난 후입니다. 이 이야기에 대한 자세한 내용은 진행 중인 AI 산업 보도를 참조하세요.

방에 누가 있을 것인가

OpenAI 최고경영자(CEO) 샘 알트먼(Sam Altman)은 외교관들도 Anthropic의 고위 대표자들의 참석을 기대하는 회의에 브리핑을 할 계획이라고 지난 주 로이터가 보도했습니다.

중국 측에서는 딥식(DeepSeek)과 문샷(Moonshot)을 포함한 다른 중국 AI 기업들이 성명을 발표하도록 초청받았다고 소식통 중 한 명이 말했다. DeepSeek 창립자인 Liang Wenfeng은 참석할 계획이 없으며 소식통은 계획이 여전히 유동적이며 마지막 순간에 변경될 수 있다고 경고했습니다. DeepSeek과 Moonshot은 논평 요청에 즉시 응답하지 않았습니다.

이 세션은 세계 지도자들이 연례 UN 총회를 위해 모이고 주변 회의가 늘어나면서 뉴욕이 이미 AI 외교로 붐비는 일주일 동안 시작됩니다. 이러한 타이밍은 DeepSeek의 양방향을 단축시킵니다. 중국의 공식 입장이 실리콘 밸리에서 나타나는 경기 둔화 수사를 계속 거부하고 있음에도 불구하고 위원회의 승인은 중국의 주요 연구소가 이제 개척 AI 위험에 있어 없어서는 안 될 목소리로 취급된다는 신호입니다.

미국의 가장 저명한 AI 임원이 중국의 가장 유명한 개방형 연구소와 안보리 의제를 공유하는 특이한 라인업으로 인해 수요일 세션은 안보리가 처음 주제를 다룬 이후 개최한 가장 중요한 AI 회의가 되었습니다.

'도주말'부터 불량 AI까지

국제 평화와 안보 유지를 담당하는 유엔 안전보장이사회는 2023년 처음으로 AI의 위험성에 대해 회의를 가졌다. 그때에도 결점은 드러났다. 중국은 이 기술이 '도주하는 말'이 되어서는 안 된다고 경고한 반면, 미국은 AI를 검열하거나 억압하는 데 사용하지 말라고 경고했다.

3년 후, 논쟁은 가설에서 사건 보고로 바뀌었습니다. 안토니오 구테헤스 유엔 사무총장은 지난주 AI의 급속한 발전이 무시할 수 없는 위험을 초래한다고 세계 지도자들에게 경고했다. 도널드 트럼프 미국 대통령은 기존 안전장치로도 충분하며 중국이 AI 개발에 대한 의구심을 품으면 이익을 얻을 것이라고 주장해 왔다.

재앙적 위험에 대한 베이징의 공개 침묵

로이터 통신의 보고에서 더욱 지적된 관찰 중 하나는 중국 연구소 지도자들이 말하지 않은 내용에 관한 것입니다. OpenAI 및 Anthropic과 같은 미국 개척 연구소의 수장과는 달리, 중국의 최고 모델 개발자의 수장은 점점 더 능력이 향상되는 AI 시스템이 인간을 속이거나, 통제를 회피하거나, 치명적인 피해를 일으킬 수 있는 가능성을 공개적으로 거의 밝히지 않았습니다. 그리고 9월 미국에서 논쟁이 격화된 이후 이러한 위험에 대해 거의 침묵을 지켰습니다.

중국 국영 언론은 AI 개발 둔화 요구를 '냉전 플레이북'에서 비롯된 것이라고 일축했다. 베이징은 이를 위해 첨단 기술 분야에서 미국의 지배력을 유지하고 글로벌 AI 거버넌스 시스템에서 베이징을 완전히 배제하려는 노력을 펼쳤다고 전했다.

따라서 DeepSeek의 협의회 참석은 두 가지 의미를 지닙니다. 이는 동시에 베이징에서 가장 눈에 띄는 글로벌 AI 위험 대화이자 중국 연구소가 재앙적 위험 프레이밍에 참여할 것인지 여부에 대한 테스트입니다.

트럼프-시진핑에 앞서 회담

안보리 회의는 단독으로 개최되지 않습니다. 미국과 중국의 고위 관리들은 이번 주 말 워싱턴에서 트럼프 대통령과 시진핑 중국 국가주석과의 회담을 앞두고 9월 21일 회담을 마친 후 AI 안전에 관한 추가 회담을 열기로 합의했다고 스콧 베센트 미 재무장관이 밝혔습니다.

뉴욕에서 열린 안보리 토론과 병행하여 워싱턴에서 열린 고위급 정상회담의 순서는 AI가 얼마나 철저하게 기술 정책 파일에서 양국 관계의 중심으로 이동했는지를 강조합니다.

볼만한 동영상

수요일 회의에는 세 가지 질문이 남아 있습니다. Liang Wenfeng이 마음을 바꾸고 참석하는지 여부. DeepSeek의 성명이 미국 측이 강조하는 속임수, 통제력 상실 등의 카드 위험을 포함하는지, 아니면 공평한 접근 및 개발 권리의 안전한 기반을 유지하는지 여부. 그리고 의회가 친숙한 입장을 넘어서는 것을 생산할 수 있는지 여부.

AI에 대한 위원회의 기록은 희박합니다. 2023년 첫 회의, 이번 달 사무총장의 경고, 구속력 있는 틀은 없습니다. 그러나 누가 첨단 AI의 규칙을 정하고 누구의 두려움이 심각하게 받아들여지는지를 놓고 새롭게 떠오르는 미-중 논쟁의 무대로서 경쟁자가 거의 없습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →