오픈AI(OpenAI) 최고경영자(CEO) 샘 알트먼(Sam Altman)이 다음 주 유엔 총회를 위해 뉴욕에서 열리는 세계 정상들의 연례 모임에서 유엔 안전보장이사회에 직접 브리핑을 할 예정이라고 로이터통신이 오픈AI 대변인을 인용해 금요일 보도했다.

이번 브리핑은 15개 회원국이 총회 고위급 주간에 소집되는 수요일로 예정된 인공지능과 국제안보에 관한 공개 안보리 회의에서 이뤄질 예정이다. 이번 회의는 9월 의장국을 맡은 프랑스가 소집하고 장노엘 바로 프랑스 유럽외무장관이 의장을 맡는다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

OpenAI 대변인은 로이터 통신에 "샘 알트먼이 다음 주 유엔 안보리 공개 회의에서 직접 브리핑할 예정"이라고 말했다.

알트만이 말할 것으로 예상되는 것

로이터에 따르면 알트만의 발언은 국제 조정과 안전 표준 공유의 필요성, 그리고 전 세계 사람들이 AI의 혜택을 누릴 수 있도록 OpenAI가 취하고 있는 조치에 초점을 맞출 것으로 예상됩니다.

정부가 고급 AI를 단지 경제적 기회가 아니라 국가 및 국제 안보에 직접적인 영향을 미치는 기술로 점점 더 프레임화하고 있는 이 시점에, 세계에서 가장 저명한 AI 임원이 국제 평화와 안보를 유지하는 기관 앞에 등장하게 되었습니다.

Anthropic도 방에 있을 수 있습니다

외교관들은 Anthropic이 이번 회의에 고위급 참석을 기대했지만 참석 여부는 확인되지 않았다고 로이터에 말했습니다. Anthropic은 논평 요청에 즉시 응답하지 않았습니다.

Anthropic의 모든 등장은 점점 더 능력이 향상되는 시스템 개발의 조정된 감속을 요구하는 것을 포함하여 최근 몇 달 동안 최첨단 AI 위험에 대한 회사의 높은 세간의 이목을 끄는 자세를 고려할 때 특별한 반향을 불러일으킬 것입니다. 안보리 회의는 여러 AI 업계 지도자들이 AI가 곧 스스로 개선되고 인간의 통제를 벗어날 수 있다고 경고하면서 조율된 속도 저하를 촉구한 지 불과 몇 주 만에 열렸습니다.

프랑스의 긴급 상황

로이터 통신이 본 이사회 구성원들에게 회람된 개념 노트에서 프랑스는 "국제 사회 전체의 이익을 위해 인공 지능의 안전하고 책임 있는 개발을 촉진하기 위한 조치의 시급성"을 강조했습니다.

보고서는 악의적인 목적으로 AI를 오용할 위험이 있다는 점을 언급했으며, 이번 회의의 목표는 참가자들이 통제력 상실이나 최신 AI 모델을 사용하여 국제 평화와 안보에 영향을 미치는 조치를 개발, 촉진 및 수행하는 것과 관련된 위험에 대한 분석을 발표하도록 하는 것이라고 밝혔습니다.

친숙한 주제로 돌아가는 공의회

안보리는 이전에도 AI를 다루었습니다. 2023년 중국이 인공지능의 위험성에 대해 처음으로 만났을 때, 중국은 이 기술이 '도주하는 말'이 되어서는 안 된다고 경고했고, 미국은 인공지능이 사람을 검열하거나 억압하는 데 사용되는 것을 경고했습니다. 수요일 세션은 이러한 참여가 크게 확대되었음을 의미합니다. 이전 회의에서는 일반적인 경고를 들었지만 다음 주 세션에는 AI 붐의 중심에 있는 제품을 보유한 회사 CEO의 실시간 브리핑이 포함됩니다.

Altman은 현재 상업적 성공이 이루어지기 오래 전부터 첨단 AI 위험에 대해 경고해 왔습니다. 2015년 "Machine Intelligence, part 1"이라는 제목의 에세이에서 그는 "초인적 기계 지능의 개발은 아마도 인류의 지속적인 존재에 대한 가장 큰 위협일 것입니다"라고 썼습니다. 이 노선은 OpenAI의 부상보다 앞서서 그가 의회에서 연설할 때 필연적으로 다시 등장할 것입니다.

중요한 이유

브리핑의 상징성은 아무리 강조해도 지나치지 않습니다. 안보리에서 연설하는 기술 회사 임원은 AI가 핵 확산 및 사이버 전쟁과 함께 국제 안보 의제를 얼마나 멀리 발전시켰는지 보여줍니다. 이는 또한 논쟁 자체의 변화를 반영합니다. 저작권, 일자리, 잘못된 정보에 대한 논쟁이 2년 동안 지배한 후, UN의 소집 권한은 통제력 상실, 악의적 사용, 공유된 국제 표준의 부재와 같은 국경 위험을 정면으로 지적하고 있습니다.

그것의 결과는 또 다른 질문입니다. 안보리는 AI 개발에 대한 규제 권한이 없으며, 신흥 기술에 대한 결의안은 역사적으로 구속력이 없었습니다. 그러나 이번 회의는 정부가 입장을 밝힐 수 있는 무대를 제공하고 AI 기업에 어떤 제품 출시도 따라올 수 없는 외무 장관과 국가 원수들을 청중으로 제공합니다. 프랑스가 긴급성을 요구하고 미국의 두 주요 AI 연구소가 모두 참석할 것으로 예상되는 가운데 수요일 세션은 AI 거버넌스가 글로벌 안보 외교 의제의 고정 항목이 된 순간이 될 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →