인디펜던트(The Independent)가 보도한 선데이 타임스(The Sunday Times)의 보도에 따르면, 찰스 3세 국왕은 스코틀랜드에 세계에서 가장 유명한 인공 지능 기업의 지도자들을 모아 "인류의 이익을 위해" 기술을 개발할 수 있는 방법을 질문할 예정이라고 합니다. 이번 회의에서는 영국 국왕이 Nvidia, Anthropic, Google DeepMind 및 OpenAI의 경영진과 대면하게 되었는데, 업계 리더들이 공개적으로 개발 속도를 늦추어야 하는지에 대해 토론하고 있는 시점입니다.

New York Times는 모임을 같은 방식으로 구성했습니다. 국왕은 느린 개발에 대한 요구가 있는 가운데 AI 지도자들을 소집할 예정이며, Anthropic CEO Dario Amodei가 업계에 속도보다 안전을 우선시할 것을 촉구한 지 이틀 만에 속도 토론에 뚜렷한 의식 단계를 제공할 것입니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

참석하는 사람

인디펜던트(The Independent)가 인용한 선데이 타임스(The Sunday Times) 보도에 따르면, 참석한 것으로 알려진 사람들로는 엔비디아 CEO 젠슨 황(Jensen Huang), 구글 딥마인드(Google DeepMind) 창립자 데미스 하사비스 경(Sir Demis Hassabis), 양자 컴퓨팅 회사 이온Q(IonQ) 회장 겸 CEO 니콜로 데 마시(Niccolo de Masi) 등이 있습니다. Anthropic과 OpenAI의 리더들도 토론에 참여할 것으로 예상됩니다.

기업 명단에서 눈에 띄는 참석자 한 명은 인공지능과 기술 윤리에 관해 교황의 자문을 맡고 있는 프란체스코회 신학자 파올로 베난티 몬시뇰이다. 그의 참석은 정상회담의 야망이 제품 정책을 넘어 인간 존엄성에 대한 문제로 확장된다는 것을 의미합니다. 이는 로마가 국제 AI 윤리 프레임워크를 초기에 옹호한 이후 바티칸이 자체적으로 만들어온 영역입니다.

익숙한 플레이북으로 '중립 컨비너'

왕실 소식통은 국왕이 수십 년 동안 환경 보호를 위해 노력해 온 역할을 수행할 계획이라고 신문에 말했습니다. 소식통은 "국왕은 이러한 토론을 소집하고, 경청하고, 격려하며 '인류의 이익을 위해 AI를 어떻게 개발할 것인가?'라는 질문을 제기하기 위해 거기에 있습니다"라고 말했습니다. 이는 찰스가 환경과 물 부족에 대해 오랫동안 진행해 온 연구와 직접적인 유사점을 보여줍니다.

소식통에 따르면 국왕은 이번 논의를 통해 "이 기술 개발의 책임과 기회에 대한 더 넓은 이해가 이루어지고 모든 기술 개발이 지역 사회를 위한 인간 이익에 중점을 두도록 보장"하기를 바라고 있습니다. 그는 또한 기술에 대한 공유 원칙을 확립하는 것이 도움이 될 것인지에 대한 구체적인 질문을 제기할 계획입니다. "그의 느낌은 쉬운 일이 아니지만 그렇다고 우리가 시도해서는 안된다는 의미는 아닙니다"라고 소식통은 덧붙였습니다.

공식이 중요합니다. Charles는 규제를 협상하지 않으며 입법권도 갖고 있지 않습니다. 그가 제안하는 것은 The News International이 "중립적 소집자"의 자세로 묘사한 것입니다. 즉, 어느 누구도 나타나서 경쟁 우위를 포기하지 않고 경쟁 임원들을 한 테이블에 모을 수 있을 만큼 충분한 입지를 갖춘 인물입니다.

디츨리 헌장

이 행사는 오랫동안 정치, 비즈니스, 과학 분야의 지도자들을 위한 비공식 수련회를 주최해 온 영미 단체인 Ditchley 재단이 감독하게 됩니다. The Sunday Times에 따르면 재단은 AI 리더를 위한 헌장 초안을 작성했습니다.

이 헌장은 “단순히 능력과 효율성의 원동력이 아니라 인간의 존엄성을 지키고 사람과 지구의 번영에 기여하는 도구로서 AI의 미래 적용을 안내하는 데 도움이 되는 공유 원칙”을 포함하는 것으로 이해됩니다.

해당 언어는 EU AI법의 규정 준수 중심 어휘나 워싱턴에서 유통되는 자발적 테스트 프레임워크와 의도적으로 거리가 있습니다. 그것이 수사학 이상의 의미가 있는지 여부는 경영진이 무엇을 지지하기로 동의하는지, 그리고 그 중 어떤 것이 상업적 현실과의 접촉에서 살아남는지 여부에 달려 있습니다.

우연이든 의도든 완벽한 타이밍

이번 정상회담은 올해 AI 업계에서 가장 중요한 한 주의 중간에 열릴 예정이다. 토요일에 발표된 Amodei의 에세이는 AI가 여름 이후 "급격하게 빠르게 발전하고 있다"고 경고했으며 6~12개월 내에 악성 에이전트 떼가 인터넷 규모의 위험을 초래할 수 있다고 주장했습니다. 그의 전화는 예상치 못한 곳에서 지지를 얻었습니다. Elon Musk는 "Dario가 옳습니다"라고 썼고 OpenAI의 Sam Altman은 독립적인 테스트를 지지했습니다. 반면 트럼프 대통령은 중국과의 경쟁을 지적하면서 둔화 프레임을 완전히 거부했습니다.

이런 상황에서 정상회담이 속도를 늦추기 위한 것이 아니라는 궁의 주장은 신중한 입장으로 읽힌다. 인류의 이익을 위해 AI를 개발하는 방법에 대한 King의 질문은 기술의 궤적은 불가피성이 아니라 집단적 인간 선택의 문제라는 전제를 암묵적으로 승인하면서 속도 싸움을 완전히 회피합니다.

영국은 전에도 여기에 왔습니다. 영국 정부가 소집한 2023년 블레츨리 파크 AI 서밋(Bletchley Park AI Summit)은 AI 위험에 대한 최초의 다국적 선언을 작성하고 경쟁 연구소를 모아 공동 손짓을 하는 패턴을 설정했습니다. 스코틀랜드 모임을 구별하는 것은 그 주최자입니다. 즉, 규제 권한도 없고, 선거 주기도 없으며, 원칙적으로 회사가 승리할 지분도 없는 국가 원수입니다.

정상회담이 할 수 있는 것과 할 수 없는 것

왕실 휴양지의 어떤 성명도 Nvidia, Anthropic, DeepMind 또는 OpenAI가 이번 분기에 출시하는 제품을 제한하지 않습니다. 모임이 승인된 원칙 헌장을 만들어낸다면 그 집행 메커니즘은 평판이 될 것입니다. 현재 업계에서 일주일 동안의 종말 헤드라인 이후 안전 심각성을 입증하기 위해 경쟁하고 있는 업계에서 평판은 평소보다 더 가치가 있을 수 있습니다.

New York Times는 이번 회의가 업계의 관심을 사로잡은 초지능 최후의 날 시나리오에 대한 광범위한 논쟁이 진행되는 가운데 열렸다고 언급했습니다. 장기적인 위험에 대해 예상치 못한 동맹을 소집하기 위해 자신의 플랫폼을 50년 동안 사용해 온 Charles에게 AI는 단순히 최신이자 아마도 가장 중요한 장일 뿐입니다. 군주의 도덕적 설득이 수조 달러 가치의 기업을 움직일 수 있는지 여부는 공개된 질문입니다. 회사들이 참석하기로 동의했다는 사실은 업계가 이제 같은 질문을 하는 모습이 얼마나 보이기를 원하는지를 말해줍니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →