찰스 3세 국왕은 목요일 기술의 미래에 대한 고위급 정상회담을 위해 스코틀랜드의 Dumfries House 부지에 모인 Nvidia, Google DeepMind 및 OpenAI의 경영진에게 연설하면서 인공 지능의 "실존적 위험"에 대해 엄중한 경고를 발표했습니다.

군주는 모인 업계 리더들에게 점점 더 강력해지는 AI 시스템으로 인해 발생하는 위험에 맞서는 것이 시급하다고 말했습니다. 특히 기술이 결국 악의적인 행위자에 의해 제어되는 경우 더욱 그렇습니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

ABC 뉴스와 여러 매체의 보도에 따르면 국왕은 "이러한 기술이 잘못된 손에 들어가고 잠재적으로 재앙적인 방식으로 사용될 수 있는 실존적 위험을 적절하게 고려하는 것이 시급한 것 같다"고 에어셔 사유지에 모인 지도자들에게 말했습니다.

이중 메시지: 약속과 위험

국왕의 연설은 기술에 대한 전면적인 거부가 아니었습니다. 그는 인공 지능이 선을 위한 막대한 잠재력을 가지고 있음을 인정했으며, 특히 연구를 가속화하고 환자 결과를 개선하기 위해 AI 도구가 점점 더 많이 사용되고 있는 생명 과학 및 의학을 지적했습니다.

그러나 그는 이러한 낙관론과 기술의 창시자들이 진보된 시스템이 더 어두운 능력을 개발할 수 있고 "심지어 생명을 앗아갈 수도 있다"고 점점 더 경고하고 있다는 경고와 짝을 이루었다고 방송사의 설명에 따르면 그는 말했습니다.

국왕은 또한 기술의 궤적을 통제하기에는 너무 늦기 전에 안전 장치를 마련할 것을 촉구했으며, AI 개발이 환경에 미치는 영향을 제기했습니다. 이는 데이터 센터 구축으로 인해 여러 국가의 전력망에 부담이 가중되면서 점점 더 많은 조사를 받고 있는 주제입니다.

스코틀랜드 정상회담에 참석한 사람

손님 명단은 AI 업계의 가장 강력한 인물들의 단면으로 읽힌다. ABC 뉴스에 따르면 참석자 중에는 Nvidia 창립자 겸 CEO Jensen Huang, Google DeepMind 창립자 Demis Hassabis, OpenAI 최고 재무 책임자 Sarah Friar 등이 포함되었습니다. 영국 인공지능부 장관 카니시카 나라얀도 참석했다.

로이터가 배포한 이미지와 캡션에 따르면 황은 산업 안전 메커니즘을 논의하기 위해 국왕과 만나도록 초대받았다. 정부에 AI 개발 속도를 늦출 것을 촉구해 온 교황 고문 파올로 베난티 신부도 이 토론에 참석할 것으로 예상됐다.

장소와 소집자의 선택이 중요합니다. 영국 군주제는 규제 권한을 갖고 있지 않지만 국왕은 새로운 기술 위험에 대한 공개 참여의 오랜 역사를 가지고 있으며, 정상 회담은 대서양 양쪽에서 감독 요구가 강화되는 순간 업계 최고위 인사들에게 공유 테이블을 제공했습니다.

다시 활성화된 논쟁

이번 모임은 AI 위험에 대한 공개 토론이 재개되는 가운데 이루어졌습니다. 두 명의 인류학 연구자가 빠르게 발전하는 기술이 머지않은 미래에 인류의 멸종을 초래할 수 있다고 경고한 이후 이 논의는 다시 주목을 받았고, 이에 대한 논평은 광범위한 취재와 비판을 동시에 불러일으켰습니다.

Anthropic의 Dario Amodei 최고경영자(CEO)는 기업들에게 AI 개발 속도를 늦추라고 별도로 촉구했습니다. 교황 레오 14세는 전 세계 정부에 AI 시스템의 개발 속도를 늦추고 이로 인한 파괴적인 영향을 완화할 것을 촉구했으며, 도널드 트럼프 미국 대통령도 이 논쟁에 개입하여 AI 거버넌스 문제를 순전히 기술적인 문제가 아닌 진정한 글로벌 정치적 문제로 만들었습니다.

이러한 상황에서 AI 안전 노력이 점점 더 역량을 갖춘 시스템 개발에 뒤처지고 있다는 우려가 커지고 있습니다. 최근 몇 주 동안 업계가 스스로 규제할 수 있고 규제해야 하는지 여부에 대한 논쟁이 집중되어 왔으며, 회의론자들은 주의를 요구하는 경영진이 특정 회사의 경쟁 우위를 유지하는 규칙을 제정하는 등의 숨은 동기가 있는지에 대해 의문을 제기했습니다.

바인딩 규칙이 예상되지 않습니다.

주최측은 스코틀랜드 회의를 협상으로 구성하지 않았습니다. ABC 뉴스에 따르면 이번 회의에서는 구속력 있는 합의가 나올 것으로 예상되지 않습니다. 적어도 명목상으로는 그 목적은 공유된 원칙이 AI가 국경과 산업 전반에 걸쳐 적용되는 방법을 안내할 수 있는지 탐색하는 것입니다.

버킹엄궁은 이번 논의에서 AI가 "단순히 능력과 효율성의 원동력이 아니라 인간의 존엄성을 지키고 사람과 지구 모두의 번영에 기여하는 도구"로 활용될 수 있는지 여부를 고려할 것이라고 밝혔습니다.

이러한 프레임은 국왕이 반복적으로 언급한 주제를 반영합니다. 문제는 AI를 안전하게 만들 수 있는지 여부뿐만 아니라 AI의 목적이 무엇인지에 대한 것입니다. 목요일의 발언은 소유권과 통제에 대한 경고를 날카롭게 지적했으며, 이는 대부분의 AI 위험 논의를 지배하는 기능 중심의 두려움과는 현저히 다른 강조점입니다.

다음에 무슨 일이 일어날까요?

이번 정상회담이 단독으로 정책을 내놓을 가능성은 낮지만, 이미 진행 중인 일련의 공식적인 노력에 탄력을 더해준다. 영국은 초기 AI 정상회담 이후 AI 안전에 대한 의장으로 자리매김해 왔으며, 인공지능 전담 장관의 존재는 정부가 미국과 중국 AI 개발자 모두와 계속 협력하겠다는 의지를 나타냅니다.

방에 있는 회사들에게는 미적분학이 섬세합니다. Nvidia, DeepMind 및 OpenAI는 모두 점점 더 성능이 뛰어난 시스템을 출시해야 한다는 상업적 압력에 직면해 있습니다. 심지어 자체 연구원들이 해당 시스템이 결국 어떤 일을 할 수 있는지에 대해 경고를 발표하고 있기도 합니다. 왕실 소환은 그 긴장을 해결하지는 못하지만 긴장이 가시적으로 남아 있도록 보장합니다.

기술이 누군가의 통제 능력을 벗어나기 전에 보호 장치가 도착해야 한다는 King의 핵심 메시지는 OpenAI가 자체 모델과 관련된 여러 안전 사고를 공개한 것부터 AI 시스템 설계 방법에 대한 Microsoft의 AI 리더십과 Anthropic 간의 확대되는 공개 분쟁에 이르기까지 업계의 안전 담론이 유난히 시끄러웠던 일주일에 시작되었습니다.

목요일 모임이 좀 더 구체적인 것으로 해석될지는 아직 두고 볼 일입니다. 그러나 세계에서 가장 가치 있는 칩 제조업체와 가장 유명한 AI 연구소의 리더들이 스코틀랜드 시골집에 앉아 최소한 이해관계가 실존적이라는 데 동의하면서 누가 AI를 통제하고 누구의 이익을 위해 이익을 주는지에 대한 대화가 결정적으로 공개되었습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →