교황 레오 14세는 월요일 인공 지능이 불량화되는 것에 대한 우려는 "가짜 뉴스"가 아니며 심각하게 받아들여야 한다고 말했습니다. 기술은 정부의 가드레일 없이 개발되어야 한다고 주장하는 기술 경영진을 날카롭게 질책했습니다. AFP, AP, 알자지라의 로이터 보도에 따르면 교황은 4일간의 프랑스 방문을 마치고 로마로 돌아가는 비행기 안에서 기자회견을 하면서 처음에는 이름을 밝히지 않은 채 엔비디아 CEO 젠슨 황의 AI 규제 반대 입장을 겨냥했다고 한다.

이번 발언은 AI 정책이 폭발적인 순간에 이르렀다. 로이터 통신에 따르면 도널드 트럼프 대통령은 화요일 메타(Meta)의 마크 주커버그(Mark Zuckerberg)와 앤트로픽(Anthropic)의 다리오 아모데이(Dario Amodei)를 포함한 기술 리더들을 백악관에 초대할 예정이다. 업계는 주요 과학자들이 재앙적 위험에 대해 경고하면서도 규제에 반대하는 움직임을 보이고 있다. 정부와 AI 산업 간의 충돌을 추적하는 독자들을 위해 AI Buzz Wire는 최신 AI 개발을 따릅니다. 워싱턴에서 브뤼셀, 바티칸까지.

'우려를 심각하게 받아들여야 한다'

교황은 기내 기자회견에서 AI가 인류에게 치명적인 위험을 초래하는 것을 막기 위해 세계 양대 AI 초강대국인 미국과 중국이 무엇을 해야 하는지에 대한 질문을 받았습니다. 트럼프는 이전에 AI가 사기 행위를 하는 것에 대한 우려를 "사기"라고 불렀습니다.

교황은 “많은 AI 전문가들이 제기한 우려는 진지하게 받아들여야 한다고 생각한다”며 AI 전문가들이 제기한 안전 문제에 대해 논의하고 조치를 취해야 한다고 주장했다. 그는 AI가 인류를 파괴할 수 있는 지점에 도달하지 않도록 대화, 연구, 조사를 촉진하고 방법을 찾기 위해 전 세계에 촉구했습니다.

Jensen Huang과의 교류

가장 중요한 순간은 Leo가 그날 아침에 읽었다고 말한 발표를 언급했을 때였습니다. 즉, 칩 제조업체 Nvidia의 대표가 특정 AI 모델에 가드레일을 삽입하는 방법을 설명했다는 것입니다. 교황은 메신저에 대해 공개적으로 회의적인 입장을 표명했습니다.

"그러나 그 사람은 제한을 두거나 정부 규제가 없어야 한다고 말하는 사람입니다"라고 Leo는 말했습니다. 황은 이달 초 CBS 뉴스에 AI에 대한 안전 문제가 과장되었다는 트럼프의 의견에 동의했다고 말했습니다.

교황이 언급한 발표는 Nvidia가 새로 공개한 Open Agent Safety Platform인 것으로 보입니다. 이는 자율적인 AI 에이전트를 감시하고 악의적인 행동을 방지하도록 설계된 하드웨어 및 소프트웨어 노력입니다. 관찰자들은 아이러니를 잃지 않았습니다. 업계에서 가장 가치 있는 회사는 이제 안전 기술을 판매하는 동시에 안전 옹호자들이 이를 시행하는 데 필요하다고 말하는 정부 규제에 반대하는 로비 활동을 하고 있습니다.

AI 경고를 바탕으로 세워진 교황권

월요일의 논평은 레오의 16개월간 교황직을 정의하는 주제가 된 내용을 확장한 것입니다. 미국 최초의 교황은 AI를 인류가 직면한 가장 큰 과제 중 하나로 꼽았고, AI와 인류 보호에 대한 그의 첫 번째 회칙을 바쳤습니다. 5월 바티칸 행사에서 Anthropic 공동 창립자인 Christopher Olah와 함께 개인적으로 문서를 발표하는 특이한 조치를 취한 것입니다.

레오 치하에서 바티칸은 특히 원자력 기술, 문화, 예술 창작과 같은 분야에 초점을 맞춰 국제 AI 거버넌스를 지지하는 수사법과 계획을 꾸준히 확대해 왔습니다. 5월 회칙 발간은 AI의 인적 비용에 대해 실리콘 밸리를 직접적으로 참여시키려는 바티칸의 고의적인 노력의 일환이었습니다. 이러한 활동은 이제 공개적으로 도전적인 경영진까지 확대되었습니다. 교황은 의사결정자들을 소집하기 위한 노력이 계속되어야 한다고 말했습니다. "우리는 정치 지도자, AI 지도자, 사회 단체, 협회를 계속해서 초대하여 이미 일어나고 있는 일과 앞으로 일어날 일을 살펴보아야 합니다."

"나는 그것에 대해 진지하게 관심을 갖는 사람들이 충분히 있다고 생각합니다… 하지만 우리는 계속 노력해야 합니다"라고 그는 덧붙였습니다.

교황이 실리콘밸리의 피부 속으로 들어가는 이유

레오의 개입이 중요한 이유는 업계의 현재 자세에서 핵심적인 모순을 겨냥하기 때문입니다. 최근 몇 주 동안 OpenAI는 정렬 실패에 대한 개척 모델 릴리스를 폐기했고, Nvidia 및 기타 연구소는 에이전트 안전 제품을 서둘러 출시했으며, Geoffrey Hinton 및 Yoshua Bengio를 포함한 저명한 과학자들은 실제로 교황의 발언과 같은 날 폭주하는 "지능 폭발"에 대해 경고했습니다. 그러나 업계를 선도하는 목소리에서는 정부 규제가 혁신을 저해할 것이라고 계속해서 주장하고 있습니다.

교황의 메시지는 두 가지가 동시에 사실일 수 없다는 것입니다. 위험이 안전 소프트웨어 판매를 정당화할 만큼 현실적이라면 규칙도 정당화할 만큼 충분히 현실적입니다. 이번 주 백악관이 AI 임원들을 위한 레드카펫을 공개하면서 레오는 바티칸을 그렇게 명백하게 말할 의향이 있는 몇 안 되는 글로벌 기관 중 하나로 자리매김하고 있습니다.

AI보다 앞서 나가세요

AI의 미래를 두고 전 세계가 벌이는 싸움을 지켜보세요. AI Buzz Wire에서 더 많은 AI 뉴스를 읽어보세요.

최신 AI 개발 →