교황 레오 14세는 과학자와 AI 전문가들이 모인 바티칸 회의에서 인공지능 시스템은 "사람이 아니라 도구"라고 말하면서 AI 에이전트에게 법적 권리를 부여하는 것에 대해 경고하고 다음 달 제네바에 모이는 정부에 치명적인 자율 무기를 금지할 것을 촉구했습니다.
이 연설은 교황청 생명 아카데미와 생명 미래 연구소가 공동 주최한 회의인 "AI의 미래: 지능형 기술의 발전과 응용에 관한 바티칸과 과학계 간의 대화" 참가자들에게 전달되었습니다. 교황은 여러 나라의 참가자들이 "인공지능의 발전에 대해 어느 정도 불안감을 공유하고 있다"며 "우리가 취해야 할 방향을 알고 있지만 앞으로 나아갈 수 있는 충분한 조치가 이뤄지지 않고 있다"고 말했다.
기계는 사람이 아니라 도구다
주소의 가장 명확한 라인은 기술 산업 및 법조계의 일부에서 관심을 끄는 아이디어, 즉 법인격 또는 권리를 고급 AI 시스템으로 확장하는 것을 목표로 했습니다. 교황 레오는 그 반대라고 주장했습니다. 그는 기계에는 경험, 신체, 감정, 관계가 없으며 사랑, 일, 책임을 이해하지 못한다고 말했습니다.
그는 일부 사람들이 이러한 시스템에 권리나 법인격을 부여할 것을 제안했지만 그렇게 하면 "인간의 책임이 모호해지고 해를 입은 사람들이 얼굴 없는 존재와 맞서게 되는" 위험이 있음을 인정했습니다. 이 논평은 AI 에이전트가 자율적으로 사업을 운영하고, 계약을 협상하고, 사용자를 대신하여 행동하는 것을 본 것과 같은 시즌에 발표되었으며, 자율 시스템이 피해를 입힐 때 책임에 대한 진정한 법적 논쟁을 촉발했습니다. AI Buzz Wire는 이 정책 및 기타 AI 정책 개발을 실시간으로 추적하고 있습니다. 교황의 프레이밍은 시스템 뒤에 있는 인간에게 다시 질문을 던집니다. AI 에이전트가 피해를 입히면 얼굴을 가진 누군가가 그에 대해 대답해야 합니다.
"무장 해제" AI: 자율 무기 금지
특정 결정은 결코 기계에 위임되어서는 안 된다는 교황의 세 번째 고려 사항은 극명한 예를 통해 설명되었습니다. 즉, 사람을 대상 목록이나 국경 통제 데이터베이스에 추가하면 해당 사람이 "데이터 포인트"로 축소됩니다. 그는 전임 교황 프란치스코가 2024년 G7 지도자들에게 한 연설을 언급했는데, 프란치스코 교황은 AI를 "흥미롭고 무시무시한 도구"라고 묘사했으며 어떤 기계도 인간의 생명을 앗아가는 선택을 할 수 없어야 한다고 주장했습니다.
레오 교황은 “인간의 생명, 자유, 무력 사용에 영향을 미치는 결정은 항상 효과적이고 정보에 입각한 책임감 있는 인간 감독을 받아야 한다”고 말했다. 그렇기 때문에 AI는 "무장 해제"되어야 한다고 그는 주장했습니다. 그리고 그는 11월 제네바에서 열린 국가 회의에서 치명적인 자율 무기를 금지하는 조치를 취할 것을 명시적으로 장려했습니다. 외교관들은 자율 무기에 대한 구속력 있는 규칙에 동의하기 위해 수년 동안 노력해 왔습니다. 교황의 직접적인 호소는 주로 시민 사회 캠페인과 관련 국가 연합에 의해 주도된 협상 과정에 도덕적 중요성을 더합니다.
Magnifica Humanitas의 5가지 고려 사항
이 연설은 교황이 회칙 Magnifica Humanitas에서 제시한 다섯 가지 고려 사항을 중심으로 구성되었습니다.
1. AI의 미래는 미리 정해져 있지 않습니다. 인간이 AI를 개발하기 때문에 AI의 미래는 인류의 선택에 달려 있습니다. 교황은 “우리는 이 법안의 적용을 지도하고, 변경하고, 필요한 경우 거부할 책임이 있다”고 말했다. 올바른 질문은 "AI가 무엇을 할 수 있는가?"가 아닙니다. 하지만 "어떤 목적으로 사용되어야 합니까?"
2. 기계는 사람이 아니라 도구입니다. 위의 인격적 경고입니다.
3. 특정 결정은 결코 위임될 수 없습니다. 인간의 생명, 자유, 무력 사용에 영향을 미치는 결정에는 효과적이고 정보에 입각한 책임 있는 인간 감독이 필요합니다.
4. 지능형 기술은 공동선을 위해 봉사해야 합니다. 기술 자체가 목적이 되거나 단지 소수 특권층의 이익에만 봉사해서는 안 되며, 진보의 혜택을 공평하게 확산시켜야 합니다.
5. 윤리를 운영하려면 제도가 필요합니다. 잠재적으로 가장 시급한 과제로 설명됩니다. 세계에는 "AI의 개발 및 사용에 관한 결정을 검토하고, 필요할 경우 이의를 제기하고, 발생하는 피해에 대한 적절한 구제책이 수반될 수 있도록 공유 표준, 독립적인 감독 및 명확한 책임 메커니즘이 필요합니다."
바티칸 너머가 중요한 이유
바티칸은 조용히 AI 거버넌스에 대한 보다 일관된 제도적 목소리 중 하나가 되었습니다. 교황청 생명 아카데미가 마이크로소프트, IBM, FAO, 이탈리아 정부와 함께 2020년 2월에 서명한 AI 윤리를 위한 로마 요청은 이 생태계에서 성장했으며, 교황청 생명 아카데미는 생명 윤리와 기계 의사 결정에 관해 기술자들을 반복적으로 소집했습니다. 프론티어 모델 위험에 대한 공개 서한을 뒷받침하는 AI 안전 조직인 Future of Life Institute와 공동 조직하는 것은 종교적 및 세속적 AI 윤리 커뮤니티를 연결하려는 지속적인 노력을 나타냅니다.
정책 입안자들에게 제네바의 호소는 구체적인 시사점입니다. 자율 무기에 대한 협상이 재개됨에 따라 바티칸은 자발적인 지침이 아닌 구속력 있는 금지를 원합니다. 그리고 AI 산업의 경우 인격에 대한 메시지는 모래 위에 분명한 선입니다. 자율적 에이전트가 어떻게 되든 도덕적, 법적 책임은 이를 구축하고 배포하는 사람들에게 있습니다.
