기술 회사들이 더욱 강력한 인공 지능을 구축하기 위해 경쟁하면서 일부 회사는 챗봇에게 옳고 그름을 가르치는 방법이라는 새로운 문제에 대해 오래된 기관에 도움을 요청하고 있습니다. 그들의 대답은 점점 더 종교입니다.

최근 몇 달 동안 AI 경영진은 모델을 "도덕적으로 선"하게 만드는 방법에 대해 철학자와 종교 지도자로부터 의견을 구했습니다. 이번 봉사 활동은 공식 협의부터 바티칸 출석까지 이어지며 일요일 발표된 AP 통신의 보고서에 따르면 종교 학자들 사이에서 기업들이 자신들이 활용하고 있는 내용을 오해하고 있다는 우려가 커지고 있습니다. 최신 AI 개발을 추적하는 독자들에게 이 이야기는 이러한 회사가 현재 운영되는 방식에서 도덕적 정렬이 어떻게 중심이 되었는지를 보여줍니다.

"연구실에서 답변할 수 없는 질문"

윤리를 가장 중요하게 생각하는 것으로 널리 알려진 AI 회사인 Anthropic이 가장 활동적인 기업 중 하나입니다. 올해 초 바티칸에서 AI에 관한 교황 레오 14세의 회칙 발표에서 Anthropic의 공동 창립자인 Chris Olah는 청중들에게 AI를 둘러싼 도덕적 질문은 기업이 스스로 해결할 수 있는 것보다 더 크다고 말했습니다.

Olah는 "이것은 실험실에서 답변할 수 있는 질문이 아닙니다."라고 말했습니다. "그것은 당신과 같은 전통이 수천 년 동안 품어온 질문입니다."

Anthropic은 5월 블로그 게시물에서 "15개 이상의 종교 및 다문화 그룹의 학자, 성직자, 철학자 및 윤리학자"를 만났다고 밝혔으며, 이 풀을 확대하기를 희망한다고 밝혔습니다. 회사는 이 노력을 광범위하게 다음과 같이 설명했습니다. "이 작업은 우리 모델을 특정 전통의 세계관에 맞추는 것이 아닙니다. 우리는 Claude가 종교적, 세속적, 정치적인 모든 관점에서 동일한 깊이와 엄격함을 가지고 그림을 그려내기를 원합니다."

OpenAI CEO인 Sam Altman은 좀 더 종합적인 색다른 비전을 제시했습니다. Altman은 작년에 "ChatGPT가 해야 할 일은 인류의 도덕적 견해에 대한 가중 평균 등을 반영하는 것"이라고 말했습니다.

Anthropic의 신앙 모임 내부

노트르담대학교에서 윤리와 AI에 대한 이니셔티브를 이끌고 있는 종교철학자 메건 설리반(Meghan Sullivan)은 올해 초 Anthropic 회의 중 하나에 참석했습니다. 다른 기술 회사와 나눈 대화와는 달리 그녀는 참여의 엄격함에 깊은 인상을 받았습니다.

Sullivan은 "회사 내부의 문화는 지적으로 호기심이 많은 사람들이 모여 있다는 점에서 좋은 대학 캠퍼스의 문화와 유사합니다."라고 말했습니다. "이 회의는 꽤 괴짜입니다. 좋은 의미로 표현하는 것이 가장 좋은 방법인지는 모르겠습니다."

다양한 교파의 기독교인들이 포함된 회의는 두 부분으로 나누어졌습니다. 회사는 먼저 자사의 모델을 "평신도의 용어로" 설명했고, 신앙 지도자들은 피드백과 토론으로 응답했습니다. Sullivan에 따르면 질문은 "인간에게 영혼이 있습니까?"부터 다양했습니다. "3학년 학생들도 문해 교육을 위해 챗봇에 접근할 수 있어야 할까요?"

바티칸이 정기 정류장이 되다

인류는 좌석에 혼자가 아닙니다. 메타(Meta), 구글(Google), 아마존(Amazon)의 대표자들도 바티칸과 만났고, 마이크로소프트(Microsoft)는 종교적 봉사 활동에 특히 활발한 것으로 묘사되었습니다.

이 참여는 AI 개발의 현재 순간에 고유한 계산을 반영합니다. 경영진이 AI의 파괴적인 잠재력에 대해 경고하고 "도덕적으로 좋은" 모델 행동이 무엇을 의미하는지 토론하는 동안, 종교적 전통은 성격, 의무 및 피해에 대해 수천 년 동안 축적된 사고를 제공합니다. 이는 훈련 자료가 완전히 복제할 수 없고 회사가 대규모로 다른 곳에서 쉽게 얻을 수 없는 자료입니다.

Anthropic의 자체 프레임은 야망을 명백하게 만듭니다. "이 대화에서 우리가 추구하는 것은 실제로 얼마나 좋은 성격이 형성되는지에 대한 신중하고 축적된 생각입니다."

학자들은 경고합니다: 종교는 규칙서가 아닙니다

전문가들과 지지자들은 종교가 추출 가능한 일련의 도덕적 원칙을 제공할 수 있다는 기업의 전제가 전통이 실제로 어떻게 작동하는지 고려하지 못한다고 경고합니다. 서로 다른 세계관은 종종 서로 모순되며, 종교를 규칙의 데이터베이스로 취급하면 참조되는 자료 자체가 왜곡될 위험이 있습니다.

미시간 대학의 인류학자인 웹 킨(Webb Keane)은 학자들이 종교를 신자들의 "지저분하고 실용적이며 임시방편적인" 생활 방식과 동떨어진 일련의 원칙으로 보는 견해를 반대하는 데 수십 년을 보냈다고 주장합니다.

“종교를 규칙서로 생각하는 매우 전통적인 방식이 있습니다.”라고 Keane은 말했습니다. "그것은 확실히 성서 종교와 매우 밀접하게 연관되어 있으며, 결국 성서 종교는 실제로 아브라함 종교로 밝혀졌습니다."

그는 그러한 가정이 특정 전통을 우선시하는 동시에 다른 전통을 왜곡할 위험이 있다고 경고합니다. 특히 스스로를 기본적으로 윤리 체계로 이해하지 못하는 신앙은 더욱 그렇습니다.

종교학 학자이자 "세계 종교의 발명"의 저자인 토모코 마스자와(Tomoko Masuzawa)는 더 나아가 "불교"와 "힌두교"와 같은 범주가 명확하게 경계가 있고 비교 가능한 전통으로 분류되는 것은 대체로 19세기 유럽 학문의 구성물이라고 지적합니다. Masuzawa는 "이 모든 범주는 고유한 것이 아닙니다."라고 말했습니다.

실제로 구축되고 있는 것은 무엇입니까?

학문적 비평은 실질적으로 중요합니다. 기업이 이러한 협의를 통해 무엇을 배우든 모델이 수십억 사용자의 도덕적 질문에 대답하는 방식을 형성할 수 있기 때문입니다. 종교를 가중 평균 원칙의 원천으로 취급하는 AI는 도덕적 권위가 경쟁하고 위치하며 살아간다는 것을 인식하도록 훈련받은 AI와 다르게 행동할 것입니다.

현재 기업들은 단일 전통적 의제를 거부하고 있으며, 관련된 종교 지도자들은 이 참여가 심각하고 실질적이라고 설명합니다. 지적으로 호기심이 많고 엄격하며 약간 괴상한 인류학에 대한 설리반의 평결은 회의가 홍보 이상의 의미를 갖는다는 것을 시사합니다.

그러나 AP 보고서가 표면화하는 더 깊은 질문은 여전히 ​​열려 있습니다. 어떤 협의 과정이 수천 년 동안 살아온 전통을 납작하게 만들지 않고 모범적인 행동으로 변환할 수 있는지, 그리고 인류의 도덕적 유산 중 어느 부분이 중요하게 여겨지는지 누가 결정하는지입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →