テクノロジー企業がこれまで以上に強力な人工知能の開発を競う中、チャットボットに善悪を教える方法という新たな問題について、古い機関に支援を求めている企業もある。彼らの答えはますます宗教です。

ここ数カ月間、AI幹部らはモデルを「道徳的に良い」ものにする方法について哲学者や宗教指導者からの意見を求めてきた。この支援活動は、正式な協議からバチカンへの出席まで多岐にわたるが、日曜日に発表されたAP通信の報道によると、宗教学者の間では、企業が自分たちが利用しているものを誤解しているのではないかという懸念が高まっているという。 最新の AI 開発 を追跡している読者にとって、この記事は、道徳的一致がこれらの企業の現在の運営方法の中心となっているということを示しています。

「研究室では答えられない質問」

Anthropic は倫理を最も真剣に受け止めていると広く見られている AI 企業で、最も積極的に取り組んでいる企業の 1 つです。今年初めにバチカンがAIに関する教皇レオ14世の回勅を発表した際、Anthropicの共同創設者クリス・オラー氏は聴衆に対し、AIを巡る道徳的な問題は企業が自力で解決できる問題を超えていると語った。

「これらは研究室が答えられる質問ではありません」とオラー氏は言う。 「それらは、あなたたちのような伝統が数千年にわたって持ち続けてきた疑問です。」

アントロピックは5月のブログ投稿で、「15以上の宗教団体や異文化団体の学者、聖職者、哲学者、倫理学者」と面会したと述べ、その対象を拡大したいとしている。同社はこの取り組みを大まかに説明し、「この作品は、私たちのモデルを特定の伝統の世界観に合わせることではありません。私たちはクロードに、宗教的、世俗的、政治的など、あらゆる視点から同等の深さと厳密さで描いてもらいたいと考えています。」と述べています。

OpenAI CEO の Sam Altman 氏は、これとは異なる、より総合的なビジョンを明確にしました。アルトマン氏は昨年、「ChatGPTがやるべきことは、人類の道徳観の加重平均などを反映させることだと思う」と述べた。

Anthropic の信仰集会の内部

ノートルダム大学で倫理と AI に関する取り組みを主導する宗教哲学者であるメーガン・サリバン氏は、今年初めにアントロピックの会議の 1 つに出席した。他のテクノロジー企業との会話とは対照的に、彼女はその取り組みの厳格さに感銘を受けて帰ってきました。

「社内の文化は、非常に知的好奇心旺盛な人々が集まっているという意味で、優れた大学のキャンパスと似ています」とサリバン氏は言う。 「これらの会議は、良い意味で、かなりオタク的なものです。この表現が最適かどうかはわかりませんが。」

さまざまな宗派のキリスト教徒も参加したこの会合は２部に分けられ、まず同社がモデルを「分かりやすく」説明し、宗教指導者らがフィードバックや議論で応じた。サリバンによれば、質問は「人間には魂があるのか​​？」から多岐にわたりました。 「読み書き教育のために 3 年生がチャットボットにアクセスできるようにすべきですか?」

バチカン市国が定期訪問地になる

観客席にいるのは人類だけではない。メタ社、グーグル社、アマゾン社の代表者もバチカンと会談しており、マイクロソフト社は特に宗教活動に積極的であると言われている。

この取り組みには、AI 開発におけるこの瞬間に特有の計算が反映されています。経営者らがAIの破壊的な可能性について警鐘を鳴らし、「道徳的に良い」モデル行動とは一体何を意味するのかを議論する中、宗教的伝統は人格、義務、危害について数千年にわたって蓄積された考え方を提供するものであり、これらの資料はどのトレーニングコーパスでも完全には再現できず、企業が他から大規模に調達するのは容易ではない。

Anthropic 独自の構成は、その野心を明確にしています。「これらの会話で私たちが求めているのは、優れた人格が実際にどのように形成されるかについて注意深く、蓄積された思考です。」

学者は警告: 宗教はルールブックではない

専門家も支持者も同様に、宗教が抽出可能な一連の道徳原則を提供できるという企業の前提が、伝統が実際にどのように機能するかを考慮していないことに警告している。異なる世界観はしばしば互いに矛盾しており、宗教をルールのデータベースとして扱うことは、参照される内容自体を歪める危険性があります。

ミシガン大学の人類学者ウェッブ・キーンは、学者たちは宗教を信奉者の「乱雑で現実的でその場限りの」生き方とは切り離された一連の原理として捉えることに何十年も抵抗してきたと主張する。

「宗教をルールブックとして捉える非常に伝統的な考え方があります」とキーン氏は言う。 「それは確かに聖書の宗教と非常に結びついており、結局のところ、聖書の宗教は実際にはアブラハムの宗教であることが判明します。」

その思い込みは、特定の伝統を優先する一方、他の伝統、特に自らを主に倫理体系として理解していない信仰を歪める危険性があると彼は警告する。

宗教学学者であり、『世界宗教の発明』の著者である増沢智子氏は、さらに詳しく述べ、「仏教」や「ヒンズー教」などのカテゴリーは、明確に境界があり、比較可能な伝統として、主に19世紀に遡るヨーロッパの学問の構築物であると指摘しています。 「これらすべてのカテゴリーはネイティブのものではありませんでした」と増沢氏は言う。

実際に何が構築されているか

学術的批評は実質的に重要である。なぜなら、こうした協議で企業が学んだことは何であれ、モデルが何十億ものユーザーの道徳的質問にどのように答えるかを形作る可能性があるからである。宗教を加重平均原則のソースとして扱う AI は、道徳的権威が争われ、位置づけられ、生きられることを認識するように訓練された AI とは異なる動作をするでしょう。

今のところ、両社は単一の伝統の議題を否定しており、関係する宗教指導者らはこの取り組みは真剣かつ実質的なものであると述べている。人間学に関するサリバンの評決は、知的好奇心旺盛で、厳密で、少しオタクっぽいというもので、この会議が単なる広報活動以上のものであることを示唆している。

しかし、AP通信の報告書が表面化したより深い疑問は未解決のままだ。それは、いかなる協議プロセスも、何千年にもわたって生きてきた伝統を平板化することなく模範的な行動に変換できるかどうか、そして人類の道徳的継承のどの部分が重み付けに含まれるかを誰が決定するのかというものだ。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→