ローマ法王レオ14世は科学者とAI専門家で構成するバチカンの会合で、人工知能システムは「人間ではなく道具」であると述べ、AIエージェントに法的権利を与えることに警告し、来月ジュネーブに集まる政府に対し自律型致死兵器を禁止するよう求めた。
この演説は、教皇庁生命アカデミーと生命の未来研究所が共催する会議「AIの未来：インテリジェント技術の開発と応用に関するバチカンと科学界の対話」の参加者に行われた。教皇は、各国の参加者は「人工知能の発展に関してある種の不安感を共有している。我々は進むべき方向性を認識しているが、前進するためには十分な取り組みが行われていない」と述べた。
機械は人間ではなく道具です
演説の最も明確な一文は、テクノロジー業界や法曹界の一部で注目を集めているアイデア、つまり法人格、つまり権利を高度なAIシステムに拡張することを対象としたものだった。教皇レオは反対の主張をした。同氏によれば、機械には経験、肉体、感情、人間関係がなく、愛、仕事、責任なども理解できないという。
これらのシステムに権利や法人格を与えることを提案する人もいるが、そうすることで「人間の責任が曖昧になり、被害を受けた人々が顔の見えない存在と対峙することになる」危険があることを同氏は認めた。このコメントは、AIエージェントが自律的にビジネスを運営し、契約を交渉し、ユーザーに代わって行動するのを目撃し、自律システムが損害を引き起こした場合の責任についての本格的な法的議論を引き起こしたのと同じ時期に着地した。 AI Buzz Wire は、本件およびその他の AI 政策の展開 の発生状況を追跡しています。教皇の枠組みは、システムの背後にある人間に問題を戻すものである。AI エージェントが損害を引き起こした場合、顔のある誰かがそれに答えなければならない。
AI の「武装解除」: 自律型兵器の禁止
教皇の3番目の考慮事項、つまり特定の決定は決して機械に委任してはならないというものだが、その具体例は、ある人物を標的リストや国境警備データベースに載せることで、その人物を「データポイント」に貶めてしまうというものだ。同氏は、前任の教皇フランシスコの2024年のG7首脳向け演説を引用し、フランシスコはAIを「エキサイティングで恐ろしいツール」と表現し、いかなる機械も人間の命を奪うことを決して選択できるべきではないと主張した。
「人命、自由、武力行使に影響を与える決定は、常に効果的で情報に基づいた責任ある人間の監督の下に置かれ続けなければならない」と教皇レオは述べた。だからこそAIは「武装解除」されなければならないと同氏は主張し、11月にジュネーブで開かれた州会議に対し、自律型致死兵器を禁止する措置を講じるよう明確に奨励した。外交官たちは自律型兵器に関する拘束力のある規則に合意するために長年苦労してきた。教皇への直接訴えは、主に市民社会のキャンペーンと関係諸国のブロックによって推進されてきた交渉プロセスに道徳的な重みを加える。
Magnifica Humanitas からの 5 つの考慮事項
この演説は、教皇が回勅「マグニフィカ・ヒューマニタス」の中で述べた5つの考慮事項を中心に構成されていた。
1. AI の将来はあらかじめ決まっているわけではありません。 AI は人間が開発するものであるため、その将来は人類の選択によって決まります。 「私たちには、その適用を導き、変更し、必要に応じて拒否する責任がある」と教皇は述べた。正しい質問は「AI に何ができるのか?」ではありません。しかし、「それは何の目的に役立つのでしょうか？」
2. 機械は人間ではなく道具です。 上記の人間性に関する警告。
3. 特定の決定は決して委任することはできません。 人命、自由、武力行使に影響を与える決定には、情報に基づいた、責任ある人間による効果的な監督が必要です。
4. インテリジェント テクノロジは公共の利益に貢献しなければなりません。 インテリジェント テクノロジは「決してそれ自体が目的になったり、一部の特権的な人々の利益のみに役立ったりしてはなりません」。進歩の恩恵を公平に分配する必要があります。
5. 倫理を運用するためには制度が必要である 潜在的に最も差し迫った課題として説明されている: 世界は「AI の開発と使用に関する決定を検討し、必要に応じて異議を申し立て、生じた損害に対する適切な救済策を伴うことができるように、共通の基準、独立した監視、明確な責任の仕組み」を必要としている。
バチカンを越えて重要な理由
バチカンは、密かに、AI ガバナンスに関して最も一貫した組織的発言者の 1 つとなっています。 2020年2月に教皇庁生命アカデミーがマイクロソフト、IBM、FAO、イタリア政府とともに署名した「AI倫理を求めるローマの呼びかけ」は、このエコシステムから生まれたもので、教皇庁生命アカデミーは生命倫理と機械による意思決定について技術者を繰り返し招集している。フロンティアモデルのリスクに関する公開書簡を支援する AI 安全組織である Future of Life Institute との共催は、宗教と世俗の AI 倫理コミュニティの橋渡しをする継続的な取り組みを示しています。
政策立案者にとって、ジュネーブの上訴は具体的な収穫となる。自律型兵器をめぐる交渉が再開される中、バチカンは自主的なガイドラインではなく、拘束力のある禁止を求めている。そして AI 業界にとって、人格に関するメッセージは明確な一線を画しています。自律エージェントがどのようになろうとも、道徳的および法的責任はエージェントを構築し展開する人々にあります。
