Anthropicの共同創設者は、政府はAI企業に「キルスイッチ」（AIシステムを完全にシャットダウンするメカニズム）の設置を強制する必要があるかもしれないし、外部の検査官がそれが実際に機能することを検証できるようにすべきだと述べた。

9,650億ドルを投じたAI研究所の創設者7人のうちの1人、ジャック・クラーク氏はBBCに対し、ほとんどの主要な研究所はすでに危険なシステムの「プラグを抜く」内部方法を持っているが、社会はそのような切り替えを義務化し、独立して監査できるようにする「最終的にはルールを制定したいかもしれない」と語った。より広範な AI 安全性に関する議論 を追跡している読者にとって、彼の介入は、警告がエスカレートする 1 週間の間にフロンティア研究所内部からこれまでで最も具体的な政策提案を示したものである。

「企業にキルスイッチを必ず設置することを義務付ける必要がありますか?そのキルスイッチは第三者によって検証可能ですか?」クラーク氏はテクノロジー担当記者のカリ・ヘイズ氏と経済担当編集者のファイサル・イスラム氏とのインタビューで語った。 「社会はそういうことを知りたがっているし、最終的にはルールを制定したいと思うかもしれない。」

「私たちは計り知れないリスクを抱えてサイコロを振っている」

クラーク氏の最も印象的なコメントは、現状に対する全面的な拒否だった。業界の今後の軌道について尋ねられると、同氏はAIを「完全に規制のない業界」として存続させるのは悪い考えだと述べた。

「私たちは計り知れないリスクを伴うサイコロを振っている」と同氏は語った。 「そして重要なのは、私たちはこの業界の方向性を変えなければならないということです。」

他の一部の同僚とは異なり、クラーク氏は人類絶滅の危険性について数字を出すことを拒否した。 「これらの統計がそれほど役に立つとは思わない」と同氏は述べた。これは、今後10年以内にAIによって人類が絶滅する可能性は10％以上あると個人的に信じていると先週述べた人類研究者のエヴァン・ヒュービンガー氏や、金曜日にBBCに対し、10％の推定は「不合理ではない」と語ったAIの先駆者ジェフリー・ヒントン氏とは顕著な対照である。

クラーク氏が異論を唱えなかったのは、進行方向についてだ。同じインタビューで同氏が述べたように、AIは「日に日に強力になっている」と述べ、誰がどのように検証するのかなど、シャットダウン要件の詳細は現在AIを中心に行われている「より大きな政策対話」に属すると主張した。

立法的な勢いのある提案

クラーク氏の提案は空虚なものではない。米国の議員らはすでにキルスイッチ法と呼ばれる法案を提出しており、これはフロンティアAI開発者にシステムにシャットダウンメカニズムを組み込むことを義務付けるものだ。不正エージェント事件を受けて緊急性が高まったため、先月AI Buzz Wireがこの法案を取り上げた。

このアイデアには公然と懐疑的な見方もある。英国では、ジョナサン・レイノルズ商務長官がBBCに対し、この概念は役に立たないと述べ、「それが実際に何を意味するかよく分からない」と述べ、過剰規制により外国開発モデルから英国が切り離される可能性があると警告した。

背景: 安全内戦 — そして IPO

クラーク氏のコメントは、AIの安全性がセミナーの話題から一面ニュースへと移行した一週間を締めくくっている。アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は週末、フロンティア開発のペースを緩め、より厳重に監視するよう呼び掛けたが、いかなる一時停止も「商業上の利点を犠牲にすることなく」行われるべきだと主張した。その後、CNNのアンダーソン・クーパーとのインタビューでこの件をアメリカの主流視聴者に伝え、コクソン自身もネットワークに出演してそれに反応した。この発言は、元人類研究者ジェイコブ・コクソン氏が人類の運命について警告する辞任投稿が拡散し、それがヒュービンジャー氏の絶滅予測を促したことに続いたものだ。ガーディアン紙は、なぜこれまでの終末警告が薄れていたところにこの特別な終末警告が現れたのかを調査した。

この警報に対し、テクノロジー業界の一部からはあからさまな嘲笑の声が上がっている。ハギング・フェイスの最高経営責任者（CEO）クレメント・デラング氏は、コクソン氏を絶滅リスクの代弁者とする決定を嘲笑し、「申し訳ないが、ジェイコブ氏にAI絶滅リスクについて尋ねるのは、エアコン担当者に気候変動について尋ねるようなものだ」と書いた。 Grindr CEOのジョージ・アリソン氏はさらに踏み込んで、恐怖を煽る行為は商業的な動機によるものであると主張した。 「これらの評価を正当化する唯一の方法は、実際にこう主張することだ。『私はあらゆる業界を引き継ぎ、あらゆる仕事を引き継ぎ、私のAIがすべての仕事をやってくれる』と彼は語った。」

この議論の結果には巨額の資金も使われている。アンスロピックは9,650億ドルの評価額で新規株式公開の準備を進めているが、オープンAI（直近の評価額は8,520億ドル）は、サム・アルトマン最高経営責任者（CEO）が金曜日、安全性をめぐる論争のため今年はIPOは行われないと発言するまで、上場すると予想されていた。アリソンのような批評家は、破滅的なレトリックと募金活動の売り込みは同じコインの表裏であると主張する。クラーク氏の答えは、いずれにしても業界は方針を変更する必要があるというものだ。

強制的で検証可能なキルスイッチが法律になるかどうかは、これまでのところ米国経済を動かしている産業を制約することにほとんど意欲を示さない議員次第だ。しかし、このテクノロジーの最も強力な内部関係者の 1 人が初めて、彼らに試してみようと明示的に勧めています。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→