ジェフリー・ヒントン氏、AIの規制が失われるまでに「おそらく1年」かかると議会に語る

ノーベル賞受賞者のジェフリー・ヒントン氏は非公開会見で米国上院議員らに対し、再帰的な自己改善を引き返せない点として引用し、議会がAI保護策を確立するまでに約1年の猶予があると警告した。

「AIのゴッドファーザー」として広く知られるノーベル賞受賞者のジェフリー・ヒントン氏は今週、米国議員に対し、これまでで最も厳しい警告の一つを発した。人工知能が人間の制御を超えてしまう前に、議会は人工知能に有意義な保護措置を講じるまで約1年の猶予があるというものだ。 NBCニュースによると、英国系カナダ人のコンピューター科学者は9月16日、国会議事堂での非公開の上院会見でこの発言をした。

ＮＢＣの会議記録によると、ヒントン氏は議員室で「１年かもしれないが、１年を超えるほどではない」と語った。セッションに関する複数の報道によると、このブリーフィングはバーニー・サンダース上院議員が招集し、フューチャー・オブ・ライフ研究所の共同創設者であるマサチューセッツ工科大学の物理学者マックス・テグマーク氏とAI安全研究者のアジェヤ・コトラ氏も出席した。

警告の核心: AI の構築

ヒントン氏の議論は、遠い仮説ではなく、特定の技術的なマイルストーンに焦点を当てていた。会見の報道によると、同氏は「AIは今や、AIがより優れたAIを設計する段階に達している」と述べた。「それは再帰的自己改善と呼ばれるものです...何かをしなければ、それは制御不能になります。」

同氏はまた、超情報機関の専門家のタイムラインが過去10年間で崩壊したと議員らに語った。 NBCニュースによると、ヒントン氏は「我々がいつ超知能を手に入れるかという予測を見ると、かつてはおそらく30年か50年かかるだろう」と語った。「その後、おそらく10年、おそらく20年ということになりました。今では人々は言っていますが、多くの研究者はほんの数年しかないと言ってます。」

ニューラルネットワークの基礎研究で2024年のノーベル物理学賞を共同受賞したトロント大学名誉教授のヒントン氏は、2023年にグーグルを退社し、それ以来この分野で最も著名な社内批評家となった――彼が開発に協力したシステムが最終的にはその作成者を出し抜いて置き換える可能性があると警告した。

「キルスイッチ」に対する懐疑

ヒントン氏は迅速な規制を求めながらも、最も議論されている提案の一つ、つまり危険なAIシステムを政府に停止させる連邦政府の命令については疑問を表明した。 CNNによると、同氏は議員に対し、そのような「キルスイッチ」は長期的には維持できないと語ったという。

彼の懐疑論は、ランド・ポール上院議員が共和党主導のAIキルスイッチ法案の上院での早期審議を阻止したのと同じ週に着地した。このエピソードは、最小限のガードレール法案ですら可決までいかに遠いかを示すエピソードである。会見の一部に出席したルイジアナ州のジョン・ケネディ上院議員はワシントン・サン紙に対し、議論は楽しかったが上院が行動する兆しは見られないと述べ、スコット・ベッセント財務長官が安全枠組みを推進しているとの報道を引き合いに出し、ホワイトハウスからの次の動きが期待されると付け加えた。

通路の向こうの景色はそれほど晴れていませんでした。ワシントン・サン紙が報じたところによると、フロリダ州のリック・スコット上院議員はニューズネーションのインタビューで、企業は自らを規制する必要があると述べ、「我々は企業を規制できるほど賢くなるつもりはない。ここで何かを成し遂げるつもりはない」と語った。

一部の民主党員は別の方向を推し進めた。会見に出席したアリゾナ州のヤサミン・アンサリ下院議員は、Xについて、AIは「人間の制御を超える可能性があり、今後もそうする」とし、「AIを規制する窓口は急速に消えつつある。今すぐ立ち止まらなければならない」と述べた。

AI 安全性むち打ちの 1 週間

この会見は、AI ガバナンスに関する議論の波乱万丈の幕を閉じた。その数日前、Anthropic CEOのDario Amodei氏は、フロンティア研究所に対し、開発のペースを速めるよう呼びかけるエッセイを発表し、制御不能からバイオテロへのリスクを警告した。広範な報道によると、この立場は他の研究所リーダーらも公的に支持しているという。ヒントン氏が上院議員に演説したのと同じ日、アンドリュー・ン氏を含む著名なAI研究者らは絶滅の懸念は大げさだと公に否定し、この分野が公の場で自らと議論していることを強調した。

キャピトルヒルでは、活動は出力よりも騒々しいものでした。コリー・ブッカー上院議員はトランプ大統領に対し、人工知能に関する特別議会の招集を要請し、超党派の問題解決者会議は今週、AIと新興技術に関する新たな作業部会の設立を発表した。そのどれもまだ拘束力のある連邦法を制定していません。

1 年間の枠組みが重要な理由

AI の先駆者による締め切りに基づく警告は日常的なものとなったが、ヒントンのタイムラインの特異性（業界幹部には立ち入り禁止の部屋で、立法権限を持つ人々に直接届けられる）は、トーンの変化を示している。研究者らによるこれまでの警告は、通常、数十年にわたるリスクを予測していた。 1 年間という期間は、将来の議会ではなく、現在の議会に向けて設計された政策対応を意味します。

それはまた、政治的問題を先鋭化させる。ヒントン氏自身のキルスイッチ懐疑論やポール上院議員の手続き妨害が示すように、どのような介入が有効かについては、安全志向の人々の間でもコンセンサスは得られていない。ヒントン氏は、国際情勢、特に中国との競争が一方的な減速を政治的に脆弱にしており、この緊張がこれまでの最も真剣な提案を妨げていると主張した。

次に何が起こるかは、ヒントン氏の時計によれば、数か月かかるだろう。この会見でその計算が変わるかどうかは、上院議員の説明によれば、現在全く動いていない上院次第である。