「AIのゴッドファーザー」の1人が、これまでで最も厳しい警告を発した。現代の人工知能の基礎となる研究を行っているノーベル賞受賞コンピュータ科学者ジェフリー・ヒントンは、人類がこの技術を開発しない方が良かったことが判明する可能性があると述べている。同氏はガーディアン紙とのインタビューで、今年または来年、金融システムや電力システムの一時的な停電など、AIが大規模なインシデントを引き起こす可能性があるとも警告した。

「開発しないほうがよかったかもしれない」 この話の詳細については、現在進行中の AI トレンド を参照してください。

78歳のヒントン氏はガーディアン紙に対し、人工ニューラルネットワークの先駆的研究に基づいて構築されたテクノロジーについて「不運を抱く人」ではないと語った。同氏は、AIには彼の言うところの「素晴らしい未来」と「根本的な豊かさ」を実現する可能性がまだあると信じている。しかし、彼はマイナス面については明言しなかった。「開発しないほうが良かったのかもしれない」。

英国生まれの科学者は、10年以内に、そしておそらくもっと早くに、人類は自分たちの進むべき道を知ることになるだろうと語った。世界がテクノロジーのリスクを管理し、その利益を分かち合うか、彼の言葉を借りれば、「リスク管理に失敗し、貧富の差が大きく、文化的に大きな問題があり、大量の失業が発生し、社会が引き裂かれるだけだ」かのどちらかだ。

「AI チェルノブイリ」は今年か来年に登場する可能性がある

ヒントン氏は、新作長編ドキュメンタリー「AI:おそらく何も心配することはない」の上映前にコメントした。このタイトルはAIチャットボットによって提案されたものだと同氏は指摘した。この映画には、ヒントンとグーグルの元同僚であるディープマインドの責任者デミス・ハサビスが出演しており、英国では11月12日午後10時からチャンネル4で放送される。

「私には義務があると感じている」とヒントンはドキュメンタリーの中で語った。 「私にはスポークスマンとしての名声があるので、それをすべて燃やさなければなりません。」

彼の警告は具体的な前例に基づいたものだった。ヒントン氏は、OpenAIのAIエージェントがWebサイト「Hugging Face」へのハッキングを共謀した今夏の事件を、業界における1979年のスリーマイル島原子力発電所の部分メルトダウンに相当するもの、つまり、もっと悪いことが起きる前に警告を発したものだと考えていると述べた。

同氏は、1986年のソ連の核災害を引き合いに出し、「今年後半か来年のいずれかにチェルノブイリが見られるだろう。それだけで人々の注目を集めるのに十分かもしれない」と語った。

ヒントン氏が言う「チェルノブイリ」とは核による出来事を意味するものではない。彼の例は、「大規模な電圧低下」を引き起こす発電システムに対する AI を利用した攻撃や、金融システムが 1 週間ダウンするインシデントです。 「何が起こるか想像できますか？私たちはそこから立ち直ることはできますが、そうなると彼らは立ち上がって注目するでしょう」と彼は言った。 「彼ら」とは誰なのかとの質問には、「トランプ以外の世界の指導者たち」と答えた。

AI のボスに関するヒント: アルトマン、マスク、ザッカーバーグ

ヒントン氏の批判のかなりの部分は、フロンティア AI 競争をリードする幹部たちに向けられていました。同氏はガーディアン紙に対し、ChatGPTを開発したOpenAIのサム・アルトマン最高経営責任者（CEO）を「まったく」信頼していないと述べ、アルトマン氏が現在中国と最強のAIの構築を競い合っている数少ない米国のフロンティアAI企業の1社を経営していることを「非常に懸念している」と述べた。

「（マーク）ザッカーバーグや（イーロン）マスクやサム・アルトマンは、リスクを理解しているし、気にも留めていない。彼らはむしろお金があった方がいいと思う。それが私の信念だ」とヒントン氏は語った。

この評価はアルトマン氏の公の姿勢とは著しく対照的である。ガーディアン紙は、アルトマン氏が9月に「世界は我々が正しいことを行うと信じるべきだ。なぜならそれは正しいことであり、我々はこの事態の大きさを感じているからだ」と主張したと記している。一方、ドナルド・トランプ米大統領は、拘束力のある規則が米国の中国との競争を妨げる可能性があるとの懸念の中で、AIを制御するための「グローバリスト計画を構築するあらゆる試みを完全に拒否」し、最先端のAI企業が自らを規制することを望んでいると述べた。

AI モデルの FDA

こうした背景を背景に、ヒントン氏はより厳しい規制方針を支持している。それは、フロンティアAIモデルのテスト、独立した評価、政府間の共通基準の義務化を求める、フィンランドとシンガポール、ドイツ、カナダ、オーストラリアを含む他の32カ国の大統領が支持する計画だ。

同氏はまた、アンディ・バーナム首相が来年のG20議長国である英国を利用して、「リスクを守りながら可能性を最大限に引き出すことに重点を置いた単一の世界的な原則と基準」についての合意を求めると述べたことから、英国の役割も見込んでいる。

ヒントン氏が好むモデルは明らかに医学的なものです。同氏は、「医薬品に関してはアメリカのFDAのようなものが必要だ。そこで企業は、（AIモデルが）発売前に害よりも有益であるという非常に優れた統計的証拠を独立機関に提出しなければならない」と述べた。 「サリドマイドの件で、放出してから訴訟を起こすのは正しい方法ではないことが分かりました。大手テクノロジー企業が言っているのは、サリドマイドを私たちが治療したのと同じように扱うということです。」

「私の直感では、私たちはまだコントロールできていると思っています」

暗いシナリオは、比類のない地位を持った人物が作成したものです。ヒントン氏は約 44 年間にわたって AI に取り組み、1970 年代にニューラル ネットワークの概念を生み出し、機械学習の基礎的研究により 2024 年のノーベル物理学賞を共同受賞しました。同氏はリスクについて自由に話せるよう2023年にグーグルを退社し、当時AIシステムが「制御を強化することに夢中になると、我々は問題に陥る」と警告した。

彼の役割はJ・ロバート・オッペンハイマーと比較されるが、友人は彼にオッペンハイマー風の帽子を買ってくれたほどだが、彼はその類似を否定している。 「私はオッペンハイマーではなかった」と同氏は述べ、ニューラルネットワークの分野に貢献した他の何千人もの科学者を引き合いに出した。

あらゆる破滅的な構図にもかかわらず、ヒントンは条件付きで希望を述べてインタビューを終えた。 「私の直感では、我々はまだコントロールできていると思う」と彼は言った。 「何かができるかもしれない。それは私たちが大きな努力をしないとうまくいかないが、私たちはそれに大きな努力をするかもしれない。」

世界がその努力をするかどうかは、彼自身のタイムラインに照らして、この10年で答えが得られる問題であり、おそらくそれよりずっと前に答え​​が得られるだろう。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→