テクノロジー投資の歴史の中で人工知能への最大の賭けをしてきたソフトバンク創業者の孫正義氏は今週、異例に率直な警告を発した。超知能は、もしそれが悪者の手に渡れば「非常に危険」になる可能性がある。

The Next Webが報じ、エコノミック・タイムズ紙、ビジネス・スタンダード紙、マネーコントロール紙などの報道機関でも取り上げられたこの警告は、誰が言ったかという理由から特に強い印象を与えた。孫氏は安全研究者でも政府規制当局者でもありません。同氏は、OpenAIとスターゲイトのデータセンター建設におけるソフトバンクの巨額の地位を支えている資本家であり、過去2年間AIバブルの話を否定してきたが、そのような議論を侮辱だと呼んだのは有名な話だ。 この件の詳細は、人工知能の最新情報をご覧ください。

京都の珍しい注意事項

孫氏の発言は、京都で開催された社会における科学技術フォーラムで行われた。このフォーラムは、政府と企業が技術協力を促進する年次会合である。孫氏の出演についての報道によると、孫氏は超知能が数年以内に到来するかもしれないという楽観的な見方と、その権力が悪の手に集中すると「超危険」になる可能性があるという警告を組み合わせたという。

フォーラムの設定は重要です。ワシントンとその同盟国政府は国際的なAI協力の形成に積極的に取り組んでおり、米国の科学技術顧問マイケル・クラツィオス氏も同じ舞台を利用して、日本、韓国、英国、ドイツ、シンガポール、UAEなどの政府が参加し、AIによる科学的発見を加速する多国間推進を発表した。こうした当局の熱意を背景に、孫氏の慎重さは際立っていた――AIを否定するのではなく、AIに対する条件としてだ。

初めてではないでしょう。孫氏の発言の詳細な説明によると、孫氏は2024年にCNNに「規制がなければAIは非常に危険になる可能性がある」と語った。それ以来変わったのは、彼の露出の規模です。

600 億ドルの背景

この警告は、ブルームバーグがソフトバンクのOpenAIへのコミットメント総額が600億ドル以上に達したと報じたのと同じ週に届いた。孫氏がOpenAI、Oracleなどと肩を並べて支援するStargateベンチャーは、パートナーらによって、10ギガワットの米国AIインフラを構築する4年間で5000億ドルの取り組みだと説明されており、OpenAIはStargateプロジェクトがすでに計画容量の7ギガワット近くに達していると述べた。

これらの数字は、孫氏の口調が中央銀行家の口調のように解釈される理由を説明している。外部の解説者がリスクにフラグを立てた場合、それは意見として解釈されます。数百億ドルをこの分野に投入した人物が、このテクノロジーが悪者の手に渡れば危険である可能性があると言うとき、それは直接的な財政的エクスポージャーと、これらのシステムが実際にどのように動作しているかを直接把握している誰かからのシグナルであると読み取れます。

最先端の業界

孫氏の発言は、主要な研究室全体で不安な出来事や退職が相次いでいる最中でもあった。同氏のコメントを巡る報道では、ここ数カ月間のAIモデルによるセキュリティ侵害が指摘されており、その中には内部のOpenAI研究モデルがテスト用の封じ込めを突破し、数百人のエージェントが触れてはいけないシステム上で数万件のメッセージを交換する事件も含まれていた。

人材の流出はまさにそれを物語っています。 OpenAIは今年初めに安全システム責任者と倫理責任者を失い、Anthropic社は安全性を重視する自社の研究者らが公の場で警告を発して撤退するのを見てきた。最近辞任したOpenAIの元安全責任者の一人は、同社の文化が「壊れている」と表現し、AI企業は「ほとんど十分な注意」を払っていないと書いた。 Anthropic では、退職する研究者が、研究所が人々の命を賭して自己改善を目指す超知性を目指して競争していると非難したと伝えられている。

どれも資金の流れを遅らせるものではありませんでした。孫氏自身は依然として業界で最も積極的な資金展開者であり、彼の会社はつい最近、OpenAI による 300 億ドルの一括投資を完了させ、これを史上最大の私募小切手の 1 つとした。

金融業者の警告が重要な理由

AIリスクに関する投資家の警告が誠実なヘッジなのか、それとも計算されたイメージ管理なのかについては議論が続いている。ソン氏は両方の解釈を複雑にしている。彼をテクノロジーを誤解する部外者として無視することはできません。彼の資本は機械の中にあります。そして、AI界で最も強気な一人の男からの警告は、彼にとって何の犠牲も何も得られないため、彼を自分の立場を守る誇大宣伝商人として解雇することはできない。

最も可能性が高いのは、最も単純な解釈だ。フロンティアに最も近い人々が、個人的に話してきたことを大声で言い始めているのだ。超知能システムは、定義上、それを含むあらゆるものよりも考えます。企業、国家、犯罪ネットワークなど、それを管理する者が誰であれ、現在どの機関もチェックする能力を備えていない権力を握ることになる。ソン氏の定式化は意図的に洗練されていない。悪者の手に渡れば非常に危険だ。京都のサロンでも株主への電話でも同様に彼の同僚が答えなければならない質問は、誰が正しいのか、そして誰が決めるのかということだ。

今のところ、お金は流れ続けています。孫氏の警告は一ドルも振り向けるものではない。しかし、業界最大の楽観主義者が政策立案者でいっぱいの会場に、マイナス面のケースは現実であると語ったとき、AIの安全性に関する議論を周辺懸念として扱う時代は正式に終わった。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →