マイクロソフト社の社長によれば、牛乳や洗濯機は現在、人工知能よりも規制が厳しくなっているというが、ブラッド・スミス氏は、それはまったく逆行していると主張する。
日曜日に公開された発言の中でBBCのビッグ・ボス・インタビューに応じたスミス氏は、不正なAIエージェントによってシステムが侵害された場合に「被害者」に通知する法的義務や、AI製品の出荷前に独立した評価者がいつ承認すべきかを決定する枠組みなど、AIに関する世界的な安全ルールを求めた。同氏の発言は、米国企業が中国のライバルに劣勢にならないよう業界自体を規制すべきだと主張するドナルド・トランプ米大統領と公に対立している。 この件の詳細は、人工知能の最新情報をご覧ください。
「現在、洗濯機にはAIよりも多くの安全規則が適用されている」とスミス氏は言う。 「食料品店で見かけるすべての牛乳パックは、安全規則と検査の対象となります。」
ツールと武器
スミス氏はAIを緊急に規制する必要がある「ツールでもあり武器」でもあると述べ、「今日から始めましょう」と付け加えた。
彼の提案は通常の規制定型文よりも具体的でした。企業は、AI システムが制御不能になった場合に停止または速度を低下させることができる「緊急ブレーキ」 (業界ではキル スイッチと呼ばれるもの) を構築する必要があります。企業は、AIが不正行為を行った場合、インシデントレポートを作成し、被害者に通知することを法的に義務付けられるべきである。そして、独立した政府の評価者は、新しい AI テクノロジーをリリース前に精査する必要があります。
「私たちは他の製品でもこれを行う方法を知っています」とスミス氏は言う。 「私たちはその知識を基にして、それをAIに応用する方法を考える必要があります。」
この介入は、AI監視にとって熱狂的な週に上陸する。その数日前、マイクロソフト社の最高経営責任者（CEO）サティア・ナデラ氏は、人間がタスクの途中でAIシステムをシャットダウンできる緊急ブレーキを要求した。これは世界最大手のAIベンダーのトップとしては驚くべき立場であり、現在では一幹部の独り言というよりも会社の理念となっているようだ。
ホワイトハウスとの決別
スミス氏の見解は大統領の見解とは大きく異なる。トランプ大統領は「AIに勝った者が勝つ」と繰り返し述べており、AI開発の減速という考えを支持しているAnthropic、OpenAI、Google DeepMindの幹部らの呼びかけに反対してきた。
しかしスミス氏はまた、摩擦は見た目よりも小さいとも示唆した。先月末、トランプ大統領はOpenAI、Anthropic、Nvidia、SpaceX、Meta、Googleの首脳らをホワイトハウスに招き、幹部らは独立した監査人と連携して自社のAIシステムが意図したとおりに機能するかどうかを評価し、「意図しない方法で技術システムにハッキングしたりアクセス」しないよう約束する「道徳的拘束力のある」文書とされる文書に署名した。
スミス氏はこの声明を称賛し、マイクロソフトは「喜んで署名する」と述べた。しかし、「これは良いステップであり、必要なステップだ…しかし、もはや十分ではないと思う」とも付け加えた。
同氏の論拠は自主規制の中核問題に切り込んでおり、「優良企業は望むことをやってくれるだろう」と述べた。 「心配する必要があるのは、それほど責任を負っていない企業の方です。」
彼が英国が規則を作成すべきだと考える理由
インタビューの中で最も地政学的に内容が濃い部分は、世界的なAIルールの自然な作成者として英国をスミス氏が支持したことで、リシ・スナック元首相の政権下でAI安全性研究所として発足した英国AIセキュリティ研究所を指摘し、世界で最も強力なモデルをリリース前にテストしていると指摘した。
「テクノロジーの世界、テクノロジー分野で、私が知っているほとんどの人は、この技術力を備えたリーダー国の名前を尋ねると、とても簡単だと答えるでしょう。それは英国です。彼らは最高です」とスミス氏は語った。
同氏はまた、米国政府はブリュッセル型の規制よりも英国製の基準を容易に受け入れるだろうと主張し、「ワシントンDCでは人々が英国を見ていないし、ブリュッセルを見るようにロンドンを見ていない。それが強みだ」と語った。
彼の緊急性の主張は率直だった。 「人間の制御を逃れたAIエージェントや、世界のサイバーセキュリティを危険にさらすほど強力なモデルを見るとき、私はこう言いたい。『その瞬間が来た』と。」とスミス氏は語った。 「落ち着いて、おそらく穏やかに、しかししっかりと話し、人々を団結させ始めましょう。それが私たちが企業として果たせる役割であることを願っています。それが英国が国として果たせる役割であることを願っています。」
技術政策における珍しい分割画面
現職の社長が自身の業界に対するより厳しい規則を求めてロビー活動をする一方で、CEOが別の段階から同じ主張をするのは異例だ。ナデラ氏の緊急ブレーキとスミス氏のインシデント報告、被害者通知、独立した評価の義務化など、Microsoftの介入の対立は、少なくとも1つの大手ベンダーが、能力ではなく信頼がAI導入に対する拘束力のある制約になりつつあると結論付けたことを示している。
彼らはまた、英国政府にタイムリーな議論を提供します。ホワイトホールは過去1週間、自国の情報長官らからの警告を吸収することに費やし、一方閣僚らは米国政府がこれまで署名を拒否してきたAI安全基準の調整を求める国際的な呼びかけに参加するかどうかを検討している。マイクロソフト社の社長が英国がルールブックを作成するのに「最良の」立場にあると述べたことで、ダウニング街は正当性を認められるとともに、無視するのは難しい招待状を手に入れることになる。
スミス氏の牛乳パックの構図がワシントンでの票を変えるかどうかは別の問題だ。しかし、AIの最大手建設企業の1社が規制議論の行き先、つまり強制ブレーキ、義務報告、独立した承認を望んでいることを表明するものとして、このインタビューは自主的な誓約から強制力のあるルールへの移行の目印として記憶されるかもしれない。
---
AIの最新情報をお届けAIの最新ニュース、分析、ブレイクスルーを一箇所で。
AIニュースをもっと読む →
