Google、誤情報の反発を受けてEarth AI画像ツールを48時間以内に排除

Googleは、専門家が紛争地域やランドマークの衛星画像を捏造できることを示してから48時間以内に、Nano Banana 2 AI画像生成装置をGoogle Earthから削除した。何が起こったのかを説明します。

Googleは、ユーザーがGoogle Earth上で実際の衛星画像の上に捏造された風景を描くことを可能にする人工知能ツールを撤回し、この機能が誤った情報を増大させる可能性があるとの警告が出る中、発売から48時間も経たないうちに方針を転換した。

Google の「Nano Banana 2」画像ジェネレーターを利用したこの機能は、2026 年 7 月 30 日木曜日に導入され、誰でもテキストプロンプトを入力し、本物の衛星画像、航空写真、3D 画像に重ねられた偽のシナリオを生成できるようになりました。業界を形成する AI ツールの最新動向については、AI Buzz Wire での AI ニュース速報をご覧ください。

Googleは金曜日までに、ポリシーに違反していると思われる生成された画像のスクリーンショットを引用し、「より強力なガードレールの実装に取り組んでいる間」この機能を一時停止することを認めた。この突然の逆転は、BBC Verify の調査の直後に起こり、研究者らはこのツールがいかに簡単に説得力のある正確な位置情報の偽物を生成できるかを実証した。

ツールの仕組み

Nano Banana 2 は、政府、ジャーナリスト、一般の人々が地球を正確に把握するために信頼している、広く使用されている地図作成プラットフォームである Google Earth に直接統合されました。 AI 機能はオンデマンドで画像を生成し、それを実際の座標のベースレイヤー上に配置しました。重要なのは、結果として得られた画像は、合成であるという明らかな兆候なしにダウンロードされ、ソーシャルメディアやその他のプラットフォームで共有される可能性があるということです。

その組み合わせ、つまり本物の地理データと融合した発明されたビジュアルは、研究者を最も警戒させたものです。

憂慮すべきデモ

BBC Verifyはテスト中に、崩壊したエッフェル塔、ギザの大ピラミッドを飲み込む陥没穴、ウクライナの首都キエフに配置されたロシアの戦車などの画像を生成することができた。

AIと誤情報の研究者ヘンク・ファン・エス氏は、このツールが停止される前にさらに研究を進め、イランの存在しない原子力発電所、米国とメキシコの国境にある難民キャンプ、爆撃口が横にあるガザの偽の病院などの捏造シーンを作成した。

「偽造はそれ自体で説得力があるように見える必要はない。それが生まれた地図の信頼性を引き継いでいる」とヴァン・エス氏は述べ、グーグルがどのようにして「発明した」画像を「本物の画像に描かれた本物の座標に溶接」することを許可していたのかを説明した。

耐えられなかった透かし

Googleは、自社ツールからAIが生成したコンテンツには目に見えない透かしが入っており、ユーザーはGeminiチャットボットやGoogleレンズを通じて偽物の疑いがあることを確認できると強調している。

しかし、BBC Verifyのテストでは、これらのチェックを回避し、ジェミニを騙して、捏造されたGoogle Earth画像が本物であることを確認させることが可能であることが判明した。外部の AI 検出ツールも、一部の合成画像にフラグを立てることができませんでした。この調査結果は、AIによる誤った情報に対する防御策としてGoogleが位置付けている安全策の信頼性を損なうものだった。

AI探知研究者のヘンリー・アジダー氏はBBC Verifyに対し、紛争地域での捏造画像は、信頼できる情報が不足し、リスクが最も高まる急速に変化する出来事の際には特に「不安定化」する可能性があると語った。

過剰修正のパターン

このエピソードは、企業が撤退を余儀なくされた注目のAI製品のリストにさらに加わることになる。 Google自体も2024年にGeminiモデルにおける不正確な画像生成を巡って厳しい追及に直面しており、テクノロジー企業が生成機能の出荷を競う中、急速な展開と撤回のサイクルが繰り返し取り上げられるテーマとなっている。

この場合、特有の危険はプラットフォーム自体に起因していました。 Google が声明で認めたように、「人々は信頼できる世界観として Google Earth を独自に信頼している」ため、その信頼が失われると特にコストが高くなります。

このロールバックは、規制上のデリケートな時期にも行われる。 AI によって生成されたコンテンツの明確なラベル表示を義務付ける欧州連合の AI 法の透明性要件は、Google Earth 事件のわずか数日後の 2026 年 8 月 2 日に発効しました。 Googleはすでに7月初めに、AI生成コンテンツのラベル付けに関するEUの実践規範に署名していた。

次に何が起こるか

Googleは、この機能がいつ復活するか、あるいは復活するかどうかについては明らかにしていない。同社はガードレールの改良を継続する意向を示したが、研究者らは、AIが生成したコンテンツを信頼できる地理データの上に重ねるという基本設計は、はるかに強力な出所管理なしでダウンロード可能で共有可能な形式で出荷するには危険すぎる可能性があると主張している。

AI の急速な導入と現実世界への被害とのバランスをどう取るかに未だに取り組んでいる業界にとって、Google Earth の AI 画像ツールの寿命 48 時間は、AI が作成できるものと、AI が作成すべきものとの間のギャップについての警鐘となります。