谷歌已经撤回了一项人工智能工具，该工具允许用户在谷歌地球的真实卫星图像上绘制虚构的场景，该工具在推出后不到 48 小时就改变了方向，并警告称该功能可能会加剧错误信息。

该功能由 Google 的“Nano Banana 2”图像生成器提供支持，于 2026 年 7 月 30 日星期四推出，允许任何人输入文本提示并在真实的卫星、航空和 3D 图像上生成虚假场景。有关塑造行业的人工智能工具的最新发展，请关注我们的 AI Buzz Wire 上的重大人工智能新闻报道。

到周五，谷歌证实，“在我们努力实施更强大的护栏时”，它正在暂停该功能，并援引了似乎违反其政策的生成图像的屏幕截图。这种突然的逆转是在BBC verify调查之后发生的，研究人员在调查中展示了该工具如何轻松地制造出令人信服的、位置准确的假货。

该工具如何工作

Nano Banana 2 直接集成到 Google Earth 中，Google Earth 是广泛使用的地图平台，政府、记者和公众依靠它来准确了解地球。人工智能功能根据需要生成图像，并将其放置在真实坐标的基础层上。至关重要的是，生成的图像可以在社交媒体和其他平台上下载和共享，并且没有明显迹象表明它们是合成的。

这种组合——发明的视觉效果与真实的地理数据融合——是最令研究人员震惊的。

令人震惊的示威

在测试过程中，BBC verify 能够生成倒塌的埃菲尔铁塔、吞噬吉萨大金字塔的天坑以及驻扎在乌克兰首都基辅的俄罗斯坦克的图像。

人工智能和虚假信息研究员 Henk van Ess 在该工具被暂停之前更进一步，制作了伊朗一座不存在的核电站、美墨边境一座难民营以及加沙一座旁边有弹坑的假医院的虚假场景。

范·埃斯说：“伪造品本身不必看起来令人信服。它继承了它所诞生的地图的可信度。”他描述了谷歌如何允许“发明的”图像“焊接到真实的坐标上，绘制在真实的图像上”。

不存在的水印

谷歌强调，其工具中人工智能生成的内容带有隐形水印，用户可以通过 Gemini 聊天机器人或 Google Lens 验证可疑的假货。

然而，BBC verify 的测试发现，可以绕过这些检查并欺骗 Gemini 确认捏造的 Google 地球图像是真实的。外部人工智能检测工具也未能标记一些合成图像。这些调查结果削弱了谷歌针对人工智能驱动的错误信息所采取的防御措施的可靠性。

人工智能检测研究员亨利·阿杰德 (Henry Ajder) 告诉 BBC verify，在可靠信息稀缺且风险最高的快速发展事件中，冲突地区伪造的图像可能会特别“破坏稳定”。

过度矫正的模式

这一事件又增加了越来越多的公司不得不撤回的高调人工智能发布清单。 2024 年，谷歌本身也因其 Gemini 模型中的图像生成不准确而面临审查，随着科技公司竞相推出生成功能，快速部署-然后撤回周期已成为反复出现的主题。

在这种情况下，独特的危险源于平台本身。正如谷歌在其声明中承认的那样，“我们知道，人们唯一信任谷歌地球能够提供可靠的世界观”——这使得这种信任的任何侵蚀都将付出特别高昂的代价。

此次回滚也是在敏感的监管时刻发生的。欧盟《人工智能法案》透明度要求于 2026 年 8 月 2 日生效，即 Google 地球事件发生几天后，该要求要求对人工智能生成的内容进行明确标记。谷歌已于 7 月初签署了欧盟关于人工智能生成内容标签的行为准则。

接下来会发生什么

谷歌尚未透露该功能何时或是否会回归。该公司表示将继续完善护栏，但研究人员认为，基本设计——将人工智能生成的内容分层到可信的地理数据上——可能太危险，无法在没有更强大的出处控制的情况下以可下载、可共享的形式发布。

对于一个仍在努力平衡快速人工智能部署与现实世界危害之间平衡的行业来说，谷歌地球人工智能图像工具的 48 小时生命周期是一个关于人工智能可以创造的东西和它应该创造的东西之间差距的警示故事。

保持人工智能领先地位

人工智能正在快速发展，而塑造人工智能的政策则发展得更快。为 AI Buzz Wire 添加书签，获取有关定义人工智能未来的发布、逆转和法规的每日事实核查报道。

阅读更多人工智能新闻 →