Google отозвал инструмент искусственного интеллекта, который позволял пользователям рисовать сфабрикованные сцены поверх реальных спутниковых изображений в Google Earth, изменив курс менее чем через 48 часов после запуска на фоне предупреждений о том, что эта функция может привести к увеличению дезинформации.

Эта функция, основанная на генераторе изображений Google «Nano Banana 2», была представлена ​​в четверг, 30 июля 2026 года, и позволяла любому набирать текстовую подсказку и генерировать ложные сценарии, наложенные на подлинные спутниковые, аэрофотоснимки и 3D-изображения. Чтобы узнать о последних разработках в области инструментов искусственного интеллекта, формирующих отрасль, следите за нашим [освещением последних новостей об искусственном интеллекте на AI Buzz Wire] (https://aibuzzwire.news).

К пятнице Google подтвердил, что приостанавливает эту возможность, «пока мы работаем над внедрением более надежных ограждений», сославшись на скриншоты сгенерированных изображений, которые, по всей видимости, нарушают его политику. Резкий поворот произошел сразу после расследования BBC Verify, в ходе которого исследователи продемонстрировали, насколько легко этот инструмент может создавать убедительные фейки с точностью до местоположения.

Как работал инструмент

Nano Banana 2 интегрирован непосредственно в Google Earth, широко используемую картографическую платформу, на которую полагаются правительства, журналисты и общественность для получения точного представления о планете. Функция искусственного интеллекта генерировала изображения по запросу и помещала их поверх базового слоя реальных координат. Важно отметить, что полученные изображения можно было загружать и публиковать в социальных сетях и на других платформах без явного указания на то, что они синтетические.

Эта комбинация — изобретенные визуальные эффекты, совмещенные с подлинными географическими данными — больше всего встревожила исследователей.

Тревожные демонстрации

В ходе тестирования BBC Verify удалось создать изображения рухнувшей Эйфелевой башни, провала, поглотившего Великую пирамиду Гизы, и российских танков, расположенных в столице Украины Киеве.

Исследователь искусственного интеллекта и дезинформации Хенк ван Эсс пошел еще дальше, прежде чем инструмент был приостановлен, создав сфабрикованные сцены несуществующей атомной электростанции в Иране, лагеря беженцев на границе США и Мексики и фальшивой больницы в Газе с воронкой от бомбы рядом с ней.

«Подделка не обязательно должна выглядеть убедительно сама по себе. Она наследует достоверность карты, на которой была создана», — сказал ван Эсс, описывая, как Google позволил «придуманным» изображениям «привариваться к подлинным координатам, нарисованным на подлинных изображениях».

Водяные знаки, которые не выдержали

Google подчеркнул, что контент, созданный с помощью ИИ с помощью его инструментов, имеет невидимые водяные знаки и что пользователи могут проверять подозрительные фейки через чат-бота Gemini или Google Lens.

Однако тестирование BBC Verify показало, что можно обойти эти проверки и обманом заставить Gemini подтвердить, что сфабрикованные изображения Google Earth настоящие. Внешние инструменты обнаружения искусственного интеллекта также не смогли обнаружить некоторые синтетические изображения. Результаты подрывают надежность мер безопасности, которые Google позиционирует как защиту от дезинформации, основанной на искусственном интеллекте.

Исследователь искусственного интеллекта Генри Эйдер рассказал BBC Verify, что сфабрикованные изображения в зонах конфликтов могут оказаться особенно «дестабилизирующими» во время быстро развивающихся событий, когда достоверной информации недостаточно, а ставки высоки.

Модель чрезмерной коррекции

Этот эпизод пополнил растущий список громких запусков искусственного интеллекта, от которых компаниям пришлось отказаться. Сама Google столкнулась с критикой из-за неточной генерации изображений в своей модели Gemini в 2024 году, и быстрый цикл развертывания и отказа стал повторяющейся темой, поскольку технологические компании спешат внедрить генеративные функции.

В данном случае уникальная опасность исходила от самой платформы. Как признал Google в своем заявлении: «Мы знаем, что люди однозначно доверяют Google Earth как надежному представлению о мире», поэтому любое подрыв этого доверия обходится особенно дорого.

Откат также происходит в чувствительный момент регулирования. Требования прозрачности Закона Европейского Союза об искусственном интеллекте, которые требуют четкой маркировки контента, созданного искусственным интеллектом, вступили в силу 2 августа 2026 года, всего через несколько дней после инцидента с Google Earth. Ранее в июле Google уже подписала свод правил ЕС по маркировке контента, создаваемого искусственным интеллектом.

Что будет дальше

Google не сообщил, когда и может ли эта функция вернуться. Компания заявила, что продолжит совершенствовать защитные ограждения, но исследователи утверждают, что фундаментальная концепция — наложение контента, сгенерированного ИИ, на проверенные географические данные — может быть слишком опасной, чтобы поставлять ее в загружаемой и общедоступной форме без гораздо более строгого контроля происхождения.

Для отрасли, которая все еще пытается найти баланс между быстрым внедрением ИИ и реальным ущербом, 48-часовой срок службы инструмента изображений ИИ Google Earth является предостережением о разрыве между тем, что ИИ может создать, и тем, что он должен.

Будьте впереди ИИ

ИИ развивается быстро, а политика, формирующая его, движется еще быстрее. Добавьте в закладки AI Buzz Wire для ежедневного, проверенного фактами освещения запусков, отмены и правил, определяющих будущее искусственного интеллекта.

Читать больше новостей об искусственном интеллекте →