Google відкликав інструмент штучного інтелекту, який дозволяв користувачам малювати сфабриковані сцени поверх реальних супутникових зображень у Google Earth, змінюючи курс менше ніж через 48 годин після запуску на тлі попереджень, що ця функція може посилити дезінформацію.

Ця функція, заснована на генераторі зображень «Nano Banana 2» від Google, була представлена ​​в четвер, 30 липня 2026 року, і дозволяла будь-кому вводити текстове повідомлення та генерувати помилкові сценарії, накладені на справжні супутникові, повітряні та 3D-знімки. Щоб дізнатися про останні розробки інструментів ШІ, які формують галузь, слідкуйте за нашими найновішими новинами про ШІ на AI Buzz Wire.

У п’ятницю Google підтвердив, що призупиняє цю можливість, «поки ми працюємо над впровадженням міцніших огорож», посилаючись на скріншоти згенерованих зображень, які, здається, порушують її політику. Раптовий розворот стався одразу після розслідування BBC Verify, під час якого дослідники продемонстрували, як легко цей інструмент створював переконливі фейки з точним визначенням місця розташування.

Як працював інструмент

Nano Banana 2 інтегрований безпосередньо в Google Планета Земля, широко використовувану платформу картографування, на яку покладаються уряди, журналісти та громадськість для точного уявлення про планету. Функція штучного інтелекту створювала зображення на вимогу та розміщувала їх на базовому шарі реальних координат. Важливо те, що отримані зображення можна було завантажувати та ділитися ними в соціальних мережах та на інших платформах без очевидних ознак того, що вони були синтетичними.

Ця комбінація — винайдені візуальні ефекти, поєднані з справжніми географічними даними — найбільше стривожила дослідників.

Тривожні демонстрації

Під час тестування BBC Verify вдалося створити зображення зруйнованої Ейфелевої вежі, воронки, що поглинула Велику піраміду Гізи, і російських танків, розташованих у столиці України Києві.

Штучний інтелект та дослідник дезінформації Хенк ван Есс пішли далі, перш ніж інструмент було призупинено, створивши сфабриковані сцени неіснуючої атомної електростанції в Ірані, табору біженців на кордоні США та Мексики та фальшивої лікарні в Газі з кратером від бомби поруч.

«Фальшивка не повинна виглядати переконливо сама по собі. Вона успадковує достовірність карти, на якій вона народилася», — сказав ван Есс, описуючи, як Google дозволила «винайдені» зображення «зварити до справжніх координат, накреслити на справжніх зображеннях».

Водяні знаки, які не витримали

Google підкреслив, що контент, створений штучним інтелектом з його інструментів, містить невидимі водяні знаки, і що користувачі можуть перевірити підозрювані фейки за допомогою чат-бота Gemini або Google Lens.

Проте тестування BBC Verify показало, що можна обійти ці перевірки та обманом змусити Gemini підтвердити сфабриковані зображення Google Earth як справжні. Зовнішнім інструментам виявлення штучного інтелекту також не вдалося позначити деякі синтетичні зображення. Ці висновки підривають надійність гарантій, які Google позиціонує як захист від дезінформації, керованої ШІ.

Дослідник ШІ-детектора Генрі Айдер сказав BBC Verify, що сфабриковані зображення в зонах конфлікту можуть виявитися особливо «дестабілізуючими» під час швидкоплинних подій, коли достовірної інформації мало, а ставки найвищі.

Шаблон надмірної корекції

Цей епізод доповнює список гучних запусків штучного інтелекту, які компаніям довелося подолати. Сам Google зіткнувся з пильною увагою через неточне створення зображень у своїй моделі Gemini в 2024 році, і цикл швидкого розгортання-потім-відведення став постійною темою, оскільки технологічні фірми змагаються за надання генеративних функцій.

У цьому випадку унікальна небезпека випливала з самої платформи. Як Google визнав у своїй заяві: «Ми знаємо, що люди виключно довіряють Google Earth для надійного бачення світу», — що робить будь-яку ерозію цієї довіри особливо дорогою.

Відкат також відбувається у чутливий нормативний момент. Вимоги щодо прозорості Закону Європейського Союзу про штучний інтелект, які зобов’язують чітко позначати контент, створений штучним інтелектом, набули чинності 2 серпня 2026 року, через кілька днів після інциденту з Google Earth. Раніше в липні Google вже підписав кодекс практики ЄС щодо маркування контенту, створеного штучним інтелектом.

Що станеться далі

Google не повідомляє, коли та чи може ця функція повернутися. Компанія зазначила, що продовжить удосконалювати огорожі, але дослідники стверджують, що фундаментальна конструкція — накладання контенту, створеного штучним інтелектом, на надійні географічні дані — може бути надто небезпечною, щоб відправляти її у формі, яку можна завантажувати та ділитися без значно сильнішого контролю походження.

Для галузі, яка все ще бореться з тим, як збалансувати швидке розгортання штучного інтелекту та реальну шкоду, 48-годинний термін служби інструменту створення зображень штучного інтелекту Google Планета Земля є попередженням про розрив між тим, що штучний інтелект може створити, і тим, що він повинен створити.

Будьте попереду ШІ

Штучний інтелект розвивається швидко, а політики, які його формують, рухаються ще швидше. Додайте в закладки AI Buzz Wire для щоденного перевіреного висвітлення запусків, скасувань і правил, що визначають майбутнє штучного інтелекту.

Читати більше новин AI →