Google wycofało narzędzie sztucznej inteligencji, które pozwalało użytkownikom malować sfabrykowane sceny na prawdziwych zdjęciach satelitarnych w Google Earth, zmieniając kurs niecałe 48 godzin po uruchomieniu w związku z ostrzeżeniami, że funkcja ta może nasilić dezinformację.
Ta funkcja, obsługiwana przez generator obrazów „Nano Banana 2” firmy Google, została wprowadzona w czwartek 30 lipca 2026 r. i umożliwiała każdemu wpisanie monitu tekstowego i wygenerowanie fałszywych scenariuszy nałożonych na prawdziwe zdjęcia satelitarne, lotnicze i 3D. Aby uzyskać najnowsze informacje na temat narzędzi AI kształtujących branżę, śledź nasze najświeższe wiadomości dotyczące sztucznej inteligencji w AI Buzz Wire.
W piątek Google potwierdził, że wstrzymuje tę funkcję „na czas pracy nad wdrożeniem silniejszych barier ochronnych”, powołując się na zrzuty ekranu z wygenerowanymi obrazami, które najwyraźniej naruszają zasady firmy. Nagłe odwrócenie decyzji nastąpiło bezpośrednio po dochodzeniu BBC Verify, podczas którego badacze wykazali, jak łatwo narzędzie może tworzyć przekonujące podróbki uwzględniające dokładną lokalizację.
Jak działało to narzędzie
Nano Banana 2 jest zintegrowany bezpośrednio z Google Earth, powszechnie używaną platformą mapową, na której rządy, dziennikarze i społeczeństwo polegają, jeśli chodzi o dokładny obraz planety. Funkcja AI generowała obrazy na żądanie i umieszczała je na warstwie bazowej rzeczywistych współrzędnych. Co najważniejsze, powstałe obrazy można było pobrać i udostępnić w mediach społecznościowych i innych platformach bez wyraźnej oznaki, że są one syntetyczne.
Ta kombinacja – wymyślone wizualizacje połączone z autentycznymi danymi geograficznymi – najbardziej zaniepokoiła badaczy.
Alarmujące demonstracje
Podczas testów BBC Verify udało się wygenerować zdjęcia zawalonej Wieży Eiffla, zapadliska połykającego Wielką Piramidę w Gizie oraz rosyjskich czołgów ustawionych w stolicy Ukrainy, Kijowie.
Henk van Ess, badacz sztucznej inteligencji i dezinformacji, posunął się jeszcze dalej, zanim narzędzie zostało zawieszone, tworząc sfabrykowane sceny przedstawiające nieistniejącą elektrownię jądrową w Iranie, obóz dla uchodźców na granicy USA-Meksyk oraz fałszywy szpital w Gazie z lejem po bombie obok.
„Fałszerstwo samo w sobie nie musi wyglądać przekonująco. Dziedziczy wiarygodność mapy, na której się urodził” – powiedział van Ess, opisując, jak Google pozwolił, aby „wymyślone” obrazy „połączono z prawdziwymi współrzędnymi i narysowano na prawdziwych obrazach”.
Znaki wodne, które nie wytrzymały
Google podkreśliło, że treści generowane przez sztuczną inteligencję z jego narzędzi zawierają niewidoczne znaki wodne i że użytkownicy mogą weryfikować podejrzane podróbki za pośrednictwem chatbota Gemini lub Google Lens.
Jednak testy przeprowadzone przez BBC Verify wykazały, że można ominąć te kontrole i oszukać firmę Gemini, aby potwierdziła, że sfabrykowane obrazy Google Earth są prawdziwe. Zewnętrzne narzędzia do wykrywania sztucznej inteligencji również nie oznaczyły niektórych syntetycznych obrazów. Odkrycia podważają wiarygodność zabezpieczeń, które Google umieścił jako ochronę przed dezinformacją napędzaną przez sztuczną inteligencję.
Badacz zajmujący się wykrywaniem sztucznej inteligencji, Henry Ajder, powiedział BBC Verify, że sfabrykowane obrazy w strefach konfliktu mogą okazać się szczególnie „destabilizujące” podczas szybko zmieniających się wydarzeń, gdy brakuje wiarygodnych informacji, a stawka jest najwyższa.
Wzorzec nadmiernej korekty
Odcinek ten uzupełnia rosnącą listę głośnych premier AI, z którymi firmy musiały się wycofać. Sam Google stanął w obliczu kontroli w związku z niedokładnym generowaniem obrazów w swoim modelu Gemini w 2024 r., a szybki cykl wdrażania, a następnie wycofywania stał się powracającym tematem, gdy firmy technologiczne ścigają się w dostarczaniu funkcji generatywnych.
W tym przypadku wyjątkowe zagrożenie wynikało z samej platformy. Jak Google przyznał w swoim oświadczeniu: „Wiemy, że ludzie wyjątkowo ufają Google Earth w zakresie wiarygodnego obrazu świata”, co sprawia, że jakakolwiek erozja tego zaufania jest szczególnie kosztowna.
Wycofanie zmian następuje również w delikatnym momencie regulacyjnym. Wymogi przejrzystości unijnej ustawy o sztucznej inteligencji, które nakładają obowiązek jasnego oznaczania treści generowanych przez sztuczną inteligencję, weszły w życie 2 sierpnia 2026 r., zaledwie kilka dni po incydencie z Google Earth. Google podpisał już na początku lipca unijny kodeks postępowania dotyczący etykietowania treści generowanych przez sztuczną inteligencję.
Co stanie się dalej
Google nie powiedziało, kiedy i czy funkcja może powrócić. Firma wskazała, że będzie w dalszym ciągu udoskonalać poręcze ochronne, ale badacze argumentowali, że podstawowy projekt – nakładanie treści generowanych przez sztuczną inteligencję na zaufane dane geograficzne – może być zbyt niebezpieczny, aby dostarczać je w formie umożliwiającej pobranie i udostępnianie bez znacznie ściślejszej kontroli pochodzenia.
Dla branży, która wciąż zmaga się z problemem zrównoważenia szybkiego wdrożenia sztucznej inteligencji ze szkodami w świecie rzeczywistym, 48-godzinny czas życia narzędzia do tworzenia obrazów sztucznej inteligencji w Google Earth stanowi przestrogę dotyczącą luki między tym, co sztuczna inteligencja może stworzyć, a tym, co powinna.
Wyprzedź sztuczną inteligencję
Sztuczna inteligencja rozwija się szybko, a kształtujące ją polityki działają jeszcze szybciej. Dodaj do zakładek AI Buzz Wire, aby codziennie przeglądać sprawdzone relacje na temat startów, cofnięć i przepisów określających przyszłość sztucznej inteligencji.
Przeczytaj więcej aktualności o sztucznej inteligencji →
