Google har dragit tillbaka ett verktyg för artificiell intelligens som låter användare måla tillverkade scener ovanpå verkliga satellitbilder i Google Earth, och vänder kursen mindre än 48 timmar efter lanseringen, bland varningar om att funktionen kan överbelasta desinformation.
Funktionen, som drivs av Googles bildgenerator "Nano Banana 2", introducerades torsdagen den 30 juli 2026 och gjorde det möjligt för vem som helst att skriva en textuppmaning och generera falska scenarier över äkta satellit-, flyg- och 3D-bilder. För den senaste utvecklingen av AI-verktyg som formar branschen, följ vår brytande AI-nyhet på AI Buzz Wire.
På fredagen bekräftade Google att det pausade funktionen "medan vi arbetar med att implementera starkare skyddsräcken", med hänvisning till skärmdumpar av genererade bilder som verkade bryta mot dess policy. Den plötsliga vändningen kom direkt efter en BBC Verify undersökning där forskare visade hur lätt verktyget kunde producera övertygande, platsexakta förfalskningar.
Hur verktyget fungerade
Nano Banana 2 integreras direkt i Google Earth, den mycket använda kartplattformen som regeringar, journalister och allmänheten litar på för att få en korrekt bild av planeten. AI-funktionen genererade bilder på begäran och placerade den över ett baslager av riktiga koordinater. Avgörande var att de resulterande bilderna kunde laddas ner och delas på sociala medier och andra plattformar utan någon uppenbar indikation på att de var syntetiska.
Den kombinationen – uppfunna bilder sammansmälta med äkta geografiska data – är det som skrämde forskarna mest.
Alarmerande demonstrationer
Under testningen kunde BBC Verify skapa bilder av ett kollapsat Eiffeltorn, ett slukhål som sväljer den stora pyramiden i Giza och ryska stridsvagnar placerade i Ukrainas huvudstad Kiev.
AI- och desinformationsforskaren Henk van Ess gick längre innan verktyget avbröts och producerade påhittade scener av ett obefintligt kärnkraftverk i Iran, ett flyktingläger vid gränsen mellan USA och Mexiko och ett falskt sjukhus i Gaza med en bombkrater bredvid.
"Förfalskningen behöver inte se övertygande ut på egen hand. Den ärver trovärdigheten hos kartan den föddes på", sa van Ess och beskrev hur Google hade låtit "uppfunna" bilder "svetsas till äkta koordinater, ritade på äkta bilder".
Vattenstämplar som inte höll i sig
Google har betonat att AI-genererat innehåll från dess verktyg har osynliga vattenstämplar och att användare kan verifiera misstänkta förfalskningar via Gemini chatbot eller Google Lens.
BBC Verifys testning visade dock att det var möjligt att kringgå dessa kontroller och lura Gemini att bekräfta att tillverkade Google Earth-bilder är verkliga. Externa verktyg för upptäckt av AI misslyckades heller med att flagga en del av de syntetiska bilderna. Resultaten underskrider tillförlitligheten hos de skyddsåtgärder som Google har placerat som ett försvar mot AI-driven desinformation.
AI-detektionsforskaren Henry Ajder sa till BBC Verify att tillverkade bilder i konfliktområden kan visa sig vara särskilt "destabiliserande" under snabbrörliga händelser där tillförlitlig information är knapp och insatserna är högst.
Ett mönster av överkorrigering
Avsnittet lägger till en växande lista över högprofilerade AI-lanseringar som företag har fått gå tillbaka. Google själv ställdes inför granskning över felaktig bildgenerering i sin Gemini-modell 2024, och cykeln för snabb implementering och sedan tillbakadragning har blivit ett återkommande tema när teknikföretag tävlar om att leverera generativa funktioner.
I det här fallet berodde den unika faran på själva plattformen. Som Google erkände i sitt uttalande, "Vi vet att människor på ett unikt sätt litar på Google Earth för en tillförlitlig bild av världen" - vilket gör varje urholkning av det förtroendet särskilt kostsamt.
Återställningen kommer också i ett känsligt regleringsögonblick. Europeiska unionens AI Act transparenskrav, som kräver tydlig märkning av AI-genererat innehåll, trädde i kraft den 2 augusti 2026, bara några dagar efter Google Earth-incidenten. Google hade redan undertecknat EU:s uppförandekod för märkning av AI-genererat innehåll tidigare i juli.
Vad händer härnäst
Google har inte sagt när eller om funktionen kan komma tillbaka. Företaget indikerade att det skulle fortsätta att förfina skyddsräcken, men forskare har hävdat att den grundläggande designen – skiktning av AI-genererat innehåll över betrodda geografiska data – kan vara för farligt för att skickas i en nedladdningsbar, delbar form utan mycket starkare härkomstkontroller.
För en bransch som fortfarande brottas med hur man ska balansera snabb AI-utbyggnad mot verklig skada, står 48-timmars livslängden för Google Earths AI-bildverktyg som en varnande berättelse om klyftan mellan vad AI kan skapa och vad den borde.
Ligg före AI
AI rör sig snabbt, och policyerna som formar den rör sig ännu snabbare. Bokmärk AI Buzz Wire för daglig, faktagranskad täckning av lanseringar, återföringar och regleringar som definierar framtiden för artificiell intelligens.
Läs mer AI-nyheter →
