Google heeft een hulpmiddel voor kunstmatige intelligentie teruggetrokken waarmee gebruikers verzonnen scènes konden schilderen bovenop echte satellietbeelden in Google Earth, waarbij de koers minder dan 48 uur na de lancering werd omgedraaid te midden van waarschuwingen dat de functie desinformatie zou kunnen aanwakkeren.

De functie, mogelijk gemaakt door Google's "Nano Banana 2" -beeldgenerator, werd geïntroduceerd op donderdag 30 juli 2026 en stelde iedereen in staat een tekstprompt te typen en valse scenario's te genereren over echte satelliet-, lucht- en 3D-beelden heen. Voor de laatste ontwikkelingen op het gebied van AI-tools die de industrie vormgeven, volgt u onze [belangrijke AI-nieuwsverslaggeving op AI Buzz Wire] (https://aibuzzwire.news).

Vrijdag bevestigde Google dat het de mogelijkheid onderbrak "terwijl we werken aan het implementeren van sterkere vangrails", daarbij verwijzend naar screenshots van gegenereerde beelden die in strijd leken te zijn met het beleid van Google. De abrupte ommekeer kwam direct na een onderzoek van BBC Verify waarin onderzoekers aantoonden hoe gemakkelijk de tool overtuigende, locatienauwkeurige vervalsingen kon produceren.

Hoe de tool werkte

Nano Banana 2 is rechtstreeks geïntegreerd in Google Earth, het veelgebruikte kaartplatform waarop overheden, journalisten en het publiek vertrouwen voor een nauwkeurig beeld van de planeet. De AI-functie genereerde op verzoek beelden en plaatste deze over een basislaag met echte coördinaten. Cruciaal was dat de resulterende afbeeldingen konden worden gedownload en gedeeld op sociale media en andere platforms zonder duidelijke aanwijzingen dat ze synthetisch waren.

Die combinatie – verzonnen beelden gecombineerd met echte geografische gegevens – is wat onderzoekers het meest verontrustte.

Alarmerende demonstraties

Tijdens tests kon BBC Verify beelden genereren van een ingestorte Eiffeltoren, een zinkgat dat de Grote Piramide van Gizeh opslokte, en Russische tanks die in de Oekraïense hoofdstad Kiev stonden opgesteld.

AI- en desinformatie-onderzoeker Henk van Ess ging nog verder voordat de tool werd opgeschort en produceerde verzonnen scènes van een niet-bestaande kerncentrale in Iran, een vluchtelingenkamp aan de grens tussen de VS en Mexico en een nepziekenhuis in Gaza met een bomkrater ernaast.

"De vervalsing hoeft er op zichzelf niet overtuigend uit te zien. Het erft de geloofwaardigheid van de kaart waarop het is geboren", zei Van Ess, waarin hij beschreef hoe Google had toegestaan ​​dat "verzonnen" beelden "aan echte coördinaten werden gelast, gebaseerd op echte beelden."

Watermerken die geen stand hielden

Google heeft benadrukt dat de door AI gegenereerde inhoud van zijn tools onzichtbare watermerken bevat en dat gebruikers vermoedelijke vervalsingen kunnen verifiëren via de Gemini-chatbot of Google Lens.

Uit tests van BBC Verify bleek echter dat het mogelijk was om deze controles te omzeilen en Gemini te misleiden om te bevestigen dat verzonnen Google Earth-afbeeldingen echt waren. Externe AI-detectietools slaagden er ook niet in een deel van de synthetische beelden te signaleren. De bevindingen ondermijnen de betrouwbaarheid van de waarborgen die Google heeft gepositioneerd als verdediging tegen door AI aangestuurde desinformatie.

AI-detectieonderzoeker Henry Ajder vertelde BBC Verify dat gefabriceerde beelden in conflictgebieden vooral ‘destabiliserend’ zouden kunnen blijken tijdens snel bewegende gebeurtenissen waar betrouwbare informatie schaars is en de inzet het hoogst is.

Een patroon van overcorrectie

De aflevering draagt bij aan een groeiende lijst van spraakmakende AI-lanceringen waar bedrijven achteraan moesten lopen. Google zelf kreeg in 2024 te maken met kritiek op het onnauwkeurig genereren van afbeeldingen in zijn Gemini-model, en de snelle cyclus van implementatie en intrekking is een terugkerend thema geworden nu technologiebedrijven zich haasten om generatieve functies te leveren.

In dit geval kwam het unieke gevaar voort uit het platform zelf. Zoals Google in zijn verklaring erkende: "We weten dat mensen op unieke wijze Google Earth vertrouwen voor een betrouwbaar beeld van de wereld", wat elke erosie van dat vertrouwen bijzonder kostbaar maakt.

De terugdraaiing komt ook op een gevoelig regelgevingsmoment. De transparantievereisten van de AI Act van de Europese Unie, die een duidelijke labeling van door AI gegenereerde inhoud verplicht stellen, werden van kracht op 2 augustus 2026, slechts enkele dagen na het Google Earth-incident. Google had eerder in juli al de EU-praktijkcode voor het labelen van door AI gegenereerde inhoud ondertekend.

Wat gebeurt er vervolgens

Google heeft niet gezegd wanneer en of de functie mogelijk terugkeert. Het bedrijf gaf aan dat het de vangrails zou blijven verfijnen, maar onderzoekers hebben betoogd dat het fundamentele ontwerp – het in lagen aanbrengen van AI-gegenereerde inhoud over vertrouwde geografische gegevens – te gevaarlijk zou kunnen zijn om in een downloadbare, deelbare vorm te verzenden zonder veel strengere herkomstcontroles.

Voor een sector die nog steeds worstelt met de vraag hoe de snelle inzet van AI kan worden afgezet tegen de schade in de echte wereld, is de levensduur van 48 uur van de AI-beeldtool van Google Earth een waarschuwend verhaal over de kloof tussen wat AI kan creëren en wat het zou moeten creëren.

Blijf AI een stap voor

AI ontwikkelt zich snel, en het beleid dat dit vormgeeft gaat zelfs nog sneller. Maak een bladwijzer van AI Buzz Wire voor dagelijkse, op feiten gecontroleerde berichtgeving over de lanceringen, omkeringen en regelgeving die de toekomst van kunstmatige intelligentie bepalen.

Lees meer AI-nieuws →