Google entlässt das Earth AI Image Tool in weniger als 48 Stunden aufgrund von Fehlinformationen

Google hat ein Tool für künstliche Intelligenz zurückgezogen, mit dem Benutzer erfundene Szenen über echten Satellitenbildern in Google Earth malen können. Weniger als 48 Stunden nach dem Start änderte sich der Kurs, da gewarnt wurde, dass die Funktion zu Fehlinformationen führen könnte.

Die Funktion, die auf dem Bildgenerator „Nano Banana 2“ von Google basiert, wurde am Donnerstag, dem 30. Juli 2026, eingeführt und ermöglichte es jedem, eine Textaufforderung einzugeben und falsche Szenarien zu generieren, die über echte Satelliten-, Luft- und 3D-Bilder gelegt wurden. Für die neuesten Entwicklungen zu KI-Tools, die die Branche prägen, folgen Sie unserer aktuellen KI-Berichterstattung bei AI Buzz Wire.

Am Freitag bestätigte Google, dass es die Funktion pausiert, „während wir an der Implementierung stärkerer Leitplanken arbeiten“, und verwies auf Screenshots generierter Bilder, die offenbar gegen seine Richtlinien verstießen. Die abrupte Kehrtwende erfolgte unmittelbar nach einer Untersuchung von BBC Verify, in der Forscher zeigten, wie leicht das Tool überzeugende, standortgenaue Fälschungen erzeugen konnte.

Wie das Tool funktionierte

Nano Banana 2 ist direkt in Google Earth integriert, die weit verbreitete Kartenplattform, auf die sich Regierungen, Journalisten und die Öffentlichkeit verlassen, um eine genaue Ansicht des Planeten zu erhalten. Die KI-Funktion generierte bei Bedarf Bilder und platzierte sie über einer Basisebene mit echten Koordinaten. Entscheidend ist, dass die resultierenden Bilder heruntergeladen und auf sozialen Medien und anderen Plattformen geteilt werden konnten, ohne dass es offensichtliche Hinweise darauf gab, dass sie synthetisch waren.

Diese Kombination – erfundene Bilder, verschmolzen mit echten geografischen Daten – beunruhigte die Forscher am meisten.

Alarmierende Demonstrationen

Während der Tests konnte BBC Verify Bilder eines eingestürzten Eiffelturms, eines Erdlochs, das die Große Pyramide von Gizeh verschluckt, und russischer Panzer in der ukrainischen Hauptstadt Kiew generieren.

Der KI- und Fehlinformationsforscher Henk van Ess ging noch einen Schritt weiter, bevor das Tool eingestellt wurde, und produzierte erfundene Szenen eines nicht existierenden Atomkraftwerks im Iran, eines Flüchtlingslagers an der Grenze zwischen den USA und Mexiko und einem gefälschten Krankenhaus in Gaza mit einem Bombenkrater daneben.

„Die Fälschung muss nicht allein überzeugend aussehen. Sie erbt die Glaubwürdigkeit der Karte, auf der sie entstanden ist“, sagte van Ess und beschrieb, wie Google zugelassen hatte, dass „erfundene“ Bilder „an echte Koordinaten geschweißt und auf echten Bildern gezeichnet“ wurden.

Wasserzeichen, die nicht standhielten

Google hat betont, dass KI-generierte Inhalte seiner Tools unsichtbare Wasserzeichen tragen und dass Nutzer mutmaßliche Fälschungen über den Gemini-Chatbot oder Google Lens überprüfen können.

Die Tests von BBC Verify ergaben jedoch, dass es möglich war, diese Überprüfungen zu umgehen und Gemini dazu zu bringen, gefälschte Google Earth-Bilder als echt zu bestätigen. Auch externe KI-Erkennungstools konnten einige der synthetischen Bilder nicht kennzeichnen. Die Ergebnisse untergraben die Zuverlässigkeit der Sicherheitsvorkehrungen, die Google als Abwehr gegen KI-gesteuerte Fehlinformationen eingeführt hat.

Der KI-Erkennungsforscher Henry Ajder sagte gegenüber BBC Verify, dass gefälschte Bilder in Konfliktgebieten sich bei schnelllebigen Ereignissen, bei denen verlässliche Informationen rar sind und das Risiko am höchsten ist, als besonders „destabilisierend“ erweisen könnten.

Ein Muster der Überkorrektur

Die Episode reiht sich in eine wachsende Liste hochkarätiger KI-Einführungen ein, die Unternehmen zurücknehmen mussten. Google selbst wurde im Jahr 2024 in seinem Gemini-Modell wegen ungenauer Bildgenerierung in die Kritik geraten, und der schnelle Bereitstellungs- und dann Rückzugszyklus ist zu einem wiederkehrenden Thema geworden, da Technologieunternehmen um die Bereitstellung generativer Funktionen konkurrieren.

In diesem Fall ging die einzigartige Gefahr von der Plattform selbst aus. Wie Google in seiner Erklärung einräumte: „Wir wissen, dass die Menschen Google Earth in einzigartiger Weise vertrauen, wenn es um eine zuverlässige Sicht auf die Welt geht“ – was eine Erosion dieses Vertrauens besonders kostspielig macht.

Der Rollback erfolgt zudem zu einem sensiblen regulatorischen Zeitpunkt. Die Transparenzanforderungen des AI Act der Europäischen Union, die eine eindeutige Kennzeichnung von KI-generierten Inhalten vorschreiben, traten am 2. August 2026 in Kraft, nur wenige Tage nach dem Google Earth-Vorfall. Google hatte bereits Anfang Juli den EU-Verhaltenskodex zur Kennzeichnung von KI-generierten Inhalten unterzeichnet.

Was als nächstes passiert

Google hat nicht gesagt, wann oder ob die Funktion zurückkehren könnte. Das Unternehmen gab an, dass es die Leitplanken weiter verfeinern werde, aber Forscher haben argumentiert, dass das grundlegende Design – die Überlagerung von KI-generierten Inhalten über vertrauenswürdigen geografischen Daten – möglicherweise zu gefährlich ist, um es ohne weitaus strengere Herkunftskontrollen in herunterladbarer, gemeinsam nutzbarer Form zu versenden.

Für eine Branche, die sich immer noch mit der Frage auseinandersetzt, wie man einen schnellen KI-Einsatz gegen reale Schäden abwägen kann, ist die 48-Stunden-Lebensdauer des KI-Bildtools von Google Earth ein warnendes Beispiel für die Kluft zwischen dem, was KI schaffen kann, und dem, was sie soll.

Bleiben Sie der KI immer einen Schritt voraus

KI schreitet schnell voran, und die Richtlinien, die sie prägen, entwickeln sich noch schneller. Setzen Sie ein Lesezeichen auf AI Buzz Wire für die tägliche, faktengeprüfte Berichterstattung über die Einführungen, Umkehrungen und Vorschriften, die die Zukunft der künstlichen Intelligenz definieren.

Weitere KI-Neuigkeiten lesen →