Google stáhl nástroj umělé inteligence, který uživatelům umožňoval malovat smyšlené scény na skutečné satelitní snímky v aplikaci Google Earth, a obrátil kurz méně než 48 hodin po spuštění uprostřed varování, že tato funkce by mohla naplnit dezinformacemi.

Tato funkce, poháněná generátorem obrázků „Nano Banana 2“ společnosti Google, byla představena ve čtvrtek 30. července 2026 a umožnila komukoli zadat textovou výzvu a generovat falešné scénáře vrstvené přes skutečné satelitní, letecké a 3D snímky. Chcete-li získat nejnovější informace o nástrojích umělé inteligence, které utvářejí toto odvětví, sledujte naše [nejnovější zpravodajství o AI na AI Buzz Wire] (https://aibuzzwire.news).

Do pátku Google potvrdil, že pozastavuje funkci „zatímco pracujeme na implementaci silnějších zábradlí“, přičemž citoval screenshoty generovaných snímků, které zřejmě porušovaly jeho zásady. Náhlý obrat nastal přímo po BBC Verify vyšetřování, ve kterém výzkumníci prokázali, jak snadno může tento nástroj produkovat přesvědčivé padělky s přesnou polohou.

Jak nástroj fungoval

Nano Banana 2 integrovaný přímo do Google Earth, široce používané mapovací platformy, na kterou se vlády, novináři a veřejnost spoléhají při přesném zobrazení planety. Funkce AI vygenerovala snímky na vyžádání a umístila je na základní vrstvu skutečných souřadnic. Podstatné je, že výsledné obrázky bylo možné stáhnout a sdílet na sociálních sítích a dalších platformách bez zjevného náznaku, že jsou syntetické.

Tato kombinace – vynalezené vizuální prvky spojené se skutečnými geografickými daty – je to, co výzkumníky nejvíce znepokojuje.

Alarmující demonstrace

Během testování se BBC Verify podařilo vytvořit snímky zhroucené Eiffelovy věže, propadu pohlcujícího Velkou pyramidu v Gíze a ruských tanků umístěných v ukrajinském hlavním městě Kyjevě.

Výzkumník umělé inteligence a dezinformací Henk van Ess šel ještě před pozastavením tohoto nástroje a vytvořil smyšlené scény neexistující jaderné elektrárny v Íránu, uprchlického tábora na americko-mexické hranici a falešné nemocnice v Gaze s kráterem po bombě vedle.

"Padělek sám o sobě nemusí vypadat přesvědčivě. Zdědí věrohodnost mapy, na které se zrodil," řekl van Ess a popsal, jak Google umožnil, aby "vynalezené" snímky byly "přivařeny ke skutečným souřadnicím, nakresleny na pravých snímcích."

Vodoznaky, které nevydržely

Google zdůraznil, že obsah generovaný AI z jeho nástrojů nese neviditelné vodoznaky a že uživatelé mohou ověřit podezřelé padělky prostřednictvím chatbota Gemini nebo Google Lens.

Testování BBC Verify však zjistilo, že je možné tyto kontroly obejít a oklamat Blížence, aby potvrdil fiktivní obrázky Google Earth jako skutečné. Externím nástrojům pro detekci umělé inteligence se také nepodařilo označit některé syntetické snímky. Zjištění podkopávají spolehlivost záruk, které Google umístil jako obranu proti dezinformacím řízeným umělou inteligencí.

Výzkumník v oblasti detekce umělé inteligence Henry Ajder řekl BBC Verify, že uměle vytvořené snímky v konfliktních zónách se mohou ukázat jako obzvláště „destabilizující“ během rychle se pohybujících událostí, kde jsou spolehlivé informace vzácné a v sázce je nejvyšší.

Vzor překorigování

Tato epizoda přidává na rostoucím seznamu vysoce profilovaných spuštění AI, které společnosti musely vrátit. Samotný Google čelil kontrole kvůli nepřesnému generování obrázků ve svém modelu Gemini v roce 2024 a cyklus rychlého nasazení a následného stažení se stal opakujícím se tématem, protože technologické firmy závodí o dodání generativních funkcí.

V tomto případě jedinečné nebezpečí pramenilo ze samotné plošiny. Jak společnost Google přiznala ve svém prohlášení: „Víme, že lidé jedinečně důvěřují aplikaci Google Earth pro spolehlivý pohled na svět“, což znamená, že jakékoli narušení této důvěry je obzvláště nákladné.

Rollback také přichází v citlivém regulačním okamžiku. Požadavky na transparentnost zákona Evropské unie o AI, které nařizují jasné označování obsahu generovaného umělou inteligencí, vstoupily v platnost 2. srpna 2026, jen několik dní po incidentu s aplikací Google Earth. Google již dříve v červenci podepsal kodex EU pro označování obsahu generovaného umělou inteligencí.

Co se stane dál

Google neuvedl, kdy nebo zda se funkce může vrátit. Společnost naznačila, že bude pokračovat ve zdokonalování zábradlí, ale vědci argumentovali, že základní design – vrstvení obsahu generovaného umělou inteligencí přes důvěryhodná geografická data – může být příliš nebezpečné na to, aby bylo možné jej dodávat ve formě ke stažení a sdílení bez mnohem silnější kontroly původu.

Pro průmysl, který se stále potýká s tím, jak vyvážit rychlé nasazení umělé inteligence proti škodám v reálném světě, představuje 48hodinová životnost nástroje pro obrázky AI Google Earth varovný příběh o propasti mezi tím, co umělá inteligence dokáže vytvořit, a tím, co by měla.

Udržujte si náskok před AI

Umělá inteligence se vyvíjí rychle a zásady, které ji utvářejí, se pohybují ještě rychleji. Přidejte si do záložek AI Buzz Wire pro každodenní, fakty ověřené zpravodajství o uvedení na trh, zrušení a nařízení definujících budoucnost umělé inteligence.

Přečtěte si další zprávy o AI →