Google ha ritirato uno strumento di intelligenza artificiale che consente agli utenti di dipingere scene inventate sopra immagini satellitari reali in Google Earth, invertendo la rotta meno di 48 ore dopo il lancio tra gli avvertimenti che la funzione potrebbe aumentare la disinformazione.
La funzionalità, basata sul generatore di immagini "Nano Banana 2" di Google, è stata introdotta giovedì 30 luglio 2026 e ha consentito a chiunque di digitare un messaggio di testo e generare falsi scenari sovrapposti a immagini satellitari, aeree e 3D autentiche. Per gli ultimi sviluppi sugli strumenti di intelligenza artificiale che plasmano il settore, segui la nostra copertura delle ultime notizie sull'intelligenza artificiale su AI Buzz Wire.
Venerdì, Google ha confermato che stava sospendendo la funzionalità "mentre lavoriamo per implementare guardrail più forti", citando screenshot di immagini generate che sembravano violare le sue politiche. La brusca inversione di tendenza è arrivata subito dopo un’indagine di BBC Verify in cui i ricercatori hanno dimostrato con quanta facilità lo strumento potrebbe produrre falsi convincenti e accurati sulla posizione.
Come funzionava lo strumento
Nano Banana 2 è integrato direttamente in Google Earth, la piattaforma di mappatura ampiamente utilizzata a cui fanno affidamento governi, giornalisti e pubblico per una visione accurata del pianeta. La funzionalità AI ha generato immagini su richiesta e le ha posizionate su uno strato base di coordinate reali. Fondamentalmente, le immagini risultanti potevano essere scaricate e condivise sui social media e su altre piattaforme senza alcuna indicazione evidente che fossero sintetiche.
Questa combinazione – immagini inventate fuse con dati geografici autentici – è ciò che ha allarmato maggiormente i ricercatori.
Dimostrazioni allarmanti
Durante i test, BBC Verify è stata in grado di generare immagini di una Torre Eiffel crollata, una dolina che ingoia la Grande Piramide di Giza e carri armati russi posizionati nella capitale dell'Ucraina, Kiev.
Il ricercatore di intelligenza artificiale e disinformazione Henk van Ess è andato oltre prima che lo strumento fosse sospeso, producendo scene fittizie di una centrale nucleare inesistente in Iran, di un campo profughi al confine tra Stati Uniti e Messico e di un finto ospedale a Gaza con accanto il cratere di una bomba.
"La falsificazione non deve sembrare convincente di per sé. Eredita la credibilità della mappa su cui è nata", ha detto van Ess, descrivendo come Google ha permesso che le immagini "inventate" fossero "saldate a coordinate autentiche, disegnate su immagini autentiche".
Filigrane che non reggono
Google ha sottolineato che i contenuti generati dall'intelligenza artificiale dai suoi strumenti portano filigrane invisibili e che gli utenti possono verificare sospetti falsi tramite il chatbot Gemini o Google Lens.
Tuttavia, i test di BBC Verify hanno scoperto che era possibile aggirare tali controlli e indurre Gemini a confermare come reali le immagini fabbricate di Google Earth. Anche gli strumenti di rilevamento AI esterni non sono riusciti a contrassegnare alcune delle immagini sintetiche. I risultati minano l’affidabilità delle misure di salvaguardia che Google ha posizionato come difesa contro la disinformazione guidata dall’intelligenza artificiale.
Il ricercatore di rilevamento dell’intelligenza artificiale Henry Ajder ha dichiarato a BBC Verify che le immagini fabbricate nelle zone di conflitto potrebbero rivelarsi particolarmente “destabilizzanti” durante eventi in rapido movimento in cui le informazioni affidabili sono scarse e la posta in gioco è più alta.
Un modello di ipercorrezione
L’episodio si aggiunge a un elenco crescente di lanci di intelligenza artificiale di alto profilo che le aziende hanno dovuto annullare. La stessa Google ha dovuto affrontare un esame accurato per la generazione imprecisa di immagini nel suo modello Gemini nel 2024, e il rapido ciclo di implementazione e poi ritiro è diventato un tema ricorrente mentre le aziende tecnologiche corrono per fornire funzionalità generative.
In questo caso, l’unico pericolo derivava dalla piattaforma stessa. Come ha riconosciuto Google nella sua dichiarazione, "Sappiamo che le persone si fidano unicamente di Google Earth per una visione affidabile del mondo", rendendo qualsiasi erosione di tale fiducia particolarmente costosa.
Lo smantellamento arriva anche in un momento normativo delicato. I requisiti di trasparenza dell'AI Act dell'Unione Europea, che impongono una chiara etichettatura dei contenuti generati dall'intelligenza artificiale, sono entrati in vigore il 2 agosto 2026, pochi giorni dopo l'incidente di Google Earth. Google aveva già firmato il codice di condotta dell’UE sull’etichettatura dei contenuti generati dall’intelligenza artificiale all’inizio di luglio.
Cosa succede dopo
Google non ha detto quando o se la funzionalità potrebbe tornare. La società ha indicato che continuerà a perfezionare i guardrail, ma i ricercatori hanno sostenuto che il design fondamentale – stratificare i contenuti generati dall’intelligenza artificiale su dati geografici affidabili – potrebbe essere troppo pericoloso da spedire in una forma scaricabile e condivisibile senza controlli di provenienza molto più forti.
Per un settore ancora alle prese con come bilanciare la rapida implementazione dell’intelligenza artificiale con i danni del mondo reale, la durata di 48 ore dello strumento di immagine AI di Google Earth rappresenta un ammonimento sul divario tra ciò che l’intelligenza artificiale può creare e ciò che dovrebbe creare.
Stai al passo con l'intelligenza artificiale
L’intelligenza artificiale si sta muovendo rapidamente e le politiche che la modellano si muovono ancora più velocemente. Aggiungi ai preferiti AI Buzz Wire per una copertura quotidiana e verificata dei lanci, delle inversioni e delle normative che definiscono il futuro dell'intelligenza artificiale.
Leggi altre notizie sull'AI →
