Google a retras un instrument de inteligență artificială care le permite utilizatorilor să picteze scene fabricate deasupra imaginilor reale din satelit din Google Earth, inversând cursul la mai puțin de 48 de ore de la lansare, pe fondul avertismentelor că caracteristica ar putea supraalimenta dezinformarea.

Funcția, alimentată de generatorul de imagini „Nano Banana 2” de la Google, a fost introdusă joi, 30 iulie 2026, și a permis oricui să introducă un mesaj text și să genereze scenarii false stratificate peste imagini din satelit, aeriene și 3D autentice. Pentru cele mai recente evoluții privind instrumentele AI care modelează industria, urmăriți acoperirea știrilor de ultimă oră AI la AI Buzz Wire.

Până vineri, Google a confirmat că întrerupe capacitatea „în timp ce lucrăm la implementarea unor balustrade mai puternice”, citând capturi de ecran ale imaginilor generate care păreau să încalce politicile sale. Inversarea bruscă a venit imediat după o investigație BBC Verify în care cercetătorii au demonstrat cât de ușor ar putea instrumentul să producă falsuri convingătoare, exacte la locație.

Cum a funcționat instrumentul

Nano Banana 2 integrat direct în Google Earth, platforma de cartografiere utilizată pe scară largă pe care se bazează guvernele, jurnaliştii şi publicul pentru o vedere precisă a planetei. Caracteristica AI a generat imagini la cerere și le-a plasat peste un strat de bază de coordonate reale. În mod esențial, imaginile rezultate au putut fi descărcate și partajate pe rețelele de socializare și alte platforme fără nicio indicație evidentă că sunt sintetice.

Acea combinație - imaginile inventate fuzionate cu date geografice autentice - este ceea ce i-a alarmat cel mai mult pe cercetători.

Demonstrații alarmante

În timpul testării, BBC Verify a reușit să genereze imagini ale unui Turn Eiffel prăbușit, a unei doline care înghițea Marea Piramidă din Giza și a tancurilor rusești poziționate în capitala Ucrainei, Kiev.

Cercetătorul de inteligență artificială și dezinformare Henk van Ess a mers mai departe înainte ca instrumentul să fie suspendat, producând scene fabricate ale unei centrale nucleare inexistente în Iran, o tabără de refugiați la granița dintre SUA și Mexic și un spital fals din Gaza, cu un crater de bombă lângă el.

„Falsul nu trebuie să arate convingător în sine. Moștenește credibilitatea hărții pe care s-a născut”, a spus van Ess, descriind modul în care Google a permis ca imaginile „inventate” să fie „sudate la coordonate autentice, desenate pe imagini autentice”.

Filigrane care nu au rezistat

Google a subliniat că conținutul generat de AI din instrumentele sale poartă filigrane invizibile și că utilizatorii pot verifica falsurile suspectate prin chatbot-ul Gemini sau Google Lens.

Cu toate acestea, testele efectuate de BBC Verify au descoperit că este posibil să ocolim aceste verificări și să-i păcălească pe Gemini să confirme imaginile Google Earth fabricate ca fiind reale. De asemenea, instrumentele externe de detectare AI nu au reușit să semnaleze unele dintre imaginile sintetice. Descoperirile subminează fiabilitatea garanțiilor pe care Google le-a poziționat ca o apărare împotriva dezinformării bazate pe inteligență artificială.

Cercetătorul de detectare a inteligenței artificiale Henry Ajder a declarat pentru BBC Verify că imaginile fabricate în zonele de conflict s-ar putea dovedi deosebit de „destabilizatoare” în timpul evenimentelor care se mișcă rapid, în care informațiile fiabile sunt limitate și mizele sunt cele mai mari.

Un model de supracorecție

Episodul se adaugă la o listă din ce în ce mai mare de lansări de IA de mare profil pe care companiile au fost nevoite să se întoarcă. În 2024, Google s-a confruntat cu o analiză cu privire la generarea de imagini inexacte în modelul său Gemini, iar ciclul rapid de implementare-apoi-retragere a devenit o temă recurentă, pe măsură ce firmele de tehnologie se întrec pentru a livra funcții generative.

În acest caz, pericolul unic a provenit din platforma însăși. După cum a recunoscut Google în declarația sa, „Știm că oamenii au încredere în Google Earth în mod unic pentru o viziune fiabilă asupra lumii”, ceea ce face ca orice erodare a acestei încrederi să fie deosebit de costisitoare.

Retragerea vine și într-un moment sensibil de reglementare. Cerințele de transparență ale Legii AI ale Uniunii Europene, care impun etichetarea clară a conținutului generat de IA, au intrat în vigoare la 2 august 2026, la doar câteva zile după incidentul Google Earth. Google a semnat deja codul de practică al UE privind etichetarea conținutului generat de inteligență artificială la începutul lunii iulie.

Ce se întâmplă în continuare

Google nu a spus când sau dacă funcția ar putea reveni. Compania a indicat că va continua să perfecționeze balustradele, dar cercetătorii au susținut că designul fundamental - stratificarea conținutului generat de AI peste date geografice de încredere - poate fi prea periculos pentru a fi livrat într-o formă descărcabilă, care poate fi partajată, fără controale mult mai puternice ale provenienței.

Pentru o industrie care se confruntă încă cu cum să echilibreze implementarea rapidă a AI cu daunele din lumea reală, durata de viață de 48 de ore a instrumentului de imagine AI de la Google Earth reprezintă o poveste de avertizare despre decalajul dintre ceea ce poate crea AI și ceea ce ar trebui.

Rămâi înaintea AI

AI se mișcă rapid, iar politicile care o modelează se mișcă și mai repede. Marcați AI Buzz Wire pentru acoperirea zilnică, verificată cu fapte, a lansărilor, inversărilor și reglementărilor care definesc viitorul inteligenței artificiale.

Citiți mai multe știri AI →