Η Google απέσυρε ένα εργαλείο τεχνητής νοημοσύνης που επέτρεπε στους χρήστες να ζωγραφίζουν κατασκευασμένες σκηνές πάνω από πραγματικές δορυφορικές εικόνες στο Google Earth, αντιστρέφοντας πορεία λιγότερο από 48 ώρες μετά την κυκλοφορία, εν μέσω προειδοποιήσεων ότι η δυνατότητα θα μπορούσε να υπερφορτώσει την παραπληροφόρηση.
Η δυνατότητα, η οποία υποστηρίζεται από τη δημιουργία εικόνων "Nano Banana 2" της Google, παρουσιάστηκε την Πέμπτη 30 Ιουλίου 2026 και επέτρεψε σε οποιονδήποτε να πληκτρολογήσει ένα μήνυμα κειμένου και να δημιουργήσει ψευδή σενάρια σε επίπεδα σε αυθεντικές δορυφορικές, εναέριες και τρισδιάστατες εικόνες. Για τις πιο πρόσφατες εξελίξεις σχετικά με τα εργαλεία τεχνητής νοημοσύνης που διαμορφώνουν τον κλάδο, ακολουθήστε την [ενημερωτική κάλυψη ειδήσεων AI στο AI Buzz Wire] (https://aibuzzwire.news).
Μέχρι την Παρασκευή, η Google επιβεβαίωσε ότι σταματούσε τη δυνατότητα "ενώ εργαζόμαστε για την εφαρμογή ισχυρότερων προστατευτικών κιγκλιδωμάτων", αναφέροντας στιγμιότυπα οθόνης εικόνων που δημιουργήθηκαν που φαινόταν να παραβαίνουν τις πολιτικές της. Η απότομη ανατροπή ήρθε αμέσως μετά από μια έρευνα BBC Verify στην οποία οι ερευνητές απέδειξαν πόσο εύκολα το εργαλείο θα μπορούσε να παράγει πειστικές απομιμήσεις με ακρίβεια τοποθεσίας.
Πώς λειτούργησε το εργαλείο
Το Nano Banana 2 ενσωματώθηκε απευθείας στο Google Earth, την ευρέως χρησιμοποιούμενη πλατφόρμα χαρτογράφησης στην οποία βασίζονται οι κυβερνήσεις, οι δημοσιογράφοι και το κοινό για μια ακριβή εικόνα του πλανήτη. Το χαρακτηριστικό AI δημιούργησε εικόνες κατά παραγγελία και τις τοποθέτησε σε ένα βασικό στρώμα πραγματικών συντεταγμένων. Το σημαντικότερο ήταν ότι οι εικόνες που προέκυψαν μπορούσαν να ληφθούν και να μοιραστούν στα μέσα κοινωνικής δικτύωσης και σε άλλες πλατφόρμες χωρίς προφανή ένδειξη ότι ήταν συνθετικές.
Αυτός ο συνδυασμός - εφευρεμένες εικόνες συγχωνευμένες με γνήσια γεωγραφικά δεδομένα - είναι αυτό που ανησύχησε περισσότερο τους ερευνητές.
Ανησυχητικές διαδηλώσεις
Κατά τη διάρκεια των δοκιμών, το BBC Verify μπόρεσε να δημιουργήσει εικόνες ενός πύργου του Άιφελ που κατέρρευσε, μιας καταβόθρας που κατάπιε τη Μεγάλη Πυραμίδα της Γκίζας και ρωσικών τανκς τοποθετημένων στην πρωτεύουσα της Ουκρανίας, Κίεβο.
Ο ερευνητής τεχνητής νοημοσύνης και παραπληροφόρησης, Χενκ βαν Ες, προχώρησε περισσότερο πριν το εργαλείο ανασταλεί, δημιουργώντας κατασκευασμένες σκηνές ενός ανύπαρκτου πυρηνικού σταθμού στο Ιράν, ενός καταυλισμού προσφύγων στα σύνορα ΗΠΑ-Μεξικού και ενός πλαστού νοσοκομείου στη Γάζα με έναν κρατήρα βόμβας δίπλα του.
"Η πλαστογραφία δεν χρειάζεται να φαίνεται πειστική από μόνη της. Κληρονομεί την αξιοπιστία του χάρτη στον οποίο γεννήθηκε", είπε ο van Ess, περιγράφοντας πώς η Google είχε επιτρέψει στις "εφευρεθείσες" εικόνες να "συγκολληθούν σε γνήσιες συντεταγμένες, να βασιστούν σε γνήσιες εικόνες".
Υδατογράφημα που δεν άντεξαν
Η Google έχει τονίσει ότι το περιεχόμενο που δημιουργείται από την τεχνητή νοημοσύνη από τα εργαλεία της φέρει αόρατα υδατογραφήματα και ότι οι χρήστες μπορούν να επαληθεύσουν ύποπτα πλαστά μέσω του chatbot Gemini ή του Google Lens.
Ωστόσο, οι δοκιμές του BBC Verify διαπίστωσαν ότι ήταν δυνατό να παρακαμφθούν αυτοί οι έλεγχοι και να εξαπατηθούν οι Gemini για να επιβεβαιώσουν τις κατασκευασμένες εικόνες του Google Earth ως πραγματικές. Τα εξωτερικά εργαλεία ανίχνευσης AI απέτυχαν επίσης να επισημάνουν ορισμένες από τις συνθετικές εικόνες. Τα ευρήματα υπονομεύουν την αξιοπιστία των διασφαλίσεων που έχει τοποθετήσει η Google ως άμυνα έναντι της παραπληροφόρησης που βασίζεται στην τεχνητή νοημοσύνη.
Ο ερευνητής ανίχνευσης AI, Henry Ajder, είπε στο BBC Verify ότι οι κατασκευασμένες εικόνες σε ζώνες συγκρούσεων θα μπορούσαν να αποδειχθούν ιδιαίτερα «αποσταθεροποιητικές» κατά τη διάρκεια γεγονότων που εξελίσσονται γρήγορα, όπου οι αξιόπιστες πληροφορίες είναι σπάνιες και τα διακυβεύματα είναι υψηλότερα.
Ένα μοτίβο υπερδιόρθωσης
Το επεισόδιο προσθέτει σε μια αυξανόμενη λίστα με υψηλού προφίλ εκτοξεύσεις τεχνητής νοημοσύνης που οι εταιρείες έπρεπε να κάνουν πίσω. Η ίδια η Google αντιμετώπισε έλεγχο σχετικά με τη δημιουργία ανακριβών εικόνων στο μοντέλο Gemini της το 2024 και ο κύκλος ταχείας ανάπτυξης και μετά απόσυρσης έχει γίνει ένα επαναλαμβανόμενο θέμα καθώς οι εταιρείες τεχνολογίας αγωνίζονται για την αποστολή παραγωγικών δυνατοτήτων.
Σε αυτή την περίπτωση, ο μοναδικός κίνδυνος προήλθε από την ίδια την πλατφόρμα. Όπως αναγνώρισε η Google στη δήλωσή της, "Γνωρίζουμε ότι οι άνθρωποι εμπιστεύονται μοναδικά το Google Earth για μια αξιόπιστη άποψη του κόσμου" — καθιστώντας την οποιαδήποτε διάβρωση αυτής της εμπιστοσύνης ιδιαίτερα δαπανηρή.
Η επαναφορά έρχεται επίσης σε μια ευαίσθητη ρυθμιστική στιγμή. Οι απαιτήσεις διαφάνειας του νόμου περί τεχνητής νοημοσύνης της Ευρωπαϊκής Ένωσης, οι οποίες επιβάλλουν σαφή επισήμανση περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη, τέθηκαν σε ισχύ στις 2 Αυγούστου 2026, λίγες μέρες μετά το περιστατικό στο Google Earth. Η Google είχε ήδη υπογράψει τον κώδικα πρακτικής της ΕΕ για την επισήμανση περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη νωρίτερα τον Ιούλιο.
Τι θα συμβεί στη συνέχεια
Η Google δεν έχει πει πότε ή εάν η δυνατότητα μπορεί να επιστρέψει. Η εταιρεία ανέφερε ότι θα συνεχίσει να βελτιώνει τα προστατευτικά κιγκλιδώματα, αλλά οι ερευνητές υποστήριξαν ότι ο θεμελιώδης σχεδιασμός - η επίστρωση περιεχομένου που δημιουργείται από AI πάνω από αξιόπιστα γεωγραφικά δεδομένα - μπορεί να είναι πολύ επικίνδυνο για να αποσταλεί σε μορφή με δυνατότητα λήψης και κοινής χρήσης χωρίς πολύ ισχυρότερους ελέγχους προέλευσης.
Για μια βιομηχανία που εξακολουθεί να παλεύει με το πώς να εξισορροπήσει την ταχεία ανάπτυξη της τεχνητής νοημοσύνης έναντι της βλάβης στον πραγματικό κόσμο, η διάρκεια ζωής των 48 ωρών του εργαλείου εικόνας τεχνητής νοημοσύνης του Google Earth αποτελεί μια προειδοποιητική ιστορία σχετικά με το χάσμα μεταξύ αυτού που μπορεί να δημιουργήσει η τεχνητή νοημοσύνη και αυτού που πρέπει.
Μείνετε μπροστά από την τεχνητή νοημοσύνη
Η τεχνητή νοημοσύνη κινείται γρήγορα και οι πολιτικές που τη διαμορφώνουν κινούνται ακόμη πιο γρήγορα. Προσθέστε σελιδοδείκτη στο AI Buzz Wire για καθημερινή, επαληθευμένη κάλυψη των εκκινήσεων, των ανατροπών και των κανονισμών που καθορίζουν το μέλλον της τεχνητής νοημοσύνης.
Διαβάστε περισσότερα νέα AI →
