Καθώς τα μέσα που δημιουργούνται από την τεχνητή νοημοσύνη κατακλύζουν το διαδίκτυο, η τεχνολογία υδατογράφησης SynthID της Google έχει αναδειχθεί ως ένα από τα πιο σημαντικά εργαλεία για τη διάκριση του αυθεντικού περιεχομένου από τις συνθετικές εικόνες. Ένα νέο αυστηρό τεστ αντοχής επιβεβαιώνει ότι το αόρατο υδατογράφημα είναι εξαιρετικά ανθεκτικό, επιζώντας από εκατοντάδες γύρους συμπίεσης, αλλαγής μεγέθους και ακόμη και στιγμιότυπα οθόνης, αλλά τα αποτελέσματα υπογραμμίζουν επίσης μια πιο σκληρή αλήθεια: οι τεχνικές ετικέτες από μόνες τους είναι απίθανο να επιλύσουν την αυξανόμενη κρίση της παραπληροφόρησης AI. Για τις συνεχείς αναφορές σχετικά με τις [τελευταίες εξελίξεις της τεχνητής νοημοσύνης] (https://aibuzzwire.news), τα ευρήματα σηματοδοτούν ένα σημαντικό σημείο ελέγχου στη συζήτηση περιεχομένου-προέλευσης.

Η κλίμακα του προβλήματος είναι δύσκολο να υπερεκτιμηθεί. Το Starling Lab, μια ερευνητική συνεργασία μεταξύ του Πανεπιστημίου του Στάνφορντ και του Πανεπιστημίου της Νότιας Καλιφόρνια, εκτιμά ότι χρειάστηκαν μέχρι το 1975, 149 χρόνια μετά την εφεύρεση της κάμερας, για να παράγει η ανθρωπότητα 1,5 δισεκατομμύρια εικόνες. Το Generative AI ταίριαξε με αυτό το αποτέλεσμα σε μόλις 18 μήνες. Στο συνέδριο I/O της φέτος, η Google ανακοίνωσε ότι μόνο τα εργαλεία της χρησιμοποιήθηκαν για τη δημιουργία περισσότερων από 100 δισεκατομμυρίων εικόνων και βίντεο τεχνητής νοημοσύνης μέσα σε μερικά χρόνια.

Πώς λειτουργεί το SynthID

Επί του παρόντος, υπάρχουν δύο κύριες προσεγγίσεις για την επισήμανση περιεχομένου που δημιουργείται από τεχνητή νοημοσύνη: αόρατα υδατογραφήματα όπως το SynthID και σχήματα μεταδεδομένων όπως το πρότυπο Coalition for Content Provenance and Authenticity (C2PA). Η Google χρησιμοποιεί και τα δύο. Το C2PA είναι κρυπτογραφικά ασφαλές και δεν μπορεί να παραποιηθεί, αλλά είναι ασήμαντο εύκολο να αφαιρεθεί. Η απλή επεξεργασία και αποθήκευση μιας εικόνας ή η λήψη ενός στιγμιότυπου οθόνης, μπορεί να αφαιρέσει πλήρως τα μεταδεδομένα C2PA.

Το SynthID ακολουθεί μια διαφορετική προσέγγιση. Αντί να βασίζεται σε μεταδεδομένα που βρίσκονται δίπλα σε ένα αρχείο, το υδατογράφημα κωδικοποιείται απευθείας στα pixel μιας εικόνας ή ενός βίντεο ή στην κυματομορφή ενός κλιπ ήχου. Επειδή το σήμα είναι συνυφασμένο στο ίδιο το περιεχόμενο, η Google υποστήριξε ότι θα πρέπει να επιβιώσει από τους μετασχηματισμούς, τη συμπίεση, την περικοπή και την επανακωδικοποίηση που συμβαίνουν φυσικά καθώς τα μέσα διαδίδονται στο διαδίκτυο.

Ένα τεστ πίεσης για το σήμα σε επίπεδο pixel

Η Ars Technica δοκίμασε αυτούς τους ισχυρισμούς χρησιμοποιώντας ένα σενάριο Python που δημιουργήθηκε στη βιβλιοθήκη απεικόνισης Pillow. Το σενάριο προσομοίωσε την απώλεια δεδομένων από επαναλαμβανόμενη κοινή χρήση και λήψη με εξαιρετικά επιταχυνόμενο ρυθμό, εφαρμόζοντας τιμές τυχαιοποιημένης συμπίεσης και αλλαγής μεγέθους σε μια δοκιμαστική εικόνα και τροφοδοτώντας κάθε έξοδο ως βάση για την επόμενη επανάληψη. Δύο εικόνες που δημιουργήθηκαν από την τεχνητή νοημοσύνη από το μοντέλο Nano Banana Pro της Google, μία δημιουργήθηκε εξ ολοκλήρου από την αρχή και μία πρωτότυπη φωτογραφία που επεξεργάστηκε η τεχνητή νοημοσύνη, χρησίμευσαν ως υποκείμενα δοκιμής.

Μετά από 300 γενιές προσομοιωμένης κοινής χρήσης, κατά τη διάρκεια της οποίας τα καθαρά πρωτότυπα υποβαθμίστηκαν σε μόλις αναγνωρίσιμες σταγόνες, το υδατογράφημα SynthID εξακολουθεί να είναι καταχωρημένο και στις δύο εικόνες. Το υδατογράφημα επιβίωσε ακόμη και σε πλήρη στιγμιότυπα οθόνης, επειδή τα ειδικά εικονοστοιχεία δείκτη μεταφέρονται στο νέο αρχείο. Κάθε 50 γενιές ο ελεγκτής παρήγαγε επίσης περικομμένες εκδόσεις για να αποδυναμώσει περαιτέρω την ανίχνευση.

Όπου το SynthID τελικά σπάει

Τα όρια της τεχνολογίας προέκυψαν μόνο κάτω από ακραίες συνθήκες. Μετά από 300 κύκλους συμπίεσης, η αφαίρεση μιας χούφτας εικονοστοιχείων από το περίγραμμα των υποβαθμισμένων εικόνων δοκιμής έσπασε τελικά το SynthID τόσο στις πλήρως δημιουργημένες όσο και στις επεξεργασμένες με AI εικόνες. Επειδή το σήμα υδατογραφήματος κατανέμεται σε όλα τα εικονοστοιχεία, αντιστέκεται στην περιστασιακή περικοπή, αλλά μόλις συσσωρευτεί αρκετή υποβάθμιση, ο ανιχνευτής μπορεί να νικηθεί.

Ο επιστήμονας του Google DeepMind Pushmeet Kohli είπε στην Ars ότι η ομάδα σχεδίασε το σύστημα αναμένοντας ότι θα δεχόταν επίθεση. «Μέσα από όλη τη διαδικασία ανάπτυξης, υποθέσαμε ότι μια τεχνολογία όπως αυτή θα δεχόταν επίθεση», είπε ο Kohli. "Έτσι, κάναμε πολλή έρευνα για να κάνουμε το SynthID ανθεκτικό σε διαφορετικά είδη μετασχηματισμών. Είτε οι άνθρωποι προσθέτουν κάποιο είδος φίλτρου είτε περικόβουν την εικόνα, χρησιμοποιήσαμε αυτούς τους μετασχηματισμούς και βεβαιωθήκαμε ότι ο ανιχνευτής ήταν ανθεκτικός εναντίον τους."

Τα υδατογραφήματα επεκτείνονται σε ολόκληρο τον κλάδο

Η δοκιμή φτάνει καθώς η υιοθέτηση του SynthID διευρύνεται πέρα από τα προϊόντα της ίδιας της Google. Η εταιρεία έχει συνάψει συνεργασίες για να επεκτείνει τη χρήση του υδατογραφήματος, με τα OpenAI, Runway και Nvidia μεταξύ εκείνων που αρχίζουν να ενσωματώνουν την τεχνολογία στα εργαλεία παραγωγής τους. Η Google ήταν απρόθυμη να δημοσιεύσει πολλές τεχνικές λεπτομέρειες πέρα ​​από το αρχικό ερευνητικό έγγραφο, γι' αυτό και οι ανεξάρτητες δοκιμές του είδους του Ars διεξήχθησαν θέματα καθώς το υδατογράφημα πολλαπλασιάζεται σε ολόκληρο το τοπίο της τεχνητής νοημοσύνης.

Οι ετικέτες από μόνες τους δεν είναι αρκετές

Η κεντρική ένταση που εκθέτει το πείραμα είναι ότι ακόμη και ένα ισχυρό υδατογράφημα είναι τόσο χρήσιμο όσο η προθυμία των πλατφορμών και των ανθρώπων να το ελέγξουν. Η ανίχνευση SynthID δεν είναι ακόμη ευρέως ενσωματωμένη στα κοινωνικά δίκτυα και τις εφαρμογές ανταλλαγής μηνυμάτων όπου εξαπλώνονται πραγματικά τα περισσότερα μέσα που χειραγωγούνται. Ένα υδατογράφημα που επιβιώνει σε 300 κύκλους συμπίεσης προσφέρει ελάχιστη προστασία εάν κανείς στο άκρο λήψης δεν το σαρώνει.

Τα αποτελέσματα ανθεκτικότητας είναι πραγματικά ενθαρρυντικά για τον τομέα της αυθεντικότητας του περιεχομένου. Προτείνουν ότι η αόρατη υδατοσήμανση σε επίπεδο pixel μπορεί να χρησιμεύσει ως αξιόπιστη τεχνική ραχοκοκαλιά για την προέλευση. Αλλά το ευρύτερο ερώτημα, εάν η κοινωνία μπορεί να οικοδομήσει τους κανόνες, τις υποδομές και τα κίνητρα για να ενεργήσει πραγματικά βάσει αυτών των σημάτων, παραμένει άλυτο. Καθώς ο όγκος των συνθετικών μέσων συνεχίζει να ξεπερνά το ορόσημο των 100 δισεκατομμυρίων εικόνων, το χάσμα μεταξύ αυτού που μπορεί να σηματοδοτήσει η τεχνολογία και ποιες πλατφόρμες θα μετριάσουν γίνεται η καθοριστική πρόκληση.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Μείνετε ενημερωμένοι με τις ενημερωτικές ειδήσεις AI που διαμορφώνουν την πολιτική, την έρευνα και τις πλατφόρμες που αναδιαμορφώνουν το διαδίκτυο.

Διαβάστε περισσότερα νέα AI