Η Anthropic θα αρχίσει να εφαρμόζει αόρατα υδατογραφήματα σε κείμενο που δημιουργείται από τα μοντέλα της Claude, επιβεβαίωσε η εταιρεία αυτή την εβδομάδα, καθιστώντας τον πιο πρόσφατο πάροχο τεχνητής νοημοσύνης που προσθέτει αναγνώσιμα από μηχανήματα σήματα προέλευσης ως απάντηση στους νέους ευρωπαϊκούς κανόνες διαφάνειας.
Η αλλαγή, η οποία περιγράφεται λεπτομερώς σε μια ενημερωμένη σελίδα υποστήριξης, σημαίνει ότι το περιεχόμενο που παράγεται από τον Claude θα φέρει μια κρυφή υπογραφή που έχει σχεδιαστεί για να επιβιώνει όταν αντιγράφεται και επικολλάται αλλού. Είναι μια άμεση απάντηση στον Κώδικα διαφάνειας του νόμου περί τεχνητής νοημοσύνης της Ευρωπαϊκής Ένωσης, ο οποίος τέθηκε σε ισχύ στις 2 Αυγούστου και απαιτεί από τις εταιρείες τεχνητής νοημοσύνης να επισημαίνουν το παραγόμενο ή επεξεργασμένο περιεχόμενο με τρόπο που να μπορούν να ανιχνεύσουν άλλα συστήματα.
Πώς λειτουργεί το υδατογράφημα
Η Anthropic είπε ότι όλα τα μοντέλα που θα κυκλοφορήσουν μετά τις 2 Αυγούστου θα περιλαμβάνουν αυτόματα τεχνολογία για τη υδατοσήμανση τόσο του κειμένου όσο και των αρχείων που δημιουργούνται από υπολογιστή. Για τα αρχεία, η εταιρεία υιοθετεί το ανοιχτό πρότυπο C2PA, ένα πλαίσιο διαπιστευτηρίων περιεχομένου που χρησιμοποιείται ήδη από ορισμένους κατασκευαστές καμερών και εργαλεία επεξεργασίας εικόνας για την καταγραφή του τρόπου δημιουργίας ενός τμήματος μέσων.
Το υδατογράφημα κειμένου ενσωματώνεται σε επίπεδο μοντέλου αντί να εφαρμόζεται ως μεταγενέστερη σκέψη. Σύμφωνα με την τεκμηρίωση υποστήριξης του Anthropic, "επειδή το υδατογράφημα είναι μέρος του κειμένου, θα ταξιδέψει μαζί με το κείμενο όταν αντιγραφεί και επικολληθεί αλλού και μπορεί να συνεχιστεί σε κάποια επεξεργασία. Η υδατοσήμανση θα εφαρμοστεί σε επίπεδο μοντέλου, πράγμα που σημαίνει ότι θα υπάρχει ανεξάρτητα από το προϊόν ή την επιφάνεια του Claude από το οποίο προέρχεται το κείμενο."
Η εταιρεία πρόσθεσε ότι σχεδιάζει να επεκτείνει την υποστήριξη υδατογραφήματος και σε παλαιότερα μοντέλα. Η δυνατότητα θα ισχύει σε όλη τη σειρά προϊόντων της Anthropic, συμπεριλαμβανομένου του API της πλατφόρμας Claude, της εφαρμογής συνομιλίας Claude, του Claude Code, του Claude Cowork και του Claude Tag.
Το πόση ακριβώς επεξεργασία θα έπρεπε να κάνει ένας χρήστης για να αφαιρέσει το σήμα δεν είναι απολύτως σαφές και η Anthropic δεν έχει δημοσιοποιήσει λεπτομερώς την τεχνική. Η υδατοσήμανση κειμένου είναι τεχνικά δύσκολη, επειδή μικρές αλλαγές στη διατύπωση μπορούν να σπάσουν εύθραυστα στατιστικά πρότυπα, μια μακροχρόνια πρόκληση για τους ερευνητές στο πεδίο.
Δεν υπάρχει εξαίρεση για χρήστες
Συγκεκριμένα, οι χρήστες του Claude δεν θα μπορούν να απενεργοποιήσουν το υδατογράφημα. Η ρύθμιση επιβάλλεται από το ίδιο το μοντέλο αντί να γίνεται εναλλαγή ανά αίτημα, πράγμα που σημαίνει ότι οποιοσδήποτε δημιουργεί κείμενο μέσω μιας επιφάνειας Claude θα το επισημαίνει είτε το θέλει είτε όχι.
Αυτή η στάση είναι πιθανό να προκαλέσει αντιδράσεις από ορισμένους επαγγελματίες χρήστες. Οι συγγραφείς, οι προγραμματιστές και οι επιχειρήσεις που χρησιμοποιούν τον Claude για τη σύνταξη περιεχομένου έχουν συνηθίσει σε καθαρά, χωρίς επισήμανση αποτελέσματα και ορισμένοι μπορεί να αισθάνονται άβολα με μια αόρατη υπογραφή που ακολουθεί το κείμενό τους στο διαδίκτυο. Η Anthropic φαίνεται ότι κατέληξε στο συμπέρασμα ότι η συμμόρφωση με τους κανονισμούς υπερτερεί αυτής της προτίμησης.
Μέρος ενός ευρύτερου βιομηχανικού αγώνα
Το Anthropic δεν ενεργεί μόνος του. Οι απαιτήσεις διαφάνειας της ΕΕ έχουν προκαλέσει έναν αγώνα δρόμου μεταξύ της τεχνητής νοημοσύνης και των πλατφορμών περιεχομένου για την προσθήκη σημάτων προέλευσης προτού χτυπήσουν οι ρυθμιστικές αρχές.
Μόλις την περασμένη εβδομάδα, η μουσική πλατφόρμα τεχνητής νοημοσύνης Suno είπε ότι θα αρχίσει να επισημαίνει κομμάτια που δημιουργήθηκαν στην υπηρεσία της μετά από ένα κύμα νομικών προκλήσεων σχετικά με τον ήχο που δημιουργείται από AI. Τον περασμένο μήνα, η πλατφόρμα ενημερωτικών δελτίων Substack συνεργάστηκε με την εταιρεία ανίχνευσης Pangram για να επισημάνει περιεχόμενο που δημιουργείται από AI, με τον Διευθύνοντα Σύμβουλο του Substack, Chris Best, να αποκαλεί δημόσια το "Claudefishing", τον όρο του για άτομα που χρησιμοποιούν AI για να πλημμυρίσουν πλατφόρμες με υλικό χαμηλής ποιότητας.
Η πίεση εκτείνεται πολύ πέρα από τους άμεσους ανταγωνιστές της Anthropic. Η Black Forest Labs, η Google, η Meta, η Microsoft, η OpenAI και η Synthesia έχουν δεσμευτεί να τηρούν τον κώδικα διαφάνειας της ΕΕ, σύμφωνα με αναφορές του TechCrunch, σηματοδοτώντας ότι η υδατοσήμανση γίνεται γρήγορα μια βασική προσδοκία του κλάδου και όχι διαφοροποιητής.
Γιατί η προέλευση είναι ξαφνικά επείγουσα
Η ώθηση για υδατογραφήματα αντανακλά δύο συγκλίνουσες ανησυχίες. Το πρώτο είναι ρυθμιστικό: ο νόμος της ΕΕ για την τεχνητή νοημοσύνη είναι πλέον σε ισχύ και οι εταιρείες που δεν συμμορφώνονται αντιμετωπίζουν την προοπτική σημαντικών κυρώσεων. Η έγκαιρη εγκατάσταση της υποδομής προέλευσης είναι φθηνότερη από την εκ των υστέρων τοποθέτηση υπό πίεση επιβολής.
Το δεύτερο είναι η φήμη. Καθώς το κείμενο, οι εικόνες, ο ήχος και το βίντεο που δημιουργούνται από την τεχνητή νοημοσύνη έχουν κατακλύσει τις πλατφόρμες κοινωνικής δικτύωσης, οι εκδότες και οι πλατφόρμες αντιμετωπίζουν αυξανόμενες αντιδράσεις για το "AI slop", χαμηλής ποιότητας συνθετικό περιεχόμενο που παραγκωνίζει την ανθρώπινη εργασία και διαβρώνει την εμπιστοσύνη. Τα αόρατα υδατογραφήματα προσφέρουν μια τεχνική απάντηση σε μια ερώτηση που η μετριοπάθεια από μόνη της δεν μπορεί να λύσει: γράφτηκε από μηχανή;
Για την Anthropic, η οποία έχει χτίσει την επωνυμία της γύρω από την ασφάλεια της τεχνητής νοημοσύνης, η υιοθέτηση υδατογραφημάτων είναι επίσης μια κίνηση αξιοπιστίας. Μια εταιρεία που εμπορεύεται τον εαυτό της ως η υπεύθυνη εναλλακτική έχει ισχυρά κίνητρα να ηγηθεί της διαφάνειας αντί να φαίνεται να τραβάει τα πόδια της.
Τα πιο δύσκολα ερωτήματα παραμένουν άλυτα. Τα υδατογραφήματα βοηθούν μόνο εάν τα εργαλεία ανίχνευσης τα αναζητήσουν πραγματικά και εάν τα σημάδια αποδειχθούν αρκετά ισχυρά για να επιβιώσουν από την επεξεργασία, την αναδιαμόρφωση και το ξέπλυμα που συμβαίνει καθώς το περιεχόμενο μετακινείται στον ανοιχτό ιστό. Το στοίχημα της Anthropic είναι ότι η ενσωμάτωση του σήματος σε επίπεδο μοντέλου είναι η πιο ανθεκτική προσέγγιση. Το αν θα αντέξει στην πράξη θα δοκιμαστεί γρήγορα και δημόσια τους επόμενους μήνες.
Για συνεχή κάλυψη της πολιτικής τεχνητής νοημοσύνης και των εργαλείων που αναδιαμορφώνουν τη βιομηχανία, προσθέστε σελιδοδείκτη [Η έκτακτη κάλυψη ειδήσεων AI του Buzz Wire] (https://aibuzzwire.news).
