Η OpenAI ανακοίνωσε στις 5 Οκτωβρίου ότι θα αρχίσει να προσθέτει αόρατα υδατογραφήματα στο κείμενο που δημιουργείται από το ChatGPT και το Codex για χρήστες στην Ευρωπαϊκή Ένωση, η συγκεκριμένη απάντησή του στους κανόνες προέλευσης κειμένου του νόμου για την τεχνητή νοημοσύνη της ΕΕ. Σε μια ανάρτηση ιστολογίου με τίτλο «Η προσέγγισή μας στους κανόνες προέλευσης κειμένου της ΕΕ», η εταιρεία είπε ότι η υδατογράφηση θα κυκλοφορήσει «τις επόμενες εβδομάδες» για επιλέξιμη παραγωγή στο μπλοκ, ένα σχέδιο που αναφέρθηκε την ίδια ημέρα από τα TechCrunch, The Verge, BleepingComputer, Engadget και άλλα καταστήματα.
Η τεχνολογία πίσω από την αλλαγή ονομάζεται textGrain. Αντί να ενσωματώνει ένα ορατό σημάδι, το textGrain λειτουργεί κατευθύνοντας διακριτικά τις επιλογές λέξεων του μοντέλου, ώστε το κείμενο που προκύπτει να φέρει ένα στατιστικό μοτίβο που μπορεί να ανιχνευθεί αργότερα. Οι αναγνώστες δεν θα παρατηρήσουν τίποτα όταν καταναλώνουν ή αντιγράφουν κείμενο που δημιουργείται από AI. Η ανίχνευση απαιτεί πρόσβαση στον ανιχνευτή του OpenAI, ο οποίος δεν είναι διαθέσιμος στο ευρύ κοινό. Για μια ευρύτερη ματιά στο πώς οι ρυθμιστικές αρχές και τα εργαστήρια συγκρούονται σχετικά με τους κανόνες τεχνητής νοημοσύνης, ακολουθήστε τη συνεχιζόμενη κάλυψη της πολιτικής μας για την τεχνητή νοημοσύνη.
Πώς λειτουργεί το textGrain Watermarking
Η προσέγγιση του OpenAI τροποποιεί τη διαδικασία επιλογής διακριτικών κατά τη διάρκεια της παραγωγής. Η εταιρεία λέει ότι το textGrain «αλλάζει ελαφρώς τις επιλογές λέξεων του μοντέλου για να δημιουργήσει ένα στατιστικό μοτίβο που μπορεί αργότερα να ανιχνευθεί», σύμφωνα με αναφορές της BleepingComputer. Το υδατογράφημα είναι αόρατο όταν το κείμενο διαβάζεται ή αντιγράφεται και το OpenAI ισχυρίζεται ότι δεν υποβαθμίζει την ποιότητα εξόδου.
Η πλευρά ανίχνευσης περιορίζεται σκόπιμα. Παράλληλα με την κυκλοφορία του υδατογραφήματος, το OpenAI ανοίγει εφαρμογές για τον ανιχνευτή υδατογραφημάτων του, αλλά η πρόσβαση αρχικά θα περιοριστεί σε εγκεκριμένους ερευνητές και ειδικούς οργανισμούς. Αυτός ο σχεδιασμός κρατά την ικανότητα ανίχνευσης μακριά από τα χέρια οποιουδήποτε ελπίζει να την οπλίσει, αλλά σημαίνει επίσης ότι οι εκδότες, οι δάσκαλοι και οι εργοδότες δεν μπορούν να επαληθεύσουν ανεξάρτητα εάν ένα κομμάτι κειμένου έχει υδατογραφηθεί.
Η πρόσβαση στο API είναι ενεργοποιημένη παγκοσμίως
Η εντολή της ΕΕ ισχύει για την έξοδο ChatGPT και Codex στο μπλοκ, αλλά το OpenAI δίνει ταυτόχρονα στους προγραμματιστές παντού τη δυνατότητα επιλογής. Από τις 5 Οκτωβρίου, οι προγραμματιστές API σε όλο τον κόσμο μπορούν να επιλέξουν τη υδατοσήμανση κειμένου για υποστηριζόμενα μοντέλα. Η δυνατότητα παραμένει απενεργοποιημένη από προεπιλογή στο API, μια απόφαση που το New Stack τόνισε ως αντίθεση με την προσέγγιση της Anthropic, η οποία ενεργοποίησε τη σήμανση προέλευσης για την κυκλοφορία στην ΕΕ νωρίτερα αυτό το έτος ως απάντηση στους ίδιους κανόνες.
Αυτή η στάση επιλογής θα καθησυχάσει τους προγραμματιστές που ανησυχούν για απρόβλεπτες παρενέργειες. Η στατιστική υδατοσήμανση αλλάζει τον τρόπο δειγματοληψίας των διακριτικών και οποιαδήποτε τροποποίηση στη δημιουργία εγκυμονεί τουλάχιστον έναν θεωρητικό κίνδυνο αλλαγής συμπεριφοράς στις ακραίες περιπτώσεις. Καθιστώντας το υδατογράφημα ως σημαία αντί για προεπιλογή, το OpenAI μεταφέρει την απόφαση συμμόρφωσης στις εταιρείες που βασίζονται στα μοντέλα του.
Γιατί το επιβάλλει αυτό ο νόμος της ΕΕ για την τεχνητή νοημοσύνη
Οι διατάξεις περί διαφάνειας του νόμου για την τεχνητή νοημοσύνη της ΕΕ απαιτούν το κείμενο που δημιουργείται από τεχνητή νοημοσύνη να μπορεί να αναγνωριστεί ως δημιουργημένο από μηχανή, μια υποχρέωση που ώθησε τόσο το OpenAI όσο και το Anthropic προς τα σχήματα στατιστικής υδατοσήμανσης. Η ανάρτηση ιστολογίου του OpenAI πλαισιώνει το textGrain ως εφαρμογή αυτών των απαιτήσεων προέλευσης και η PYMNTS ανέφερε την κυκλοφορία ως το OpenAI που συναντά απευθείας τις «εντολές του νόμου για την τεχνητή νοημοσύνη της ΕΕ».
Το timing είναι αξιοσημείωτο. Η ανακοίνωση του υδατογραφήματος προσγειώνεται σε μια ασυνήθιστα ταραχώδη έκταση για τη δημόσια στάση του OpenAI: ο ίδιος κύκλος ειδήσεων έφερε την αποχώρηση του ηγέτη ασφαλείας David Robinson, μια έρευνα της FTC για κινδύνους καταναλωτών σε μεγάλα εργαστήρια AI και μια ατμόσφαιρα αγωγής μετόχων που κράτησε την εταιρεία υπό έλεγχο. Η υδατοσήμανση είναι μία από τις λίγες ρυθμιστικές απαιτήσεις που μπορεί να ικανοποιήσει πλήρως το OpenAI με αλλαγές υποδομής αντί για αλλαγές προϊόντων, κάτι που μπορεί να εξηγήσει γιατί απεστάλη πρώτο.
Το Catch: Τα υδατογραφήματα διακόπτουν την επεξεργασία
Το ίδιο το OpenAI παραδέχεται τον θεμελιώδη περιορισμό. Η εταιρεία παραδέχεται ότι το υδατογράφημά της μπορεί να εξαφανιστεί όταν το κείμενο επεξεργάζεται, και δεκαετίες έρευνας στη γλωσσική στεγανογραφία που αφορούν: παράφραση, μετάφραση ή ακόμα και μέτρια επαναγραφή μπορεί να καταστρέψει τα στατιστικά υδατογραφήματα. Όποιος είναι αποφασισμένος να ξεπλύνει κείμενο τεχνητής νοημοσύνης μέσω ενός εργαλείου "humanizer" πιθανότατα θα πετύχει.
Αυτή η αδυναμία δεν εμπόδισε τις ρυθμιστικές αρχές να απαιτούν υδατοσήμανση και δεν εμπόδισε τα εργαστήρια να τη στέλνουν. Ο ρεαλιστικός στόχος δεν είναι η αδιαπραγμάτευτη προέλευση, αλλά η αύξηση του κόστους της περιστασιακής εξαπάτησης σε κλίμακα, η ίδια λογική που διέπει τα υδατογραφήματα νομισμάτων. Οι επικριτές, συμπεριλαμβανομένων ορισμένων ομάδων ασφάλειας τεχνητής νοημοσύνης που ήταν δύσπιστες για τα εθελοντικά μέτρα της βιομηχανίας, υποστηρίζουν ότι οι ανιχνευτές στους οποίους είναι προσβάσιμοι μόνο εγκεκριμένοι οργανισμοί κάνουν λίγα για τους δασκάλους, τους συντάκτες ή τις πλατφόρμες που προσπαθούν να επιβάλουν τις δικές τους πολιτικές περιεχομένου AI.
Τι σημαίνει για χρήστες και προγραμματιστές
Για τους χρήστες ChatGPT και Codex εντός της ΕΕ, τίποτα δεν θα αλλάξει εμφανώς. Το κείμενο θα έχει την ίδια εμφάνιση και αίσθηση και δεν θα εμφανίζεται καμία ετικέτα στα αποτελέσματα. Το υδατογράφημα θα είναι απλώς εκεί, κατ' αρχήν ανιχνεύσιμο από τους εγκεκριμένους συνεργάτες του OpenAI.
Για τους προγραμματιστές, η σημαία API έρχεται αμέσως και αξίζει να αξιολογηθεί προσεκτικά: η ενεργοποίησή της σημαίνει αποδοχή λεπτών αλλαγών στη δειγματοληψία διακριτικών σε κάθε ολοκλήρωση, ακόμη και για χρήστες εκτός ΕΕ, καθώς η ρύθμιση API είναι παγκόσμια. Ομάδες με αυστηρό λανθάνοντα χρόνο ή προϋπολογισμούς ποιότητας μπορεί να θέλουν να κάνουν τη συγκριτική αξιολόγηση της παραγωγής υδατογραφημένης σε σχέση με την τρέχουσα ρύθμιση πριν γυρίσουν τον διακόπτη.
Η OpenAI λέει ότι περισσότερες λεπτομέρειες σχετικά με τα κατάλληλα μοντέλα και τη διαδικασία εφαρμογής ανιχνευτών θα φθάσουν τις επόμενες εβδομάδες. Καθώς άλλα εργαστήρια αντιμετωπίζουν τις ίδιες υποχρεώσεις της ΕΕ, το textGrain είναι απίθανο να είναι το τελευταίο σχήμα υδατοσήμανσης που εφαρμόζει η βιομηχανία φέτος.
Μείνετε μπροστά από την τεχνητή νοημοσύνη
Ο κανονισμός αναδιαμορφώνει τον τρόπο με τον οποίο λειτουργούν τα προϊόντα τεχνητής νοημοσύνης. Λάβετε τις τελευταίες εξελίξεις AI στο AI Buzz Wire, με ανάλυση πολιτικής και νέα μοντέλα που ενημερώνονται καθ' όλη τη διάρκεια της ημέρας.
Διαβάστε περισσότερα νέα AI εδώ.
