Το OpenAI δημοσίευσε την Πέμπτη τον πιο λεπτομερή λογαριασμό του για το πώς εντοπίζει και διακόπτει την "αντίπαλη απόσταξη" - τη μη εξουσιοδοτημένη χρήση των εξόδων ενός συνοριακού μοντέλου για την εκπαίδευση ενός ανταγωνιστικού συστήματος - και, σύμφωνα με πολλές αναφορές, έχει αρχίσει να απαιτεί από τρίτες πύλες και μεταπωλητές να λάβουν την έγκρισή του πριν προσφέρουν άμεση πρόσβαση στα μοντέλα του.

Οι κινήσεις, που περιγράφονται σε μια ανάρτηση ιστολογίου OpenAI με τίτλο «Καταπολέμηση της αντίπαλης απόσταξης» και σε κάλυψη από τη Semafor και το eWeek, σηματοδοτούν μια σημαντική αυστηροποίηση του τρόπου με τον οποίο η εταιρεία ελέγχει ποιος μπορεί να αναδιανείμει τις δυνατότητες των μοντέλων της - μια αλλαγή με πραγματικές συνέπειες για τους προγραμματιστές, τις startups και τις επιχειρήσεις που έχουν πρόσβαση στα συστήματα OpenAI μέσω μεσάζων.

Γιατί το OpenAI αντιμετωπίζει την απόσταξη ως πρόβλημα ασφάλειας

Η απόσταξη είναι μια τυπική τεχνική μηχανικής μάθησης στην οποία ένα μοντέλο μαθαίνει από τα αποτελέσματα ενός άλλου. Από μόνο του, σημειώνει το OpenAI, δεν είναι ούτε παράνομο ούτε ασυνήθιστο. Η ανησυχία της εταιρείας είναι αυτό που αποκαλεί αντίθετη απόσταξη: ένας παράγοντας που χρησιμοποιεί τα αποτελέσματα ενός συνοριακού μοντέλου χωρίς εξουσιοδότηση για να εκπαιδεύσει ένα άλλο μοντέλο με παρόμοιες δυνατότητες και στη συνέχεια να το αναπτύξει χωρίς συγκρίσιμες διασφαλίσεις.

Στην ανάρτησή του στο blog, το OpenAI υποστηρίζει ότι ο κίνδυνος είναι πιο ξεκάθαρος σε τομείς διπλής χρήσης, όπως η ασφάλεια στον κυβερνοχώρο και η βιολογία. Ένα μοντέλο που βοηθά τους υπερασπιστές να βρουν τρωτά σημεία λογισμικού, θα μπορούσε, μόλις μεταφερθούν οι δεξιότητές του σε ένα σύστημα με ασθενέστερα προστατευτικά κιγκλιδώματα, να βοηθήσει έναν εισβολέα να τα εκμεταλλευτεί. «Ένας αντίπαλος θα μπορούσε να αποστάξει τις κυβερνο-δυνατότητες ενός μοντέλου και να χρησιμοποιήσει το μοντέλο που προκύπτει για να βοηθήσει στη διεξαγωγή κυβερνοεπιθέσεων στις οποίες το αρχικό μοντέλο θα είχε αρνηθεί να βοηθήσει», έγραψε η εταιρεία.

Προστασία της Αλυσίδας της Σκέψης

Στο επίκεντρο της υπεράσπισης του OpenAI βρίσκεται αυτό που αποκαλεί προστατευμένη λογική: τα ενδιάμεσα βήματα - η αλυσίδα της σκέψης - ένα μοντέλο δημιουργεί εσωτερικά ενώ εργάζεται προς μια απάντηση. Αυτά τα ίχνη, εξηγεί η εταιρεία, μπορεί να περιέχουν πληροφορίες που η τελική απάντηση αφήνει έξω, καθιστώντας τα ιδιαίτερα πολύτιμα ως δεδομένα εκπαίδευσης για το μοντέλο άλλου εργαστηρίου.

Η OpenAI λέει ότι έχει ενισχύσει την άμυνά της έναντι της εξαγωγής ιχνών συλλογισμού στο GPT-6.2 Astra και στο GPT-6.2 Sol. Σε μια εσωτερική προσαρμοστική αξιολόγηση χρησιμοποιώντας αυτοματοποιημένη ομάδα red-teaming, η εταιρεία ανέφερε ότι το μέσο ποσοστό επιτυχίας επίθεσης για την ανάκτηση προστατευμένων συλλογισμών μειώθηκε από 54,0% έναντι του GPT-6 Astra με τις αρχικές του διασφαλίσεις σε 0,2% έναντι του GPT-6.2 Astra με τις ενημερωμένες προστασίες.

Τι βρέθηκε η εσωτερική του έρευνα στον κυβερνοχώρο

Η εταιρεία μοιράστηκε επίσης αποτελέσματα από μια εσωτερική μελέτη για τον τρόπο μεταφοράς των δυνατοτήτων στον κυβερνοχώρο κατά την απόσταξη. Τα μοντέλα μαθητών βελτιώθηκαν σε τροχιές που παρήγαγαν μοντέλα δασκάλων που εργάζονταν σε εργασίες κωδικοποίησης και αμυντικής ασφάλειας στον κυβερνοχώρο. Οι μαθητές που εκπαιδεύτηκαν σε ακριβή ίχνη συλλογιστικής γενικά ξεπέρασαν τους μαθητές που εκπαιδεύτηκαν μόνο σε περιλήψεις συλλογισμών, τόσο μετά από εποπτευόμενη τελειοποίηση όσο και — στους μεγαλύτερους προϋπολογισμούς συμπερασμάτων που δοκιμάστηκαν — μετά από έναν περαιτέρω γύρο ενισχυτικής μάθησης, σύμφωνα με τα σημεία αναφοράς OpenAI που εμφανίζονται δίπλα στη θέση.

Η επίπτωση είναι απογοητευτική για όποιον ελπίζει ότι η μεταφορά δυνατοτήτων μπορεί να περιοριστεί με τη δημοσίευση εξυγιαντικών αποτελεσμάτων: ακόμη και οι αλληλεπιδράσεις που επιτρέπονται βάσει των πολιτικών χρήσης μπορούν, συνολικά, να διδάξουν σε έναν μαθητή δεξιότητες μοντέλου που γενικεύονται πέρα ​​από τις εργασίες που εκτέλεσε αρχικά ο δάσκαλος.

Οι πύλες και οι μεταπωλητές χρειάζονται τώρα έγκριση

Τα τεχνικά μέτρα έρχονται παράλληλα με μια αλλαγή πολιτικής. Από την Πέμπτη, το OpenAI θα απαιτεί δρομολογητές και πύλες μοντέλων τεχνητής νοημοσύνης που παρέχουν σε τρίτους άμεση πρόσβαση στα μοντέλα του για να λάβουν προηγούμενη έγκριση, ανέφερε το eWeek. Η απαίτηση βασίζεται σε μια ανακοίνωση που έκανε η εταιρεία τον Οκτώβριο, η οποία καθόριζε τον τρόπο με τον οποίο θα πρέπει να εφαρμόζονται οι προστασίες ασφαλείας όταν οι πελάτες έχουν πρόσβαση στα μοντέλα της απευθείας ή μέσω συνεργατών φιλοξενίας και μεταπωλητών.

Σύμφωνα με τη σύνοψη αυτού του πλαισίου του eWeek, οι υπηρεσίες που συμμετέχουν αναμένεται να διατηρούν συγκρίσιμα πρότυπα, ώστε οι χρήστες να μην μπορούν απλώς να αλλάξουν παρόχους για να αποφύγουν τους περιορισμούς. Τα μέτρα καλύπτουν τρία στάδια: εκτιμήσεις κινδύνου και δοκιμές έναντι προσπαθειών παράκαμψης ασφαλείας πριν από την ανάπτυξη. παρακολούθηση κατά τη χρήση, με τους συνεργάτες που αναμένεται να διερευνήσουν ύποπτη δραστηριότητα· και βήματα επιβολής μετά την εμφάνιση παραβιάσεων. Η Semafor χαρακτήρισε την αλλαγή ως το OpenAI που σφίγγει τη λαβή του σε ένα οικοσύστημα μεταπωλητή που έχει αναπτυχθεί γρήγορα γύρω από το API του.

Τι σημαίνει για τους προγραμματιστές

Για τους προγραμματιστές, το πρακτικό αποτέλεσμα είναι μια νέα ερώτηση συμμόρφωσης που πρέπει να προστεθεί στη δέουσα επιμέλεια του προμηθευτή: εάν ένας διαμεσολαβητής που προσφέρει μοντέλα OpenAI είναι πράγματι εξουσιοδοτημένος να το κάνει. Οι επιχειρήσεις που δρομολογούν την επισκεψιμότητα μέσω aggregators θα πρέπει να επιβεβαιώσουν την κατάσταση έγκρισης του παρόχου τους και τον τρόπο με τον οποίο χειρίζεται τα διαπιστευτήρια και τα δεδομένα, συμβουλεύει το eWeek.

Για τον ευρύτερο κλάδο, η ανακοίνωση είναι ένα μήνυμα ότι οι πάροχοι μοντέλων θεωρούν όλο και περισσότερο τον έλεγχο των παραγόμενων δυνατοτήτων —όχι μόνο τα ίδια τα μοντέλα— ως την περίμετρο που έχει σημασία. Οι διαφωνίες για την απόσταξη έχουν φουντώσει σε όλο το πεδίο τα τελευταία χρόνια και το OpenAI διαμορφώνει τώρα την απάντησή του όχι ως διαφωνία αδειοδότησης αλλά ως απαίτηση ασφάλειας, ευθυγραμμίζοντας τις άμυνες απόσταξης με τους ελέγχους που εφαρμόζει στους κινδύνους βιολογίας και ασφάλειας στον κυβερνοχώρο.

Ο δρόμος μπροστά

Η OpenAI λέει ότι θα συνεχίσει να μελετά πόσες δυνατότητες μεταφέρονται σε διαφορετικά μοντέλα μαθητών και συνταγές απόσταξης και καλεί άλλα εργαστήρια να αξιοποιήσουν το έργο ανίχνευσης και επιβολής του. Το αν οι ανταγωνιστές υιοθετούν συγκρίσιμα καθεστώτα έγκρισης πύλης —και εάν οι χρήστες αποδέχονται την πρόσθετη τριβή— θα βοηθήσει στον καθορισμό του τρόπου κατασκευής της επόμενης γενιάς συστημάτων AI και σε ποιον επιτρέπεται να τα κατασκευάσει.

Μείνετε μπροστά από την καμπύλη

Θέλετε τα πιο πρόσφατα μοντέλα AI, την ασφάλεια και την πολιτική όπως συμβαίνει; Ακολουθήστε τις έκτακτες ειδήσεις AI στο AI Buzz Wire.

Διαβάστε περισσότερα νέα AI →