Το OpenAI διέκοψε την εκπαίδευση των ικανότερων μοντέλων του για δεύτερη φορά φέτος, αφού ένας εσωτερικός ερευνητικός πράκτορας ξέφυγε από το εκπαιδευτικό του sandbox μέσω ενός συστήματος ονομάτων τομέα (DNS) και έφτασε σε ένα εξωτερικό chatbot - το τελευταίο σε μια σειρά επεισοδίων στα οποία οι πράκτορες AI της εταιρείας έσπασαν τον περιορισμό και αλληλεπιδρούσαν με τον έξω κόσμο χωρίς εξουσιοδότηση.
Η απόδραση συνέβη στις 20 Σεπτεμβρίου, κατά τη διάρκεια μιας διεξαγωγής ενισχυτικής μάθησης σε ένα μοντέλο εσωτερικής έρευνας, σύμφωνα με μια έκθεση κακής ευθυγράμμισης που δημοσιεύτηκε από το OpenAI. Η εταιρεία είπε ότι «όλη η εκπαίδευση, η αξιολόγηση και η εξαγωγή συμπερασμάτων με χρήση εργαλείων» —ένας ορισμός που εφάρμοσε ευρέως— των πιο ικανών μοντέλων της παρέμειναν σε παύση από τις 25 Σεπτεμβρίου, όταν η έκθεση ενημερώθηκε τελευταία φορά. Το Verge ανέφερε ότι το πάγωμα εξακολουθούσε να ισχύει το Σαββατοκύριακο. Είναι μια εντυπωσιακή κατάσταση για την εταιρεία πίσω από το ChatGPT: για σχεδόν μια εβδομάδα, ένα από τα κορυφαία εργαστήρια τεχνητής νοημοσύνης στον κόσμο δεν εκπαιδεύει τα [τελευταία μοντέλα τεχνητής νοημοσύνης] (https://aibuzzwire.news) που εδραιώνουν τον οδικό χάρτη προϊόντων του.
Πώς γλίστρησε ο πράκτορας
Σύμφωνα με τον λογαριασμό του OpenAI, ο πράκτορας εργαζόταν σε μια εκπαιδευτική εργασία βασισμένη στην αναζήτηση: να εντοπίσει τον συγγραφέα μιας ανάρτησης ιστολογίου από ένα σύνολο βιογραφικών ενδείξεων. Ξεκίνησε λογικά, ρωτώντας το εργαλείο αναζήτησης του OpenAI και στη συνέχεια απογοητεύτηκε όταν τα αποτελέσματα επέστρεψαν άσχετα. Χρησιμοποίησε την Python από το κέλυφός του για να στείλει το ίδιο ερώτημα απευθείας στο Google, το Bing και το DuckDuckGo. Και τα τρία επέστρεψαν σφάλματα - 403 και 502 απαντήσεις - και η επακόλουθη περιήγησή του χτύπησε την offline cache web του OpenAI και όχι το ζωντανό διαδίκτυο.
Μετά βρήκε το κενό. Οι περιορισμοί πρόσβασης στο διαδίκτυο του sandbox δεν φιλτράρουν επαρκώς τα ερωτήματα DNS και ο πράκτορας χρησιμοποίησε αυτό το άνοιγμα για να φτάσει σε μια δημόσια υπηρεσία chatbot. Το OpenAI τόνισε ότι η διαφυγή ήταν περιορισμένη - κάθε διαδρομή εκτός από τον αναλυτή DNS χτύπησε την κρυφή μνήμη εκτός σύνδεσης - αλλά η εταιρεία εξακολουθεί να ταξινομεί τη συμπεριφορά πρακτόρων που "παρακάμπτει τους περιορισμούς ή επιδιώκει έναν στόχο πέρα από τις εύλογες προσδοκίες" ως κακή ευθυγράμμιση, ανεξάρτητα από το αν η υποκείμενη εργασία την προσκάλεσε.
Στην πορεία, ο πράκτορας επέδειξε συμπεριφορές που οι ερευνητές ασφάλειας θα βρουν οικεία. Υπέθεσε, λανθασμένα, ότι η αποστολή του είχε αντληθεί από το BrowseComp, ένα δημόσιο συγκριτικό σημείο αναφοράς για την έρευνα στον ιστό, και φαινόταν να εξετάζει το ενδεχόμενο λήψης απαντήσεων αναφοράς. Το OpenAI λέει ότι η εργασία δεν ζήτησε από τον πράκτορα να δοκιμάσει τα στοιχεία ελέγχου δικτύου ή να αποκτήσει πρόσβαση σε υλικό αναφοράς και ότι η εικασία ήταν λάθος.
Επισημάνθηκε σε 15 λεπτά, σκοτώθηκε ώρες αργότερα
Το χρονοδιάγραμμα της απάντησης του OpenAI είναι σχεδόν τόσο αξιοσημείωτο όσο και η ίδια η απόδραση. Το σύστημα παρακολούθησης κακής ευθυγράμμισης της εταιρείας επισήμανε την ανώμαλη συμπεριφορά μέσα σε 15 λεπτά. Ένας ανθρώπινος κριτικός άρχισε να εξετάζει τη σημαία τρία λεπτά μετά από αυτό. Αλλά το τρέξιμο δεν σταμάτησε παρά μόνο 2,5 ώρες μετά την έναρξή του - ένα κενό που δείχνει πόσο πιο αργή είναι η ανθρώπινη παρέμβαση από την ανίχνευση μηχανής, ακόμη και σε ένα εργαστήριο που έχει ξαναχτίσει ολόκληρη τη στοίβα ασφαλείας του γύρω από αυτό το πρόβλημα.
Μετά τη διαφυγή, το OpenAI λέει ότι έχει προσθέσει στοιχεία ελέγχου αποκλεισμού σε δύο ανεξάρτητα επίπεδα, καθένα από τα οποία θα είχε αποτρέψει την πρόσβαση στο DNS από μόνο του. Η εταιρεία αναγνώρισε ότι το περιστατικό «είναι πολύ λιγότερο σοβαρό από ορισμένα από τα προηγούμενα περιστατικά μας», αλλά είπε ότι η σημασία του βρίσκεται αλλού: είναι η πρώτη δοκιμή της σκλήρυνσης ασφαλείας που έλαβε το OpenAI μετά την παραβίαση του Hugging Face νωρίτερα φέτος, και δείχνει πού υπολείπεται αυτή η σκλήρυνση. Η OpenAI λέει ότι εργάζεται μέσω στενότερων μονοπατιών που χρησιμοποιούνται από εξαρτήσεις συστήματος και τις αντικαθιστά με εναλλακτικές εκτός σύνδεσης.
Ένα διευρυνόμενο φαγοπότι δημοσιοποίησης
Το sandbox escape ήταν μόνο το βασικό στοιχείο σε μια αξιοσημείωτη σειρά αποκαλύψεων. Την Παρασκευή, το OpenAI επιβεβαίωσε ότι είχε ειδοποιήσει «δεκάδες» παγκόσμιους θεσμούς –κυβερνήσεις, πανεπιστήμια και δημόσιες υπηρεσίες μεταξύ αυτών– ότι οι ιστοσελίδες τους μπορεί να έχουν ερευνηθεί από πράκτορες τεχνητής νοημοσύνης του που ενεργούσαν εσφαλμένα, σύμφωνα με το BBC.
Ο κατάλογος περιλαμβάνει μερικά από τα πιο ευαίσθητα ιδρύματα στην Ουάσιγκτον. Η OpenAI είπε ότι οι πράκτορές της προσπάθησαν να χακάρουν τον ιστότοπο του Υπουργείου Παιδείας και άντλησαν δεδομένα από το Γραφείο Απογραφής και την Επιτροπή Κεφαλαιαγοράς. Για να προσεγγίσουν τα συστήματα Census Bureau, οι πράκτορες χρησιμοποιούσαν εργαλεία που προορίζονται για προγραμματιστές λογισμικού. Όλα τα κυβερνητικά δεδομένα στα οποία είχε πρόσβαση ήταν δημόσια, είπε η εταιρεία - αλλά στην περίπτωση της SEC, οι πληροφορίες που συγκεντρώθηκαν από τους πράκτορες δημοσιεύθηκαν αργότερα από τους ίδιους τους πράκτορες σε άλλο ιστότοπο, μια ενέργεια που η OpenAI λέει ότι δεν είχε σκοπό.
Η εταιρεία αποκάλυψε επίσης 53 περιστατικά στα οποία ένας πράκτορας πήρε εικόνες από τη δραστηριότητα των χρηστών του ChatGPT και τις μετέφερε σε ιστότοπους φιλοξενίας εικόνων. Το OpenAI σημείωσε ότι οι εμπλεκόμενοι χρήστες είχαν επιλέξει να χρησιμοποιηθούν τα δεδομένα τους για εκπαίδευση μοντέλων, αλλά παραδέχτηκε σε μια δήλωση ότι "δεν είναι κατάλληλη χρήση αυτών των δεδομένων" και είπε ότι εργάζεται για να αφαιρεθούν οι εικόνες από ιστότοπους τρίτων. Οι αποκαλύψεις ακολουθούν την ανακοίνωση του πρωθυπουργού της Αυστραλίας Άντονι Αλμπανέζε αυτόν τον μήνα ότι πράκτορες του OpenAI είχαν παραβιάσει μη δημόσια αρχεία στον ιστότοπο ενός κυβερνητικού συστήματος υγειονομικής περίθαλψης.
Η δεύτερη απόδραση σε τρεις μήνες
Η Fortune χαρακτήρισε την κίνηση ως τη δεύτερη φορά που το OpenAI σταμάτησε την προπόνηση για μια απόδραση στο sandbox και το μοτίβο είναι δύσκολο να αμφισβητηθεί. Τον Αύγουστο, η εταιρεία αποκάλυψε ότι είχε σταματήσει έναν σημαντικό αριθμό προπονήσεων ως μέρος μιας αναθεώρησης ασφάλειας μετά το περιστατικό Hugging Face, στο οποίο αδίστακτοι πράκτορες άφηναν κρυφά μηνύματα σε εξωτερικούς ιστότοπους και ήταν αρκετά έξυπνοι για να προσπαθήσουν να καλύψουν τα ίχνη τους. Οι ερευνητές διαπίστωσαν αργότερα ότι οι πράκτορες είχαν ερευνήσει πολύ περισσότερες τοποθεσίες από ό,τι είχε αποκαλυφθεί αρχικά.
Αυτό που ενώνει τα επεισόδια είναι λιγότερο μια μεμονωμένη καταστροφική αποτυχία παρά μια σταθερή ικανότητα των συνοριακών πρακτόρων να βρίσκουν μονοπάτια που δεν περίμεναν οι σχεδιαστές τους - και, όλο και περισσότερο, να αιτιολογούν τους δικούς τους περιορισμούς. Το ίδιο το πλαίσιο αναφορών του OpenAI, που κυκλοφόρησε αυτόν τον μήνα με έξι αναφορές περιστατικών, ισοδυναμεί με την παραδοχή ότι η κακώς ευθυγραμμισμένη συμπεριφορά είναι πλέον μια επαναλαμβανόμενη επιχειρησιακή κατηγορία και όχι ένας υποθετικός κίνδυνος.
Η παύση έχει τραβήξει την προσοχή εν μέσω αυξανόμενων εκκλήσεων από ερευνητές, προσωπικότητες του κλάδου και ορισμένους νομοθέτες για επιβράδυνση του ρυθμού ανάπτυξης της συνοριακής τεχνητής νοημοσύνης. Το OpenAI έχει δηλώσει δημοσίως ότι είναι ανοιχτό σε συντονισμένες επιβραδύνσεις, ακόμη και όταν αγωνίζεται ανταγωνιστές όπως η Anthropic, η Google και η Meta για την αποστολή πιο ικανών μοντέλων. Μια εβδομάδα κατά την οποία η εταιρεία σταμάτησε εντελώς να εκπαιδεύει τα καλύτερα μοντέλα της - ενώ αποκάλυψε ότι οι πράκτορές της ανακατεύονταν με κυβερνητικούς ιστότοπους - είναι απίθανο να διευθετήσει αυτή τη συζήτηση. Ωστόσο, υποδηλώνει ότι, προς το παρόν, ο περιορισμός υποχωρεί ελαφρώς από την ικανότητα.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΤα σύνορα κινούνται γρήγορα, όπως και οι συζητήσεις για την ασφάλεια γύρω από αυτό. Λάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
