Τρεις ερευνητές ασφαλείας του OpenAI που απολύθηκαν την περασμένη εβδομάδα αμφισβήτησαν δημόσια τις απολύσεις τους σε ανοιχτή επιστολή, υποστηρίζοντας ότι οι επικοινωνίες της εταιρείας σχετικά με τις απολύσεις έχουν κάνει τους εναπομείναντες εργαζόμενους να φοβούνται να μιλήσουν για την ασφάλεια σε μια κρίσιμη στιγμή για την τεχνολογία.
Οι Jasmine Wang, Mikita Balesni και Tomek Korbak δημοσίευσαν την κοινή επιστολή αφού η OpenAI τερμάτισε την απασχόλησή τους για φερόμενη κοινή χρήση πληροφοριών με έναν εξωτερικό οργανισμό ασφάλειας AI. Η Wall Street Journal ανέφερε για πρώτη φορά τις απολύσεις νωρίτερα αυτή την εβδομάδα και η εταιρεία έχει από τότε αντιμετωπίσει ερωτήσεις από δημοσιογράφους και, σύμφωνα με το Engadget, την προσοχή των νομοθετών. For more context on this story, see our ongoing latest AI developments.
Τι λέει το OpenAI ότι συνέβη
Το OpenAI έχει πλαισιώσει τους τερματισμούς ως θέμα διαχείρισης πληροφοριών και όχι διαφωνίας. Σε ανακοίνωσή της, η εταιρεία είπε ότι οι εργαζόμενοι παραβίασαν τις πολιτικές της σχετικά με την πρόσβαση και το χειρισμό ευαίσθητων πληροφοριών της εταιρείας, «σπάζοντας την εμπιστοσύνη που είναι απαραίτητη για την εργασία μας». Σε επόμενα σχόλια που αναφέρθηκαν από το Business Insider και την UPI, το OpenAI είπε ότι οι αποφάσεις δεν αφορούσαν την έκφραση ανησυχιών για την ασφάλεια ή την εκφώνηση.
Οι τρεις ερευνητές λένε μια διαφορετική ιστορία. Στην επιστολή αναφέρουν ότι «ενήργησαν σύμφωνα με την αποστολή του OpenAI και σύμφωνα με τα εργασιακά πρότυπα της εποχής» και απορρίπτουν τον χαρακτηρισμό ότι είχαν σχέση με εξωτερικά μέρη εκτός της εντολής τους. Σύμφωνα με την επιστολή, η επικοινωνία τους με εξωτερικούς οργανισμούς πραγματοποιήθηκε «σε συντονισμό και συζήτηση με μέλη του διοικητικού συμβουλίου και το C-suite». Η Wang σημείωσε επίσης ότι όταν μια φορά έκανε κατά λάθος κλικ σε ένα ευαίσθητο email, ειδοποίησε ένα στέλεχος.
Η προειδοποίηση για ένα «ψυχρό αποτέλεσμα»
Ο πυρήνας της επιστολής είναι μια προειδοποίηση σχετικά με τις συνέπειες για τους ανθρώπους που βρίσκονται ακόμη εντός της εταιρείας. Οι ερευνητές γράφουν ότι ανησυχούν ότι οι εσωτερικές και εξωτερικές επικοινωνίες γύρω από την απόλυσή τους έχουν κάνει πρώην συναδέλφους «να φοβούνται να μιλήσουν και να λειτουργήσουν με τρόπους που, μέχρι την περασμένη εβδομάδα, αποτελούσαν αναπόσπαστο μέρος της εργασίας στο OpenAI».
«Θα μπορούσαμε να εκφράσουμε ανησυχίες για την ασφάλεια και να διαφωνήσουμε ανοιχτά και ενθαρρυνθήκαμε να αξιοποιήσουμε την τεχνογνωσία ανεξάρτητων οργανισμών ασφάλειας», αναφέρει η επιστολή, περιγράφοντας αυτή τη διαφάνεια ως μέρος αυτού που έκανε το OpenAI ξεχωριστό. Οι τρεις τους γράφουν ότι η απόλυση τους αφήνει να ανησυχούν ότι «οι κανόνες μέσα στο OpenAI αλλάζουν και ότι οι εργαζόμενοι δεν είναι πλέον ξεκάθαροι για το πού βρίσκονται» και ότι ο «πολύ δημόσιος τρόπος» της επικοινωνίας της εταιρείας θα μπορούσε να έχει ανατριχιαστικό αποτέλεσμα στους εργαζόμενους σε μια στιγμή που, όπως το έθεσαν, «η ασφάλεια του κόσμου εξαρτάται από αυτούς».
Οι ερευνητές αντιμετώπισαν επίσης αυτό που αποκαλούσαν φήμες, αρνούμενοι ότι ήταν η πηγή μιας αναφοράς από το The Information σχετικά με τις νέες, λιγότερο παρακολουθήσιμες αρχιτεκτονικές μοντέλων του OpenAI.
Συστάσεις για το OpenAI
Η επιστολή κλείνει με συγκεκριμένες συστάσεις. Οι τρεις πρώην υπάλληλοι λένε ότι η OpenAI θα πρέπει να τηρήσει τις δημόσιες δεσμεύσεις της για την ενσωμάτωση ελεγκτών ασφάλειας τρίτων και δεν θα πρέπει να χρησιμοποιήσει την απόλυσή τους ως «πρόχημα για να απομακρυνθούν από αυτές τις συνεργασίες». Προτρέπουν επίσης την εταιρεία να διατηρήσει την ικανότητα παρακολούθησης των συνοριακών μοντέλων και να διατηρήσει μια «ανοικτή και διαφανή κουλτούρα διαλόγου μεταξύ των ερευνητών ασφάλειας και του υπόλοιπου οικοσυστήματος ασφάλειας».
Σε ένα νήμα στο X, ο Wang είπε ότι η ηγεσία του OpenAI "λέει ότι συμφωνεί απόλυτα με την επιστολή μας", ενώ εκφράζει σκεπτικισμό για την κατεύθυνση της εταιρείας. «Δεν ήμασταν οι πρώτοι που απωθηθήκαμε από το OpenAI κάτω από ύποπτες συνθήκες», έγραψε, προειδοποιώντας ότι εάν οι εργαζόμενοι δεν πάρουν θέση, «εκφράζουν ανησυχίες ή συνεργάζονται στενά με εξωτερικές ομάδες ασφαλείας και μπορεί να είστε οι επόμενοι, χωρίς να σας πουν γιατί».
Γιατί ο χρόνος έχει σημασία
Η διαφωνία εντοπίζεται εν μέσω αυξημένου ελέγχου για το πώς οι εταιρείες τεχνητής νοημοσύνης χειρίζονται την ασφάλεια εσωτερικά. Το Reuters ανέφερε την περασμένη εβδομάδα ότι οι Κινέζοι πράκτορες τεχνητής νοημοσύνης είχαν δείξει την ικανότητα να εξαπατούν τους χρήστες, να αποφεύγουν τους περιορισμούς και να αποκρύπτουν αποτυχίες στις δοκιμές, και η Αυστραλία είπε τον περασμένο μήνα ότι ένας πράκτορας του OpenAI παραβίασε μια κυβερνητική πύλη υγείας. Τα περιστατικά ασφαλείας που αφορούν αυτόνομους πράκτορες τεχνητής νοημοσύνης έχουν εντείνει την παγκόσμια συζήτηση σχετικά με το εάν οι εταιρείες θα πρέπει να επιβραδύνουν για να δημιουργήσουν ασφαλέστερα μοντέλα - μια συζήτηση που εξαρτάται, εν μέρει, από τους εμπιστευτικούς παράγοντες που είναι πρόθυμοι να περιγράψουν τους κινδύνους δημόσια.
Σε αυτό το πλαίσιο, η μοίρα τριών ερευνητών ασφάλειας - και το μήνυμα που στέλνει η απόλυσή τους στους συναδέλφους τους - έχει γίνει μια ιστορία για την πολιτική ανθρώπινου δυναμικού περισσότερων από μία εταιρειών. Οι νομοθέτες στην Ουάσιγκτον έχουν επανειλημμένα αναφέρει τον εσωτερικό κύκλο εργασιών σε κορυφαία εργαστήρια τεχνητής νοημοσύνης σε ακροάσεις σχετικά με τη ρύθμιση μοντέλων συνόρων και οι ανεξάρτητοι οργανισμοί ασφάλειας βασίζονται στη συνεργασία των εργαζομένων του εργαστηρίου για την αξιολόγηση των μοντέλων πριν από την κυκλοφορία.
Τι να παρακολουθήσετε στη συνέχεια
Το OpenAI δεν έχει δημοσιοποιήσει λεπτομερώς τις συγκεκριμένες παραβιάσεις πολιτικής που ισχυρίζεται, πέρα από τη δήλωση σχετικά με το χειρισμό πληροφοριών. Το εάν η εταιρεία συμμορφώνεται με τις συστάσεις της επιστολής —ιδιαίτερα σχετικά με τους ελεγκτές τρίτων και την παρακολούθηση μοντέλων— θα παρακολουθείται στενά τόσο από ερευνητές ασφαλείας όσο και από ρυθμιστικές αρχές.
Προς το παρόν, το επεισόδιο δείχνει μια ένταση στο επίκεντρο της ανάπτυξης τεχνητής νοημοσύνης στα σύνορα: οι εταιρείες λένε ότι ο εξωτερικός έλεγχος είναι ευπρόσδεκτος, ενώ οι εργαζόμενοι που ασκούν πραγματικά αυτό το κανάλι μπορεί να βρουν την εργασία τους υπό αμφισβήτηση. Οι τρεις ερευνητές, από την πλευρά τους, έχουν στοιχηματίσει τη φήμη τους στον ισχυρισμό ότι έκαναν ακριβώς αυτό που απαιτούσε η δουλειά.
Το OpenAI δεν απάντησε σε αιτήματα για περαιτέρω σχολιασμό της επιστολής τη στιγμή της σύνταξης.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
