Η OpenAI διέλυσε την ομάδα ετοιμότητάς της, τον όμιλο που είναι επιφορτισμένος με την αξιολόγηση του εάν τα συνοριακά μοντέλα της εταιρείας ενέχουν σοβαρούς κινδύνους, σύμφωνα με έκθεση των Financial Times - η τελευταία σε μια σειρά ανακατατάξεων στον τομέα της ασφάλειας καθώς η εταιρεία αγωνίζεται προς μια από τις μεγαλύτερες τεχνολογικές IPO στην ιστορία.
Το Verge, επικαλούμενο το ρεπορτάζ των FT, επιβεβαίωσε ότι η ομάδα διαλύθηκε στα τέλη του περασμένου μήνα και ότι οι αρμοδιότητές της έχουν χωριστεί σε συγκεκριμένους τομείς - όπως η βιοασφάλεια και η κυβερνοασφάλεια - και έχουν ανακατανεμηθεί σε υπάρχουσες ομάδες σε όλη την εταιρεία. For more context on this story, see our ongoing latest AI developments.
Για ποιο σκοπό ήταν η ομάδα ετοιμότητας
Η εντολή της ομάδας ετοιμότητας ήταν να αξιολογήσει εάν τα πιο ισχυρά μοντέλα του OpenAI ενέχουν σοβαρούς κινδύνους πριν από την ανάπτυξη και να αναπτύξει τρόπους μετριασμού αυτών των κινδύνων. Όπως επεσήμανε το The Verge, αυτό περιλαμβάνει ακριβώς την κατηγορία της λειτουργίας αποτυχίας που έχει κυριαρχήσει στα πρόσφατα πρωτοσέλιδα της τεχνητής νοημοσύνης: την πιθανότητα ένα μοντέλο να παραπλανηθεί και να χακάρει μια άλλη εταιρεία.
Η διάλυση της ομάδας σημαίνει ότι η OpenAI δεν έχει πλέον μια ενιαία, αφοσιωμένη ομάδα της οποίας η δουλειά πλήρους απασχόλησης είναι να δοκιμάζει τα μοντέλα αιχμής για καταστροφικούς κινδύνους. Αντίθετα, η αξιολόγηση κινδύνου κατανέμεται σε ομάδες των οποίων οι κύριες αποστολές βρίσκονται αλλού.
Το timing είναι το λιγότερο άβολο. Η εταιρεία στρατολογούσε ενεργά έναν νέο επικεφαλής ετοιμότητας μόλις τον Δεκέμβριο, με αναφορές εκείνη την εποχή να διαφήμιζαν ένα πακέτο αποζημίωσης περίπου 555.000 $ συν ίδια κεφάλαια για έναν ρόλο που περιγράφεται ως κρίσιμος για την επίβλεψη του κινδύνου AI.
Ένα μοτίβο αναχωρήσεων ασφαλείας
Η αλλαγή ετοιμότητας δεν είναι ένα μεμονωμένο γεγονός. Τα τελευταία δύο χρόνια, το OpenAI έχει σιγά-σιγά αποσυναρμολογήσει τη συσκευή ασφαλείας που ηγείται από την έρευνα, διαλύοντας τόσο την ομάδα AGI Readiness όσο και την ομάδα υπερευθυγράμμισης - η τελευταία δημιουργήθηκε με πολλή φανφάρα για να κατευθύνει την ανθρωπότητα με ασφάλεια προς την τεχνητή γενική νοημοσύνη.
Οι αναχωρήσεις λένε την ίδια ιστορία. Η επικεφαλής της ηθικής Chloé Bakalar, ο Chief Futurist Josh Achiam και ο επικεφαλής ασφαλείας Johannes Heidecke έχουν αποχωρήσει από την εταιρεία τους τελευταίους μήνες, σύμφωνα με τους FT.
Ίσως η πιο αιχμηρή ετυμηγορία ήρθε από τον Jan Leike, τον πρώην επικεφαλής της υπερευθυγράμμισης που παραιτήθηκε από το OpenAI το 2024. Ερωτηθείς για την πορεία της εταιρείας, ο Leike είπε στους FT ότι το OpenAI αγνοεί την ασφάλεια υπέρ της δημιουργίας «λαμπερών προϊόντων».
Ο αρχηγός της ομάδας μετακινείται σε ένα ακόμη πιο οριακό θέμα
Σε μια από τις πιο ενδιαφέρουσες λεπτομέρειες της έκθεσης, ο επικεφαλής της διαλυμένης ομάδας ετοιμότητας, Dylan Scandinaro - ο οποίος είχε λαθροχειριστεί από τον αντίπαλο Anthropic τον Φεβρουάριο - θα επικεντρωθεί τώρα στις επιπτώσεις της "αναδρομικής αυτοβελτιώμενης" τεχνητής νοημοσύνης: συστήματα ικανά να βελτιώσουν τις δικές τους ικανότητες, ένα σενάριο που πολλοί ερευνητές θεωρούν ως τις πιο μακροπρόθεσμες συνέπειες.
Το αν αυτή η νέα εστίαση συνοδεύεται από ένα θεσμικό σπίτι και πόρους συγκρίσιμους με μια αφοσιωμένη ομάδα παραμένει ασαφές.
Η πίεση της IPO φαίνεται πάνω από τα πάντα
Η αναδιάρθρωση δεν μπορεί να διαχωριστεί από την οικονομική τροχιά του OpenAI. Μια ξεχωριστή έκθεση των Financial Times αυτή την εβδομάδα, με τίτλο «Η αναταραχή του OpenAI αυξάνεται καθώς ο Sam Altman προετοιμάζει την IPO», περιγράφει μια εταιρεία εν μέσω σαρωτικών αναδιοργανώσεων, εξαντλημένων εργαζομένων και ενός συνεχιζόμενου κύματος αποχωρήσεων στελεχών πριν από μια δημόσια εισαγωγή.
Η πειθαρχία των επενδυτικών τραπεζών και η κουλτούρα έρευνας για την ασφάλεια έκαναν πάντα αδέξιους συγκάτοικοι. Ωστόσο, οι επικριτές λένε ότι η κατεύθυνση του ταξιδιού στο OpenAI είναι πλέον αναμφισβήτητη: κάθε δομική αλλαγή τον τελευταίο καιρό έχει περικόψει τα μέρη του οργανισμού που φτιάχτηκαν για να λένε «όχι», ενώ τα μέρη που κατασκευάστηκαν για αποστολή έχουν αυξηθεί.
Γιατί έχει σημασία πέρα από μία εταιρεία
Οι εσωτερικές ρυθμίσεις του OpenAI μπορεί να φαίνονται σαν μέσα στο μπέιζμπολ, αλλά έχουν βάρος στη βιομηχανία. Τα μοντέλα της εταιρείας είναι από τα πιο ευρέως διαδεδομένα στη Γη και τα πλαίσια ασφαλείας της ήταν πρότυπα που αντέγραψαν άλλα εργαστήρια — από αξιολογήσεις τύπου ετοιμότητας έως πολιτικές υπεύθυνης κλιμάκωσης.
Εάν το εργαστήριο που διέδωσε αυτές τις δομές τις αναδιπλώνει τώρα σε επιχειρηματικές μονάδες στο δρόμο για μια δημόσια εγγραφή, οι ανταγωνιστές αντιμετωπίζουν νέα πίεση για να δικαιολογήσουν τη διατήρηση της δικής τους. Οι ρυθμιστικές αρχές, οι οποίες έχουν στηριχθεί σε μεγάλο βαθμό στην ύπαρξη εσωτερικών ομάδων ασφάλειας ως μερικό υποκατάστατο της επίσημης εποπτείας, ενδέχεται να καταλήξουν στο συμπέρασμα ότι οι εθελοντικές δομές είναι πολύ εύθραυστες για να βασιστούμε.
Προς το παρόν, το OpenAI δεν έχει αμφισβητήσει δημόσια τις αναφορές των FT. Η σιωπή της εταιρείας, εν μέσω μιας ώθησης IPO, μιλάει αρκετά δυνατά: η εποχή των ομάδων ασφαλείας ως ξεχωριστών, ισχυρών ιδρυμάτων στο OpenAI φαίνεται να έχει τελειώσει — αντικαταστάθηκε από εργασίες ασφαλείας που ενσωματώνονται στις ίδιες ομάδες που κατασκευάζουν τα λαμπερά προϊόντα.
Ένα πεδίο όπου τα στοιχήματα δεν είναι θεωρητικά
Το timing δεν είναι τυχαίο. Η διάλυση μιας ειδικής ομάδας αξιολόγησης κινδύνου έρχεται εβδομάδες αφότου ο κύριος αντίπαλος του OpenAI αποκάλυψε ότι τα δικά του μοντέλα είχαν συμπεριφερθεί σωστά με τον τρόπο που υπάρχουν οι ομάδες ετοιμότητας για να πιάσουν. Στα τέλη Ιουλίου, η Anthropic αναγνώρισε ότι τα μοντέλα της Claude AI είχαν χακάρει τρεις πραγματικούς οργανισμούς κατά τη διάρκεια δοκιμών κυβερνοασφάλειας - ένα περιστατικό που έγινε παγκόσμιο πρωτοσέλιδο και ότι οι ερευνητές ασφάλειας ανέφεραν ως απόδειξη ότι τα μοντέλα συνόρων χρειάζονται ανεξάρτητη, ισχυρή αξιολόγηση πριν από την ανάπτυξη.
Το ίδιο το OpenAI δεν έχει μείνει ανοσία σε τέτοια ευρήματα. Το δημοσιευμένο Πλαίσιο Ετοιμότητας της εταιρείας, το οποίο ενημερώθηκε τελευταία φορά το 2025, χτίστηκε γύρω από την προϋπόθεση ότι τα μοντέλα συνόρων απαιτούν συστηματική ομαδοποίηση για καταστροφικούς κινδύνους στην κυβερνοασφάλεια, τη βιολογία και την πειθώ - ακριβώς στους τομείς στους οποίους θα αναδιπλωθούν τώρα τα καθήκοντα της ομάδας.
Το ερώτημα που θέτουν οι ερευνητές ασφάλειας είναι δομικό: όταν η αξιολόγηση κινδύνου ζει μέσα στις ομάδες που κατασκευάζουν τα προϊόντα, ποιος έχει την εξουσία να καθυστερήσει την κυκλοφορία; Οι εξουσιοδοτημένες ομάδες ασφαλείας μπορούν να πουν όχι. Οι κατανεμημένες ευθύνες ασφάλειας, ιστορικά, λένε ναι.
Η ομάδα ετοιμότητας δημιουργήθηκε το 2024 εν μέσω δεσμεύσεων σε ολόκληρο τον κλάδο για την αξιολόγηση των συνοριακών κινδύνων πριν από την ανάπτυξη. Το ήσυχο τέλος του - που αναφέρεται από μια εφημερίδα αντί να ανακοινώνεται από την εταιρεία - κλείνει αυτό το κεφάλαιο με μικρή τελετή.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
