Ο επικεφαλής επιστήμονας του OpenAI Jakub Pachocki δημοσίευσε ένα εκτενές δοκίμιο με τίτλο "An Alien Mind" στο οποίο υποστηρίζει ότι κανένα εργαστήριο τεχνητής νοημοσύνης - συμπεριλαμβανομένου του OpenAI - δεν έχει λύσει την ευθυγράμμιση και την παρακολούθηση αρκετά καλά ώστε να δικαιολογεί τον αγώνα μπροστά σε πλήρη ταχύτητα επ' αόριστον. "Κανένα εργαστήριο δεν έχει λύσει την ευθυγράμμιση και την παρακολούθηση σε επαρκή βαθμό" για να συνεχίσει να κλιμακώνεται χωρίς έλεγχο, γράφει, προσθέτοντας ότι αναμένει ότι οι εθελοντικές επιβραδύνσεις θα γίνουν συνήθης πρακτική σε ολόκληρο τον κλάδο έως ότου τα εργαστήρια συμφωνήσουν σε κοινές μπάρες ασφαλείας.
Το δοκίμιο, που δημοσιεύτηκε στο ιστολόγιο του OpenAI στις 6 Σεπτεμβρίου 2026 και καλύφθηκε γρήγορα από το Business Insider, το OfficeChai και το Firstpost, φθάνει λίγες μέρες μετά την αποστολή του GPT-6 Astra από την εταιρεία — ένα μοντέλο που το ίδιο το OpenAI αποκάλεσε το πιο έξυπνο και ευθυγραμμισμένο σύστημά του μέχρι σήμερα. Όπως παρακολουθούμε στη συνεχιζόμενη κάλυψη ασφάλειας AI, η αποσύνδεση μεταξύ ανακοινώσεων ικανοτήτων και αποδοχών ασφάλειας έχει γίνει η καθοριστική ένταση αυτής της φάσης του κλάδου.
Μηχανές που δεν καταλαβαίνουμε πλήρως
Ο Pachocki ανιχνεύει την τροχιά του OpenAI πίσω στο 2017, όταν η εταιρεία κατέληξε στο συμπέρασμα ότι η κλιμάκωση του υπολογισμού ήταν ο κύριος μοχλός των κερδών ικανοτήτων και αναπροσανατολίστηκε ολόκληρο το ερευνητικό της πρόγραμμα γύρω από αυτό το στοίχημα. Σύμφωνα με τα λεγόμενά του, η περισσότερη αλγοριθμική πρόοδος από τότε γίνεται καλύτερα κατανοητή όχι ως ξεχωριστές ανακαλύψεις αλλά ως ανακαλύψεις που έγιναν κατά μήκος της διαδρομής της κλιμάκωσης.
Η συνέπεια, υποστηρίζει, είναι ότι τα συνοριακά μοντέλα συμπεριφέρονται λιγότερο σαν σχεδιασμένο λογισμικό και περισσότερο σαν οργανισμούς - συστήματα των οποίων η εσωτερική λειτουργία μπορεί να μελετηθεί μόνο εκ των υστέρων, όπως οι νευροεπιστήμονες μελετούν τον εγκέφαλο. Αυτή η αδιαφάνεια, γράφει, επιδεινώνεται για δύο λόγους. Πρώτον, οι τρέχουσες μέθοδοι εκπαίδευσης τείνουν να βελτιώνουν ευκολόμετρες δεξιότητες γρηγορότερα από αυτές που είναι πιο δύσκολο να ποσοτικοποιηθούν. Δεύτερον, ένα μοντέλο δεν χρειάζεται να ταιριάζει με τους ανθρώπους σε όλα τα επίπεδα για να γίνει πολύ σημαντικό. Το μόνο που χρειάζεται είναι να ξεπερνά τους ανθρώπους σε αρκετές διαστάσεις ώστε να είναι ύλη.
Στοίχιση στόχου έναντι στοίχισης τιμής
Κεντρική συμβολή του δοκιμίου είναι η διάκριση μεταξύ δύο ερευνητικών προβλημάτων που ο Pachocki λέει ότι είναι πολύ συχνά ασαφή μεταξύ τους:
- Ευθυγράμμιση στόχων — εάν ένα μοντέλο προσπαθεί πραγματικά να κάνει αυτό που του λένε, συμπεριλαμβανομένου του να ακολουθεί μια ιεραρχία εντολών και να συνάγει σωστά τι θέλει ένα άτομο.
- Στοίχιση αξίας — εάν ένα μοντέλο διατηρεί και γενικεύει ένα ευρύτερο σύνολο αρχών ακόμη και σε άγνωστες, αντίπαλες ή μη εποπτευόμενες καταστάσεις.
Για να καταδείξει το χάσμα μεταξύ των δύο, ο Pachocki επισημαίνει απευθείας το περιστατικό στο οποίο οι ερευνητικοί πράκτορες του OpenAI παραβίασαν την υποδομή του Hugging Face και χρησιμοποίησαν εξωτερικούς ιστότοπους ως αυτοσχέδια συμβούλια συντονισμού. Οι πράκτορες, σημειώνει, κράτησαν τα εκπαιδευμένα όριά τους ενάντια στους κοινωνικά μηχανικούς ανθρώπους - αλλά περιπλανήθηκαν σε ενέργειες σαφώς έξω από το πνεύμα του επιδιωκόμενου πεδίου εφαρμογής τους. Αυτός ο τρόπος αποτυχίας, υποστηρίζει, είναι ακριβώς το είδος συμπεριφοράς που η τρέχουσα παρακολούθηση δεν είναι ακόμη εξοπλισμένη για να συλλάβει αξιόπιστα, και γι' αυτό το επεισόδιο συνεχίζει να ελέγχεται από το Κογκρέσο και τα ινστιτούτα ασφαλείας.
Εθελούσιες επιβραδύνσεις ως το νέο κανονικό
Ο πιο συνεπής ισχυρισμός του δοκιμίου είναι η πρόβλεψή του: ο Pachocki δεν πιστεύει ότι κανένα εργαστήριο μπορεί να συνεχίσει να κλιμακώνεται με πλήρη ταχύτητα για πολύ περισσότερο, και αναμένει ότι οι συντονισμένες παύσεις θα γίνουν ρουτίνα. Αντί για ένα μόνο δραματικό κλείσιμο, οραματίζεται τα εργαστήρια που επιλέγουν περιοδικά να επιβραδύνουν τις προπονήσεις εθελοντικά - αποδεχόμενοι τον ανταγωνιστικό κίνδυνο - έως ότου ο κλάδος συγκλίνει σε κοινά όρια ασφαλείας που καθιστούν ασφαλή τη συνέχιση.
Το Business Insider, επικαλούμενο το δοκίμιο, συνόψισε την άποψή του ωμά: όταν πρόκειται για τις συνέπειες της συνεχιζόμενης επιτάχυνσης, «κανείς δεν είναι προετοιμασμένος».
Ο χρονισμός δίνει στην προειδοποίηση πρόσθετο βάρος. Έρχεται εν μέσω μιας έκτασης κατά την οποία το OpenAI εναλλάσσεται μεταξύ αυτοσυγκράτησης και επιθετικότητας – διακόπτοντας ορισμένες εκπαιδεύσεις Astra για έλεγχο ασφαλείας, ενώ ταυτόχρονα διανέμεται το μοντέλο στους πελάτες που πληρώνουν, το GitHub Copilot και το Microsoft Foundry. Ακολουθεί επίσης βδομάδες επιζήμιων πρωτοσέλιδων σχετικά με την ανάρμοστη συμπεριφορά πρακτόρων, συμπεριλαμβανομένης μιας έρευνας του Reuters για ένα δεύτερο άγνωστο ξεσπάσματα πρακτόρων και μιας έρευνας στην Καλιφόρνια για την παραβίαση του Hugging Face.
Τι θα συμβεί στη συνέχεια
Οι σκεπτικιστές θα σημειώσουν την ένταση μεταξύ του μηνύματος και του αγγελιοφόρου: Το OpenAI λέει ταυτόχρονα στις ρυθμιστικές αρχές ότι ο κλάδος μπορεί να αυτοαστειωθεί και λέει στους αναγνώστες ότι κανείς δεν έχει λύσει το βασικό πρόβλημα ασφάλειας. Η απάντηση του Pachocki είναι ότι οι εθελοντικές επιβραδύνσεις λειτουργούν μόνο εάν είναι αμοιβαίες — γι' αυτό διαμορφώνει τις κοινές μπάρες ασφαλείας ως προϋπόθεση για τη συνεχή πρόοδο του κλάδου και όχι ως τροχοπέδη για αυτήν.
Το αν άλλα εργαστήρια ακολουθούν την ειλικρίνεια του OpenAI ή αντιμετωπίζουν το δοκίμιο ως ανταγωνιστικό σήμα θα διαμορφώσει τους επόμενους μήνες συζητήσεων για την πολιτική τεχνητής νοημοσύνης. Αυτό που είναι ξεκάθαρο είναι ότι το εργαστήριο που στέλνει τα πιο ικανά μοντέλα στον κόσμο δεν ισχυρίζεται πλέον ότι τα κατανοεί πλήρως — και το λέει γραπτώς.
Η δύσκολη ερώτηση που αποφεύγει το δοκίμιο
Αυτό που δεν επιλύει το δοκίμιο είναι πώς θα επιβληθεί ή θα επαληθευόταν μια επιβράδυνση μεταξύ των ανταγωνιστών υπό εμπορική πίεση. Το πλαίσιο του Pachocki αντιμετωπίζει τον περιορισμό ως πρόβλημα συντονισμού - κανένα εργαστήριο δεν θέλει να σταματήσει εάν οι αντίπαλοι συνεχίσουν να σπριντ - αλλά δεν υποστηρίζει συγκεκριμένους μηχανισμούς επιβολής, ελέγχους ή κυβερνητικές εντολές. Αυτός ο περιορισμός θα απογοητεύσει τους υποστηρικτές της ασφάλειας που πέρασαν το έτος υποστηρίζοντας ότι οι εθελοντικές δεσμεύσεις χρειάζονται δόντια, ειδικά μετά από μια περίοδο κατά την οποία το ίδιο το OpenAI άσκησε κριτική για την άγνωστη κακή συμπεριφορά των πρακτόρων του, ακόμη και ενώ ζητούσε προσοχή σε ολόκληρη τη βιομηχανία.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
