Μια ομάδα ανεξάρτητων ερευνητών έχει αποδείξει ότι τα μοντέλα τεχνητής νοημοσύνης μπορούν να φέρουν πλήρως λειτουργικές κρυφές δυνατότητες που είναι μαθηματικά εγγυημένο ότι θα αποφύγουν τον εντοπισμό, ακόμη και όταν οι ελεγκτές έχουν πλήρη πρόσβαση στα βάρη του μοντέλου. Η δημοσίευση, με τίτλο "Τα μοντέλα AI μπορούν αποδεδειγμένα να κρύψουν αυθαίρετες ικανότητες", δημοσιεύτηκε στο arXiv στις 9 Οκτωβρίου 2026 από τους Andis Draguns, Sumeet Ramesh Motwani, Raymond Douglas και Christian Schroeder de Witt και τράβηξε μεγάλη προσοχή στο Hacker News αυτή την εβδομάδα μετά την πρώτη σελίδα του ιστότοπου.
Η εργασία προσεγγίζει μια βασική υπόθεση της σύγχρονης πρακτικής ασφάλειας AI: ότι επικίνδυνες συμπεριφορές μπορούν να εμφανιστούν πριν από την ανάπτυξη μέσω αξιολογήσεων ικανοτήτων, οι οποίες διερευνούν ένα μοντέλο με δοκιμές σχεδιασμένες να αποσπούν ό,τι μπορεί να κάνει. Οι συγγραφείς δείχνουν ότι αυτή η υπόθεση καταρρέει υπό αντίξοες συνθήκες. Όπως το θέτει η δημοσίευση, η αξιοπιστία των αξιολογήσεων ικανότητας «εξαρτάται από την υπόθεση ότι μπορούν να προκληθούν κρυφές ικανότητες» — και κατασκευάζουν επιθέσεις όπου αποδεικνύεται ότι αυτή η υπόθεση αποτυγχάνει. Για τους αναγνώστες που παρακολουθούν τις τελευταίες εξελίξεις της τεχνητής νοημοσύνης στην έρευνα για την ασφάλεια, η εφημερίδα είναι μια από τις πιο έντονες επίσημες αποδείξεις μέχρι τώρα ότι ένα ικανό μοντέλο θα μπορούσε, κατ' αρχήν, να περάσει τις αξιολογήσεις του, ενώ κρύβει τι μπορεί πραγματικά να κάνει.
Πώς λειτουργεί το σχήμα απόκρυψης
Οι ερευνητές κατασκεύασαν επιθέσεις κερκόπορτας που ενσωματώνουν αυτό που αποκαλούν κρυπτογραφημένα νευρωνικά δίκτυα μέσα στα βάρη ενός κεντρικού μοντέλου. Το κρυφό δίκτυο βρίσκεται εκεί σε κρυπτογραφημένη μορφή, χωρίς να συνεισφέρει τίποτα στην ορατή συμπεριφορά του μοντέλου, μέχρι να λάβει ένα μυστικό έναυσμα. Σε εκείνο το σημείο, το μοντέλο αποκρυπτογραφεί το κρυφό κύκλωμα και το εκτελεί.
Ο κρυπτογραφικός μηχανισμός στην καρδιά της κατασκευής είναι αυτό που οι συγγραφείς αποκαλούν ψηφιακά ντουλάπια. Σύμφωνα με τυπικές κρυπτογραφικές παραδοχές, αυτά τα ντουλάπια καθιστούν τα κρυφά κυκλώματα αποδεδειγμένα δύσκολο να προκληθούν και δύσκολα να ερμηνευτούν - ακόμη και για έναν ελεγκτή που έχει πλήρη πρόσβαση στα βάρη του μοντέλου. Με άλλα λόγια, η απόκρυψη δεν στηρίζεται στο ότι η απόκρυψη είναι λεπτή ή δύσκολο να συναντηθεί. Βασίζεται σε μαθηματικές εγγυήσεις σκληρότητας του ίδιου είδους που προστατεύουν τις κρυπτογραφημένες επικοινωνίες.
Αυτό επεκτείνει την προηγούμενη εργασία στο πεδίο, η οποία είχε δείξει ότι τα μοντέλα μπορούσαν να αποκρύψουν σταθερές συμβολοσειρές, όπως κωδικούς πρόσβασης ή σύντομα μηνύματα. Το νέο έγγραφο μετακινεί σημαντικά τα γκολπόστ: αυτό που μπορεί τώρα να κρυφτεί είναι ένας αυθαίρετος υπολογισμός — μια πλήρης, λειτουργική ικανότητα και όχι ένα στατικό μυστικό.
Δοκιμασμένο ενάντια σε πραγματικές τεχνικές ελέγχου
Η ομάδα εφάρμοσε τις κατασκευές απόδειξης της ιδέας στο PyTorch και στη συνέχεια τους επιτέθηκε με την τυπική εργαλειοθήκη του ελέγχου μοντέλων. Οι αξιολογήσεις δοκίμασαν την πρόκληση μέσω μικρορύθμισης, θορύβου βάρους, αναζήτησης σκανδάλης βάσει κλίσης και λανθάνουσας εκπαίδευσης αντιπάλου - μια σειρά τεχνικών που αντιπροσωπεύουν πώς οι σοβαροί ελεγκτές θα προσπαθούσαν πραγματικά να εξαγάγουν κρυφή συμπεριφορά από ένα ύποπτο μοντέλο.
Η δοκιμαστική εργασία ήταν ένα μικρό πρόβλημα πρόβλεψης χημικών αντιδράσεων, το οποίο επιλέχθηκε σκόπιμα ως υποκατάστατο ικανοτήτων με στοιχήματα πραγματικού κόσμου: οι εργασίες χημικής πρόβλεψης αποτελούν βάση για δεξιότητες σχετικές με ΧΒΡΠ (χημικές, βιολογικές, ραδιολογικές και πυρηνικές), την κατηγορία δυνατοτήτων που ενδιαφέρουν περισσότερο οι αξιολογήσεις πριν από την ανάπτυξη. Οι κρυφές υλοποιήσεις αντιστάθηκαν σε όλες τις μεθόδους εξαγωγής που τους επιστράφηκαν.
Σε συνδυασμό με τις κρυπτογραφικές εγγυήσεις, οι συγγραφείς υποστηρίζουν ότι τα αποτελέσματά τους αποκαλύπτουν ένα θεμελιώδες όριο ελέγχων ικανότητας που βασίζονται σε προκλήσεις. Εάν ένας προγραμματιστής μοντέλων — ή ένας κακόβουλος τρίτος που παραβίασε ένα μοντέλο — έχει κίνητρο να αποκρύψει μια ικανότητα, οι έλεγχοι που βασίζονται στην εξαγωγή της συμπεριφοράς μπορεί απλώς να μην μπορούν να τη βρουν.
Γιατί αυτό έχει σημασία για την ασφάλεια της τεχνητής νοημοσύνης
Οι αξιολογήσεις δυνατοτήτων έχουν γίνει ένα τυπικό μέρος του τρόπου με τον οποίο τα συνοριακά εργαστήρια τεχνητής νοημοσύνης αποφασίζουν εάν τα μοντέλα είναι ασφαλή να κυκλοφορήσουν. Η εφημερίδα δεν ισχυρίζεται ότι τα μοντέλα παραγωγής κρύβουν αυτήν τη στιγμή τις δυνατότητες με αυτόν τον τρόπο. Αντιθέτως, δείχνει ότι το ίδιο το επίπεδο ελέγχου έχει μια δομική αδυναμία: ένας αντίπαλος που ελέγχει την εκπαίδευση ενός μοντέλου θα μπορούσε κατ' αρχήν να ενσωματώσει δυνατότητες που δεν θα αποκάλυπτε καμία διερεύνηση.
Οι επιπτώσεις κόβονται σε διάφορες κατευθύνσεις. Για τα εργαστήρια, ενισχύει την υπόθεση της παρανοϊκής ασφάλειας της εφοδιαστικής αλυσίδας γύρω από τα βάρη των μοντέλων — ένα κερκόπορτο σημείο ελέγχου δεν είναι απλώς ένας κίνδυνος αξιοπιστίας, αλλά ένας δυνητικά μη ανιχνεύσιμος. Για τους ελεγκτές και τις ρυθμιστικές αρχές, προτείνει ότι οι αξιολογήσεις που βασίζονται αποκλειστικά σε δειγματοληψία συμπεριφοράς μπορεί να χρειαστεί να συμπληρωθούν από ισχυρότερες εγγυήσεις σχετικά με τον τρόπο εκπαίδευσης και χειρισμού των μοντέλων. Και για την ερευνητική κοινότητα, ορίζει μια συγκεκριμένη αμυντική πρόκληση: οι συγγραφείς έχουν κυκλοφορήσει τα μοντέλα τους δημόσια ειδικά για να υποστηρίξουν τη βελτίωση της άμυνας έναντι αυτής της κατηγορίας επίθεσης.
Το χαρτί φέρει επίσης ένα ευρύτερο φιλοσοφικό τσίμπημα. Μεγάλο μέρος της ασφάλειας της τεχνητής νοημοσύνης βασίζεται στην ιδέα ότι μπορούμε να δοκιμάσουμε την αυτοπεποίθησή μας - ότι η επαρκής ομάδα του κόκκινου θα βρει τι μπορεί να κάνει ένα μοντέλο. Ένας αποδεδειγμένος μηχανισμός απόκρυψης δεν κάνει τις δοκιμές άχρηστες, αλλά σημαίνει ότι η επιτυχία κάθε δοκιμής δεν μπορεί πλέον να αντιμετωπίζεται ως απόδειξη ότι δεν υπάρχει τίποτα να βρεθεί. Καθώς τα συνοριακά μοντέλα γίνονται πιο ικανά και πιο αυτόνομα, αυτό το χάσμα μεταξύ του τι μπορούν να δείξουν οι έλεγχοι και του τι μπορεί να περιέχουν τα μοντέλα είναι ακριβώς το είδος του προβλήματος που θα αναγκαστεί να λάβει στα σοβαρά το πεδίο.
Η πλήρης εργασία των συγγραφέων, συμπεριλαμβανομένων των κρυπτογραφικών κατασκευών και των λεπτομερειών αξιολόγησης, είναι διαθέσιμη στο arXiv και τα μοντέλα απόδειξης της ιδέας που κυκλοφόρησαν δίνουν στους υπερασπιστές ένα συγκεκριμένο σημείο εκκίνησης για μεθόδους ανίχνευσης κτιρίων που λειτουργούν ενάντια στην απόκρυψη τύπου ψηφιακής θυρίδας.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
