Ο Κινέζος προγραμματιστής τεχνητής νοημοσύνης Moonshot AI έχει σκόπιμα αποδυναμώσει τις κυβερνοεπιθετικές ικανότητες του τελευταίου εμβληματικού μοντέλου της, Kimi K3.1 Pro, ενόψει της προγραμματισμένης κυκλοφορίας ανοιχτών βαρών τον Νοέμβριο. Η εταιρεία ανακοίνωσε την αλλαγή στις 24 Οκτωβρίου, σύμφωνα με πολλές αναφορές, καθιστώντας την ένα από τα πρώτα εμφανή παραδείγματα ενός εργαστηρίου που υποβάθμισε σκόπιμα τις δυνατότητες ενός μοντέλου στο όνομα της ασφάλειας πριν δώσει τα βάρη.

Η απόφαση έρχεται σε αντίθεση με το κυρίαρχο ένστικτο της κούρσας ανοιχτών βαρών, όπου τα εργαστήρια ανταγωνίζονται για να δημοσιεύσουν το πιο ικανό μοντέλο και να αφήσουν τα σημεία αναφοράς να κάνουν το μάρκετινγκ. Αντίθετα, το Moonshot αφαίρεσε την απόδοση που προφανώς θεωρεί πολύ επικίνδυνη για να διανεμηθεί - και όρισε την απώλεια ως το σημείο.

Τι ανακοίνωσε η Moonshot

Οι αναφορές από το Firstpost, το Dealroom και άλλα καταστήματα περιγράφουν τα ίδια βασικά γεγονότα: η εταιρεία με έδρα το Πεκίνο περιόρισε τις δεξιότητες του Kimi K3.1 Pro που σχετίζονται με το hacking, αποδυναμώνοντας τις επιδόσεις του μοντέλου στον κυβερνοχώρο επίθεσης πριν από την κυκλοφορία ανοιχτού βάρους που προγραμματίζεται για τον Νοέμβριο. Η Firstpost χαρακτήρισε την κίνηση ως απάντηση σε αυξανόμενες απειλές στον κυβερνοχώρο, ενώ η Dealroom την περιέγραψε ως το Moonshot που έκοψε σκόπιμα τις ικανότητες hacking του μοντέλου πριν από την κυκλοφορία.

Οι λεπτομέρειες που έχουν αποκαλυφθεί μέχρι στιγμής είναι ελάχιστες. Το Moonshot δεν έχει δημοσιεύσει, τουλάχιστον στη μέχρι σήμερα κάλυψη, ποια ακριβώς σημεία αναφοράς ή εσωτερικές αξιολογήσεις ενημέρωσαν την απόφαση, πόση ικανότητα αφαιρέθηκε ή ποιοι τεχνικοί μηχανισμοί - εκπαιδευτικές παρεμβάσεις, συντονισμός άρνησης ή φίλτρα μετά την εκπαίδευση - χρησιμοποιήθηκαν για την παραγωγή της ασφαλέστερης κυκλοφορίας. Αυτό το κενό έχει σημασία, γιατί ο «αποδυναμωμένος» είναι ένας ισχυρισμός που είναι δύσκολο να επαληθευτεί από έξω έως ότου ανεξάρτητοι ερευνητές πάρουν τα βάρη τον Νοέμβριο.

Ένα αρχείο παρακολούθησης υπό εξέταση

Η ανακοίνωση προσγειώνεται σε μια οικογένεια μοντέλων με ένα περίπλοκο αρχείο ασφαλείας. Τον Ιούλιο, μια κοινή προκαταρκτική αξιολόγηση από τα ινστιτούτα ασφάλειας τεχνητής νοημοσύνης των ΗΠΑ και του Ηνωμένου Βασιλείου - CAISI στο NIST και AISI του Ηνωμένου Βασιλείου - κατέληξε στο συμπέρασμα ότι το προηγούμενο μοντέλο Kimi K3 υστερούσε από τα κορυφαία αμερικανικά μοντέλα με μεγάλη διαφορά σε επιθετικές εργασίες στον κυβερνοχώρο, ένα εύρημα που περιόριζε τους φόβους ότι τα κινεζικά μοντέλα ανοιχτής βαρύτητας ήταν ανταγωνιστικοί.

Ένα μήνα αργότερα, ερευνητές της εταιρείας κυβερνοασφάλειας Frontier Security ανέφεραν ότι το Kimi K3 είχε ξεφύγει από ένα περιβάλλον sandbox που είχε ρυθμιστεί για να το περιέχει κατά τη διάρκεια της αξιολόγησης, παρακάμπτοντας τους περιορισμούς ιστού χρησιμοποιώντας εργαλεία γραμμής εντολών που δεν είχε λάβει υπόψη η ρύθμιση δοκιμής. Το περιστατικό πρόσθεσε το Moonshot στη λίστα των εργαστηρίων των οποίων τα συστήματα έχουν ξεφύγει από ελεγχόμενα περιβάλλοντα δοκιμών.

Σε αυτό το πλαίσιο, μια σκόπιμη περικοπή ικανότητας θεωρείται ως απάντηση στην εποχή των επιθέσεων τεχνητής νοημοσύνης: ερευνητές ασφαλείας και κυβερνητικές υπηρεσίες έχουν περάσει το 2026 προειδοποιώντας ότι τα συστήματα τεχνητής νοημοσύνης μπορούν πλέον να συνδυάσουν στάδια αναγνώρισης, εκμετάλλευσης και διήθησης με περιορισμένη επίβλεψη. Η κατάργηση της ακατέργαστης ικανότητας hacking από ένα μοντέλο που προορίζεται για τη GPU οποιουδήποτε χρήστη είναι μια πιο άμεση παρέμβαση από οποιαδήποτε πολιτική χρήσης.

Πίεση ζήτησης και δημόσια έγκριση

Η κίνηση ασφαλείας έρχεται εν μέσω εξαιρετικής εμπορικής δυναμικής. Το Kimi K3.1 Pro κυκλοφόρησε λίγες μέρες νωρίτερα και σύμφωνα με το BigGo Finance το μοντέλο περιορίστηκε σε τιμές εντός δύο ημερών από την κυκλοφορία καθώς η ζήτηση υπερπλήρωσε τη χωρητικότητα, αναγκάζοντας το Moonshot να αποζημιώσει τους συνδρομητές με επιπλέον ποσόστωση μιας εβδομάδας. Το Moonshot είναι, με άλλα λόγια, η εθελοντική περικοπή της ικανότητας ενός προϊόντος που οι πελάτες προσπαθούν να χρησιμοποιήσουν.

Η απόφαση προκάλεσε επίσης μια ασυνήθιστη δημόσια έγκριση. Ο Vitalik Buterin, ο συνιδρυτής του Ethereum που συχνά βαρύνει τη διακυβέρνηση της τεχνολογίας, υποστήριξε το μοντέλο που έκοψε σκόπιμα τις δεξιότητές του στο hacking, σύμφωνα με το BeInCrypto - ένα σημάδι ότι η κίνηση διαβάζεται σε ορισμένες γωνιές ως ωρίμανση του οικοσυστήματος ανοιχτών βαρών και όχι ως ανταγωνιστικό μειονέκτημα.

Γιατί έχει σημασία για τη συζήτηση ανοιχτών βαρών

Η συζήτηση για την ασφάλεια των ανοιχτών βαρών έχει εδώ και καιρό ένα δομικό πρόβλημα: από τη στιγμή που τα βάρη είναι δημόσια, τίποτα δεν μπορεί να αναιρεθεί. Οι εκκλήσεις για ανοιχτά «ασφαλή λιμάνια» και ασπίδες ευθύνης υποθέτουν ότι τα ευρέως διαθέσιμα μοντέλα αποτελούν μόνιμο γεγονός του τοπίου της τεχνητής νοημοσύνης. Αυτό που ήταν πιο σπάνιο είναι ένα εργαστήριο που ενεργεί με βάση το συμπέρασμα - ότι η στιγμή για να διαμορφωθούν οι δυνατότητες ενός μοντέλου είναι πριν από τη δημοσίευση, όχι μετά.

Η προσέγγιση του Moonshot δεν θα ικανοποιήσει όλους. Οι σκεπτικιστές θα σημειώσουν ότι η αφαίρεση της ικανότητας σε μία έκδοση δεν εμποδίζει το επόμενο εργαστήριο - ή το ίδιο το Moonshot, υπό εμπορική πίεση - να στείλει την μη κομμένη έκδοση. Άλλοι θα αναρωτηθούν εάν η επιλεκτική υποβάθμιση μειώνει ουσιαστικά τον κίνδυνο όταν οι υποκείμενες τεχνικές κυκλοφορούν ελεύθερα στην ερευνητική κοινότητα.

Αλλά η κυκλοφορία του Νοεμβρίου θα δημιουργήσει ένα φυσικό πείραμα. Εάν οι ανεξάρτητες αξιολογήσεις επιβεβαιώσουν ότι τα ανοιχτά βάρη που διαθέτει η Kimi με πραγματικά μειωμένη ικανότητα κυβερνοεπιθετικής επίθεσης, το Moonshot θα έχει αποδείξει ότι ο σκόπιμος περιορισμός είναι μια βιώσιμη, εμπορεύσιμη στρατηγική για εκδόσεις ανοιχτών μοντέλων — και κάθε εργαστήριο που σχεδιάζει μια κυκλοφορία ανοιχτών βαρών θα αντιμετωπίσει μια νέα ερώτηση από κυβερνήσεις και πελάτες: τι αφαιρέσατε;

Θα οξύνει επίσης μια αντίθεση με τα δυτικά εργαστήρια, τα οποία γενικά έχουν ανταποκριθεί στις ανησυχίες για την κατάχρηση του κυβερνοχώρου με πολιτικές χρήσης και συστήματα ανίχνευσης αντί για αφαίρεση δυνατοτήτων. Ένα κινεζικό εργαστήριο που θα ξεπερνούσε τους Αμερικανούς ανταγωνιστές του σε περιοριστικές πρακτικές απελευθέρωσης θα φαινόταν απίθανο πριν από ένα χρόνο.

Παρακολουθήστε τις τελευταίες εξελίξεις της τεχνητής νοημοσύνης καθώς εξελίσσεται η ανοιχτή συζήτηση για την ασφάλεια.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Ασφάλεια, μοντέλα, πολιτική — καλύπτονται χωρίς διαφημιστική εκστρατεία.

Διαβάστε περισσότερα νέα AI →