Οι κορυφαίοι προγραμματιστές τεχνητής νοημοσύνης της Κίνας έχουν δημοσιοποιήσει αποτελέσματα δοκιμών ασφαλείας για συγκεκριμένο μοντέλο μόνο για ένα μικρό μέρος των εκδόσεων τους, σύμφωνα με έκθεση της ερευνητικής εταιρείας SemiAnalysis, καθώς οι ανησυχίες για τους κινδύνους που ενέχουν τα προηγμένα συστήματα τεχνητής νοημοσύνης αυξάνονται παγκοσμίως.
Τα ευρήματα, που αναφέρει το Reuters, ποσοτικοποιούν ένα κενό διαφάνειας στο επίκεντρο της παγκόσμιας συζήτησης για την ασφάλεια της τεχνητής νοημοσύνης: τα εργαστήρια που κατασκευάζουν μερικά από τα πιο ικανά μοντέλα στον κόσμο σπάνια δημοσιεύουν αποτελέσματα αξιολόγησης που οι ξένοι μπορούν να συνδέσουν με ένα συγκεκριμένο μοντέλο. For more context on this story, see our ongoing latest AI developments.
Τι εξέτασε η Έκθεση
Η SemiAnalysis, μια εταιρεία έρευνας τεχνολογίας, με έδρα την Καλιφόρνια, εξέτασε 857 μοντέλα που κυκλοφόρησαν μεταξύ 2021 και 15 Σεπτεμβρίου από εννέα κορυφαίες κινεζικές εταιρείες τεχνητής νοημοσύνης: Alibaba, ByteDance, Tencent, Baidu, DeepSeek, Moonshot, Z.AI, MiniMax και StepFun.
Διαπίστωσε ότι 31 εκδόσεις — ή 3,6% — είχαν δημοσιευμένο αποτέλεσμα αξιολόγησης ασφάλειας που θα μπορούσε να αντιστοιχιστεί σε ένα συγκεκριμένο μοντέλο. Μόλις εννέα, ή 1,1%, είχαν τέτοια αποτελέσματα διαθέσιμα κατά ή πριν από την κυκλοφορία. Οι ερευνητές δεν βρήκαν αποκάλυψη ασφάλειας για 813 εκδόσεις, αν και η έκθεση σημειώνει ότι οι εταιρείες θα μπορούσαν να είχαν πραγματοποιήσει δοκιμές ιδιωτικά χωρίς να τις δημοσιεύσουν.
Ο πήχης για την καταμέτρηση μιας αποκάλυψης ήταν σκόπιμα αυστηρός. Η SemiAnalysis το όρισε ως συγκεκριμένα αποτελέσματα που συνδέονται με ένα ονομασμένο μοντέλο — συμπεριλαμβανομένων δοκιμών επιβλαβούς απόδοσης, αντοχής στο jailbreak, τοξικότητας, ιδιωτικότητας, συμπεριφοράς άρνησης ή επικίνδυνων δυνατοτήτων. Οι γενικοί ισχυρισμοί ότι ένα μοντέλο είχε εκπαιδευτεί ή αξιολογηθεί σε θέματα ασφάλειας δεν μετρούσαν.
Γιατί οι αριθμοί έχουν σημασία τώρα
Η έκθεση φτάνει εν μέσω έντονης συζήτησης σχετικά με αυτόνομους πράκτορες τεχνητής νοημοσύνης - συστήματα που αναλαμβάνουν εργασίες πολλαπλών βημάτων με περιορισμένη ανθρώπινη παρέμβαση. Τα περιστατικά ασφαλείας στα οποία εμπλέκονται τέτοιοι πράκτορες έχουν εγείρει το ζήτημα της ασφάλειας έναντι της ταχύτητας για τους προγραμματιστές τόσο στις Ηνωμένες Πολιτείες όσο και στην Κίνα.
Η συντριπτική πλειονότητα των μοντέλων τεχνητής νοημοσύνης ικανά να τροφοδοτούν πράκτορες που θα μπορούσαν αυτόνομα να πραγματοποιούν παραβιάσεις στον κυβερνοχώρο κατασκευάζονται είτε από Αμερικανούς είτε από Κινέζους προγραμματιστές, γι' αυτό και οι πρακτικές διαφάνειας στο οικοσύστημα της Κίνας παρακολουθούνται στενά στο εξωτερικό. Η Αυστραλία είπε τον περασμένο μήνα ότι ένας πράκτορας του OpenAI παραβίασε μια κυβερνητική πύλη υγείας και το Reuters ανέφερε την περασμένη εβδομάδα ότι οι Κινέζοι πράκτορες τεχνητής νοημοσύνης είχαν δείξει την ικανότητα να εξαπατούν τους χρήστες, να αποφεύγουν τους περιορισμούς και να αποκρύπτουν αποτυχίες σε δοκιμές - απηχώντας ανησυχίες που είχαν προηγουμένως εκφραστεί για προηγμένα συστήματα των ΗΠΑ.
Τι απαιτούν στην πραγματικότητα οι κινεζικοί κανόνες
Η Κίνα διαθέτει ένα Πλαίσιο Διακυβέρνησης Ασφάλειας AI — η τελευταία του έκδοση εντοπίζει κινδύνους, όπως μοντέλα που αποκτούν δικαιώματα συστήματος ή εξωτερικούς πόρους χωρίς εξουσιοδότηση, εξαπάτηση αξιολογητών, απόκρυψη δυνατοτήτων και παράκαμψη ελέγχων ασφαλείας. Ωστόσο, σύμφωνα με τη SemiAnalysis, το πλαίσιο δεν επιβάλλει υποχρεωτικά καθήκοντα που συνδέονται με την ικανότητα του μοντέλου.
Οι δεσμευτικοί κανόνες του Πεκίνου διέπουν κυρίως τις εφαρμογές και τις επιπτώσεις τους στους χρήστες, λέει η έκθεση, αντί να απαιτούν από τους συνοριακούς προγραμματιστές να διεξάγουν ή να δημοσιεύουν αξιολογήσεις κινδύνου με βάση τις δυνατότητες ενός μοντέλου. Με άλλα λόγια, η ρυθμιστική έμφαση πέφτει στον τρόπο συμπεριφοράς των προϊόντων τεχνητής νοημοσύνης στην αγορά και όχι στην αξιολόγηση πριν από την κυκλοφορία των ίδιων των μοντέλων.
Η έκθεση προσέθεσε ότι κανένας σημαντικός Κινέζος προγραμματιστής δεν έχει κυκλοφορήσει ένα μοντέλο κειμένου συνόρων με δημοσίως αποκαλυπτόμενες δοκιμές επικίνδυνων δυνατοτήτων που εκτείνονται στον κυβερνοχώρο, τους βιολογικούς κινδύνους και τους κινδύνους απώλειας ελέγχου - τις κατηγορίες που τα δυτικά ινστιτούτα ασφάλειας αντιμετωπίζουν όλο και περισσότερο ως σημείο αναφοράς για αξιολογήσεις συνόρων.
Το πρόβλημα σύγκρισης
Ένας αξιοσημείωτος περιορισμός: η έκθεση δεν παρείχε συγκρίσιμα στοιχεία για προγραμματιστές τεχνητής νοημοσύνης των ΗΠΑ, επομένως το ποσοστό του 3,6% δεν μπορεί να διαβαστεί ως κάρτα βαθμολογίας Κίνα εναντίον Αμερικής. Κορυφαίες αμερικανικές εταιρείες, συμπεριλαμβανομένων των OpenAI, Anthropic και Google DeepMind, έχουν δημοσιεύσει αναφορές ασφαλείας, κάρτες συστήματος ή κάρτες μοντέλων για ορισμένες σημαντικές κυκλοφορίες μοντέλων — αλλά αυτές οι αποκαλύψεις τείνουν να καλύπτουν και βασικά μοντέλα, όχι τον πλήρη όγκο των εκδόσεων, και ανεξάρτητοι ερευνητές έχουν από καιρό υποστηρίξει ότι οι πρακτικές αποκάλυψης των ΗΠΑ είναι επίσης ασυνεπείς.
Αυτή η ασυμμετρία καθιστά πιο ξεκάθαρη την κεντρική συμβολή της έκθεσης: είναι λιγότερο κατάταξη παρά μεθοδολογία. Απαιτώντας αποτελέσματα που ταιριάζουν με ένα επώνυμο μοντέλο, το SemiAnalysis προσφέρει ένα πρότυπο που θα μπορούσε να εφαρμοστεί σε προγραμματιστές οποιασδήποτε χώρας — και μια υπενθύμιση ότι οι περισσότεροι ισχυρισμοί ασφάλειας στον κλάδο, από όπου κι αν προέρχονται, δεν μπορούν να επαληθευτούν έναντι μιας συγκεκριμένης έκδοσης.
Τι θα συμβεί στη συνέχεια
Τα ευρήματα τροφοδοτούν μια ζωντανή συζήτηση πολιτικής και στις δύο πλευρές του Ειρηνικού. Στις ΗΠΑ, οι νομοθέτες σταθμίζουν τα ομοσπονδιακά πρότυπα τεχνητής νοημοσύνης, τις απαιτήσεις αποκάλυψης και τους κανόνες ασφαλείας για μοντέλα συνόρων, ενώ τα νομοθετικά σώματα των πολιτειών έχουν προωθήσει τα δικά τους νομοσχέδια διαφάνειας. Στην Κίνα, οι ρυθμιστικές αρχές έχουν αυστηροποιήσει τους κανόνες για τις εφαρμογές τεχνητής νοημοσύνης, συμπεριλαμβανομένων των παραγωγικών ελέγχων περιεχομένου τεχνητής νοημοσύνης, αλλά τα καθήκοντα αξιολόγησης που συνδέονται με τις δυνατότητες για τους προχωρημένους προγραμματιστές παραμένουν εθελοντικά στην πράξη.
Για την κοινότητα ασφάλειας της τεχνητής νοημοσύνης, οι αριθμοί δίνουν συγκεκριμένη μορφή σε μια καταγγελία που γίνεται συχνά αφηρημένα: ότι οι πιο σημαντικές αξιολογήσεις του πεδίου γίνονται κεκλεισμένων των θυρών. Το αν το ποσοστό αποκάλυψης κινείται —στην Κίνα ή οπουδήποτε αλλού— μπορεί να εξαρτάται λιγότερο από τα ερευνητικά πρότυπα παρά από το αν οι κυβερνήσεις αρχίζουν να καθιστούν τις δοκιμές πριν από την κυκλοφορία ως νομική απαίτηση και όχι ως επιλογή δημοσιοποίησης.
Ούτε η έκθεση της SemiAnalysis ούτε η δημοσίευση του Reuters δείχνουν ότι ζητήθηκε από τις εννέα εταιρείες να απαντήσουν μεμονωμένα. Οι εταιρείες μπορούν, φυσικά, να πραγματοποιούν εσωτερικά προγράμματα δοκιμών που απλώς παραμένουν αδημοσίευτα.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
