Ένας ερευνητής κυβερνοασφάλειας απέδειξε ότι ένα ανοιχτού βάρους μοντέλο τεχνητής νοημοσύνης μπορεί να παραδοθεί αθόρυβα με κερκόπορτα για λιγότερο από 100 $ και σε περίπου μία ώρα, αποκαλύπτοντας αυτό που οι ειδικοί προειδοποιούν ότι είναι ένα διευρυνόμενο τυφλό σημείο στην εφοδιαστική αλυσίδα τεχνητής νοημοσύνης. Το πείραμα, που αναφέρθηκε από το The Register στις 16 Ιουλίου 2026, υπογραμμίζει πώς οι πλατφόρμες που διανέμουν βάρη μοντέλων με δυνατότητα λήψης - όπως το Hugging Face, το οποίο φιλοξενεί εκατοντάδες χιλιάδες αποθετήρια από το 2026 - έχουν γίνει ένας ελκυστικός και σε μεγάλο βαθμό ανεξέλεγκτος στόχος για τους εισβολείς.

Τα ευρήματα φτάνουν καθώς η [τελευταία κάλυψη της βιομηχανίας τεχνητής νοημοσύνης] (https://aibuzzwire.news) παρακολουθεί μια ταχεία μετάβαση από τον πειραματισμό στην ανάπτυξη ανάπτυξης μοντέλων ανοιχτού βάρους σε τοπικό υλικό, αυξάνοντας το διακύβευμα για τυχόν ευπάθεια που γλιστράει στα ίδια τα βάρη.

Μια κερκόπορτα σε λιγότερο από μία ώρα

Η Katie Paxton-Fear, λέκτορας κυβερνοασφάλειας στο Manchester Metropolitan University και συνήγορος για την ασφάλεια του προσωπικού στην εταιρεία δοκιμών Semgrep, είπε ότι θέλησε να δει αν θα μπορούσε να χρησιμοποιήσει τη λεπτομέρεια για να αλλάξει διακριτικά τη συμπεριφορά ενός μοντέλου. Αρχικά προσπάθησε να εκπαιδεύσει ένα μοντέλο για να ανταλλάξει τη σύμβαση ονομασίας camelCase της JavaScript με snake_case — και τα κατάφερε εύκολα, ακόμη και αφού έδωσε ρητή εντολή στο AI να παραμείνει με το camelCase.

«Αφού αυτό λειτούργησε, έκανα μια σωστή κερκόπορτα», έγραψε ο Paxton-Fear σε μια ανάρτηση στα μέσα κοινωνικής δικτύωσης που περιγράφει το έργο.

Το αποτέλεσμα ήταν πιο ανησυχητικό από το κόλπο ονοματοδοσίας. Η Paxton-Fear είπε ότι χρειάστηκαν μόνο περίπου δέκα παραδείγματα εκπαίδευσης για να γίνει αξιόπιστα ευάλωτος ο κώδικας που δημιουργείται από το μοντέλο στην απομακρυσμένη εκτέλεση κώδικα - μια κατηγορία ελαττώματος που επιτρέπει σε έναν εισβολέα να εκτελεί αυθαίρετες εντολές στον υπολογιστή του θύματος. Ουσιαστικά, η κακόβουλη συμπεριφορά που επικρατούσε ακόμη και για νέες προτροπές και κώδικα σε τομείς που το μοντέλο δεν είχε ρητά εκπαιδευτεί να σαμποτάρει. Και όσο μεγαλύτερο ήταν το μοντέλο, τόσο πιο εύκολο ήταν να δηλητηριαστεί.

"Σχεδόν καμία ικανότητα πρόβλεψης της συμπεριφοράς του"

Η Paxton-Fear και οι συνάδελφοί της στο Semgrep, Isaac Evans και Cris Thomas, υποστήριξαν σε μια ανάρτηση την περασμένη εβδομάδα ότι το βασικό πρόβλημα είναι αυτό της παρατηρητικότητας. Το παραδοσιακό λογισμικό, ακόμη και σε μεταγλωττισμένη δυαδική μορφή, μπορεί να δημιουργηθεί αντίστροφη μηχανική και να ελεγχθεί για κακόβουλη λογική. Τα βάρη νευρωνικών δικτύων δεν μπορούν.

«Ακόμη και όταν τα βάρη μοντέλων είναι δημόσια («ανοιχτό βάρος»), δεν έχουμε σχεδόν καμία ικανότητα να προβλέψουμε τη συμπεριφορά του», έγραψαν. "Αυτή είναι μια σημαντική αλλαγή: ένα τυπικό πρόγραμμα υπολογιστή, σε δυαδική μορφή, μπορεί ακόμα να αναλυθεί με εργαλεία αντίστροφης μηχανικής για να καταλήξουμε σε μια συνολική περιγραφή της συμπεριφοράς του. Με τα μοντέλα, δεν έχουμε πουθενά κοντά σε αυτήν την ικανότητα."

Αυτό το κενό, είπαν, είναι που κάνει την εφοδιαστική αλυσίδα τεχνητής νοημοσύνης κατά κάποιο τρόπο πιο επικίνδυνη από την παραδοσιακή αλυσίδα εφοδιασμού λογισμικού που γέννησε περιστατικά υψηλού προφίλ όπως η παραβίαση της SolarWinds. «Εάν μια εξάρτηση λογισμικού περιέχει κακόβουλο κώδικα, έχουμε ώριμες πρακτικές για να τον ανακαλύψουμε, να παρακολουθήσουμε την προέλευσή του και να μειώσουμε τον αντίκτυπό του», υποστήριξε η ομάδα της Semgrep. "Τα μοντέλα τεχνητής νοημοσύνης είναι διαφορετικά. Ένα παραβιασμένο ή ανεπαίσθητα χειραγωγημένο μοντέλο δεν χρειάζεται να "σπάσει" για να δημιουργήσει επιχειρηματικό ρίσκο, χρειάζεται μόνο να επηρεάσει τις αποφάσεις με τρόπους που είναι δύσκολο να εντοπιστούν."

Κλοπή δεδομένων απόκρυψη μέσα στα βάρη

Μια ξεχωριστή επίδειξη που αναφέρεται στο ίδιο κομμάτι του Register δείχνει πώς ένα δηλητηριασμένο μοντέλο μπορεί να στρέψει τα εργαλεία που του παρέχονται εναντίον του χρήστη του. Τον περασμένο μήνα, ο David Kaplan, επικεφαλής της έρευνας ασφάλειας AI στην εταιρεία Origin, κατασκεύασε ένα παραβιασμένο μοντέλο σχεδιασμένο να κλέβει δεδομένα. Σε ένα σενάριο που μιμείται τη χρήση του σε μια φαρμακευτική εταιρεία για την ανακάλυψη φαρμάκων, το μοντέλο σχεδιάστηκε για να διεισδύει ευαίσθητες πληροφορίες μέσω μιας κλήσης εργαλείου «send_email» χωρίς ορατή ένδειξη στο άτομο που το εκτελεί.

Ο Kaplan πλαισίωσε τον κίνδυνο έναντι ενός ευρέως αναφερόμενου μοντέλου απειλής τεχνητής νοημοσύνης που επινοήθηκε από τον προγραμματιστή Simon Willison, γνωστό ως "θανατηφόρο trifecta", το οποίο υποστηρίζει ότι ένας πράκτορας γίνεται επικίνδυνος όταν έχει ταυτόχρονα πρόσβαση σε ιδιωτικά δεδομένα, επεξεργάζεται μη αξιόπιστη είσοδο και έχει ένα εξερχόμενο κανάλι.

«Αλλά υποτιμά αυτή την υπόθεση», έγραψε ο Κάπλαν. "Δεν χρειάζεστε τρία πόδια εδώ. Χρειάζεστε ένα εξερχόμενο εργαλείο και ένα σύνολο βαρών που έχουν αποφασίσει αθόρυβα να το χρησιμοποιήσουν εναντίον σας. Η "μη αξιόπιστη είσοδος" δεν έφτασε σε μια ιστοσελίδα. Καθόταν στα βάρη όλη την ώρα."

Μια επιφάνεια επίθεσης που ωριμάζει

Οι ακαδημαϊκοί ερευνητές έχουν προειδοποιήσει για την υπονόμευση μοντέλων εδώ και χρόνια, αλλά η κοινότητα ασφαλείας μόλις πρόσφατα εκπαίδευσε την εστίασή της στο θέμα καθώς άρχισαν να εμφανίζονται πραγματικές επιθέσεις εφοδιαστικής αλυσίδας τεχνητής νοημοσύνης. Το Register σημείωσε ότι η απειλή είναι ιδιαίτερα πιεστική τώρα που η εκτέλεση μοντέλων ανοιχτού βάρους σε τοπικό υλικό έχει περάσει πέρα ​​από τον πειραματισμό των χομπίστων σε εταιρικούς αγωγούς.

Οι προειδοποιήσεις δεν είναι καθαρά θεωρητικές. Ξεχωριστή έρευνα του κλάδου έχει τεκμηριώσει κακόβουλη δραστηριότητα σε πλατφόρμες διανομής τεχνητής νοημοσύνης. Η Acronis Threat Research Unit, για παράδειγμα, εντόπισε in-the-wild καμπάνιες που καταχρώνται κόμβους όπως το Hugging Face για να παραδίδουν κακόβουλο λογισμικό μεταμφιεσμένο ως μοντέλα, σύνολα δεδομένων και επεκτάσεις πρακτόρων — επιθέσεις που εκμεταλλεύονται την εμπιστοσύνη στα οικοσυστήματα τεχνητής νοημοσύνης και όχι οποιοδήποτε μεμονωμένο ελάττωμα λογισμικού.

Η σύγκλιση αυτών των ευρημάτων δίνει μια εικόνα μιας επιφάνειας επίθεσης που επεκτείνεται ταχύτερα από τις άμυνες εναντίον της. Τα μοντέλα ανοιχτού βάρους ανταλλάσσουν τη διαφάνεια με ένα διαφορετικό είδος αδιαφάνειας: οποιοσδήποτε μπορεί να κατεβάσει τα βάρη, αλλά κανείς δεν μπορεί να ελέγξει πλήρως τι θα κάνουν αυτά τα βάρη. Και επειδή η τελειοποίηση μιας κερκόπορτας είναι φθηνή και γρήγορη, ένας αποφασισμένος εισβολέας δεν χρειάζεται να συμβιβάσει ένα διάσημο μοντέλο ναυαρχίδας για να προκαλέσει βλάβη — μόνο ένα αρκετά αξιόπιστο για να τραβηχτεί σε ένα περιβάλλον παραγωγής.

Για τους οργανισμούς, υποστηρίζουν οι ερευνητές της Semgrep, το μάθημα δεν είναι να εγκαταλείψουν τα ανοιχτά μοντέλα αλλά να τα αντιμετωπίζουν με τον ίδιο έλεγχο προέλευσης που εφαρμόζεται εδώ και καιρό στις εξαρτήσεις λογισμικού: επαληθεύστε την πηγή, παρακολουθήστε τη γενεαλογία και υποθέστε ότι ό,τι δεν μπορεί να επιθεωρηθεί μπορεί να εξακολουθεί να είναι εχθρικό.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Για περισσότερες αναφορές σχετικά με την ασφάλεια της τεχνητής νοημοσύνης, την ασφάλεια των μοντέλων και τις εταιρείες που διαμορφώνουν το πεδίο, ακολουθήστε τις ενημερωτικές ειδήσεις AI.

Διαβάστε περισσότερα νέα AI →