Ένας ερευνητής ασφαλείας έχει τεκμηριώσει αυτό που μπορεί να είναι το πρώτο δημόσιο παράδειγμα ενός εγγράφου "σκουλήκι AI" που αυτοδιαδίδεται μέσω μιας κύριας σουίτας παραγωγικότητας, δείχνοντας ότι οι κρυφές κακόβουλες οδηγίες μπορούν να μεταπηδήσουν από το ένα αρχείο Microsoft Word στο άλλο μέσω του Copilot for Word.
Σε μια συντονισμένη αποκάλυψη που δημοσιεύτηκε στις 28 Ιουλίου, ο ερευνητής Håkon Måløy περιέγραψε πώς οι ελεγχόμενες από τον εισβολέα οδηγίες που είναι ενσωματωμένες σε ένα έγγραφο μπορούν να παραβιάσουν τη σύνταξη του Copilot. Μόλις η τεχνητή νοημοσύνη διαβάσει το δηλητηριασμένο έγγραφο, μπορεί να αλλάξει σιωπηλά το αποτέλεσμα - για παράδειγμα, μειώνοντας στο μισό τα οικονομικά μεγέθη σε μια αναφορά - και στη συνέχεια να αντιγράψει το πλήρες κακόβουλο ωφέλιμο φορτίο στο αρχείο που δημιουργήθηκε πρόσφατα, κρυμμένο ως λευκό κείμενο. Αυτό το νέο αρχείο γίνεται φορέας, μολύνοντας περαιτέρω έγγραφα την επόμενη φορά που θα χρησιμοποιηθεί ως υλικό πηγής, ακόμη και μετά την εξαφάνιση του αρχικού κακόβουλου αρχείου. For more context on this story, see our ongoing AI industry coverage.
Η εργασία διεξήχθη με το Κέντρο απόκρισης ασφαλείας της Microsoft (MSRC) σε μια περίοδο συντονισμού 144 ημερών. Σύμφωνα με την αποκάλυψη, η Microsoft απέστειλε πολλές επιδιορθώσεις, συμπεριλαμβανομένης μιας αναβάθμισης του υποκείμενου μοντέλου σε GPT-5.5 και στη συνέχεια GPT-5.6, αλλά ο ερευνητής αναπαρήγαγε ολόκληρη την αλυσίδα επίθεσης με κάθε μετριασμό που αναπτύχθηκε. «Η κατηγορία ευπάθειας επομένως παραμένει εκμεταλλεύσιμη τη στιγμή της δημοσίευσης», έγραψε ο Måløy.
Τα ευρήματα υπογραμμίζουν ένα βαθύτερο αρχιτεκτονικό πρόβλημα στα συστήματα που βασίζονται στο LLM. Επειδή ένα γλωσσικό μοντέλο πρέπει να διαβάζει εξωτερικό περιεχόμενο για να αποφασίσει εάν είναι σχετικό ή εχθρικό, "το περιεχόμενο που επιθεωρείται συμμετέχει στην πράξη της επιθεώρησης" - καθιστώντας αόριστες τις αξιόπιστες άμυνες άμεσης έγχυσης.
Η Microsoft μετρίασε τα συγκεκριμένα ωφέλιμα φορτία που αναφέρθηκαν και έκλεισε τα διανύσματα μνήμης και email από προηγούμενα τμήματα της σειράς, αλλά αναγνώρισε ότι δεν υπάρχει πλήρης επιδιόρθωση για την ευρύτερη κατηγορία. Ο ερευνητής συνιστά να αντιμετωπίζονται τα έγγραφα που προέρχονται από εξωτερική πηγή ως μη αξιόπιστα όταν χρησιμοποιούνται με το Copilot και να εξετάζεται προσεκτικά το περιεχόμενο που δημιουργείται από AI πριν από την επαναχρησιμοποίηση ή τη διανομή.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
