Το Cloudflare δημοσίευσε μια λεπτομερή αναφορά περιστατικού που περιγράφει πώς ένα σφάλμα χειρισμού κρυφής μνήμης στην πλατφόρμα AI χωρίς διακομιστή προκάλεσε τουλάχιστον 155 χρήστες ανάπτυξης ενός μοντέλου GLM-5.3 να λάβουν απαντήσεις που περιέχουν θραύσματα προτροπών και εξόδων άλλων πελατών. Η έκθεση, που δημοσιεύθηκε στις 26 Οκτωβρίου ως συντονισμένη αποκάλυψη παράλληλα με το έργο της μηχανής συμπερασμάτων ανοιχτού κώδικα SGLang, προσφέρει μια σπάνια δημόσια ματιά στα υδραυλικά της υπηρεσίας LLM πολλαπλών ενοικιαστών — και μια προειδοποίηση σχετικά με τις υποθέσεις ασφαλείας της μνήμης GPU.
Πώς βρέθηκε η διαρροή For more context on this story, see our ongoing latest AI developments.
Σύμφωνα με το Cloudflare, ο ερευνητής ασφάλειας Gadi Evron της Knostic ειδοποίησε την εταιρεία στις 8 Σεπτεμβρίου 2026, μέσω του προγράμματος επιβράβευσης σφαλμάτων HackerOne. Η Evron ανέφερε ότι τα πολύ μεγάλα μηνύματα που αποστέλλονταν στο μοντέλο GLM-5.3 στην πλατφόρμα Workers AI του Cloudflare μερικές φορές επέστρεφαν κείμενο που ανήκε σε περιόδους σύνδεσης άλλων χρηστών. Το Cloudflare αναπαρήγαγε το ζήτημα το επόμενο πρωί και απενεργοποίησε το μοντέλο την ίδια μέρα, επαναφέροντάς το στις 9 Σεπτεμβρίου μετά την ανάπτυξη επιδιορθώσεων.
Το μοντέλο που επηρεάστηκε ήταν το @cf/zai-org/glm-5.3 — το μοντέλο πρακτορείου κωδικοποίησης από το Z.ai που εξυπηρετεί το Cloudflare μέσω του Workers AI, της πλατφόρμας συμπερασμάτων χωρίς διακομιστές της εταιρείας. Το Cloudflare επιβεβαίωσε ότι κανένα άλλο μοντέλο που φιλοξενείται στην πλατφόρμα δεν επηρεάστηκε.
Τι συνέβη στην πραγματικότητα
Το περιστατικό εντοπίζεται σε δύο αλληλεπικαλυπτόμενα προβλήματα, ένα λειτουργικό και ένα στον ίδιο τον κινητήρα.
Πρώτον, η εσφαλμένη διαμόρφωση. Το Cloudflare ανέπτυξε το GLM-5.3 με ένα παράθυρο περιβάλλοντος 1.048.576 διακριτικών, αλλά η δεξαμενή κρυφής μνήμης κλειδιού-τιμής (KV) στις προγεμισμένες GPU της είχε χώρο μόνο για 681.280 διακριτικά. Η εταιρεία αναγνώρισε ότι γνώριζε αυτήν την αναντιστοιχία πριν από την κυκλοφορία και περίμενε ότι η μηχανή συμπερασμάτων θα απορρίψει με ασφάλεια αιτήματα υπερβολικού μήκους.
Δεύτερον, το σφάλμα του κινητήρα. Σε λειτουργία αποσυσσωρευμένης προπλήρωσης/αποκωδικοποίησης — η αρχιτεκτονική που χρησιμοποιεί το Workers AI, στην οποία μια ομάδα GPU επεξεργάζεται την προτροπή και παραδίδει την προκύπτουσα κρυφή μνήμη KV σε μια ξεχωριστή ομάδα GPU που παράγουν την απόκριση — η SGLang χειρίστηκε εσφαλμένα το αίτημα υπερβολικού μήκους. Ένα μήνυμα που δεν ταίριαζε στο χώρο συγκέντρωσης επισημάνθηκε εσωτερικά ως απορρίφθηκε και αντικαταστάθηκε με ένα σύμβολο κράτησης θέσης με ένα διακριτικό. Όμως, αντί να ματαιώσει το αίτημα και να επιστρέψει ένα σφάλμα πελάτη, το στάδιο προπλήρωσης δημιούργησε κρυφή μνήμη KV για το μήνυμα κράτησης θέσης και τη μετέφερε στον κόμβο αποκωδικοποίησης, ο οποίος στη συνέχεια παρήγαγε μια απόκριση που αναμειγνύεται με δεδομένα από προηγούμενα αιτήματα που μοιράζονται τις ίδιες σελίδες μνήμης.
Το αποτέλεσμα: μεταξύ 27 Αυγούστου και 9 Σεπτεμβρίου, ένας μικρός αριθμός πελατών που χρησιμοποιούσαν το μοντέλο έλαβαν απαντήσεις που περιείχαν δεδομένα από αιτήματα άλλων πελατών που έγιναν λίγο πριν από τα δικά τους. Συνολικά, επηρεάστηκαν 155 απαντήσεις — όλες, όπως διαπίστωσε το Cloudflare, σε προτροπές μεγαλύτερες από 681.280 μάρκες.
Δεν υπάρχουν στοιχεία για σκόπιμη εκμετάλλευση
Η Cloudflare δήλωσε ότι μετά τον αποκλεισμό των δικών της δοκιμών και των αιτημάτων επικύρωσης του ερευνητή, τα επηρεαζόμενα αιτήματα ήταν συνεπή ως προς το χρόνο και τον όγκο με τη συνηθισμένη χρήση μακράς διάρκειας και η εταιρεία δεν βρήκε στοιχεία ότι κάποιος εκμεταλλεύτηκε σκόπιμα το σφάλμα. Επειδή κάθε επηρεαζόμενο αίτημα υπερέβαινε τη χωρητικότητα της πισίνας μικρότερου μεγέθους, το παράθυρο έκθεσης ήταν στενά περιορισμένο - μια ασημένια επένδυση που προέρχεται από την ίδια την εσφαλμένη διαμόρφωση που προκάλεσε το πρόβλημα.
Η λύση: Μεγαλύτερες πισίνες και ασφαλέστερη διαδρομή αποτυχίας
Η αποκατάσταση λειτούργησε και στα δύο επίπεδα της αποτυχίας. Το Cloudflare αναδιαμόρφωσε την ανάπτυξή του GLM-5.3 για να ταιριάζει με τη διαμόρφωση του GLM-5.2, ελευθερώνοντας αρκετή μνήμη GPU ώστε η προγεμισμένη πισίνα KV να χωρά τώρα περίπου 2,04 εκατομμύρια μάρκες — περίπου διπλάσιο από το μήκος περιβάλλοντος των 1.048.576 διακριτικών του μοντέλου. Μια προτροπή που ταιριάζει στο παράθυρο περιβάλλοντος τώρα ταιριάζει πάντα στη δεξαμενή.
Αλλά η εταιρεία τόνισε επίσης ότι το να βασίζεσαι μόνο στο μέγεθος της πισίνας είναι εύθραυστο: οι αλλαγές στην κβαντοποίηση, ο παραλληλισμός τανυστών, τα μεγέθη γραφημάτων CUDA ή μια μελλοντική έκδοση μοντέλου μπορούν να αλλάξουν σιωπηλά το μέγεθος της πισίνας. Έτσι, επιδιορθώθηκε και η ίδια η διαδρομή απόρριψης του SGLang, διασφαλίζοντας ότι ένα αίτημα που απορρίφθηκε θα ματαιωθεί καθαρά αντί να δημιουργεί και να μεταφέρει προσωρινή μνήμη για ένα σύμβολο κράτησης θέσης. Και οι δύο αλλαγές επικυρώθηκαν σε σχέση με το σενάριο αναπαραγωγής του ερευνητή και τις δοκιμές δείκτη καναρίνι του ίδιου του Cloudflare πριν αποκατασταθεί το μοντέλο και οι διορθώσεις έχουν συνεισφέρει ανάντη στους συντηρητές SGLang.
Γιατί η κοινόχρηστη μνήμη GPU είναι ερώτηση ασφαλείας
Η αναφορά εξηγεί μια πρακτική που θα εκπλήξει πολλούς προγραμματιστές εφαρμογών: οι μηχανές συμπερασμάτων γενικά δεν μηδενίζουν τις σελίδες κρυφής μνήμης KV μεταξύ των αιτημάτων, επειδή το επόμενο αίτημα απλώς τις αντικαθιστά. Αυτή είναι μια σκόπιμη αντιστάθμιση απόδοσης, συνηθισμένη σε μηχανές συμπερασμάτων, αλλά όπως δείχνει αυτό το περιστατικό, κάθε διαδρομή που επιτρέπει τη δημιουργία απόκρισης πριν από την πλήρη αντικατάσταση αυτών των σελίδων μετατρέπει μια βελτιστοποίηση απόδοσης σε διάνυσμα διαρροής δεδομένων.
Η αποκάλυψη έφτασε στην κοινότητα των προγραμματιστών: η ιστορία έφτασε τα 123 σημεία στο Hacker News μέσα σε λίγες ώρες, με τη συζήτηση να επικεντρώνεται στο πώς η λειτουργία αποτυχίας - ένα αίτημα που θα έπρεπε να είχε αποτύχει δυνατά αντί να προχωρούσε σιωπηλά σε κατεστραμμένη κατάσταση - αντικατοπτρίζει τα κλασικά μαθήματα από τη μηχανική κατανεμημένων συστημάτων.
Ένα ευρύτερο μάθημα για την υποδομή AI
Το περιστατικό είναι μια υπενθύμιση ότι η περίμετρος ασφαλείας για εφαρμογές τεχνητής νοημοσύνης επεκτείνεται πλέον βαθιά στην υποδομή συμπερασμάτων. Η υπηρεσία πολλαπλών ενοικιαστών μοντέλων συγκεντρώνει δεδομένα πολλών πελατών μέσω κοινόχρηστων επιταχυντών, κοινόχρηστων δεξαμενών κρυφής μνήμης και ολοένα και πιο εξωτικών αρχιτεκτονικών, όπως η κατανεμημένη προπλήρωση και η απομακρυσμένη άμεση πρόσβαση στη μνήμη. Μια λεπτή αναντιστοιχία μεταξύ του διαφημιζόμενου παραθύρου περιβάλλοντος ενός μοντέλου και της φυσικής ικανότητας που παρέχεται για την εξυπηρέτησή του ήταν αρκετή για να παραβιαστεί η απομόνωση του ενοικιαστή.
Για επιχειρήσεις που βασίζονται σε πλατφόρμες τεχνητής νοημοσύνης χωρίς διακομιστές, η αναφορά του Cloudflare είναι διπλή: τα σφάλματα απομόνωσης ενοικιαστών στην υπηρεσία LLM είναι πραγματικά και έχουν ήδη συμβεί στην παραγωγή και ο χρόνος απόκρισης των προμηθευτών — κάτω από 24 ώρες από την αναφορά έως την απενεργοποίηση, μία ημέρα για επιδιόρθωση και επαναφορά — είναι το πρότυπο επιμέλειας για τη ζήτηση από οποιονδήποτε πάροχο που χειρίζεται ευαίσθητα.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
