Μια μεγάλης κλίμακας επιχείρηση τσιμπήματος κατά των υδραυλικών εγκαταστάσεων της βιομηχανίας τεχνητής νοημοσύνης έχει τεκμηριώσει τι συμβαίνει με τις προτροπές που στέλνουν οι χρήστες καθημερινά — και η απάντηση είναι: διαρρέουν. Ο ερευνητής ασφαλείας HD Moore, επικεφαλής ερευνητής της εταιρείας βιομηχανικής ασφάλειας Dragos, έστειλε σχεδόν δύο εκατομμύρια μηνύματα τεχνητής νοημοσύνης που περιείχαν μοναδικά, ανιχνεύσιμα μυστικά σε παρόχους τεχνητής νοημοσύνης και στη συνέχεια παρακολούθησε πού εμφανίστηκαν αυτά τα μυστικά. «Αυτό που βρήκαμε αποκάλυψε παραβιάσεις ασφάλειας, άμεση κλοπή και εκτεταμένες αποτυχίες προστασίας των δεδομένων των πελατών», έγραψε ο Μουρ σε έκθεση που δημοσιεύθηκε την Πέμπτη.

Τα ευρήματα, που αναφέρονται λεπτομερώς από την Ars Technica, φτάνουν ως δρομολογητές τεχνητής νοημοσύνης - υπηρεσίες μεσίτη όπως το OpenRouter και το Vercel που δέχονται προτροπές από τους τελικούς χρήστες και τους κατευθύνουν σε όποιον πάροχο συμπερασμάτων είναι ο φθηνότερος ή ο καταλληλότερος - έχουν γίνει βασική υποδομή για χιλιάδες εφαρμογές. Προκάλεσαν επίσης μια γρήγορη απόκριση του κλάδου: το OpenRouter δημοσίευσε τη δική του ανακοίνωση συμβάντων στις 22 Νοεμβρίου, λέγοντας ότι είχε αποχωρήσει από τρεις παρόχους, αφαίρεσε 125 τελικά σημεία από την καταλληλότητα Zero Data Retention και ειδοποίησε πιθανώς επηρεαζόμενους πελάτες.

Πώς λειτούργησε η παγίδα των καναρινιών

Ο Moore συγκέντρωσε μια συλλογή από λειτουργικά κλειδιά πρόσβασης AWS που συνδέονται με άδειους λογαριασμούς, λειτουργικούς κωδικούς πρόσβασης SSH και μοναδικές διευθύνσεις URL, ονόματα DNS και αναφορές ιδιωτικών αποθετηρίων git. Κανένα από τα μυστικά δεν είχε χρησιμοποιηθεί ποτέ πριν, και ο Μουρ έλεγχε την υποδομή στο άκρο λήψης. Κάθε μυστικό ενσωματώθηκε σε ακριβώς ένα μήνυμα που στάλθηκε σε έναν μόνο πάροχο — έτσι εάν το μυστικό εμφανιστεί αργότερα οπουδήποτε, το ταξίδι του θα μπορούσε να εντοπιστεί στον ακριβή κρίκο της υπεύθυνης αλυσίδας.

Ο σχεδιασμός έχει σημασία λόγω του τρόπου με τον οποίο το οικοσύστημα AI μεταφέρει πραγματικά δεδομένα. Οι προτροπές κρυπτογραφούνται κατά τη μεταφορά, αλλά αποκρυπτογραφούνται σε κάθε αναπήδηση. Ένας δρομολογητής AI διαβάζει το απλό κείμενο για να επιλέξει κατάλληλους παρόχους συμπερασμάτων. Το μήνυμα προτροπής συχνά προωθείται σε μια ομάδα μοντέλων, που μερικές φορές εκτελούνται σε διαφορετικές εταιρείες φιλοξενίας. Τα μηνύματα προτροπής μπορούν ακόμη και να περάσουν από τον ένα δρομολογητή στον άλλο — το Vercel στο OpenRouter, για παράδειγμα — με κάθε μεσάζοντα ελεύθερο να καταγράφει και να αποθηκεύει το περιεχόμενο σύμφωνα με τις δικές του πολιτικές.

Τρεις πάροχοι παραβιάστηκαν, κλειδιά χρησιμοποιήθηκαν εντός ωρών

Το πιο ανησυχητικό εύρημα αφορούσε τρεις ξεχωριστούς παρόχους φιλοξενίας που παραβιάστηκαν κατά τη διάρκεια του πειράματος. Σύμφωνα με τον Moore, οι επιτιθέμενοι που παραβίασαν έναν πάροχο επαναχρησιμοποίησαν "μερικές εκατοντάδες" από τα τοποθετημένα κλειδιά AWS. Κάθε κλειδί είχε σταλεί ακριβώς σε ένα αίτημα σε έναν πάροχο, μέσα σε λίγα σύντομα παράθυρα στα τέλη Οκτωβρίου — και "κάθε αίτημα που στείλαμε κατά τη διάρκεια αυτών των παραθύρων κλάπηκε". Κυρίως, ορισμένα κλεμμένα κλειδιά προέρχονταν από αιτήματα που είχε απορρίψει ο πάροχος πριν από την εμφάνιση ενός μοντέλου, υποδεικνύοντας ότι ο εισβολέας αντιγράφει την κυκλοφορία στην μπροστινή πόρτα του παρόχου και όχι πιο βαθιά στη στοίβα συμπερασμάτων.

Στις άλλες δύο παραβιάσεις, ορισμένα από τα κλεμμένα αιτήματα επισημάνθηκαν ως Μηδενική Διατήρηση Δεδομένων. «Η σημαία απορρήτου δεν βοηθά όταν ο εισβολέας είναι ήδη μέσα», έγραψε ο Μουρ. Τα μέρη πίσω από τις εισβολές δοκίμασαν τα κλειδιά δολώματος μέσα σε λίγες ώρες, σε ορισμένες περιπτώσεις, πέρασαν μέσα από κουβάδες S3, διαχειριστές μυστικών και αποθήκες παραμέτρων για περισσότερα διαπιστευτήρια, προσπάθησαν να ενεργοποιήσουν τα φιλοξενούμενα μοντέλα στο AWS Bedrock και πρόσθεσαν τους δικούς τους χρήστες IAM για να διατηρήσουν την πρόσβαση. Συνολικά, τα κλεμμένα κλειδιά χρησιμοποιήθηκαν "δεκάδες χιλιάδες" φορές σε κλήσεις API AWS. Τα μυστικά που κλάπηκαν από δύο από τους παρόχους που είχαν παραβιαστεί χρησιμοποιήθηκαν μαζί, σχεδόν αμέσως, από τον ίδιο νοικιασμένο διακομιστή - ισχυρές αποδείξεις ότι ένας αντίπαλος παραβίασε και τους δύο.

Μεταπωλητές που κλέβουν και ένα εργαστήριο που ξύνει

Δεν ήταν κάθε διαρρήκτης χάκερ. Ο Moore κατέγραψε μεταπωλητές που προσέλκυσαν μηνύματα με χαμηλές τιμές, ενεργοποίησαν την καταγραφή αιτημάτων και απλώς περίμεναν. Τους αναγνώρισε στέλνοντας πανομοιότυπα αιτήματα στο ίδιο μοντέλο μέσω διαφορετικών πωλητών: όταν τα διαπιστευτήρια επαναχρησιμοποιούνταν από έναν πωλητή αλλά όχι από έναν άλλο, ο ένοχος ήταν ξεκάθαρος.

Η πιο ξεκάθαρη υπόθεση απόξεσης, έγραψε ο Μουρ, αφορούσε ένα κινεζικό εργαστήριο τεχνητής νοημοσύνης του οποίου τα συστήματα έλαβαν τις μυστικές διευθύνσεις URL από περισσότερες από τις μισές προτροπές που στάλθηκαν στα μοντέλα της μεταξύ Ιουλίου και Οκτωβρίου - συμπεριλαμβανομένων περίπου των δύο τρίτων των αιτημάτων με ρητή ένδειξη "καμία συλλογή δεδομένων" ή Μηδενική διατήρηση δεδομένων. Η ξύστρα εμφανιζόταν συνήθως δύο ή τρεις ημέρες μετά από κάθε αίτημα. Δεν περιοριζόταν στους άμεσους πελάτες: αρκετοί πάροχοι φιλοξενίας στις ΗΠΑ μεταπωλούν τα μοντέλα του εργαστηρίου και οι προτροπές που στάλθηκαν μέσω αυτών των Αμερικανών μεσάζων ενεργοποίησαν το ίδιο ακριβώς scraper. Με άλλα λόγια, ένας πελάτης που επέλεξε έναν πάροχο των ΗΠΑ ειδικά για να διατηρήσει τα δεδομένα σε πολιτεία, δεν πήρε αυτό για το οποίο πλήρωσε. Ξεχωριστά, ένας πελάτης git σε διαφορετικό σύννεφο άρχισε να προσπαθεί να κλωνοποιήσει τα ιδιωτικά αποθετήρια που αναφέρονται στα μηνύματα προτροπής — αλλά μόνο για μηνύματα που χρησιμοποιούσαν τα μοντέλα αυτού του εργαστηρίου.

Το OpenRouter ανταποκρίνεται

Το πείραμα παρήγαγε γρήγορα συνέπειες στον πραγματικό κόσμο. Η Ars Technica ανέφερε σε μια ενημέρωση ότι το OpenRouter έστειλε email στους πελάτες στις 21 Νοεμβρίου προειδοποιώντας ότι ορισμένες από τις προτροπές τους μπορεί να έχουν διαβαστεί, επικαλούμενη την έρευνα: η πιθανή έκθεση περιελάμβανε μηνύματα που στάλθηκαν στη MiniMax, έναν πάροχο μοντέλων με έδρα την Κίνα, είτε απευθείας είτε μέσω τριών μεταπωλητών – AtlasCloud, Novita και StreamLake. Το OpenRouter αφαίρεσε την ετικέτα "Zero Data Retention" από τα τελικά σημεία του μοντέλου MiniMax.

Στην επίσημη ανάρτηση ιστολογίου του στις 22 Νοεμβρίου, το OpenRouter επιβεβαίωσε ότι είχε αποβιβάσει τρεις παρόχους, αφαίρεσε 125 τελικά σημεία από την καταλληλότητα του ZDR και ειδοποίησε τους επηρεαζόμενους χρήστες είτε οι πάροχοι είχαν δημοσιεύσει δημόσια είτε όχι. Η εταιρεία είπε ότι τα ευρήματα «δεν έδειξαν καμία παραβίαση ή μη εξουσιοδοτημένη πρόσβαση στο OpenRouter», ευχαρίστησε την ομάδα Dragos και είπε ότι οι πάροχοι που θέλουν να παραμείνουν στην πλατφόρμα «θα χρειαστεί να συναντήσουν» μια αυξανόμενη γραμμή ασφαλείας καθώς το OpenRouter ενσωματώνει παρόμοιες τεχνικές δοκιμών.

Ο Moore βρήκε επίσης αδέσποτες διαρροές: ένας πάροχος φιλοξενίας στις ΗΠΑ ανίχνευσε μια μυστική διεύθυνση URL περισσότερο από δύο μήνες μετά από μια μεμονωμένη κλήση συμπερασμάτων στο τελικό σημείο αναζήτησής του και ένας άλλος έτρεξε ένα scraper που επέστρεφε για τις φυτεμένες διευθύνσεις URL ημέρες μετά από κάθε αίτημα, ανεξάρτητα από το ποιος δρομολογητής παρέδωσε το μήνυμα.

Τι μπορούν να κάνουν οι χρήστες

Η πιο αποτελεσματική άμυνα, είπε ο Μουρ, είναι η φιλοξενία μοντέλων στις εγκαταστάσεις - μια δαπανηρή επιλογή που λίγοι οργανισμοί μπορούν να δικαιολογήσουν. Το επόμενο καλύτερο μέτρο είναι να αγοράζετε απευθείας από έναν πάροχο πρώτης κατηγορίας, με "ένα συμβόλαιο και μια πολιτική απορρήτου προς ανάγνωση" και να αποφεύγετε τις ομάδες προεπιλεγμένων παρόχων ή μεταπωλητών επιλέγοντας μόνοι σας παρόχους ανάντη. Ακόμη και τότε, προειδοποίησε, δεν υπάρχει εγγύηση ότι τα δεδομένα δεν θα διαρρεύσουν.

Το πείραμα είναι το πιο έντονο κατηγορητήριο μέχρι σήμερα για τις πρακτικές απορρήτου στην ταχέως αναπτυσσόμενη αγορά συμπερασμάτων: η αλυσίδα μεταξύ μιας εφαρμογής και ενός μοντέλου μπορεί πλέον να περιλαμβάνει δρομολογητές, μεταπωλητές και επίπεδα φιλοξενίας σε πολλές ηπείρους, το καθένα με τις δικές του πολιτικές καταγραφής, και οι ετικέτες που προορίζονται να καθησυχάσουν τους πελάτες — όπως Zero Data Retention — μπορούν να σπάσουν ή να αφαιρεθούν χωρίς προειδοποίηση. Για έναν κλάδο που ζητά από τις επιχειρήσεις να επικολλήσουν τα έγγραφά τους, τον κωδικό και τα διαπιστευτήριά τους σε προτροπές, το μήνυμα των δύο εκατομμυρίων καναρινιών είναι άβολο: μέχρι να αλλάξει η υδραυλική εγκατάσταση, υποθέστε ότι κάθε λυκίσκος μπορεί να διαβάσει κάθε λέξη.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Η ασφάλεια και το απόρρητο αποτελούν πλέον βασικές ανησυχίες για οποιονδήποτε βασίζεται στην τεχνητή νοημοσύνη. Για έκτακτες ειδήσεις AI και ανεξάρτητη κάλυψη των μεγαλύτερων ιστοριών του κλάδου, επισκεφτείτε το AI Buzz Wire.

Διαβάστε περισσότερα νέα AI →