Η Fireworks AI, η εκκίνηση συμπερασμάτων που υποστηρίζεται από την Nvidia, έχει ειδοποιήσει τους πελάτες ότι ένα περιστατικό ασφαλείας που είχε αποκαλυφθεί προηγουμένως ήταν σημαντικά ευρύτερο από ό,τι είχε αναφερθεί αρχικά, με τους εισβολείς να έχουν πρόσβαση σε πληροφορίες λογαριασμού και χρέωσης και, για περιορισμένο σύνολο λογαριασμών, μυστικά, σύνολα δεδομένων και ελλιπή βάρη μοντέλων, σύμφωνα με ένα ενημερωμένο δελτίο ασφαλείας που δημοσιεύτηκε στον ιστότοπό του For Discoverbes και Bloombes στις 9 Νοεμβρίου. περιγράφοντας την κυβερνοεπίθεση ως αποκάλυψη δεδομένων πελατών και μοντέλων τεχνητής νοημοσύνης.
Η εταιρεία αποκάλυψε για πρώτη φορά το περιστατικό στις 9 Οκτωβρίου, όταν είπε ότι είχαν πρόσβαση μόνο στα μυστικά που ήταν αποθηκευμένα στα πυροτεχνήματα που χρησιμοποιούνται σε εργασίες αξιολόγησης. Η νέα ενημέρωση διευρύνει ουσιαστικά αυτήν την αξιολόγηση και συνδέει την εισβολή με μια ομάδα κυβερνοεγκληματικών με οικονομικά κίνητρα που επιδιώκει αυτό που ο κλάδος αποκαλεί "LLMJacking" - κλέβοντας πρόσβαση σε μεγάλα μοντέλα γλώσσας και μεταπώληση των διακριτικών σε παράνομες πύλες δρομολόγησης. Για εταιρείες που παρακολουθούν ειδήσεις για την ασφάλεια της βιομηχανίας AI, η υπόθεση διαμορφώνεται ως περιστατικό αναφοράς για μια νέα κατηγορία επιθέσεων σε υποδομές τεχνητής νοημοσύνης.
Πώς εκτυλίχθηκε η δεύτερη παραβίαση
Σύμφωνα με το ενημερωτικό δελτίο, ένας τρίτος πάροχος cloud που φιλοξενούσε μηχανές έρευνας και ανάπτυξης της Fireworks αντιμετώπισε το δικό του περιστατικό ασφαλείας στις 23 Οκτωβρίου. Την επόμενη μέρα, ένα μη εξουσιοδοτημένο μέρος χρησιμοποίησε αυτό το βήμα για να φτάσει στις μηχανές ανάπτυξης Fireworks και έτρεξε έναν μη εξουσιοδοτημένο φόρτο εργασίας που οδήγησε σε πρόσθετο αντίκτυπο στα δεδομένα πελατών. Η Fireworks λέει ότι εντόπισε τη δραστηριότητα την ίδια μέρα και έλαβε μέτρα αποκατάστασης και ότι από τις 25 Οκτωβρίου δεν έχει βρει άλλα στοιχεία επιτυχούς μη εξουσιοδοτημένης πρόσβασης στην πλατφόρμα που χρησιμοποιούν οι πελάτες.
Η εταιρεία συνεργάζεται με τη Μονάδα 42 της Palo Alto Networks, η οποία διενεργεί ιατροδικαστική ανάλυση, και είπε ότι ειδοποίησε τις αρχές επιβολής του νόμου μετά το αρχικό περιστατικό. Η Google Threat Intelligence Group και η Mandiant δημοσίευσαν μια ανάρτηση ιστολογίου στις 2 Νοεμβρίου που τεκμηριώνει την άνοδο του LLMJacking, τα κίνητρα πίσω από αυτό και τις τεχνικές που χρησιμοποιήθηκαν — το πλαίσιο Fireworks που αναφέρεται στη δική του αποκάλυψη.
Ποια δεδομένα ελήφθησαν
Η επηρεαζόμενη εσωτερική εφαρμογή εξέθεσε διάφορες κατηγορίες πληροφοριών, σύμφωνα με το δελτίο:
- Μεταδεδομένα πόρων, συμπεριλαμβανομένων των αναγνωριστικών πόρων Fireworks, των εμφανιζόμενων ονομάτων, των περιγραφών και των χρόνων δημιουργίας.
- Στοιχεία χρέωσης, συμπεριλαμβανομένων των διευθύνσεων χρέωσης και αποστολής, ιστορικού τιμολογίων και πληρωμών, υπολοίπων λογαριασμών και χρήσης πίστωσης.
- Βάρη μοντέλων και σύνολα δεδομένων: για ορισμένους πελάτες, έγινε πρόσβαση σε ένα υποσύνολο ατελών βάρη μοντέλων και σύνολα δεδομένων.
Η Fireworks είπε ότι οι αριθμοί των καρτών πληρωμής δεν αποθηκεύονται στα συστήματά της και δεν επηρεάστηκαν. Δήλωσε επίσης ότι δεν εντόπισε καμία επίδραση στις βασικές υπηρεσίες Inference, Training SDK και Nexus, οι οποίες λειτουργούν με μηδενική διατήρηση δεδομένων από προεπιλογή — που σημαίνει ότι δεν αποθηκεύονται δεδομένα εκπαίδευσης πελατών ή συμπερασμάτων σε κατάσταση ηρεμίας. Η εταιρεία είπε ότι ειδοποιεί απευθείας τους πελάτες των οποίων τα δεδομένα επηρεάστηκαν με λεπτομέρειες σχετικά με τον αντίκτυπο και συνιστώμενες ενέργειες απόκρισης.
Περιορισμός και ανοιχτές ερωτήσεις
Ως μέρος της απάντησής της, σε συνεργασία με τη Μονάδα 42, η Fireworks λέει ότι ανακάλεσε και αντικατέστησε διαπιστευτήρια και λογαριασμούς υπηρεσιών, αφαίρεσε περιττά αυξημένα προνόμια, περιόρισε τις διαδρομές δικτύου και απομόνωσε τα επηρεαζόμενα συστήματα, αυστηρότερη πρόσβαση σε συστήματα αποθήκευσης δεδομένων και ανάλυσης και σκληρύνθηκε η καταγραφή και η παρακολούθηση. Επίσης, έχει απενεργοποιήσει τις μεταφορτώσεις και λήψεις δεδομένων αυτοεξυπηρέτησης που χρησιμοποιούνται από το Batch Inference και την εκπαίδευση βάσει δεδομένων, ενώ η έρευνα συνεχίζεται.
Δύο σημαντικά ερωτήματα παραμένουν ανοιχτά. Πρώτον, πόσα από τα "ημιτελή βάρη μοντέλων" που έχετε πρόσβαση είναι πραγματικά χρησιμοποιήσιμα — τα μερικά ή εν εξελίξει βάρη που έχουν κλαπεί από έναν αγωγό εκπαίδευσης μπορεί να αποκαλύπτουν ανταγωνιστικές πληροφορίες σχετικά με μοντέλα πελατών υπό ανάπτυξη και η Fireworks δεν έχει πει ποιοι πελάτες ή πόσοι επηρεάστηκαν. Δεύτερον, ποιες υποχρεώσεις ακολουθούν για πελάτες των οποίων τα ιδιόκτητα σύνολα δεδομένων εκτέθηκαν. Η εταιρεία λέει ότι η έρευνά της βρίσκεται σε εξέλιξη και ενδέχεται να αποκαλύψει πρόσθετες πληροφορίες.
Γιατί το LLMJacking αυξάνεται
Οι επιθέσεις LLMJacking στοχεύουν υπηρεσίες τεχνητής νοημοσύνης που φιλοξενούνται στο cloud για να συλλέξουν πρόσβαση σε μοντέλα που μπορούν να χρησιμοποιηθούν και όχι παραδοσιακά δεδομένα. Τα κλεμμένα διαπιστευτήρια ή μάρκες στη συνέχεια μεταπωλούνται μέσω σκιωδών πυλών δρομολόγησης που προσφέρουν πρόσβαση σε μειωμένες τιμές σε εμπορικά μοντέλα. Το Threat Intelligence Group και η Mandiant της Google αφιέρωσαν μια έκθεση της 2ας Νοεμβρίου στην τάση, την οποία οι ερευνητές ασφαλείας παρακολουθούσαν για περίπου δύο χρόνια, καθώς η υιοθέτηση των συμπερασμάτων φιλοξενίας από τις επιχειρήσεις έχει εκραγεί.
Η αποκάλυψη του Fireworks είναι μια από τις πρώτες επιβεβαιωμένες περιπτώσεις όπου οι επιτιθέμενοι φαίνεται να συνδύασαν αυτό το βιβλίο με κλοπή τεχνουργημάτων μοντέλων πελατών σε έναν πάροχο υποδομής AI. Προσγειώνεται εν μέσω ενός ευρύτερου κύματος συμβάντων ασφαλείας σε όλο το οικοσύστημα AI και προσθέτει πίεση στους παρόχους συμπερασμάτων για να αποδείξουν ότι οι πλατφόρμες πολλαπλών ενοικιαστών μπορούν να απομονώσουν τον φόρτο εργασίας των πελατών. Οι νεοσύστατες επιχειρήσεις που αξιολογούν τους προμηθευτές συμπερασμάτων είναι πιθανό να κάνουν πιο δύσκολες ερωτήσεις σχετικά με την απομόνωση των ενοικιαστών, την υγιεινή των διαπιστευτηρίων και τις εξαρτήσεις τρίτων στο cloud - η ακριβής διαδρομή που χρησιμοποιείται εδώ.
Η Fireworks λέει ότι παρακολουθεί τα συστήματά της όλο το εικοσιτετράωρο και θα δημοσιεύει περαιτέρω ενημερώσεις καθώς προχωρά η έρευνα. Οι πελάτες με ανησυχίες καλούνται να απαντήσουν στα email ειδοποίησης συμβάντων ή να επικοινωνήσουν με τη διεύθυνση ειδοποίησης ασφαλείας της εταιρείας.
Το περιστατικό δείχνει επίσης πώς ωριμάζουν τα πρότυπα αποκάλυψης για τις εταιρείες τεχνητής νοημοσύνης. Η Fireworks δημοσίευσε το πρώτο της δελτίο εντός ημερών από την αρχική εισβολή στις αρχές Οκτωβρίου και στη συνέχεια το τροποποίησε δύο φορές καθώς οι εγκληματολογικές αρχές διεύρυναν την εικόνα - μια ακολουθία που θα αναγνωρίσουν οι ομάδες ασφαλείας από πρόσφατες παραβιάσεις λογισμικού επιχειρήσεων, αλλά αυτό παραμένει ασυνήθιστο μεταξύ των παρόχων υποδομής AI, πολλοί από τους οποίους δεν έχουν χειριστεί ποτέ δημόσιο περιστατικό. Η επιλογή απενεργοποίησης των χαρακτηριστικών συνόλου δεδομένων αυτοεξυπηρέτησης ενώ αφήνεται σε λειτουργία το βασικό προϊόν συμπερασμάτων υποδηλώνει ότι η έκθεση συγκεντρώθηκε σε βοηθητικά συστήματα και όχι στην ίδια τη διαδρομή εξυπηρέτησης πελατών.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
