Μια επίθεση εφοδιαστικής αλυσίδας σε ένα μεμονωμένο πακέτο ανοιχτού κώδικα έχει καταρρεύσει σε ένα από τα πιο βρώμικα περιστατικά ασφάλειας στη νεανική βιομηχανία τεχνητής νοημοσύνης, εκθέτοντας δεδομένα που κατέχει η startup ετικετών δεδομένων Mercor και αναγκάζοντας τη Meta να διακόψει επ' αόριστον τη δουλειά της με την εταιρεία.
Η παραβίαση, την οποία επιβεβαίωσε η Mercor στις 31 Μαρτίου, εντοπίστηκε σε συμβιβασμό του LiteLLM, ενός ευρέως χρησιμοποιούμενου εργαλείου ανοιχτού κώδικα που κατεβάζεται εκατομμύρια φορές καθημερινά. Για περίπου 40 λεπτά, μια δηλητηριασμένη έκδοση του LiteLLM περιείχε κακόβουλο λογισμικό συλλογής διαπιστευτηρίων που έκλεψε τα διαπιστευτήρια σύνδεσης και στη συνέχεια τα χρησιμοποιούσε για να φτάσει βαθύτερα σε συνδεδεμένα συστήματα. Έκτοτε, το επεισόδιο έχει μεταστάσεις σε αγωγές, πάγωμα συμβάσεων και ευρύτερο υπολογισμό για το πόση εμπιστοσύνη δίδει η βιομηχανία AI στο ενδιάμεσο λογισμικό που δεν ελέγχει. Για περισσότερες ενημερωτικές ειδήσεις AI σχετικά με την ασφάλεια και την εμπιστοσύνη, ακολουθήστε τη συνεχιζόμενη κάλυψή μας.
Πώς λειτούργησε η επίθεση
Η μηχανική είναι ένας συμβιβασμός για την εφοδιαστική αλυσίδα λογισμικού σχολικών βιβλίων. Σύμφωνα με αναφορές των TechJuice και TechCrunch, οι εισβολείς κατάφεραν να προωθήσουν κακόβουλο κώδικα στο LiteLLM, τη βιβλιοθήκη ανοιχτού κώδικα που χρησιμοποιούν πολλές εταιρείες τεχνητής νοημοσύνης για να δρομολογούν αιτήματα μεταξύ διαφορετικών μοντέλων γλώσσας. Επειδή το LiteLLM αντιμετωπίζεται ως αξιόπιστη υποδομή και εισάγεται αυτόματα σε περιβάλλοντα παραγωγής, η κακόβουλη κατασκευή εξαπλώνεται γρήγορα.
Για περίπου 40 λεπτά, το παραποιημένο εργαλείο συγκέντρωνε αθόρυβα τα διαπιστευτήρια από οποιονδήποτε το χρησιμοποιούσε. Αυτά τα διαπιστευτήρια χρησιμοποιήθηκαν στη συνέχεια για πρόσβαση σε πρόσθετα συστήματα, επιδεινώνοντας τη ζημιά πέρα από την αρχική βάση. Η Mercor, η δραστηριότητα της οποίας εξαρτάται από τη διαχείριση μεγάλων όγκων ευαίσθητων δεδομένων εργολάβων και πελατών, ήταν από τις πιο εκτεθειμένες.
Αξίωση εκβιασμού 4 Terabyte
Μετά την αποκάλυψη, μια ομάδα χάκερ ισχυρίστηκε ότι κατείχε περίπου 4 terabytes δεδομένων που είχαν κλαπεί από τα συστήματα της Mercor. Η διεκδίκηση περιλαμβάνει προφίλ υποψηφίων, στοιχεία προσωπικής ταυτοποίησης, δεδομένα εργοδότη, πηγαίο κώδικα και κλειδιά API, ένα σαρωτικό απόθεμα ακριβώς του είδους του υλικού που συγκεντρώνει μια εταιρεία ετικετών δεδομένων. Η Mercor ούτε επιβεβαίωσε ούτε διέψευσε την αυθεντικότητα των ισχυριζόμενων στοιχείων, λέγοντας μόνο ότι διερευνά.
Η ασάφεια είναι από μόνη της ένα πρόβλημα. Για τους εργολάβους, τους εργοδότες και τους εταίρους των οποίων οι πληροφορίες μπορεί να κυκλοφορούν, η αβεβαιότητα σχετικά με το τι πραγματικά ελήφθη καθιστά αδύνατη την αξιολόγηση της έκθεσής τους.
Meta Pulls Back
Το εμπορικό αποτέλεσμα ήταν γρήγορο. Η Meta διέκοψε τα συμβόλαιά της με τη Mercor επ' αόριστον, μια απόφαση που έγινε πιο εντυπωσιακή από την ιστορία μεταξύ των δύο εταιρειών. Σύμφωνα με την TechJuice, η Meta συνέχισε να συνεργάζεται με τη Mercor ακόμη και αφού ξόδεψε 14,3 δισεκατομμύρια δολάρια για να αποκτήσει την ανταγωνιστική της Mercor Scale AI, δείγμα του πόσο εκτιμούσε τη σχέση. Το ότι μια παραβίαση που δρομολογείται μέσω ενός εργαλείου τρίτου μέρους θα μπορούσε να διακόψει μια τέτοια σχέση υπογραμμίζει πόσο εύθραυστες έχουν γίνει αυτές οι σχέσεις προμηθευτών.
Η OpenAI επιβεβαίωσε ότι ερευνά τη δική της έκθεση στην παραβίαση, αλλά, κατά τη στιγμή της αναφοράς, δεν είχε διακόψει τα συμβόλαιά της με τη Mercor. Πολλοί άλλοι μεγάλοι κατασκευαστές μοντέλων φέρονται να σταθμίζουν τις σχέσεις τους με την startup, αν και άλλα ονόματα δεν έχουν επιβεβαιωθεί δημόσια.
Αγωγές και Ερωτήσεις Ευθύνης
Οι νομικές συνέπειες μαζεύονται τόσο γρήγορα όσο και οι εμπορικές. Πέντε από τους εργολάβους της Mercor έχουν καταθέσει αγωγές για φερόμενη έκθεση προσωπικών δεδομένων. Μία αγωγή που εξετάστηκε από την TechCrunch ονομάστηκε LiteLLM και η εκκίνηση συμμόρφωσης με τεχνητή νοημοσύνη Delve ως συνεναγόμενοι, με το σκεπτικό ότι η LiteLLM είχε χρησιμοποιήσει την Delve για να λάβει τις πιστοποιήσεις ασφαλείας της. Αυτή η σύνδεση ανοίγει ένα ακανθώδες ερώτημα σχετικά με το εάν οι πάροχοι συμμόρφωσης φέρουν ευθύνη όταν τα εργαλεία για τα οποία εγγυώνται αργότερα οπλίζονται.
Αυτές οι αγωγές θα μπορούσαν να βοηθήσουν στον καθορισμό της ευθύνης όταν μια παραβίαση δρομολογείται μέσω λογισμικού ανοιχτού κώδικα, μια ερώτηση που ο κλάδος της τεχνητής νοημοσύνης έχει αποφύγει μέχρι στιγμής να απαντήσει.
Η Υπερεξετασμένη Επιφάνεια Επίθεσης της Βιομηχανίας
Οι ερευνητές ασφαλείας λένε ότι το βαθύτερο μάθημα είναι δομικό. Η στοίβα AI εξαρτάται πλέον από έναν ιστό αξιόπιστων ενδιάμεσων εργαλείων, δρομολογητών, αξιολογητών, επιπέδων συμμόρφωσης και πλατφορμών επισήμανσης που βρίσκονται μεταξύ των παρόχων μοντέλων και των πελατών τους. Κάθε ένα είναι ένα πιθανό σημείο πνιγμού και τα περισσότερα υπόκεινται σε πολύ λιγότερο έλεγχο από τα ίδια τα μοντέλα συνόρων.
Το LiteLLM είναι ενδεικτικό. Γίνεται λήψη εκατομμύρια φορές την ημέρα, χειρίζεται τα διαπιστευτήρια βάσει σχεδίου και εκτελείται μέσα στα περιβάλλοντα παραγωγής ορισμένων από τις καλύτερα χρηματοδοτούμενες εταιρείες στον κόσμο. Ωστόσο, ένα παράθυρο παραποίησης 40 λεπτών ήταν αρκετό για να το μετατρέψει σε σκελετό κλειδί. Η σειρά έχει θέσει υπό έλεγχο ολόκληρη την αλυσίδα εφοδιασμού AI, με τους ερευνητές να προειδοποιούν ότι τα αξιόπιστα ενδιάμεσα εργαλεία αντιπροσωπεύουν μια επιφάνεια επίθεσης που η βιομηχανία έχει συστηματικά υποεξετάσει.
Τι θα συμβεί στη συνέχεια
Τα άμεσα ερωτήματα είναι εάν η Mercor μπορεί να επαληθεύσει το εύρος της διαρροής, εάν περισσότεροι κατασκευαστές μοντέλων θα ακολουθήσουν τη Meta στην απόσυρση και εάν οι αγωγές LiteLLM και Delve δημιουργούν προηγούμενο για την ευθύνη τρίτων. Μακροπρόθεσμα, το περιστατικό είναι πιθανό να επιταχύνει τις εκκλήσεις προς τη βιομηχανία τεχνητής νοημοσύνης να υιοθετήσει το είδος των λογαριασμών λογισμικού και των πρακτικών υπογραφής εξαρτήσεων στις οποίες βασίζονται ήδη οι πιο ώριμοι τομείς λογισμικού.
Προς το παρόν, η παραβίαση είναι μια προειδοποίηση ότι τα πιο επικίνδυνα τρωτά σημεία της τεχνητής νοημοσύνης μπορεί να μην ζουν καθόλου μέσα στα μοντέλα, αλλά στα ασύλληπτα υδραυλικά που τα συνδέουν.
Μείνετε μπροστά από την τεχνητή νοημοσύνη
Η ασφάλεια της στοίβας AI γίνεται εξίσου σημαντική με τα ίδια τα μοντέλα. Προσθέστε σελιδοδείκτη AI Buzz Wire για τις τελευταίες εξελίξεις AI και Κάλυψη βιομηχανίας AI.
Διαβάστε περισσότερα νέα AI →
