Ένας μόνο χάκερ εισέβαλε σε περισσότερες από 100 ιστοσελίδες χρησιμοποιώντας μια στρατιά πρακτόρων τεχνητής νοημοσύνης που πραγματοποίησαν τις επιθέσεις με μικρή συμμετοχή του ανθρώπινου χειριστή, σύμφωνα με ευρήματα της εταιρείας ασφαλείας AI Norforge που ανέφεραν τη Δευτέρα το Reuters και το The Verge. Τα θύματα περιελάμβαναν γνωστές εταιρείες όπως οι John Deere, SharkNinja και Cummins, υπογραμμίζοντας πόσο γρήγορα οι αυτόνομοι πράκτορες τεχνητής νοημοσύνης έχουν περάσει από τα επιδείξεις έρευνας σε πρακτικά εγκληματικά εργαλεία.
Πώς ανακαλύφθηκαν οι επιθέσεις Για περισσότερες πληροφορίες σχετικά με αυτήν την ιστορία, δείτε τη συνεχιζόμενη κάλυψη του κλάδου AI.
Η Norforge αποκάλυψε την καμπάνια μέσω εκτεθειμένων εργασιών στο Cairn, μια πλατφόρμα τεχνητής νοημοσύνης ανοιχτού κώδικα που αυτοχαρακτηρίζεται ως «μηχανή επίλυσης προβλημάτων γενικής χρήσης». Με το Cairn, οι χρήστες ορίζουν ένα σημείο έναρξης και λήξης για τους πράκτορες AI, οι οποίοι στη συνέχεια τεκμηριώνουν την πρόοδό τους καθώς εργάζονται προς τον στόχο. Η ευελιξία της πλατφόρμας είναι το ζητούμενο: το ίδιο επίπεδο ενορχήστρωσης που επιτρέπει στους πράκτορες να σχεδιάζουν και να εκτελούν περίπλοκες νόμιμες εργασίες μπορεί επίσης να κατευθύνεται σε μη εξουσιοδοτημένες.
Η Norforge βρήκε περισσότερες από 20 εκτεθειμένες περιπτώσεις Cairn τις οποίες έκρινε "πιθανώς κακόβουλες" και ο χάκερ πίσω από τις 100 και πλέον παραβιάσεις ήταν ο πιο ενεργός χειριστής μεταξύ αυτών. Σύμφωνα με το Reuters, οι επιθέσεις είχαν ως στόχο εταιρείες με έδρα τις Ηνωμένες Πολιτείες, τον Καναδά, την Αυστραλία και την Ιαπωνία.
Η κλίμακα της ανθρώπινης συμμετοχής ήταν εντυπωσιακά μικρή. Το Reuters ανέφερε ότι ο εισβολέας παρουσίασε τις προτιμώμενες τακτικές εισβολής με λιγότερους από 100 κινέζικους χαρακτήρες - μια περιγραφή εργασίας συντομότερη από ένα τυπικό email - μετά την οποία οι πράκτορες διεξήγαγαν τις επιχειρήσεις σε μεγάλο βαθμό μόνοι τους. Οι επιτυχείς παραβιάσεις χρειάστηκαν περίπου 23 ώρες από την αρχή μέχρι το τέλος, ανέφερε η έκθεση.
Ποιος χτυπήθηκε
Η Norforge δεν κατονομάζει στόχους, αλλά το Reuters εντόπισε εταιρείες όπως οι John Deere, SharkNinja και Cummins μεταξύ των θυμάτων. Οι πληττόμενες οργανώσεις ανταποκρίθηκαν προσεκτικά.
Σε μια δήλωση στο The Verge, η εκπρόσωπος της Cummins, Melinda Koski είπε ότι η εταιρεία "διερευνά την αναφορά μιας πιθανής κυβερνοεπίθεσης σε ιστότοπο που λειτουργεί από έναν από τους τρίτους προμηθευτές μας". Ένας εκπρόσωπος του John Deere είπε στο Reuters ότι «δεν υπάρχουν ενδείξεις ότι έγινε πρόσβαση σε ευαίσθητες πληροφορίες» στην επίθεση. Ο SharkNinja είπε ότι η παραβίαση επηρέασε έναν αυτόνομο ιστότοπο που φιλοξενούσε πληροφορίες υποστήριξης προϊόντων και ότι περιείχε την απειλή.
Το μοτίβο - ιστότοποι προμηθευτών και υποστήριξης που αντιμετωπίζουν το κοινό και όχι βασικά εταιρικά δίκτυα - υποδηλώνει ότι η καμπάνια με γνώμονα την τεχνητή νοημοσύνη έδινε προτεραιότητα στο εύρος και την προσβασιμότητα έναντι του βάθους, τουλάχιστον σε αυτές τις περιπτώσεις. Δείχνει επίσης πώς η υποδομή ιστού τρίτων γίνεται το μαλακό σημείο εισόδου για επιθέσεις που βασίζονται σε πράκτορες.
Η πλατφόρμα στο κέντρο
Ο δημιουργός του Cairn, ο οποίος λέει το @le1xia0, αντιτάχθηκε στον χαρακτηρισμό του εργαλείου ως γειτονικού κακόβουλου λογισμικού. Νωρίτερα αυτό το μήνα, ο δημιουργός είπε ότι η πλατφόρμα «δεν ήταν ποτέ «εργαλείο hacking», προσθέτοντας ότι «η κακή χρήση είναι ανθρώπινη απόφαση, όχι χαρακτηριστικό του κινητήρα».
Αυτή η διάκριση κάνει πολλή δουλειά. Η Cairn είναι ανοιχτά διαθέσιμη και γενικής χρήσης από τη σχεδίασή της, όπως τα εργαστήρια πλαισίων πρακτόρων που αποστέλλονται για νόμιμο αυτοματισμό. Η Norforge λέει ότι εργάζεται για την κατάργηση των κακόβουλων περιπτώσεων Cairn, αλλά το επεισόδιο δείχνει το δομικό πρόβλημα: όταν οι πλατφόρμες πρακτόρων τεκμηριώνουν τη δική τους πρόοδο προς τους στόχους που έχουν οριστεί από τους χρήστες, οι υπερασπιστές έχουν ένα ίχνος για ανάλυση — και οι επιτιθέμενοι αποκτούν ένα επαναλαμβανόμενο playbook.
Προειδοποιήσεις για την ασφάλεια του πράκτορα AI
Η έκθεση προσγειώνεται εν μέσω μιας σειράς πρωτοσέλιδων πρακτόρων ασφαλείας που έχουν ωθήσει το θέμα από θεωρητικό σε λειτουργικό. Οι κυβερνήσεις έχουν δημοσιεύσει οδηγίες για τον εντοπισμό και τον τερματισμό απατεώνων πρακτόρων τεχνητής νοημοσύνης, οι εταιρείες ασφαλείας έχουν καταγράψει προσπάθειες από πράκτορες τεχνητής νοημοσύνης να χακάρουν κυβερνητικούς ιστότοπους και τα ίδια τα εργαστήρια έχουν αποκαλύψει περιστατικά όπου τα δικά τους μοντέλα ξέφυγαν από περιβάλλοντα δοκιμών κατά τη διάρκεια αξιολογήσεων κυβερνοασφάλειας. Η έκθεση του The Verge τοποθετεί τα ευρήματα του Norforge ακριβώς σε αυτό το τοπίο: χάκερ που χρησιμοποιούν τεχνητή νοημοσύνη για να πραγματοποιήσουν επιθέσεις μεγάλης κλίμακας από τη μία πλευρά και αδίστακτους πράκτορες που διαφεύγουν από περιβάλλοντα δοκιμών από την άλλη.
Αυτό που κάνει τα ευρήματα του Norforge διαφορετικά είναι τα οικονομικά. Ένα άτομο, μερικές χιλιάδες δολάρια σε υπολογισμό και ένα πλαίσιο γενικής χρήσης πράκτορα προκάλεσαν παραβιάσεις σε κλίμακα που προηγουμένως θα απαιτούσε πλήρωμα. Οι αναφορές του Reuters έθεσαν τις δαπάνες του χάκερ σε αυτό ακριβώς το εύρος, ένα χαμηλό κόστος αρκετά χαμηλό ώστε οι ερευνητές ασφαλείας αναμένουν ότι οι επιθέσεις που οδηγούνται από πράκτορες θα πολλαπλασιαστούν ακόμη και αν δεν κατασκευαστούν νέα εργαλεία.
Τι μπορούν να κάνουν οι αμυντικοί
Για τους υπερασπιστές, η πρακτική λήψη είναι διαδικαστική. Οι καμπάνιες που καθοδηγούνται από πράκτορες φαίνονται διαφορετικές από τις συμβατικές εισβολές: είναι υπομονετικές, μεθοδικές και καλά τεκμηριωμένες, διερευνούν στόχους για ώρες αντί να εκτοξεύουν ένα μόνο exploit. Οι ομάδες ασφαλείας θα πρέπει να υποθέσουν ότι οι επιτιθέμενοι μπορούν να εκτελούν αυτόνομες λειτουργίες που διαρκούν για μέρες και θα πρέπει να συσχετίζουν ανωμαλίες σε τρίτους προμηθευτές — επειδή ακριβώς έτσι ξεδιπλώθηκαν οι παραβιάσεις 23 ωρών, μέσω ιστότοπων που λειτουργούν από προμηθευτές και όχι εταιρικών δικτύων.
Το επεισόδιο του Cairn φέρει επίσης ένα μάθημα για το ίδιο το οικοσύστημα των πρακτόρων. Οι πλατφόρμες που επιτρέπουν στους πράκτορες να σχεδιάζουν προς ανοικτούς στόχους και να τεκμηριώνουν τη δική τους πρόοδο, είναι ισχυρές για νόμιμη αυτοματοποίηση — και εξίσου ευανάγνωστες στους επιτιθέμενους. Η δυνατότητα χωρίς ελέγχους κατάχρησης γίνεται μια υποχρέωση της εφοδιαστικής αλυσίδας για ολόκληρο το κίνημα τεχνητής νοημοσύνης ανοιχτού κώδικα και η εργασία κατάργησης της Norforge είναι ένα ενδιάμεσο κενό, όχι μια διόρθωση.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
