Οι χάκερ χρησιμοποίησαν ένα ταχέως αναδυόμενο πλαίσιο πειρατείας που υποστηρίζεται από τεχνητή νοημοσύνη σε μια εισβολή που στόχευε τον αεροδιαστημικό τομέα των ΗΠΑ, δήλωσε τη Δευτέρα το τμήμα πληροφοριών απειλών της Google σε ευρήματα που ανέφερε η Nextgov. Το εργαλείο, γνωστό ως Cairn, είναι ένα δημοσίως διαθέσιμο πλαίσιο δοκιμών διείσδυσης που συνδέεται με την κινεζική κοινότητα ασφάλειας ανοιχτού κώδικα — και η εμφάνισή του μέσα σε μια ζωντανή εισβολή σηματοδοτεί ένα ακόμη βήμα στη μετάβαση της πράκτορας τεχνητής νοημοσύνης από επιδείξεις έρευνας σε πραγματικές επιχειρήσεις κατασκοπείας.
Η Google δεν κατονόμασε τον αεροδιαστημικό οργανισμό στον οποίο έγινε πρόσβαση, δεν είπε ποιες πληροφορίες μπορεί να έχουν ληφθεί ή δεν απέδωσε την εισβολή σε μια συγκεκριμένη κυβέρνηση. Η έκθεση καλύπτει γενικά τη δραστηριότητα που παρατηρήθηκε κατά το τελευταίο τρίμηνο και προσγειώνεται εν μέσω της σημερινής κάλυψης της βιομηχανίας τεχνητής νοημοσύνης των πρακτορείων συστημάτων που επαναπροσδιορίζονται ταχύτερα από ό,τι μπορούν να προσαρμοστούν οι αμυντικοί.
Τι μπορούν να κάνουν η Cairn και τα ξαδέρφια της
Το Cairn διαφέρει από το hacking με τη βοήθεια chatbot που κυριαρχούσε σε προηγούμενες αναφορές απειλών. Αντί ένας άνθρωπος να προτρέπει έναν βοηθό τεχνητής νοημοσύνης βήμα-βήμα, ο Cairn χρησιμοποιεί πράκτορες τεχνητής νοημοσύνης που μοιράζονται πληροφορίες μεταξύ τους και αποφασίζουν ποιες τεχνικές hacking θα δοκιμάσουν στη συνέχεια καθώς εργάζονται προς την κατεύθυνση της διείσδυσης σε ένα σύστημα.
Οι ερευνητές της Google δήλωσαν ότι άλλα συστήματα ανοιχτού κώδικα - συμπεριλαμβανομένων των ARTEX, CyberStrikeAI και PentAGI - χρησιμοποιούνται τώρα για να "εκτελούν εισβολές πολλαπλών σταδίων με μεγαλύτερη επιχειρησιακή ταχύτητα" σε σύγκριση με παλαιότερη δραστηριότητα στην οποία οι χάκερ ώθησαν χειροκίνητα τα chatbot AI να βοηθήσουν με μεμονωμένα βήματα. Το ARTEX επισημάνθηκε ξεχωριστά σε μια συμβουλή του FBI για την κυβερνοασφάλεια που δημοσιεύτηκε την Παρασκευή.
Το πιο ανησυχητικό εύρημα: Πλήρως αυτοματοποιημένη εκμετάλλευση
Μια ανακάλυψη ξεχωρίζει από την τριμηνιαία έκθεση. Οι ερευνητές της Google βρήκαν το σύστημα ενός εισβολέα διαμορφωμένο ώστε να μελετά επιδιορθώσεις λογισμικού, να αναπτύσσει επιθέσεις με βάση αυτά που έμαθε και να εκτελεί αυτές τις επιθέσεις αυτόματα — χωρίς να συμμετέχει άνθρωπος στον βρόχο. Η εταιρεία είπε ότι ήταν η πρώτη φορά που οι ερευνητές της εντόπισαν επιτιθέμενους που αυτοματοποιούσαν πλήρως αυτή τη διαδικασία.
Το συμπέρασμα είναι έντονο: ο αγώνας μεταξύ των κυκλοφοριών ενημερώσεων κώδικα και της εκμετάλλευσης θα μπορούσε να καταρρεύσει από εβδομάδες σε ώρες, ασκώντας περαιτέρω πίεση σε οργανισμούς που ήδη αγωνίζονται να εγκαταστήσουν ενημερώσεις ασφαλείας πριν τους φτάσουν οι εγκληματίες. Το Hacker News, καλύπτοντας τα ίδια ευρήματα, συνόψισε την τεχνική ως χάκερ που χρησιμοποιούν πράκτορες AI για να δημιουργήσουν και να εκτελέσουν εκμεταλλεύσεις απευθείας από ενημερώσεις κώδικα λογισμικού.
«Δεδομένου του χαμηλού φραγμού εισόδου, της ευκολίας ενσωμάτωσης νέων εκμεταλλεύσεων και της τεράστιας δυνατότητας κλιμάκωσης, πιστεύουμε ότι είναι πολύ πιθανό οι φορείς απειλών να συνεχίσουν να χρησιμοποιούν αυτά τα πλαίσια σε εκστρατείες που στοχεύουν οργανισμούς παγκοσμίως», δήλωσε η εταιρεία, σύμφωνα με την Nextgov.
Κινεζικές ομάδες βιομηχανοποιούν την ανάλυση. Βορειοκορεάτες Recruiters Go Synthetic
Η έκθεση περιγράφει επίσης πώς οι φορείς που συνδέονται με το κράτος αναδιπλώνουν μοντέλα σε διαφορετικά στάδια της λειτουργίας τους. Οι κινεζικές συλλογικότητες hacking έχουν χρησιμοποιήσει μοντέλα τεχνητής νοημοσύνης για να αναλύσουν κλεμμένα αρχεία και να παράγουν ολοκληρωμένες αναφορές πληροφοριών για πελάτες. Σε μια περίπτωση, ένας εργολάβος χρησιμοποίησε τεχνητή νοημοσύνη για να μεταφράσει και να αναλύσει κλεμμένες πληροφορίες, να βρει πώς ήταν δομημένοι οι στοχευμένοι οργανισμοί και να οργανώσει τα ευρήματα σε αναφορές πληροφοριών — χρησιμοποιώντας την τεχνολογία για την περίπλοκη εργασία ερμηνείας που ακολουθεί μια κλοπή και όχι την ίδια την κλοπή.
Η Google παρατήρησε επίσης ύποπτους Κινέζους πράκτορες να πειραματίζονται με αυτοματοποιημένα εργαλεία hacking, συμπεριλαμβανομένης μιας ομάδας που συνδέεται με την Κίνα που αναπτύσσει το δικό της σύστημα, πιθανόν για χρήση σε επιχειρήσεις κατασκοπείας.
Οι Βορειοκορεάτες ηθοποιοί, εν τω μεταξύ, χρησιμοποιούν την τεχνητή νοημοσύνη για να οξύνουν την κοινωνική τους μηχανική. Μια ομάδα της Google παρακολουθεί στοχευμένους οργανισμούς κρυπτονομισμάτων στη Βόρεια Αμερική και την Ευρώπη χρησιμοποιώντας κατασκευασμένα προφίλ προσλήψεων. Οι ψεύτικοι υπεύθυνοι προσλήψεων κατεύθυναν τους στόχους σε πλαστές υπηρεσίες συσκέψεων, όπου οι οδηγίες για την επίλυση ενός υποτιθέμενου τεχνικού προβλήματος τους οδήγησαν στην εκτέλεση κακόβουλου κώδικα.
Μόλις μπήκαν μέσα, οι εισβολείς άλλαξαν τις ρυθμίσεις για τον Claude Code - τον βοηθό κωδικοποίησης AI της Anthropic - στα αποθετήρια κωδικών της εταιρείας, έτσι ώστε η εκκίνηση του βοηθού να προκαλέσει λήψη κακόβουλου λογισμικού. Η οπλοποίηση ενός αξιόπιστου εργαλείου προγραμματιστή σημαίνει ότι η κακόβουλη ενέργεια κινείται σε μηχανικούς λογισμικού που ήδη εμπιστεύονται.
Τα ευρήματα απηχούν μια ανακοίνωση του Υπουργείου Δικαιοσύνης την περασμένη εβδομάδα που στόχευε το FaceStealer, ένα βορειοκορεατικό πρόγραμμα ψεύτικων βιντεοκλήσεων που συνδέεται με κλοπές άνω των 400 εκατομμυρίων δολαρίων, παράλληλα με δικαστικές εντολές που καλύπτουν περισσότερα από 1,2 δισεκατομμύρια δολάρια που κλάπηκαν από την Binance. Η έκθεση της Google δεν συνέδεσε τα ευρήματά της με καμία από τις δύο περιπτώσεις.
Οι λειτουργίες επιρροής γίνονται επίσης πιο αυτοματοποιημένες
Πέρα από την κατασκοπεία και το οικονομικό έγκλημα, η Google είπε ότι οι επιχειρήσεις επιρροής που συνδέονται με τη Ρωσία, την Κίνα και το Ιράν χρησιμοποιούν πλέον τακτικά μοντέλα τεχνητής νοημοσύνης για την παραγωγή περιεχομένου και την αυτοματοποίηση της διανομής του – αναθέτοντας μεγαλύτερο μέρος της δουλειάς του να παρουσιάζονται ως απλοί άνθρωποι στο διαδίκτυο σε μηχανές.
Ένα διευρυνόμενο χάσμα
Συνολικά, τα ευρήματα σκιαγραφούν ένα αμυντικό πρόβλημα που μεγαλώνει με κάθε έκδοση ανοιχτού κώδικα. Τα πλαίσια δοκιμών διείσδυσης όπως το Cairn, το ARTEX, το CyberStrikeAI και το PentAGI είναι νομικά εργαλεία που έχουν δημιουργηθεί από και για την κοινότητα της ασφάλειας και η αρχιτεκτονική τους των πρακτόρων τα καθιστά πραγματικά χρήσιμα για τις κόκκινες ομάδες. Οι ίδιες ιδιότητες τα καθιστούν επιθετικά όπλα με το κλειδί στο χέρι για όποιον τα κατεβάζει.
Το μήνυμα της Google προς τους υπερασπιστές είναι ουσιαστικά μια υπόθεση προγραμματισμού και όχι μια πρόβλεψη: υποθέστε ότι η επόμενη εισβολή που αντιμετωπίζετε εκτελέστηκε με ταχύτητα μηχανής, σε ένα χρονοδιάγραμμα που ορίστηκε από έναν πράκτορα που διάβασε τις σημειώσεις ενημέρωσης κώδικα πριν ολοκληρώσετε την ανάπτυξή τους.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα πιο πρόσφατα νέα, αναλύσεις και ανακαλύψεις για την τεχνητή νοημοσύνη — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →