Μια διεθνής έρευνα υπό την ηγεσία του κορυφαίου φορέα συντονισμού κυβερνοασφάλειας της Ιαπωνίας εντόπισε περίπου 1.000 διακομιστές που είναι ύποπτοι ότι χρησιμεύουν ως σημεία εκτόξευσης για προηγμένες κυβερνοεπιθέσεις με τεχνητή νοημοσύνη, σύμφωνα με αναφορά του Kyodo News που μεταδόθηκε από τους The Straits Times και άλλα μέσα. Το Κέντρο Συντονισμού της Ομάδας Αντιμετώπισης Έκτακτης Ανάγκης Υπολογιστών της Ιαπωνίας, ή JPCERT/CC, διεξήγαγε την έρευνα μαζί με εταιρείες κυβερνοασφάλειας του εξωτερικού και ξεκίνησε την έρευνα στις αρχές Οκτωβρίου. Αυτήν τη στιγμή παρακολουθεί 600 έως 700 από αυτούς τους διακομιστές.

Το εύρημα είναι ένα από τα πιο ξεκάθαρα σημάδια μέχρι τώρα ότι η υποβοήθηση της τεχνητής νοημοσύνης έχει περάσει από το πείραμα στην υποδομή. Οι επιτιθέμενοι δεν ζητούν πλέον απλώς συμβουλές από τα chatbots – είναι όρθιοι αποκλειστικοί διακομιστές που εκτελούν εργαλεία τεχνητής νοημοσύνης όλο το εικοσιτετράωρο. Για τη συνέχιση της κάλυψης ασφαλείας AI και την ανάλυση του τρόπου με τον οποίο η τεχνητή νοημοσύνη αναδιαμορφώνει το τοπίο απειλών, το AI Buzz Wire ακολουθεί τις έρευνες που έχουν σημασία.

Τι βρήκαν οι ερευνητές στους διακομιστές

Η έρευνα διαπίστωσε ότι οι επιτιθέμενοι χρησιμοποίησαν τους διακομιστές για να αναπτύξουν εργαλεία τεχνητής νοημοσύνης που σαρώνουν για ευπάθειες του συστήματος και στοχεύουν ιστότοπους σε όλο τον κόσμο, σύμφωνα με την αναφορά. Οι περισσότεροι από τους διακομιστές φιλοξενούσαν εργαλεία με τεχνητή νοημοσύνη, συμπεριλαμβανομένης μιας πλατφόρμας δοκιμών διείσδυσης που ονομάζεται Artex, τα οποία χρησιμοποιήθηκαν για την αναζήτηση αδυναμιών και την προσπάθεια κλοπής αρχείων διαμόρφωσης.

Ορισμένοι διακομιστές με πρόσβαση στο κοινό περιείχαν επίσης προγράμματα για τη δοκιμή τρωτών σημείων του συστήματος και εργαλεία για την ανάλυση της εσωτερικής δομής των εφαρμογών smartphone. Οι ερευνητές είπαν ότι οι εισβολείς χρησιμοποίησαν αυτά τα εργαλεία για να επιχειρήσουν μη εξουσιοδοτημένη πρόσβαση μέσω διεπαφών που ανταλλάσσουν πληροφορίες με εξωτερικά συστήματα - τα API και τις υπηρεσίες που συνδέουν σύγχρονες εφαρμογές με τον έξω κόσμο.

Μια λεπτομέρεια ξεχώρισε στους ερευνητές: σε έναν από τους διακομιστές, οι ερευνητές βρήκαν ίχνη ενός εργαλείου υποστήριξης προγραμματισμού που δημιουργήθηκε από την αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic, υποδηλώνοντας ότι οι επιτιθέμενοι χρησιμοποιούν βασικά εργαλεία προγραμματιστών για να ενισχύσουν τις δυνατότητές τους hacking, σύμφωνα με την έκθεση Kyodo.

Η παρουσία του mainstream εργαλείων προγραμματιστών στην υποδομή εισβολέων υπογραμμίζει τη δομική πρόκληση της τεχνητής νοημοσύνης διπλής χρήσης. Ένα σύστημα που έχει βελτιστοποιηθεί για τη σύνταξη κώδικα ή την ανίχνευση δικτύων δεν γνωρίζει εάν ο χειριστής του είναι υπερασπιστής ή εισβολέας, και μόλις η χρήση προχωρήσει σε υποδομές όπως αυτοί οι διακομιστές, η ορατότητα στην οποία βασίζονται οι πάροχοι και οι ερευνητές έχει σε μεγάλο βαθμό εξαφανιστεί.

Το AI μειώνει τη γραμμή εισόδου

Η εμφάνιση της προηγμένης τεχνητής νοημοσύνης μειώνει τα τεχνικά εμπόδια για τους εγκληματίες του κυβερνοχώρου, καθιστώντας το hacking ευκολότερο ακόμα και για άτομα χωρίς εξειδικευμένες γνώσεις, κατέληξε η έρευνα. «Το hacking, το οποίο προηγουμένως απαιτούσε χρόνο ακόμη και για εκείνους με εξειδικευμένες γνώσεις, έγινε ευκολότερο με την εμφάνιση της τεχνητής νοημοσύνης υψηλού επιπέδου», σημειώνει η έκθεση.

Οι αναλυτές κυβερνοασφάλειας που αναφέρονται στην κάλυψη είπαν ότι οι κυβερνοεπιθέσεις με τη βοήθεια AI παραμένουν σε πρώιμο στάδιο, αλλά προειδοποίησαν ότι η απειλή θα μπορούσε να αυξηθεί γρήγορα. «Πιο εξελιγμένες επιθέσεις θα αυξηθούν στο μέλλον», δήλωσε ο Ken Sajo, αναλυτής στο JPCERT/CC. Νωρίς, με άλλα λόγια, αλλά ήδη οργανωμένο — και ήδη τρέχει στην κλίμακα μιας μικρής επιχείρησης φιλοξενίας.

Η προειδοποίηση ευθυγραμμίζεται με μια παράλληλη εξέλιξη στις Ηνωμένες Πολιτείες. Σε ρεπορτάζ που δημοσιεύθηκε την Παρασκευή, η Nacionale περιέγραψε πώς η Artex - η ίδια πλατφόρμα δοκιμών διείσδυσης που βρέθηκε στην πλειονότητα των διακομιστών της έρευνας υπό την ηγεσία της Ιαπωνίας - κατασκευάστηκε αρχικά για να βοηθήσει τους οργανισμούς να δοκιμάσουν τα δικά τους δίκτυα για αδύναμα σημεία, αλλά το FBI λέει ότι οι επιτιθέμενοι το έχουν μετατρέψει σε εργαλείο διάρρηξης.

Εργαλεία διπλής χρήσης, συνέπειες πραγματικού κόσμου

Το μοτίβο που περιγράφει το JPCERT είναι το δίλημμα διπλής χρήσης του κλάδου ασφάλειας που διαδραματίζεται σε κλίμακα Διαδικτύου. Οι πλατφόρμες δοκιμών διείσδυσης υπάρχουν επειδή οι οργανισμοί πρέπει να βρουν τα δικά τους ελαττώματα πριν το κάνουν οι εγκληματίες. Το ίδιο εργαλείο, που δείχνει προς τα έξω, αυτοματοποιεί την αναγνώριση, τη σάρωση ευπάθειας και τις επιθέσεις διαπιστευτηρίων εναντίον οποιουδήποτε με εκτεθειμένη διεπαφή.

Οι διακομιστές της έρευνας απεικονίζουν μια δεύτερη τάση: οι εισβολείς αντιμετωπίζουν τα εργαλεία τεχνητής νοημοσύνης σαν μια συνηθισμένη υποδομή - το σηκώνουν, το εκθέτουν και σε ορισμένες περιπτώσεις το παραμορφώνουν τόσο άσχημα που οι ερευνητές μπορούσαν να το παρατηρήσουν να τρέχει ανοιχτά. Αυτή η ορατότητα είναι που κατέστησε δυνατή την έρευνα και προσφέρει στους υπερασπιστές ένα σπάνιο παράθυρο στον τρόπο οργάνωσης αυτών των επιχειρήσεων. Το γεγονός ότι οι διακομιστές έχουν παρατηρηθεί από τον Οκτώβριο υποδηλώνει επίσης συνεχείς λειτουργίες και όχι μεμονωμένα πειράματα — υποδομή που παρέχεται, συντηρείται και αντικαθίσταται όπως ανακαλύπτεται, ένα μοτίβο πιο χαρακτηριστικό για καθιερωμένες εγκληματικές επιχειρήσεις παρά για ευκαιριακά άτομα.

Για τους οργανισμούς, οι πρακτικές επιπτώσεις είναι άμεσες. Η αναφορά αναφέρει ότι οι διακομιστές χρησιμοποιήθηκαν για την αναζήτηση ευπαθειών και την κλοπή αρχείων διαμόρφωσης, τα οποία συχνά περιέχουν διαπιστευτήρια και λεπτομέρειες εσωτερικού δικτύου. Η σκλήρυνση των τελικών σημείων API, ο περιορισμός των διαχειριστικών διεπαφών, η εναλλαγή εκτεθειμένων μυστικών και η παρακολούθηση για αυτοματοποιημένη σάρωση είναι η αμυντική γραμμή βάσης προς την οποία δείχνουν τα ευρήματα.

Η έρευνα της JPCERT/CC βρίσκεται σε εξέλιξη και η υπηρεσία λέει ότι θα συνεχίσει να παρακολουθεί τους διακομιστές που έχει εντοπίσει. Το μεγαλύτερο ερώτημα - πώς να ελέγχονται τα εργαλεία που είναι ταυτόχρονα προϊόντα ασφαλείας και όπλα επίθεσης - τίθεται τώρα στις αίθουσες δικαστηρίων, στις αίθουσες συνεδριάσεων και, όπως δείχνει αυτή η έρευνα, σε περίπου χίλιους διακομιστές παγκοσμίως.

Μείνετε μπροστά από την τεχνητή νοημοσύνη

Από μοντέλα αιχμής έως απειλές πρώτης γραμμής, η ιστορία της τεχνητής νοημοσύνης εξελίσσεται γρήγορα. Μείνετε μπροστά από την τεχνητή νοημοσύνη με την κάλυψη του AI Buzz Wire για τις σημαντικές εξελίξεις.

Διαβάστε περισσότερα νέα AI →