Ο πρόεδρος της Νότιας Κορέας Lee Jae Myung δήλωσε την Τρίτη ότι η τεχνητή νοημοσύνη φαίνεται να έχει χρησιμοποιηθεί σε ένα κύμα κυβερνοεπιθέσεων στον χρηματοπιστωτικό τομέα της χώρας, χάκερ που εξέθεσαν δεδομένα χρηστών σε επτά χρηματοπιστωτικές εταιρείες και προκάλεσαν αυτό που ένας αξιωματούχος περιέγραψε ως «ένα εντελώς νέο είδος κρίσης».
Σύμφωνα με δημοσίευμα των Financial Times, ο πρόεδρος είπε ότι οι ενδείξεις εμπλοκής της τεχνητής νοημοσύνης σε ορισμένα από τα περιστατικά «προκαλούσαν σημαντική ανησυχία και ανησυχία στο κοινό». Οι δηλώσεις, που αναφέρθηκαν από το Reuters, τους New York Times και τη Wall Street Journal μεταξύ άλλων, σηματοδοτούν έναν από τους πιο άμεσους απολογισμούς που έχουν γίνει μέχρι σήμερα από έναν αρχηγό κράτους που συνδέει τα εργαλεία AI με ζωντανές επιθέσεις στον κυβερνοχώρο κατά τραπεζών. For more context on this story, see our ongoing AI industry coverage.
Τι συνέβη στις παραβιάσεις της τράπεζας της Νότιας Κορέας
Οι επιτιθέμενοι φαίνεται ότι στόχευαν λιγότερο ασφαλή συστήματα που λειτουργούν από τρίτα μέρη και όχι τα βασικά δίκτυα πληρωμών των τραπεζών, σύμφωνα με τα ρεπορτάζ των Financial Times. Σε ένα περιστατικό, ένας χάκερ παρέκαμψε τους ελέγχους ταυτότητας σε μια πύλη όπου μεσίτες δανείων παρακολουθούσαν τις αιτήσεις των πελατών, αποκαλύπτοντας τα προσωπικά στοιχεία περίπου 25.000 πελατών της Shinhan Bank.
Μέχρι στιγμής δεν έχουν αναφερθεί κλοπιμαία κεφάλαια, αλλά η κλίμακα της έκθεσης δεδομένων έχει θέσει σε επιφυλακή τις χρηματοοικονομικές ρυθμιστικές αρχές της Νότιας Κορέας. Αξιωματούχος με γνώση της κατάστασης είπε στους Financial Times ότι τα περιστατικά αντιπροσώπευαν «ένα εντελώς νέο είδος κρίσης» για τον τραπεζικό κλάδο της χώρας.
«Η γενετική τεχνητή νοημοσύνη χρησιμοποιήθηκε για τον εντοπισμό τρωτών σημείων και την έναρξη μιας επίθεσης», είπε ο πρόεδρος, σύμφωνα με την έκθεση. «Δεν είναι ότι η Νότια Κορέα έχει αδύναμη κυβερνοασφάλεια – κάτι τέτοιο θα μπορούσε να συμβεί οπουδήποτε».
Ο ρόλος του Artex, ενός Εργαλείου Hacking AI ανοιχτού κώδικα
Οι ερευνητές ασφαλείας πιστεύουν ότι μπορεί να εμπλέκεται ένα συγκεκριμένο εργαλείο. Ο Moon Jong-hyun, επικεφαλής του Genians Security Center, δήλωσε την περασμένη εβδομάδα ότι φαίνεται ότι το Artex - ένα εργαλείο ανοιχτού κώδικα στην κινεζική γλώσσα που χρησιμοποιεί AI για να βρει και να δοκιμάσει τρωτά σημεία του συστήματος υπολογιστή - είχε χρησιμοποιηθεί σε ορισμένες από τις επιθέσεις, ανέφεραν οι Financial Times.
Σε μια ανάρτηση στο LinkedIn, ο Μουν παρομοίασε το Artex με ένα κουζινομάχαιρο: ένα εργαλείο που μπορεί να χρησιμοποιηθεί από έναν σεφ για να ετοιμάσει ένα γεύμα ή «ως όπλο από έναν εγκληματία». Η αναλογία καταγράφει το δίλημμα διπλής χρήσης που περιβάλλει τα εργαλεία ασφάλειας τεχνητής νοημοσύνης ανοιχτού κώδικα από τότε που άρχισαν να πολλαπλασιάζονται: οι ίδιες δυνατότητες που βοηθούν τους υπερασπιστές να ελέγχουν τα δικά τους συστήματα μπορούν να μειώσουν το εμπόδιο εισόδου για τους εισβολείς που διερευνούν κάποιο άλλο.
Η Wall Street Journal, η οποία κάλυψε επίσης την ιστορία, πλαισίωσε τη χρήση ενός εργαλείου τεχνητής νοημοσύνης στην κινεζική γλώσσα κατά των τραπεζών της Νότιας Κορέας ως έκθεση μιας νέας κατηγορίας κινδύνου για τα χρηματοπιστωτικά ιδρύματα παγκοσμίως.
Γιατί τα συστήματα τρίτων ήταν το αδύναμο σημείο
Ένα επαναλαμβανόμενο θέμα στις εκθέσεις είναι ότι τα παραβιασμένα συστήματα δεν ήταν η πιο σκληρή υποδομή των τραπεζών. Αντίθετα, οι επιτιθέμενοι φέρεται να ακολούθησαν περιφερειακές, λιγότερο ασφαλείς εφαρμογές - όπως η πύλη μεσολάβησης δανείων - όπου η επαλήθευση ταυτότητας και η παρακολούθηση μπορεί να είναι πιο αδύναμες.
Αυτό το μοτίβο είναι συνεπές με αυτό για το οποίο έχουν προειδοποιήσει οι επαγγελματίες της κυβερνοασφάλειας καθώς οι επιθέσεις με AI γίνονται πιο ικανές: ο αυτοματισμός δεν διαπερνά απαραίτητα τις ισχυρότερες άμυνες, αλλά μπορεί να βρει και να εκμεταλλευτεί γρήγορα τον πιο αδύναμο κρίκο σε μια μεγάλη επιφάνεια επίθεσης. Η έρευνα ευπάθειας που κάποτε απαιτούσε δαπανηρή ανθρώπινη εργασία - εφαρμογές χαρτογράφησης, επιθεώρηση τεκμηρίωσης, κατανόηση των ροών ελέγχου ταυτότητας και επανειλημμένη ανίχνευση συστημάτων για ασυνήθιστη συμπεριφορά - μπορεί τώρα να αυτοματοποιηθεί εν μέρει.
Οι αξιωματούχοι της Νότιας Κορέας δεν έχουν πει εάν αποδίδουν τις επιθέσεις σε κάποιον συγκεκριμένο παράγοντα και η έρευνα βρίσκεται σε εξέλιξη. Το γραφείο του προέδρου δεν ανακοίνωσε αμέσως νέα ρυθμιστικά μέτρα σε σχέση με τις παρατηρήσεις, αν και τα περιστατικά είναι πιθανό να εντείνουν τον έλεγχο του τρόπου με τον οποίο οι χρηματοοικονομικές εταιρείες επιβλέπουν τις εφαρμογές τρίτων που αγγίζουν τα δεδομένα πελατών.
Μια δοκιμαστική περίπτωση για την πολιτική ασφάλειας στον κυβερνοχώρο AI
Οι εισβολές τραπεζών της Νότιας Κορέας φτάνουν εν μέσω μιας ευρύτερης παγκόσμιας συζήτησης για την τεχνητή νοημοσύνη και το έγκλημα στον κυβερνοχώρο. Ερευνητές ασφαλείας έχουν τεκμηριώσει ότι πράκτορες τεχνητής νοημοσύνης χρησιμοποιούνται για επιθέσεις σε κυβερνητικούς ιστότοπους και τα εργαστήρια τεχνητής νοημοσύνης έχουν δημοσιεύσει έρευνα για αναδυόμενες δυνατότητες στον κυβερνοχώρο σε μοντέλα συνόρων - ευρήματα που έχουν τροφοδοτήσει εκκλήσεις για ισχυρότερες διασφαλίσεις γύρω από ισχυρά συστήματα AI.
Αυτό που διακρίνει την υπόθεση της Νότιας Κορέας είναι η επίσημη πλαισίωση της: ένας εν ενεργεία πρόεδρος που αποδίδει δημόσια τις επιθέσεις σε μεγάλες τράπεζες σε μεθόδους που υποστηρίζονται από AI και μια εθνική συζήτηση σχετικά με το εάν οι υφιστάμενοι κανόνες κυβερνοασφάλειας - που έχουν δημιουργηθεί για ανθρώπινους αντιπάλους - είναι επαρκείς για έναν κόσμο όπου ένα εργαλείο ανοιχτού κώδικα μπορεί να αυτοματοποιήσει την ανακάλυψη ευπάθειας.
Για τις τράπεζες και άλλους ρυθμιζόμενους κλάδους, το περιστατικό είναι μια υπενθύμιση ότι η περίμετρος ασφαλείας τους εκτείνεται πολύ πέρα από τα βασικά συστήματα στους προμηθευτές, τους μεσίτες και τις πύλες που τις περιβάλλουν. Για τους υπεύθυνους χάραξης πολιτικής, εγείρει το ερώτημα εάν τα εργαλεία τεχνητής νοημοσύνης διπλής χρήσης, όπως το Artex, θα πρέπει να αντιμετωπίζουν περιορισμούς στη διανομή — ή εάν, όπως υποδηλώνει η αναλογία κουζινομάχαιρου του Moon, η εστίαση θα πρέπει να παραμείνει στον τρόπο προστασίας των συστημάτων και όχι στα ίδια τα εργαλεία.
Καθώς η έρευνα συνεχίζεται, η προσοχή θα στραφεί στο εάν η Νότια Κορέα εισάγει νέες απαιτήσεις αποκάλυψης ή πρότυπα ασφαλείας για οικονομικές εφαρμογές τρίτων και εάν άλλες κυβερνήσεις ακολουθούν το παράδειγμά τους στην επίσημη αντιμετώπιση του ρόλου της τεχνητής νοημοσύνης στο έγκλημα στον κυβερνοχώρο.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
