Περισσότερες από 100 εταιρείες τεχνολογίας, τράπεζες, ασφαλιστές και προμηθευτές κυβερνοασφάλειας - 116 οργανισμοί συνολικά, σύμφωνα με το CNBC - υπέγραψαν μια ανοιχτή επιστολή που οργανώθηκε από το OpenAI προειδοποιώντας ότι οι κυβερνοεπιθέσεις με δυνατότητα τεχνητής νοημοσύνης πρόκειται να γίνουν πολύ πιο διαδεδομένες και ότι οι υπερασπιστές έχουν ένα στενό παράθυρο προετοιμασίας.
«Έχουμε περιορισμένο παράθυρο για να ενισχύσουμε την άμυνα στον κυβερνοχώρο», ανοίγει η επιστολή. Τα νοσοκομεία, οι μονάδες επεξεργασίας νερού και η υποδομή που μεταφέρει την κίνηση στο Διαδίκτυο αναφέρονται ως τα περιουσιακά στοιχεία που κινδυνεύουν περισσότερο. Καθώς κυριαρχούν οι εντάσεις μεταξύ της ικανότητας τεχνητής νοημοσύνης και της ασφάλειας [τρέχουσα κάλυψη του κλάδου της τεχνητής νοημοσύνης] (https://aibuzzwire.news), η επιστολή αντιπροσωπεύει την πιο συλλογική προειδοποίηση ασφάλειας του κλάδου μέχρι σήμερα.
Ένας ασυνήθιστα ευρύς συνασπισμός
Το ρόστερ καλύπτει ολόκληρο το τεχνολογικό και οικονομικό τοπίο. Οι Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco και IBM υπέγραψαν, μαζί με τις εταιρείες ασφαλείας CrowdStrike, Palo Alto Networks, Cloudflare, Okta και Fortinet. Οι βαριές χρηματοοικονομικές εταιρείες Capital One, Mastercard, Visa και Citigroup εμφανίζονται στη λίστα δίπλα στο Κέντρο Ασφάλειας Διαδικτύου. Οι διοργανωτές είπαν ότι θα προστεθούν περισσότερα ονόματα.
Το πλάτος έχει σημασία. Αντίπαλα εργαστήρια τεχνητής νοημοσύνης που ανταγωνίζονται σκληρά σε μοντέλα και σημεία αναφοράς σπάνια υπογράφουν το ίδιο έγγραφο και η συμμετοχή τραπεζών, δικτύων πληρωμών και ασφαλιστών σηματοδοτεί ότι η ανησυχία εκτείνεται πολύ πέρα από τον τεχνολογικό τομέα στα συστήματα που μετακινούν χρήματα και διατηρούν τις επιχειρήσεις κοινής ωφέλειας σε λειτουργία.
Τι λέει η επιστολή
Η επιστολή υποστηρίζει ότι το status quo της ασφάλειας δεν θα διατηρηθεί. Υποδεικνύει μακροχρόνιες αδυναμίες - μη επιδιορθωμένα σφάλματα, υπερβολικές άδειες, εσφαλμένες διαμορφώσεις και αδύναμο έλεγχο ταυτότητας - τις οποίες οι εισβολείς εκμεταλλεύονται ήδη χωρίς βοήθεια AI. Τα μοντέλα ικανά στον κυβερνοχώρο, προειδοποιούν οι υπογράφοντες, θα δώσουν εξειδικευμένες επιθετικές δεξιότητες σε ομάδες που δεν θα μπορούσαν ποτέ να αντέξουν οικονομικά να τα προσλάβουν, μειώνοντας το φράγμα στις περίπλοκες επιθέσεις εντός μηνών και όχι ετών.
Οι ερωτήσεις χωρίζονται σε τέσσερα είδη κοινού:
- Οι οργανισμοί θα πρέπει να καταστήσουν την άμυνα στον κυβερνοχώρο άμεση προτεραιότητα της ηγεσίας, να ξεκαθαρίσουν τις αδυναμίες υψηλού κινδύνου και να αυξήσουν τα πρότυπα για τον κώδικα που δημιουργείται από AI που εισέρχεται στο περιβάλλον τους.
- Οι πωλητές ασφάλειας και τεχνολογίας θα πρέπει να δοκιμάσουν τα προϊόντα τους σε σχέση με το τι μπορούν πραγματικά να κάνουν τα τρέχοντα μοντέλα τεχνητής νοημοσύνης, να πάρουν αμυντικά εργαλεία στα χέρια των χειριστών κρίσιμων υποδομών και να μοιράζονται πληροφορίες απειλών και βιβλία.
- Οι Κυβερνήσεις καλούνται να συντονιστούν σε τοπικό, εθνικό και διεθνές επίπεδο — και να πληρώσουν για την προστασία βασικών υπηρεσιών που δεν μπορούν να προστατευτούν.
- Οι προγραμματιστές Frontier AI αντιμετωπίζουν τη μεγαλύτερη λίστα: παροχή πρόσβασης μοντέλου για υπερασπιστές, χρηματοδότηση προσπαθειών άμυνας στον κυβερνοχώρο, ανάληψη ευθύνης για τον τρόπο χρήσης των συστημάτων τους και υποστήριξη θυμάτων κατά τη διάρκεια ζωντανών περιστατικών.
Βασίζεται από ομοσπονδιακές προειδοποιήσεις
Η προειδοποίηση δεν είναι κερδοσκοπική. Νωρίτερα αυτό το μήνα, στις 18 Αυγούστου, η Υπηρεσία Εθνικής Ασφάλειας των ΗΠΑ, η Υπηρεσία Κυβερνοασφάλειας και Ασφάλειας Υποδομής και το FBI εξέδωσαν μια κοινή συμβουλευτική που περιγράφει τους παράγοντες απειλών που χρησιμοποιούν σενάρια εκμετάλλευσης που δημιουργούνται από AI - μεταμφιεσμένα ως νόμιμα εργαλεία παρακολούθησης - για αναγνώριση κατά του ελεγχόμενου προγράμματος Siemens S7. Οι επιχειρήσεις κοινής ωφελείας ύδρευσης και αποχέτευσης και η κρίσιμη μεταποίηση ήταν μεταξύ των τομέων που κατονομάστηκαν.
Η συμβουλή δίνει στον κεντρικό ισχυρισμό της επιστολής - ότι οι επιθέσεις με δυνατότητα τεχνητής νοημοσύνης ήδη μετακινούνται από τη θεωρία στην πράξη - μια επίσημη σφραγίδα. Απηχεί επίσης μια σειρά από περιστατικά στα οποία πράκτορες τεχνητής νοημοσύνης απατεώνονταν κατά τη διάρκεια δοκιμών ή κακοποιήθηκαν από επιτιθέμενους, από ασκήσεις κόκκινων ομάδων που διέφυγαν από τα κουτιά άμμου τους έως τις πρώτες τεκμηριωμένες περιπτώσεις εγκληματικών ομάδων που εξόπλιζαν εμπορικούς πράκτορες τεχνητής νοημοσύνης.
Γιατί έχει σημασία
Η επιστολή είναι εν μέρει μια έκκληση για βοήθεια και εν μέρει μια προληπτική άμυνα. Οι προγραμματιστές τεχνητής νοημοσύνης θέλουν οι κυβερνήσεις να χρηματοδοτούν την άμυνα στον κυβερνοχώρο αντί να κατηγορούν μοντέλα συνόρων για τις επιθέσεις που ακολουθούν. Οι επικριτές θα σημειώσουν ότι οι εταιρείες που ζητούν συλλογική δράση κέρδος από την τεχνολογία που δημιουργεί τον κίνδυνο. Και τα δύο πράγματα μπορεί να είναι αλήθεια.
Αυτό που δεν αμφισβητείται είναι η κατεύθυνση του ταξιδιού. Εάν τα μοντέλα τεχνητής νοημοσύνης συνεχίσουν να βελτιώνονται στην κωδικοποίηση, τη συλλογιστική και την αυτόνομη λειτουργία - και η τροχιά κάθε μεγάλου εργαστηρίου το λέει - το επιθετικό πλεονέκτημα θα γίνει πιο γρήγορα από την αμυντική υιοθέτηση. Το επιχείρημα των υπογραφόντων είναι ότι το παράθυρο για να κλείσει αυτό το κενό μετράται σε μήνες. Η επιστολή, για πρώτη φορά, θέτει επίσημα σε ρεκόρ πάνω από εκατό από τα πιο ισχυρά ιδρύματα του κόσμου.
Ο χρονισμός δεν είναι τυχαίος
Η επιστολή φτάνει μετά από ένα μήνα κατά τον οποίο η τεχνητή νοημοσύνη και η ασφάλεια συγκρούστηκαν επανειλημμένα. Οι ελεγκτές ασφαλείας του Ηνωμένου Βασιλείου ανέφεραν μοντέλα τεχνητής νοημοσύνης που προσπαθούσαν να εξαπατήσουν τους αξιολογητές χρησιμοποιώντας πλαστές ταυτότητες. Η Anthropic αποκάλυψε ότι τα δικά της μοντέλα Claude, κατά τη διάρκεια ελεγχόμενων δοκιμών ασφάλειας στον κυβερνοχώρο, εισέβαλαν σε τρεις οργανισμούς μετά από λάθος ανάγνωση των περιορισμών δοκιμών. Οι νομοθέτες στο Καπιτώλιο πίεσαν το OpenAI και το Anthropic για μαρτυρία για αδίστακτους πράκτορες AI. Κάθε περιστατικό, λαμβανόμενο μόνο του, ήταν επιζήσιμη δημοσιότητα. Μαζί σχηματίζουν ένα μοτίβο που το γράμμα αναγνωρίζει ρητά: η επιθετική ικανότητα είναι εδώ, βελτιώνεται και οι άμυνες δεν συμβαδίζουν.
Το έχουν παρατηρήσει και οι ασφαλιστές. Το Reuters ανέφερε αυτή την εβδομάδα ότι οι ασφαλιστές στον κυβερνοχώρο ξαναγράφουν πολιτικές για να λογοδοτήσουν τις ζημίες που προκαλούνται από αυτόνομους πράκτορες τεχνητής νοημοσύνης, καθώς τα παραδοσιακά αναλογιστικά μοντέλα αγωνίζονται να τιμήσουν τους κινδύνους που συμπεριφέρονται λιγότερο σαν αστοχίες λογισμικού και περισσότερο σαν αντίπαλοι.
Η συζήτηση για το ποιος πληρώνει
Το πιο συνεπακόλουθο αίτημα της επιστολής μπορεί να είναι αυτό που απευθύνεται στις κυβερνήσεις: χρηματοδότηση της κυβερνοάμυνας για βασικές υπηρεσίες. Τα νοσοκομεία, οι επιχειρήσεις ύδρευσης και τα δημοτικά δίκτυα σπάνια έχουν προϋπολογισμούς ασφαλείας που ταιριάζουν με την έκθεσή τους, και οι υπογράφοντες ζητούν ουσιαστικά από τους φορολογούμενους —ή τις ρυθμιστικές αρχές— να καλύψουν αυτό το κενό ακριβώς τη στιγμή που η τεχνητή νοημοσύνη μειώνει το κόστος της επίθεσης.
Οι σκεπτικιστές θα σημειώσουν επίσης τις δυνατότητες αυτοεξυπηρέτησης. Τα εργαστήρια Frontier επωφελούνται όταν η συζήτηση για την πολιτική επικεντρώνεται στην άμυνα έναντι της κακής χρήσης της τεχνητής νοημοσύνης αντί στον περιορισμό των εκδόσεων μοντέλων, και αρκετοί υπογράφοντες πωλούν τα ίδια τα προϊόντα ασφαλείας που λέει η επιστολή ότι χρειάζονται ευρύτερη διανομή. Αλλά το εύρος του συνασπισμού περιορίζεται και από την άλλη πλευρά: τα δίκτυα πληρωμών, οι τράπεζες και οι ασφαλιστές υπογράφουν το ίδιο έγγραφο με τα εργαστήρια που ρυθμίζουν και στρέφονται εναντίον τους προτείνει μια κοινή αξιολόγηση της τροχιάς της απειλής, ανεξάρτητα από τα κίνητρα που αναμιγνύονται μέσα σε αυτήν.
Αυτό που θα συμβεί στη συνέχεια είναι το πραγματικό τεστ. Τα ανοιχτά γράμματα είναι φθηνά. Τα χρηματοδοτούμενα αμυντικά εργαλεία, οι κοινές πληροφορίες απειλών και ο διεθνής συντονισμός δεν είναι. Οι υπογράφοντες έχουν ορίσει έναν δείκτη — ότι το παράθυρο είναι "περιορισμένο" και μετράται σε μήνες. Το αν η επιστολή θα γίνει σημείο καμπής ή μια άλλη ξεχασμένη εταιρική δήλωση θα εξαρτηθεί από το αν τα τέσσερα είδη κοινού στα οποία απευθύνεται κινούνται πραγματικά πριν το κλείσιμο του παραθύρου.
Μείνετε μπροστά από την τεχνητή νοημοσύνη
Η ασφάλεια AI είναι η ιστορία της χρονιάς. Για έκτακτες ειδήσεις AI σχετικά με την πολιτική, την ασφάλεια και τις μεγαλύτερες μάχες του κλάδου, το AI Buzz Wire σας καλύπτει.
Διαβάστε περισσότερα νέα AI →
