Το Πεντάγωνο εγκαινιάζει ένα πιλοτικό πρόγραμμα που θα χρησιμοποιεί τεχνητή νοημοσύνη για να διαχειρίζεται τον τρόπο ταξινόμησης και χειρισμού ευαίσθητων στρατιωτικών πληροφοριών, σύμφωνα με υπόμνημα που εξέδωσε ο αναπληρωτής υπουργός Άμυνας Steve Feinberg που εξετάστηκε από το DefenseScoop. Η οδηγία διατάσσει μια αρχική μικρής κλίμακας ανάπτυξη μιας αυτοματοποιημένης ικανότητας ταξινόμησης ασφαλείας εντός των επόμενων έξι μηνών - η κίνηση έναρξης σε μια προσπάθεια αναθεώρησης μιας διαδικασίας που το τμήμα περιγράφει ως επικίνδυνα ξεπερασμένη.
Μέσα στο υπόμνημα Feinberg For more context on this story, see our ongoing latest AI developments.
Το υπόμνημα, που εκδόθηκε τη Δευτέρα, χαρακτηρίζει τις υπάρχουσες διαδικασίες ταξινόμησης και αποχαρακτηρισμού του Πενταγώνου ως πηγή «δυσλειτουργίας» που το υπουργείο λέει ότι «θέτει σε κίνδυνο» την αποστολή του. Υποστηρίζει ότι οι απαρχαιωμένες διαδικασίες επιβραδύνουν την «έγκαιρη δημοσιοποίηση κρίσιμων πληροφοριών» και διαβρώνουν την εμπιστοσύνη του κοινού στο τμήμα.
«Η δυσλειτουργία που προκαλείται από αυτές τις διαδικασίες οδηγεί σε λανθασμένες ταξινομήσεις που επιβαρύνουν τα εθνικά μας συστήματα ασφαλείας, εμποδίζουν τη διαλειτουργικότητα και επιβραδύνουν την καινοτομία παγιδεύοντας ζωτικά δεδομένα σε εστίες», αναφέρει το σημείωμα, σύμφωνα με το DefenseScoop.
ACME: Το σύστημα της Πολεμικής Αεροπορίας στο Κέντρο
Για τη δοκιμή, το Υπουργείο Άμυνας θα χρησιμοποιήσει ένα σύστημα που υποστηρίζεται από AI που ανέπτυξε πρόσφατα η Πολεμική Αεροπορία και ονομάζεται Περιβάλλον Διαχείρισης Αυτοματοποιημένης Ταξινόμησης ή ACME. Το σημείωμα ορίζει τον ανώτατο πολιτικό αξιωματούχο της Πολεμικής Αεροπορίας ως εκτελεστικό πράκτορα για τον πιλότο και ένας εκπρόσωπος της Πολεμικής Αεροπορίας είπε στο DefenseScoop ότι η υπηρεσία «θα συμμορφωθεί με την οδηγία στο υπόμνημα».
Το ACME επισημάνθηκε δημόσια τον Αύγουστο, όταν αξιωματούχοι εξέδωσαν ένα αίτημα για πληροφορίες ζητώντας από τη βιομηχανία να βοηθήσει στη δημιουργία ενός οικοσυστήματος ταξινόμησης-διαχείρισης για να αντικαταστήσει τη διαδικασία «χειροκίνητης, έντασης ανθρώπου» που ο στρατός χρησιμοποιεί εδώ και δεκαετίες. Αυτή η ειδοποίηση περιέγραφε ένα σύστημα υπό πίεση: εκατοντάδες αξιωματούχοι έχουν την εξουσία να ταξινομούν πληροφορίες, πολλοί χρησιμοποιούν αρχαϊκά προγράμματα, παράγουν ξεπερασμένη τεκμηρίωση, υψηλά ποσοστά σφαλμάτων, συχνή υπερταξινόμηση και υποβαθμισμένη ακεραιότητα δεδομένων. Το τμήμα φέρει επίσης ένα εκκρεμές αντίγραφο περίπου 140 εκατομμυρίων σελίδων.
Από πιλότο σε ενιαία έγκυρη αναφορά
Εάν ο πιλότος πετύχει, το σημείωμα λέει ότι το αυτοματοποιημένο σύστημα θα χρησιμεύσει τελικά ως «η μοναδική, ψηφιακή έγκυρη αναφορά» για όλες τις αρχικές αποφάσεις ταξινόμησης του τμήματος. Αυτή η ευθύνη ανήκε ιστορικά σε ειδικά καθορισμένους ανθρώπινους αξιωματούχους που καθορίζουν πώς κατηγοριοποιούνται οι ευαίσθητες πληροφορίες - που σημαίνει ότι μια επιτυχημένη διάθεση θα σήμαινε μια από τις πιο συνεπείς μεταβιβάσεις μιας βασικής κυβερνητικής λειτουργίας σε συστήματα τεχνητής νοημοσύνης μέχρι σήμερα.
Γιατί οι αξιωματούχοι λένε ότι χρειάζεται η αλλαγή
Η υπόθεση για την αυτοματοποίηση βασίζεται στον τεράστιο όγκο και την ταχύτητα των σύγχρονων στρατιωτικών πληροφοριών. Το αίτημα του Αυγούστου για πληροφορίες χαρακτήρισε τη χειροκίνητη διαδικασία «ασύμβατη» με τον όγκο και την ταχύτητα των πληροφοριών στην ψηφιακή εποχή. Η υπερταξινόμηση κρατά τις πληροφορίες κλειδωμένες μακριά από μονάδες και συμμάχους που τις χρειάζονται. Η υποταξινόμηση κινδυνεύει να εκθέσει τις δυνατότητες και τα σχέδια στους αντιπάλους. Τα λάθη και προς τις δύο κατευθύνσεις συνεπάγονται κόστος και με επταψήφιο ανεκτέλεστο έντυπο σελίδων, το τμήμα κατέληξε στο συμπέρασμα ότι οι σταδιακές διορθώσεις δεν επαρκούν.
Ο Τζος Γουάλιν, συνεργάτης στο αμυντικό πρόγραμμα του Κέντρου για τη Νέα Αμερικανική Ασφάλεια, είπε στο DefenseScoop ότι οι υποδιαβαθμισμένες πληροφορίες μπορούν να εκθέσουν μια ικανότητα ή σχέδιο σε έναν αντίπαλο, ενώ το υπερταξινομημένο υλικό μπορεί να συγκρατηθεί ή να σταματήσει λόγω καθυστερημένης διαδικασίας αναθεώρησης — που σημαίνει ότι μπορεί να μην φτάσει στους οργανισμούς που το χρειάζονται, «σε ένα περιβάλλον συνασπισμού όπου ο συντονισμός πληροφοριών είναι κρίσιμος». Πρόσθεσε ότι, σε πολλές περιπτώσεις, «η συντριπτική πλειονότητα των πληροφοριών δεν είναι απαραίτητα τόσο ευαίσθητη ώστε να ανησυχείτε για μια εσφαλμένη ταξινόμηση», γι' αυτό ακριβώς ο ταχύτερος, πιο συνεπής χειρισμός θα μπορούσε να αποφέρει οφέλη σε όλο το τμήμα.
Οι αναλυτές βλέπουν κέρδη — και πραγματικούς κινδύνους
Ο Wallin είπε ότι η αυτοματοποίηση θα μπορούσε να βοηθήσει σε ζητήματα λανθασμένης ταξινόμησης - συμπεριλαμβανομένων πληροφοριών που προστατεύονται υπερβολικά, υποπροστατεύονται ή φέρουν λάθος ετικέτα από ανθρώπους - και να μειώσει τις σόμπες, ειδικά καθώς οι σύγχρονες συγκρούσεις έχουν δείξει ότι η γρήγορη ροή πληροφοριών μπορεί να είναι αποφασιστικό πλεονέκτημα.
Αλλά ο Wallin επεσήμανε επίσης κινδύνους. Η εσφαλμένη ταξινόμηση θα μπορούσε να συμβεί σε ταχύτερη κλίμακα στα συστήματα που υποστηρίζονται από AI. Η ταχύτερη κοινή χρήση με συμμάχους και εταίρους εγείρει ερωτήματα σχετικά με τα πρωτόκολλα κυβερνοασφάλειας των δικτύων παραληπτών. Και ο επιταχυνόμενος αποχαρακτηρισμός δημιουργεί ένα «συγκεντρωτικό» αποτέλεσμα, στο οποίο ένας αντίπαλος μπορεί να συνδυάσει ευαίσθητες πληροφορίες από μεμονωμένες ακίνδυνες αποκαλύψεις.
«Υπάρχει ανησυχία για εσφαλμένη ταξινόμηση», είπε ο Wallin. "Υπάρχει απλώς μια εγγενής ανησυχία ότι ορισμένες πληροφορίες θα είναι ευαίσθητες. Θα γίνει εσφαλμένη ταξινόμηση και κοινή χρήση, κάπως ακούσια, και δεν θα τις καταλάβει κάποιος;"
Ερωτήσεις επίβλεψης παραμένουν
Ο Wallin αμφισβήτησε επίσης τη συντομία του πιλότου και τον τρόπο με τον οποίο θα λειτουργεί η ανθρώπινη επίβλεψη όταν η τεχνητή νοημοσύνη χρησιμεύει ως οριστική αναφορά για την αρχική αρχή ταξινόμησης. "Πώς [θα] έχετε πραγματικά την ανθρώπινη επίβλεψη; Αυτό θα πρέπει να παραμείνει για πάντα", είπε στο DefenseScoop, σημειώνοντας ότι το σύστημα θα εξελιχθεί με την πάροδο του χρόνου και ότι η πλήρης εμπιστοσύνη δεν είναι ποτέ εφικτή.
Το Πεντάγωνο δεν απάντησε αμέσως σε ερωτήσεις σχετικά με το ποια υποκείμενα μοντέλα τεχνητής νοημοσύνης θα τροφοδοτούσαν τον πιλότο ή εάν το τμήμα έχει ανησυχίες σχετικά με τη χρήση της τεχνολογίας για αυτόν τον σκοπό. Η οδηγία προσγειώνεται εν μέσω μιας ευρύτερης συζήτησης στην Ουάσιγκτον σχετικά με την επίβλεψη της τεχνητής νοημοσύνης, ακόμη και όταν αξιωματούχοι της άμυνας υποστηρίζουν ότι η τεχνητή νοημοσύνη είναι πολύ ισχυρό εργαλείο για να παραγκωνιστεί ενώ οι αντίπαλοι την αναπτύσσουν στους δικούς τους στρατούς. Πώς το τμήμα εξισορροπεί αυτές τις δύο παρορμήσεις - επιθετική υιοθεσία και ουσιαστικό ανθρώπινο έλεγχο - θα είναι το καθοριστικό ερώτημα του έξι μηνών πιλότου.
Για την Πολεμική Αεροπορία η ανάθεση είναι και ψήφος εμπιστοσύνης. Η υπηρεσία δημιούργησε το ACME ενώ η συζήτηση σε όλο το τμήμα για τη μεταρρύθμιση της ταξινόμησης ήταν ακόμα θεωρητική και το σημείωμα της αναθέτει τώρα την ευθύνη για μια ικανότητα που, εάν λειτουργήσει, θα αναδιαμορφώσει τον τρόπο με τον οποίο κάθε στρατιωτικός κλάδος χειρίζεται τα μυστικά του. Για την υπόλοιπη ομοσπονδιακή κυβέρνηση - όπου οι εκκρεμότητες ταξινομήσεων και οι καταγγελίες υπερταξινόμησης είναι χρόνιες - ένας επιτυχημένος πιλότος του Πενταγώνου θα παρείχε το πρώτο πρότυπο μεγάλης κλίμακας για το χειρισμό πληροφοριών με τη βοήθεια τεχνητής νοημοσύνης, και μάλιστα ένα υπό στενή παρακολούθηση.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
