Το γραφείο του Πενταγώνου που είναι επιφορτισμένο με τον συντονισμό της υπεύθυνης και ηθικής χρήσης της τεχνητής νοημοσύνης έχει σημαντικά ανεπαρκές προσωπικό, σύμφωνα με τον ανώτατο επόπτη της ομοσπονδιακής κυβέρνησης - ένα έλλειμμα που έχει εμποδίσει το κορυφαίο πλαίσιο ηθικής τεχνητής νοημοσύνης του υπουργείου, ακόμη και όταν ο στρατός πιέζει να γίνει μια πολεμική δύναμη «πρώτα η τεχνητή νοημοσύνη».
Οι ελλείψεις προσωπικού στο Γενικό Γραφείο Ψηφιακής και Τεχνητής Νοημοσύνης το εμπόδισαν να εφαρμόσει πλήρως την πρωτοβουλία Responsible AI του Πενταγώνου, ανέφερε το Κυβερνητικό Γραφείο Λογοδοσίας σε έκθεση με ημερομηνία 14 Οκτωβρίου και αναφέρθηκε την Τρίτη από το Stars and Stripes. Το εύρημα προσγειώνεται σε μια στιγμή που η λήψη αποφάσεων AI για την άμυνα έχει μετακινηθεί από το εργαστήριο στο πεδίο της μάχης, δίνοντας στο κενό προσωπικού συγκεκριμένες συνέπειες.
Συμπληρώθηκαν τρεις από τις δέκα θέσεις και οι κενές θέσεις ενδέχεται να παραμείνουν ανοιχτές
Το Responsible AI είναι το ολοκληρωμένο ηθικό πλαίσιο του Υπουργείου Άμυνας που διέπει την ανάπτυξη, την ανάπτυξη και τη λειτουργία των δυνατοτήτων τεχνητής νοημοσύνης τόσο σε συστήματα μάχης όσο και σε μη μαχητικά συστήματα. Το CDAO είναι το ηγετικό γραφείο για την υιοθέτηση και την ενσωμάτωση της τεχνητής νοημοσύνης από το τμήμα, συμπεριλαμβανομένου του πλαισίου της Υπεύθυνης τεχνητής νοημοσύνης — το οποίο καθιστά το επίπεδο στελέχωσης του ένα άμεσο μέτρο για το πόση ικανότητα έχει στην πραγματικότητα η λειτουργία επίβλεψης.
Ο GAO διαπίστωσε ότι μόνο τρεις από τις 10 εξουσιοδοτημένες θέσεις του γραφείου καλύφθηκαν τον Φεβρουάριο. Αξιωματούχοι της άμυνας είπαν στην επιθεώρηση ότι οι υπόλοιπες θέσεις δεν είναι πιθανό να καλυφθούν, μια παραδοχή που υποδηλώνει ότι το έλλειμμα δεν είναι προσωρινή καθυστέρηση προσλήψεων αλλά μια δομική προϋπόθεση της εντολής εποπτείας του γραφείου.
Μια στρατηγική «Πρώτα AI» που ξεπερνά τις δικές της διασφαλίσεις
Η αποκάλυψη προσωπικού βρίσκεται αδέξια δίπλα στη στρατηγική κατεύθυνση του τμήματος. Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ εξέδωσε μια στρατηγική τεχνητής νοημοσύνης που, σύμφωνα με την έκθεση του GAO, τόνιζε εκ νέου την επιτάχυνση της ενσωμάτωσης και υιοθέτησης της τεχνητής νοημοσύνης. Η στρατηγική, αναφέρει η έκθεση, «έδινε έμφαση σε μια βάση εν καιρώ πολέμου, καλώντας το DOD να γίνει μια πολεμική δύναμη «πρώτα η τεχνητή νοημοσύνη» σε όλα τα στοιχεία».
Η αντίθεση είναι έντονη: μια επιταχυνόμενη εντολή για την τεχνητή νοημοσύνη σε όλα τα συστήματα μάχης, υπό την επίβλεψη ενός γραφείου που λειτουργεί με το 30 τοις εκατό της εξουσιοδοτημένης ισχύος του. Η ταχεία ανάπτυξη της τεχνητής νοημοσύνης έχει αμφισβητήσει τα κυβερνητικά όργανα σε όλο τον κόσμο, καθώς η τεχνολογία ξεπερνά την παραδοσιακή νομοθετική εποπτεία και την ανθρώπινη εποπτεία - και ο φύλακας του Πενταγώνου τώρα τεκμηριώνει αυτό το κενό στη μεγαλύτερη στρατιωτική γραφειοκρατία του κόσμου. Για περισσότερες αναφορές σχετικά με την πολιτική και τη διακυβέρνηση της τεχνητής νοημοσύνης, ανατρέξτε στην αρχική σελίδα ειδήσεων AI.
Τα στοιχήματα: Στόχευση, προστατευτικά κιγκλιδώματα και άρνηση που αναμόρφωσε την πολιτική
Οι συνέπειες της λεπτής επίβλεψης δεν είναι υποθετικές. Το Bloomberg ανέφερε τον περασμένο μήνα και το Stars and Stripes επανέλαβε ότι λογισμικό με δυνατότητα AI που χρησιμοποιείται για την επιλογή στόχων συνέβαλε στην επίθεση των ΗΠΑ σε δημοτικό σχολείο με πύραυλο Tomahawk στις 28 Φεβρουαρίου, την πρώτη ημέρα του πολέμου στο Ιράν, κατά την οποία σκοτώθηκαν περισσότερα από 100 παιδιά.
Οι μάχες διακυβέρνησης της τεχνητής νοημοσύνης του στρατού έχουν προσελκύσει και τον ιδιωτικό τομέα. Τον Φεβρουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ και ο Πρόεδρος Ντόναλντ Τραμπ πίεσαν την Anthropic να αφαιρέσει τα προστατευτικά κιγκλιδώματα στο μοντέλο Claude που είχε συμφωνήσει με την κυβέρνηση που εμποδίζουν τη χρήση του συστήματος για πλήρως αυτόνομα όπλα και μαζική επιτήρηση. Όταν η Anthropic αρνήθηκε, η διοίκηση χαρακτήρισε την εταιρεία ως κίνδυνο εθνικής ασφάλειας και απαγόρευσε στις κυβερνητικές υπηρεσίες να χρησιμοποιούν τον Claude - μια αντιπαράθεση που κάλυπτε το AI Buzz Wire μέσω των δικαστηρίων, συμπεριλαμβανομένης της απόφασης του εφετείου που επικύρωσε τη μαύρη λίστα.
Τι σημαίνει στην πράξη το τρέξιμο στο 30%.
Ένα γραφείο εποπτείας σε τρεις από τις δέκα εξουσιοδοτημένες θέσεις του δεν είναι μια γραφειοκρατία με εκκρεμότητα — είναι ένα πλαίσιο που λειτουργεί σε ένα κλάσμα της προβλεπόμενης ικανότητάς του. Η πρωτοβουλία Responsible AI εξαρτάται από το CDAO για να μεταφράσει τις ηθικές αρχές σε διαδικασίες αναθεώρησης που πρέπει να ακολουθούν τα πραγματικά όπλα και τα προγράμματα επικοινωνίας και κάθε απλήρωτη θέση αντιπροσωπεύει εργασία που είτε ακυρώνεται είτε πέφτει στο υπόλοιπο προσωπικό που εκτείνεται σε χαρτοφυλάκια.
Επειδή οι αξιωματούχοι της Άμυνας είπαν στο GAO ότι οι κενές θέσεις είναι απίθανο να καλυφθούν, ο περιορισμός φαίνεται ανθεκτικός και όχι κυκλικός. Τα προγράμματα θα συνεχίσουν να αναπτύσσουν δυνατότητες τεχνητής νοημοσύνης και το πρακτικό βάρος της εφαρμογής του δεοντολογικού πλαισίου θα συνεχίσει να επικεντρώνεται σε μια ολοένα και μικρότερη ομάδα ανθρώπων.
Η ανθρώπινη ηθική ως η τελευταία γραμμή άμυνας
Στρατιωτικοί δικηγόροι υποστηρίζουν ότι το κενό προσωπικού αφήνει την ανθρώπινη κρίση ως τον μόνο ουσιαστικό έλεγχο. «Η λήψη στρατιωτικών αποφάσεων πρέπει να βασίζεται στην ανθρώπινη ηθική και το να πεις στον υπολογιστή να επιτύχει κάτι μπορεί να είναι ένας πολύ γρήγορος τρόπος για να το κάνεις, αλλά μπορεί να μην είναι μια ηθική, ηθική ή νόμιμη νομική μεθοδολογία για να επιτύχουμε ό,τι προσπαθούμε να συμβεί», δήλωσε ο Sean Timmons, δικηγόρος που ειδικεύεται στο στρατιωτικό δίκαιο στην εταιρεία Starpe by Tully and Rickey.
Ορισμένοι ηγέτες του κλάδου της τεχνητής νοημοσύνης έχουν ζητήσει να επιβραδυνθεί ο ρυθμός προόδου της τεχνητής νοημοσύνης, προειδοποιώντας ότι η απώλεια του ελέγχου των αυτόνομων πρακτόρων τεχνητής νοημοσύνης θα μπορούσε να αποτελέσει υπαρξιακή απειλή - προειδοποιήσεις που έχουν ιδιαίτερο βάρος όταν εφαρμόζονται σε αυτόνομα όπλα. Το εύρημα του GAO υποδηλώνει ότι, προς το παρόν, η ταχύτερα αναπτυσσόμενη συνιστώσα της στρατιωτικής ισχύος των ΗΠΑ κλιμακώνεται μπροστά από την ανθρώπινη υποδομή που προορίζεται να τη διέπει.
---
Μείνετε μπροστά από την τεχνητή νοημοσύνηΛάβετε τα τελευταία νέα, αναλύσεις και ανακαλύψεις AI — όλα σε ένα μέρος.
Διαβάστε περισσότερα νέα AI →
