Μια βασική επιτροπή της Γερουσίας των Ηνωμένων Πολιτειών μετέφερε τα προτεινόμενα στρατιωτικά κιγκλιδώματα τεχνητής νοημοσύνης ένα βήμα πιο κοντά στο να γίνουν νόμοι, εγκρίνοντας νομοθεσία που θα ρυθμίζει τον τρόπο με τον οποίο το Πεντάγωνο αναπτύσσει, δοκιμάζει και αναπτύσσει τεχνητή νοημοσύνη και αυτόνομα οπλικά συστήματα.
Η Επιτροπή Ενόπλων Υπηρεσιών της Γερουσίας ενέκρινε το νέο πλαίσιο στο προσχέδιο του νόμου περί Εθνικής Άμυνας για το οικονομικό έτος 2027, ολοκληρώνοντας τη σήμανση του νομοσχεδίου στις 10 Ιουνίου. Οι διατάξεις δίνουν έμφαση στην ανθρώπινη κρίση και στην τελική ανθρώπινη ευθύνη, ενώ υποστηρίζουν σε μεγάλο βαθμό τον εναγκαλισμό του Πενταγώνου στις αυτόνομες τεχνολογίες, σύμφωνα με την Arms Control Association20. For more context on this story, see our ongoing AI industry coverage.
Η προτεινόμενη νομοθεσία θα απαιτούσε από το Υπουργείο Άμυνας να διασφαλίσει ότι το προσωπικό ασκεί κατάλληλα επίπεδα ανθρώπινης κρίσης σχετικά με τη χρήση όπλων με δυνατότητα τεχνητής νοημοσύνης και ότι τα σχετικά συστήματα είναι σχεδιασμένα έτσι ώστε οι διοικητές και οι χειριστές να διατηρούν την τελική ανθρώπινη ευθύνη για τη χρήση βίας.
Κωδικοποίηση της ανθρώπινης εποπτείας
Το πλαίσιο βασίζεται σε μια αρχή που έχει ήδη καθιερωθεί στην Οδηγία 3000.09 του Υπουργείου Άμυνας, η οποία διέπει την αυτονομία στα οπλικά συστήματα, αλλά δεν έχει σαφή ορισμό του τι συνιστά ουσιαστική ανθρώπινη κρίση. Η νέα γλώσσα επιδιώκει να επεξεργαστεί αυτήν την αρχή με συγκεκριμένους όρους.
Σύμφωνα με τις προτεινόμενες διατάξεις, θα απαιτούνται αυτόνομα συστήματα που να επιτρέπουν την επίβλεψη από ανθρώπινους χειριστές, να περιλαμβάνουν μεθόδους παρέμβασης ή τερματισμού, να ενσωματώνουν μηχανισμούς που να επιτρέπουν τον χειροκίνητο έλεγχο και να παρέχουν επαρκή δεδομένα παρακολούθησης στους ελεγκτές. Τα συστήματα θα πρέπει επίσης να διατηρούν αρχεία δεδομένων και λογικής επιλογής στόχων και να λειτουργούν σύμφωνα με το διεθνές δίκαιο, το δίκαιο των ένοπλων συγκρούσεων, τις ισχύουσες συνθήκες και την πολιτική του Υπουργείου Άμυνας.
Η νομοθεσία θα κωδικοποιούσε την υπάρχουσα διαδικασία αναθεώρησης που επιβάλλεται από την οδηγία του 2023, προσθέτοντας ταυτόχρονα κριτήρια επαλήθευσης, επικύρωσης, δοκιμών και αξιολόγησης. Το γραφείο του Διευθυντή, Επιχειρησιακών Δοκιμών και Αξιολόγησης του Πενταγώνου, στο οποίο ο προτεινόμενος προϋπολογισμός περικόπηκε κατά δύο τρίτα στο τρέχον αίτημα προϋπολογισμού, θα είναι επιφορτισμένος με τη διασφάλιση ότι τα καλυπτόμενα συστήματα λειτουργούν όπως αναμενόταν έναντι προσαρμοστικών αντιπάλων.
Μια πυρηνική κόκκινη γραμμή
Μία από τις πιο σημαντικές διατάξεις θα απαγόρευε κατηγορηματικά τη χρήση τεχνητής νοημοσύνης για οποιαδήποτε απόφαση έναρξης εκτόξευσης ή έκρηξης πυρηνικού όπλου. Αυτός ο περιορισμός επεδίωκε σε δικομματική βάση το 2023 ο γερουσιαστής Ed Markey, ο εκπρόσωπος Ted Lieu, ο εκπρόσωπος Don Beyer και ο εκπρόσωπος Ken Buck.
Ωστόσο, το κείμενο της επιτροπής της Γερουσίας δεν περιλαμβάνει απαγόρευση χρήσης τεχνητής νοημοσύνης για τη στόχευση πυρηνικών όπλων, ένα βήμα που είχε προτείνει η γερουσιαστής Kirsten Gillibrand της Νέας Υόρκης σε ένα αυτόνομο νομοσχέδιο που εισήχθη στις 2 Ιουνίου.
Η επιτροπή θα δημιουργήσει επίσης ένα αποθετήριο συμβάντων για την παρακολούθηση δεδομένων για αστοχίες συστήματος, ακούσια συμπεριφορά και παραλίγο γεγονότα, ένα μέτρο που στοχεύει στη βελτίωση της λογοδοσίας καθώς ο στρατός ενσωματώνει περισσότερη τεχνητή νοημοσύνη στις επιχειρήσεις του.
Ένα Δικομματικό Ίδρυμα
Το πλαίσιο παρακολουθεί σε μεγάλο βαθμό ένα νομοσχέδιο που εισήχθη στις 8 Ιουνίου από την ηγεσία των Δημοκρατικών, που εκπροσωπείται από το υψηλόβαθμο μέλος Jack Reed από το Rhode Island και τον γερουσιαστή Chris Coons του Delaware, ο οποίος υπηρετεί ως ο κορυφαίος Δημοκρατικός στην υποεπιτροπή αμυντικών πιστώσεων της Γερουσίας. Το κείμενο, το οποίο έγινε αποδεκτό από τη Ρεπουμπλικανική πλειοψηφία στο βασικό προσχέδιο του νομοσχεδίου πολιτικής, ενσωματώνει επίσης σημαντικά τμήματα πρότασης του γερουσιαστή Mark Kelly της Αριζόνα και του αντιπροσώπου Suhas Subramanyam της Βιρτζίνια.
Αρκετοί άλλοι Δημοκρατικοί γερουσιαστές είχαν εισαγάγει ανταγωνιστικές προτάσεις τις εβδομάδες πριν από τη σήμανση, συμπεριλαμβανομένων μέτρων από τον γερουσιαστή Adam Schiff, τη γερουσιαστή Elissa Slotkin και τη γερουσιαστή Kelly. Η γλώσσα της επιτροπής της Γερουσίας που βασίζεται στο νομοσχέδιο Coons-Reed είναι λιγότερο συγκεκριμένη όσον αφορά την προστασία της έναντι της εγχώριας επιτήρησης από ορισμένες από αυτές τις εναλλακτικές λύσεις.
Σε άλλο σημείο του νομοσχεδίου, η επιτροπή συνιστά τη δημιουργία μιας διοίκησης ρομποτικής και αυτόνομων συστημάτων υπεύθυνη για τη δημιουργία δύναμης, την κοινή εκπαίδευση, τη διαλειτουργικότητα, την ανάπτυξη δόγματος και την επιχειρησιακή απασχόληση μέσω άλλων στρατιωτικών εντολών.
Ζυγίζοντας τον αντίκτυπο στους Warfighters
Αντικατοπτρίζοντας τις δικομματικές ανησυχίες σχετικά με τις επιπτώσεις της ταχείας υιοθέτησης της τεχνητής νοημοσύνης, μια ξεχωριστή ενότητα του σχεδίου ενσωματώνει ένα νομοσχέδιο που προτάθηκε από τη γερουσιαστή Kelly και τον γερουσιαστή Tom Cotton, Ρεπουμπλικανό του Αρκάνσας, που θα δώσει εντολή στο Πεντάγωνο να αξιολογήσει πώς η χρήση της τεχνητής νοημοσύνης επηρεάζει τη διατήρηση και διατήρηση βασικών δεξιοτήτων πολεμιστή.
Οι εξελίξεις έρχονται καθώς οι Ηνωμένες Πολιτείες αγωνίζονται να ενσωματώσουν την τεχνητή νοημοσύνη στον στρατό τους πιο γρήγορα από τους αντιπάλους τους, ενώ οι νομοθέτες προσπαθούν να δημιουργήσουν προστατευτικά κιγκλιδώματα που αποτρέπουν καταστροφικές αποτυχίες χωρίς να επιβραδύνουν την ανάπτυξη. Το νομοσχέδιο πρέπει ακόμα να περάσει από την πλήρη Γερουσία και τη Βουλή πριν φτάσει στο γραφείο του προέδρου και οι διατάξεις θα μπορούσαν να αλλάξουν κατά τη διάρκεια των διαπραγματεύσεων μεταξύ των επιμελητηρίων.
Ωστόσο, η έγκριση της επιτροπής σηματοδοτεί ένα από τα πιο συγκεκριμένα βήματα του Κογκρέσου για να θέσει δεσμευτικά νομικά όρια στον τρόπο με τον οποίο ο στρατός χρησιμοποιεί αυτόνομα συστήματα, θέτοντας παραμέτρους που θα μπορούσαν να διαμορφώσουν το μέλλον του πολέμου για τα επόμενα χρόνια.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
