Το Υπουργείο Άμυνας εξέδωσε νέα καθοδήγηση για το προσωπικό συμβασιούχων και προγραμμάτων που έχει σχεδιαστεί για να διασφαλίσει ότι τα συστήματα τεχνητής νοημοσύνης που αγοράζει το Πεντάγωνο συμμορφώνονται με τις αρχές της «αναζήτησης αλήθειας» και της «ιδεολογικής ουδετερότητας» της κυβέρνησης Τραμπ για τις προμήθειες, ανέφερε τη Δευτέρα το Federal News Network.
Η οδηγία, που εκδόθηκε από τον John Tenaglia, τον κύριο διευθυντή του Πενταγώνου για την τιμολόγηση της άμυνας, τις συμβάσεις και την πολιτική εξαγορών, είναι το πιο συγκεκριμένο βήμα του υπουργείου για την εφαρμογή της ατζέντας του Προέδρου Ντόναλντ Τραμπ για την «αποτροπή της αφύπνισης AI» στην ομοσπονδιακή κυβέρνηση. For more context on this story, see our ongoing breaking AI news.
Από την εκτελεστική εντολή στη γλώσσα σύμβασης
Η καθοδήγηση απορρέει απευθείας από το εκτελεστικό διάταγμα που υπέγραψε ο Τραμπ τον Ιούλιο, το οποίο απαιτεί από τις ομοσπονδιακές υπηρεσίες να διασφαλίσουν ότι τα μεγάλα γλωσσικά μοντέλα που αγοράζουν είναι «ουδέτερα, ακομμάτιστα εργαλεία που δεν χειραγωγούν απαντήσεις υπέρ ιδεολογικών δογμάτων όπως [διαφορετικότητα, ισότητα και συμπερίληψη]». Με αυτή τη σειρά, ο Τραμπ δήλωσε ότι οι ομοσπονδιακές υπηρεσίες «έχουν την υποχρέωση να μην προμηθεύονται μοντέλα που θυσιάζουν την αλήθεια και την ακρίβεια σε ιδεολογικές ατζέντες».
Το Γραφείο Διοίκησης και Προϋπολογισμού εξέδωσε αργότερα ένα σημείωμα που εξετάζει ερωτήματα που προέκυψαν μετά τη δημοσίευση του εκτελεστικού διατάγματος. Το νέο έγγραφο του Πενταγώνου μεταφράζει αυτές τις εντολές υψηλού επιπέδου στον μηχανισμό απόκτησης άμυνας: πρότυπα που καθοδηγούν τους αξιωματούχους σε διάφορα στάδια αγοράς συστημάτων τεχνητής νοημοσύνης και επαλήθευση της συμμόρφωσης του εργολάβου με τις αρχές της «αμερόληπτης τεχνητής νοημοσύνης» του υπουργείου.
Συγκεκριμένα, τα πρότυπα περιλαμβάνουν ένα σημείωμα για να βοηθήσουν τις εταιρείες να επιλέξουν τις κατάλληλες απαιτήσεις διαφάνειας και τεκμηρίωσης για μια προμήθεια, τυποποιημένη γλώσσα πρόσκλησης που λέει στις εταιρείες ποια τεκμηρίωση πρέπει να παρέχουν για να αποδείξουν τη συμμόρφωση και επίσημη γλώσσα σύμβασης που μπορεί να ενσωματωθεί σε δήλωση εργασίας ή απόδοσης, σύμφωνα με το Federal News Network.
Καθοδήγηση, όχι εντολή — Προς το παρόν
Η Tenaglia φρόντισε να πλαισιώσει το νομικό βάρος του εγγράφου. Ενώ η συμμόρφωση με το υποκείμενο εκτελεστικό διάταγμα και το υπόμνημα της OMB είναι υποχρεωτική, το νέο έγγραφο προορίζεται «μόνο ως καθοδήγηση», παρέχοντας «μια τυποποιημένη προσέγγιση για την τεκμηρίωση, την αναζήτηση και την επιβολή των αμερόληπτων αρχών της τεχνητής νοημοσύνης», έγραψε.
«Αναγνωρίζοντας ότι οι προμήθειες τεχνητής νοημοσύνης ποικίλλουν ευρέως ως προς την πολυπλοκότητα και τον κίνδυνο, τα στοιχεία του Υπουργείου Ανάπτυξης και οι απαιτούμενες δραστηριότητες έχουν την ευελιξία να αναθεωρήσουν, να προσαρμόσουν ή να συμπληρώσουν αυτή τη γλώσσα όπως απαιτείται για να ταιριάζει στις συγκεκριμένες ανάγκες και το πλαίσιο των ατομικών τους απαιτήσεων», έγραψε η Tenaglia στο σημείωμα.
Αυτή η ευελιξία μπορεί να αποδειχθεί συνεπής. Η μέτρηση του εάν ένα μοντέλο τεχνητής νοημοσύνης είναι "αμερόληπτο" - και η τεκμηρίωση αυτής της αποφασιστικότητας για ένα αρχείο σύμβασης - είναι πολύ πιο βρώμικο έργο από τον έλεγχο μιας πιστοποίησης κυβερνοασφάλειας και οι πωλητές είναι πιθανό να απωθήσουν τις απαιτήσεις τεκμηρίωσης που αγγίζουν το σχεδιασμό μοντέλων.
Μέρος μιας μεγαλύτερης ώθησης για την εμπορευματοποίηση του Defense AI
Η καθοδήγηση φτάνει καθώς ο υπουργός Άμυνας Πιτ Χέγκσεθ συνεχίζει την ώθησή του να φέρει την εμπορική τεχνητή νοημοσύνη στο τμήμα. Νωρίτερα αυτό το έτος, το Πεντάγωνο εξέδωσε μια στρατηγική τεχνητής νοημοσύνης με στόχο να μετατρέψει το τμήμα σε μια «πρώτη πολεμική δύναμη της τεχνητής νοημοσύνης», με τον Χέγκσεθ να λέει ότι το υπουργείο θα επενδύσει πολλά στην υπολογιστική υποδομή τεχνητής νοημοσύνης, από κέντρα δεδομένων έως συστήματα τακτικής αιχμής.
Οι νομοθέτες κινούνται παράλληλα. Ο βουλευτής Jimmy Patronis (R-Fla.) προσπαθεί να κωδικοποιήσει το εκτελεστικό διάταγμα του Τραμπ σε νόμο. «Ο πρόεδρος και η ομάδα του εξέδωσαν ένα έξυπνο εκτελεστικό διάταγμα που δίνει εντολή στις ομοσπονδιακές υπηρεσίες να αξιοποιούν μόνο εργαλεία τεχνητής νοημοσύνης που λένε την αλήθεια», είπε ο Patronis, υποστηρίζοντας ότι υπάρχουν «παραδείγματα εργαλείων τεχνητής νοημοσύνης που βγαίνουν από τις ράγες επειδή ο θεμελιώδης προγραμματισμός γέρνει πολιτικά αριστερά».
Τι σημαίνει για προμηθευτές τεχνητής νοημοσύνης
Για τις εταιρείες τεχνητής νοημοσύνης - συμπεριλαμβανομένων των συνοριακών εργαστηρίων που τρέχουν τώρα προς τις δημόσιες προσφορές - η καθοδήγηση σηματοδοτεί ότι η τεκμηρίωση ιδεολογικής ουδετερότητας γίνεται de facto απαίτηση για την αμυντική αγορά των ΗΠΑ, ένα από τα ταχύτερα αναπτυσσόμενα τμήματα πελατών για εμπορική τεχνητή νοημοσύνη. Οι πωλητές που μπορούν να δημιουργήσουν ίχνη ελέγχου για την εκπαίδευση και τη συμπεριφορά των μοντέλων τους μπορεί να βρουν την πόρτα ανοιχτή. εκείνα που δεν μπορούν να βρουν τις ομοσπονδιακές προμήθειες όλο και πιο κλειστές.
Το πρακτικό αποτέλεσμα είναι ότι η "αμερόληπτη τεχνητή νοημοσύνη" βαθμολογείται από την πολιτική ρητορική σε μια γραπτή απαίτηση στα συμβόλαια των μεγαλύτερων αγοραστών τεχνολογίας στον κόσμο — και κάθε άλλη υπηρεσία παρακολουθεί την απόδοση των προτύπων του Πενταγώνου.
Τι θα πρέπει πραγματικά να παράγουν οι πωλητές
Κάτω από τα πρότυπα, το βάρος της απόδειξης μετατοπίζεται στον πωλητή. Οι εταιρείες που υποβάλλουν προσφορές για συμβόλαια βαριάς τεχνητής νοημοσύνης θα πρέπει να παρέχουν τεκμηρίωση που να αποδεικνύει ότι τα μοντέλα τους συμμορφώνονται με τις αρχές της «αμερόληπτης τεχνητής νοημοσύνης» — δημιουργώντας ουσιαστικά μια νέα κατηγορία γραφειοκρατίας απόκτησης μαζί με διαπιστεύσεις ασφαλείας και βεβαιώσεις εφοδιαστικής αλυσίδας. Οι συμβασιούχοι αξιωματούχοι, με τη σειρά τους, λαμβάνουν τυποποιημένη γλώσσα, την οποία μπορούν να βάλουν σε προσκλήσεις χωρίς να συντάξουν από την αρχή, κάτι που λένε οι ειδικοί σε θέματα προμηθειών συνήθως αυτό που κάνει την πολιτική πράξη.
Η καθοδήγηση έρχεται επίσης καθώς το Πεντάγωνο εξομαλύνει τα εμπορικά chatbot για το εργατικό του δυναμικό, έχοντας κυκλοφορήσει εκδόσεις εμπορικών βοηθών τεχνητής νοημοσύνης για το αμυντικό προσωπικό που έχουν συντονιστεί από την κυβέρνηση. Η ενσωμάτωση της γλώσσας ιδεολογικής ουδετερότητας σε αυτές τις συμβάσεις επεκτείνει ένα πολιτικό πρότυπο σε συστήματα που χρησιμοποιούνται για τα πάντα, από τον προγραμματισμό επιμελητείας έως τις συνήθεις διοικητικές εργασίες.
Μια δοκιμαστική υπόθεση για την υπόλοιπη κυβέρνηση
Άλλες υπηρεσίες αντιμετωπίζουν τώρα μια επιλογή: να υιοθετήσουν χονδρικά τα πρότυπα του Πενταγώνου, να γράψουν τα δικά τους ή να περιμένουν να ενεργήσει το Κογκρέσο. Η ώθηση του Πατρώνη να κωδικοποιήσει το εκτελεστικό διάταγμα θα έλυνε αυτή την ασάφεια με καταστατικό - και θα καθιστούσε πολύ πιο δύσκολο να ανατρέψει τις απαιτήσεις ουδετερότητας για μια μελλοντική διοίκηση.
Οι επικριτές του τάγματος υποστηρίζουν ότι η μέτρηση της ιδεολογικής ουδετερότητας στα γλωσσικά μοντέλα είναι επιστημονικά γεμάτη και θα μπορούσε να παγώσει τη νόμιμη συμπεριφορά του μοντέλου, συμπεριλαμβανομένων των ακριβών περιγραφών των αμφισβητούμενων θεμάτων. Οι υποστηρικτές αντιτίθενται στο ότι τα πρότυπα προμηθειών επιβάλλουν ήδη τακτικά απαιτήσεις περιεχομένου στους προμηθευτές και ότι οι προγραμματιστές μοντέλων παραμένουν ελεύθεροι να πωλούν αλλού.
Σε κάθε περίπτωση, η κατεύθυνση του ταξιδιού είναι ξεκάθαρη. Ο μεγαλύτερος αγοραστής τεχνολογίας της κυβέρνησης υπέβαλε γραπτώς την "αμερόληπτη τεχνητή νοημοσύνη" και οι αμυντικοί εργολάβοι που ελπίζουν να πουλήσουν συστήματα τεχνητής νοημοσύνης στο Πεντάγωνο έχουν τώρα μια νέα λίστα ελέγχου για να ικανοποιήσουν - αυτή που ξεκινά με τεκμηρίωση και καταλήγει, ενδεχομένως, σε διαφωνίες για συμβόλαια, εάν ένα αναπτυγμένο μοντέλο αποτύχει στο τεστ ουδετερότητας.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
