En viktig kommitté i USA:s senats har flyttat föreslagna militära AI-skyddsräcken ett steg närmare att bli lag, och godkänner lagstiftning som skulle reglera hur Pentagon utvecklar, testar och distribuerar artificiell intelligens och autonoma vapensystem.
Senatens väpnade tjänstesutskott godkände det nya ramverket i sitt utkast till räkenskapsåret 2027 National Defense Authorization Act, och avslutade markeringen av lagförslaget den 10 juni. Bestämmelserna betonar mänskligt omdöme och yttersta mänskligt ansvar samtidigt som de till stor del stöder Pentagons omfamning av autonom teknologi, enligt Arms Control Association 2026, som rapporterade detaljerna i juli. For more context on this story, see our ongoing AI trends.
Den föreslagna lagstiftningen skulle kräva att försvarsdepartementet säkerställer att personal utövar lämpliga nivåer av mänskligt omdöme över användningen av AI-aktiverade vapen, och att relevanta system är utformade så att befälhavare och operatörer behåller det yttersta mänskliga ansvaret för användningen av våld.
Kodifiering av mänsklig tillsyn
Ramverket bygger på en princip som redan fastställts i försvarsdepartementets direktiv 3000.09, som reglerar autonomi i vapensystem men har saknat en tydlig definition av vad som utgör meningsfullt mänskligt omdöme. Det nya språket försöker utveckla den principen i konkreta termer.
Enligt de föreslagna bestämmelserna skulle autonoma system krävas för att möjliggöra övervakning av mänskliga operatörer, innefatta metoder för ingripande eller uppsägning, införliva felsäkra mekanismer för att möjliggöra manuell kontroll och tillhandahålla adekvata övervakningsdata till registeransvariga. Systemen skulle också behöva föra register över målvalsdata och logik, och fungera i enlighet med internationell lag, lagen om väpnade konflikter, tillämpliga fördrag och försvarsdepartementets policy.
Lagstiftningen skulle kodifiera den befintliga granskningsprocess som föreskrivs av 2023-direktivet och samtidigt lägga till verifierings-, validerings-, test- och utvärderingskriterier. Pentagons kontor för direktören, operativt test och utvärdering, som har fått sin föreslagna budget nedskärning med två tredjedelar i den nuvarande budgetförfrågan, skulle ha i uppdrag att säkerställa att täckta system fungerar som förväntat mot adaptiva motståndare.
En kärnkraftsröd linje
En av de viktigaste bestämmelserna skulle kategoriskt förbjuda användningen av AI för alla beslut att initiera avfyrning eller detonation av ett kärnvapen. Den begränsningen eftersträvades på tvåpartsbasis 2023 av senator Ed Markey, representanten Ted Lieu, representanten Don Beyer och representanten Ken Buck.
Senatskommitténs text innehåller dock inte ett förbud mot att använda AI för att rikta in sig på kärnvapen, ett steg som senator Kirsten Gillibrand från New York hade föreslagit i ett fristående lagförslag som lades fram den 2 juni. Utelämnandet belyser gränserna för vad lagstiftare var villiga att begränsa, även när de flyttade för att begränsa de mest extrema autonoma kapaciteterna.
Kommittén skulle också inrätta ett arkiv för incidenter för att spåra data om systemfel, oavsiktligt beteende och närapåhändelser, en åtgärd som syftar till att förbättra ansvarsskyldigheten när militären integrerar mer AI i sin verksamhet.
En bipartisan stiftelse
Ramverket följer till stor del ett lagförslag som lades fram den 8 juni av demokratiskt ledarskap, representerat av rankade medlemmen Jack Reed från Rhode Island och senator Chris Coons från Delaware, som fungerar som den högsta demokraten i senatens underkommitté för försvarsanslag. Texten, som accepterades av den republikanska majoriteten i grundutkastet till policypropositionen, innehåller också betydande delar av ett förslag från senator Mark Kelly från Arizona och representanten Suhas Subramanyam från Virginia.
Flera andra demokratiska senatorer hade infört konkurrerande förslag under veckorna före uppmärkningen, inklusive åtgärder av senator Adam Schiff, senator Elissa Slotkin och senator Kelly. Senatsutskottets språk baserat på Coons-Reed lagförslaget är mindre specifikt i sina skydd mot inhemsk övervakning än några av dessa alternativ.
På andra ställen i utkastet till lagförslag rekommenderar utskottet att man skapar ett kommando för robotik och autonoma system som ansvarar för kraftgenerering, gemensam utbildning, interoperabilitet, doktrinutveckling och operativ sysselsättning genom andra stridande kommandon.
Väger inverkan på krigsfighters
En separat del av utkastet återspeglar tvåpartiernas oro över effekterna av ett snabbt AI-antagande och innehåller ett lagförslag som lagts fram av senator Kelly och senator Tom Cotton, en republikan från Arkansas, som skulle instruera Pentagon att bedöma hur AI-användning påverkar underhållet och bibehållandet av viktiga krigsfighters färdigheter.
Framstegen kommer när USA tävlar om att integrera artificiell intelligens i sin militär snabbare än motståndare, medan lagstiftare försöker etablera skyddsräcken som förhindrar katastrofala misslyckanden utan att bromsa utplaceringen. Lagförslaget måste fortfarande passera hela senaten och kammaren innan det når presidentens skrivbord, och bestämmelserna kan ändras under förhandlingarna mellan kamrarna.
Ändå markerar kommitténs godkännande ett av de mest konkreta stegen hittills av kongressen för att sätta bindande juridiska gränser för hur militären använder autonoma system, och sätter parametrar som kan forma framtiden för krigföring i många år framöver.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
