Een belangrijke Amerikaanse Senaatscommissie heeft de voorgestelde militaire AI-vangrails een stap dichter bij de wet gebracht, door wetgeving goed te keuren die zou regelen hoe het Pentagon kunstmatige intelligentie en autonome wapensystemen ontwikkelt, test en inzet.
De Senaatscommissie voor Armed Services heeft het nieuwe raamwerk goedgekeurd in haar ontwerp van de National Defense Authorization Act voor het begrotingsjaar 2027, en voltooide de opmaak van het wetsvoorstel op 10 juni. De bepalingen benadrukken het menselijk oordeel en de uiteindelijke menselijke verantwoordelijkheid, terwijl ze grotendeels de omarming van autonome technologieën door het Pentagon onderschrijven, volgens de Arms Control Association, die de details in juli 2026 rapporteerde. Voor meer context over dit verhaal, zie ons laatste AI-ontwikkelingen.
De voorgestelde wetgeving zou van het ministerie van Defensie vereisen dat het ervoor zorgt dat het personeel een passend menselijk oordeel hanteert over het gebruik van AI-wapens, en dat de relevante systemen zo worden ontworpen dat commandanten en operators de uiteindelijke menselijke verantwoordelijkheid behouden over het gebruik van geweld.
Codificatie van menselijk toezicht
Het raamwerk bouwt voort op een principe dat al is vastgelegd in Richtlijn 3000.09 van het Ministerie van Defensie, die de autonomie in wapensystemen regelt, maar een duidelijke definitie ontbeert van wat zinvol menselijk oordeel inhoudt. De nieuwe taal probeert dat principe concreet uit te werken.
Volgens de voorgestelde bepalingen zouden autonome systemen nodig zijn om toezicht door menselijke operators mogelijk te maken, methoden voor interventie of beëindiging te omvatten, fail-safe mechanismen in te bouwen om handmatige controle mogelijk te maken, en adequate monitoringgegevens aan verwerkingsverantwoordelijken te verstrekken. De systemen zouden ook registraties moeten bijhouden van doelselectiegegevens en -logica, en moeten opereren in overeenstemming met het internationaal recht, het recht van gewapende conflicten, toepasselijke verdragen en het beleid van het ministerie van Defensie.
De wetgeving zou het bestaande beoordelingsproces dat is opgelegd door de richtlijn uit 2023 codificeren en tegelijkertijd verificatie-, validatie-, test- en evaluatiecriteria toevoegen. Het kantoor van de directeur Operationele Test en Evaluatie van het Pentagon, waarvan het voorgestelde budget in het huidige begrotingsverzoek met tweederde is verlaagd, zou worden belast met het waarborgen dat de gedekte systemen functioneren zoals verwacht tegen adaptieve tegenstanders.
Een nucleaire rode lijn
Een van de belangrijkste bepalingen zou het gebruik van AI categorisch verbieden bij elke beslissing om de lancering of ontploffing van een kernwapen te initiëren. Die beperking werd in 2023 op tweeledige basis aangevraagd door senator Ed Markey, vertegenwoordiger Ted Lieu, vertegenwoordiger Don Beyer en vertegenwoordiger Ken Buck.
De tekst van de Senaatscommissie bevat echter geen verbod op het gebruik van AI voor het richten van kernwapens, een stap die senator Kirsten Gillibrand uit New York had voorgesteld in een op zichzelf staand wetsvoorstel dat op 2 juni werd ingediend. De weglating benadrukt de grenzen van wat wetgevers bereid waren te beperken, zelfs toen ze de meest extreme autonome capaciteiten aan banden wilden leggen.
De commissie zou ook een opslagplaats voor incidenten opzetten voor het bijhouden van gegevens over systeemstoringen, onbedoeld gedrag en bijna-ongelukken, een maatregel gericht op het verbeteren van de verantwoording naarmate het leger meer AI in zijn operaties integreert.
Een tweeledige stichting
Het raamwerk volgt grotendeels een wetsvoorstel dat op 8 juni is ingediend door de democratische leiders, vertegenwoordigd door hooggeplaatst lid Jack Reed uit Rhode Island en senator Chris Coons uit Delaware, die de hoogste democraat is in de subcommissie defensiekredieten van de Senaat. De tekst, die door de Republikeinse meerderheid werd aanvaard in het basisontwerp van het beleidswetsvoorstel, bevat ook substantiële delen van een voorstel van senator Mark Kelly uit Arizona en vertegenwoordiger Suhas Subramanyam uit Virginia.
Verschillende andere Democratische senatoren hadden in de weken vóór de markup concurrerende voorstellen ingediend, waaronder maatregelen van senator Adam Schiff, senator Elissa Slotkin en senator Kelly. De op het Coons-Reed-wetsvoorstel gebaseerde taal van de Senaatscommissie is minder specifiek in zijn bescherming tegen binnenlands toezicht dan sommige van die alternatieven.
Elders in het wetsontwerp beveelt de commissie aan een commando voor robotica en autonome systemen op te richten dat verantwoordelijk is voor het genereren van troepen, gezamenlijke training, interoperabiliteit, doctrineontwikkeling en operationele werkgelegenheid via andere commando's van strijders.
De impact op oorlogsstrijders wegen
Als weerspiegeling van de zorgen van beide partijen over de effecten van snelle adoptie van AI, bevat een afzonderlijk deel van het ontwerp een wetsvoorstel van senator Kelly en senator Tom Cotton, een Republikein uit Arkansas, dat het Pentagon zou opdragen om te beoordelen hoe het gebruik van AI het onderhoud en het behoud van essentiële oorlogsvaardigheden beïnvloedt.
De vooruitgang komt doordat de Verenigde Staten zich haasten om kunstmatige intelligentie sneller dan tegenstanders in hun leger te integreren, terwijl wetgevers proberen vangrails te creëren die catastrofale mislukkingen voorkomen zonder de inzet ervan te vertragen. Het wetsvoorstel moet nog door de volledige Senaat en het Huis van Afgevaardigden worden gepasseerd voordat het op het bureau van de president terechtkomt, en de bepalingen kunnen tijdens de onderhandelingen tussen de kamers veranderen.
Toch markeert de goedkeuring van de commissie een van de meest concrete stappen tot nu toe door het Congres om bindende wettelijke grenzen te stellen aan de manier waarop het leger autonome systemen gebruikt, en parameters vast te stellen die de toekomst van oorlogvoering de komende jaren kunnen bepalen.
---
Blijf Voorop met AIHet laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.
Lees meer AI-nieuws →
