Ministerstvo obrany vydalo nové pokyny pro smluvní a programový personál, jejichž cílem je zajistit, aby systémy umělé inteligence, které Pentagon kupuje, dodržovaly zásady zadávání zakázek Trumpovy administrativy „hledání pravdy“ a „ideologické neutrality“, uvedla v pondělí Federal News Network.
Směrnice, kterou vydal John Tenaglia, hlavní ředitel Pentagonu pro stanovování cen, uzavírání smluv a akviziční politiku v Pentagonu, je zatím nejkonkrétnějším krokem ministerstva k implementaci agendy prezidenta Donalda Trumpa k „zabránění probuzené AI“ ve federální vládě. For more context on this story, see our ongoing breaking AI news.
Od prováděcího příkazu ke smluvnímu jazyku
Pokyny plynou přímo z exekutivního příkazu, který Trump podepsal v červenci a který vyžaduje, aby federální agentury zajistily, aby velké jazykové modely, které nakupují, byly „neutrálními, nestrannými nástroji, které nemanipulují reakcemi ve prospěch ideologických dogmat, jako je [diverzita, rovnost a inkluze]“. V tomto rozkazu Trump prohlásil, že federální agentury „mají povinnost nepořizovat modely, které obětují pravdivost a přesnost ideologickým agendám“.
Úřad pro řízení a rozpočet později vydal memorandum zabývající se otázkami, které se objevily po vydání exekutivního příkazu. Nový dokument Pentagonu převádí tyto vysoké mandáty do mašinérie získávání obrany: šablony, které provádějí úředníky různými fázemi nákupu systémů umělé inteligence a ověřují, zda dodavatel dodržuje zásady „nezaujaté umělé inteligence“ ministerstva.
Šablony konkrétně zahrnují poznámku, která agenturám pomůže vybrat vhodné požadavky na transparentnost a dokumentaci pro zadávání veřejných zakázek, standardizovaný jazyk žádostí sdělující společnostem, jakou dokumentaci musí poskytnout, aby prokázaly shodu, a formální smluvní jazyk, který lze začlenit do prohlášení o práci nebo pracovního prohlášení o výkonu, podle Federal News Network.
Pokyny, nikoli mandát – prozatím
Tenaglia byl opatrný, aby zarámoval právní váhu dokumentu. Zatímco dodržování základního exekutivního příkazu a memoranda OMB je povinné, nový dokument je zamýšlen „pouze jako vodítko“ a poskytuje „standardizovaný přístup k dokumentaci, získávání a prosazování nezaujatých principů AI,“ napsal.
„Vzhledem k tomu, že zakázky na umělou inteligenci se velmi liší ve složitosti a riziku, komponenty DoD a vyžadující činnosti mají flexibilitu revidovat, přizpůsobovat nebo doplňovat tento jazyk podle potřeby tak, aby vyhovoval specifickým potřebám a kontextu jejich individuálních požadavků,“ napsal Tenaglia v memorandu.
Tato flexibilita se může ukázat jako významná. Měření, zda je model umělé inteligence „nezaujatý“ – a zdokumentování tohoto určení pro soubor smlouvy – je mnohem komplikovanější úkol než kontrola certifikace kybernetické bezpečnosti a prodejci pravděpodobně zatlačí na požadavky na dokumentaci, které se dotýkají návrhu modelu.
Součást většího tlaku na komercializaci obranné AI
Pokyny přicházejí, když ministr obrany Pete Hegseth pokračuje ve svém úsilí o zavedení komerční umělé inteligence do oddělení. Začátkem tohoto roku Pentagon vydal strategii AI zaměřenou na přeměnu oddělení na „AI-first warfighting force“, přičemž Hegseth řekl, že oddělení bude výrazně investovat do výpočetní infrastruktury AI, od datových center až po systémy na taktické hranici.
Zákonodárci postupují paralelně. Poslanec Jimmy Patronis (R-Fla.) se snaží kodifikovat Trumpův výkonný příkaz do zákona. "Prezident a jeho tým vydali chytrý výkonný příkaz, který nařizuje federálním agenturám využívat pouze nástroje umělé inteligence, které mluví pravdu," řekl Patronis a tvrdil, že "příklady za druhým nástrojem umělé inteligence se vymykají z kolejí, protože základní programování se politicky naklání doleva."
Co to znamená pro dodavatele AI
Pro společnosti zabývající se umělou inteligencí – včetně hraničních laboratoří, které se nyní předhánějí ve veřejných nabídkách – pokyny signalizují, že dokumentace ideologické neutrality se de facto stává požadavkem pro americký obranný trh, jeden z nejrychleji rostoucích zákaznických segmentů pro komerční umělou inteligenci. Prodejci, kteří mohou vytvořit auditní záznamy pro školení a chování svých modelů, mohou najít dveře otevřené; těm, kteří nemohou, může být federální zadávání veřejných zakázek stále více uzavřeno.
Praktickým efektem je, že „nezaujatá umělá inteligence“ přechází z politické rétoriky na písemný požadavek ve smlouvách s největšími světovými kupci technologií – a každá další agentura sleduje, jak fungují šablony Pentagonu.
Co budou muset prodejci ve skutečnosti vyrábět
Podle šablon se důkazní břemeno přesouvá na dodavatele. Společnosti, které se ucházejí o zakázky náročné na umělou inteligenci, by musely dodat dokumentaci prokazující, že jejich modely splňují zásady „nezaujaté umělé inteligence“, čímž se vedle bezpečnostních akreditací a atestací dodavatelského řetězce vytvoří nová kategorie akviziční papírování. Zadavatelé zase získají standardizovaný jazyk, který mohou využít k žádostem, aniž by museli sepisovat od nuly, což je podle odborníků na zadávání zakázek obvykle to, co mění politiku v praxi.
Pokyny také přicházejí v době, kdy Pentagon normalizuje komerční chatboty pro své zaměstnance a zavádí vládou vyladěné verze komerčních asistentů umělé inteligence pro obranný personál. Začlenění jazyka ideologické neutrality do těchto smluv rozšiřuje politický standard do systémů používaných pro vše od plánování logistiky po rutinní administrativní práci.
Testovací případ pro zbytek vlády
Ostatní agentury nyní stojí před volbou: přijmout šablony Pentagonu ve velkém, napsat své vlastní nebo počkat, až bude jednat Kongres. Patronisův tlak na kodifikaci exekutivního nařízení by tuto nejednoznačnost vyřešil zákonem – a budoucí administrativa by zvrátila požadavky na neutralitu mnohem obtížnějšími.
Kritici řádu tvrdí, že měření ideologické neutrality v jazykových modelech je vědecky náročné a mohlo by zchladit legitimní chování modelů, včetně přesných popisů sporných témat. Zastánci namítají, že standardy pro zadávání zakázek již běžně ukládají dodavatelům požadavky na obsah a že vývojáři modelů mohou volně prodávat jinde.
Ať tak či onak, směr jízdy je jasný. Největší vládní kupec technologií napsal „nezaujatou AI“ a dodavatelé obrany, kteří doufají, že prodají systémy AI Pentagonu, mají nyní k dispozici nový kontrolní seznam, který musí splnit – ten, který začíná dokumentací a končí případně spory o kontrakty, pokud nasazený model neprojde testem neutrality.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
