Departament Obrony wydał nowe wytyczne dla personelu kontraktowego i programowego, których celem jest zapewnienie, że systemy sztucznej inteligencji kupowane przez Pentagon będą zgodne z zasadami zamówień publicznych administracji Trumpa dotyczącymi „poszukiwania prawdy” i „neutralności ideologicznej”, podała w poniedziałek Federal News Network.

Dyrektywa wydana przez Johna Tenaglię, głównego dyrektora Pentagonu ds. cen, kontraktów i polityki przejęć w dziedzinie obronności, jest najbardziej konkretnym krokiem departamentu w kierunku wdrożenia programu prezydenta Donalda Trumpa mającego na celu „zapobieganie przebudzeniu sztucznej inteligencji” w rządzie federalnym. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

Od zarządzenia wykonawczego do języka umowy

Wytyczne wynikają bezpośrednio z dekretu wykonawczego podpisanego przez Trumpa w lipcu, który nakłada na agencje federalne obowiązek zapewnienia, że kupowane przez nie duże modele językowe stanowią „neutralne, bezstronne narzędzia, które nie manipulują odpowiedziami na rzecz ideologicznych dogmatów, takich jak [różnorodność, równość i włączenie społeczne]”. W tej kolejności Trump oświadczył, że agencje federalne „mają obowiązek nie nabywać modeli, które poświęcają prawdomówność i dokładność na rzecz celów ideologicznych”.

Biuro Zarządzania i Budżetu wydało później notatkę zawierającą odpowiedzi na pytania, które pojawiły się po wydaniu zarządzenia. Nowy dokument Pentagonu przekłada te mandaty wysokiego szczebla na machinę przejmowania sektora obronnego: szablony, które przeprowadzają urzędników przez różne etapy zakupu systemów sztucznej inteligencji i weryfikują, czy wykonawca przestrzega zasad departamentu dotyczących „bezstronnej sztucznej inteligencji”.

W szczególności szablony obejmują notatkę pomagającą agencjom w wyborze odpowiednich wymogów w zakresie przejrzystości i dokumentacji dotyczących zamówienia, ujednolicony język pozyskiwania informujący firmy, jaką dokumentację muszą przedstawić, aby wykazać zgodność, oraz formalny język umowy, który według Federal News Network można włączyć do oświadczenia o wykonywaniu pracy lub oświadczeniu o wynikach.

Wytyczne, a nie mandat — na razie

Tenaglia starannie określił wagę prawną dokumentu. Chociaż zgodność z leżącym u jego podstaw rozporządzeniem wykonawczym i notatką OMB jest obowiązkowa, nowy dokument ma „wyłącznie służyć jako wytyczne” i zapewniać „standaryzowane podejście do dokumentowania, pozyskiwania i egzekwowania bezstronnych zasad sztucznej inteligencji” – napisał.

„Uznając, że zamówienia na sztuczną inteligencję różnią się znacznie pod względem złożoności i ryzyka, komponenty Departamentu Obrony i wymagające działania mają możliwość elastycznego przeglądu, dostosowania lub uzupełnienia tego języka, jeśli jest to konieczne, aby pasował do konkretnych potrzeb i kontekstu ich indywidualnych wymagań” – napisał Tenaglia w notatce.

Ta elastyczność może okazać się istotna. Zmierzenie, czy model sztucznej inteligencji jest „bezstronny” – i udokumentowanie tego ustalenia w aktach umowy – jest zadaniem o wiele bardziej chaotycznym niż sprawdzenie certyfikatu cyberbezpieczeństwa, a dostawcy prawdopodobnie będą odsuwać się od wymagań dotyczących dokumentacji, które dotyczą projektu modelu.

Część większego wysiłku mającego na celu komercjalizację sztucznej inteligencji w dziedzinie obronności

Wytyczne pojawiają się, gdy Sekretarz Obrony Pete Hegseth kontynuuje wysiłki na rzecz wprowadzenia komercyjnej sztucznej inteligencji do departamentu. Na początku tego roku Pentagon wydał strategię dotyczącą sztucznej inteligencji, mającą na celu przekształcenie departamentu w „siłę bojową stawiającą przede wszystkim na sztuczną inteligencję”, a Hegseth powiedział, że departament będzie intensywnie inwestować w infrastrukturę obliczeniową sztucznej inteligencji, od centrów danych po systemy na krawędzi taktycznej.

Ustawodawcy działają równolegle. Rep. Jimmy Patronis (Fla.) chce skodyfikować zarządzenie Trumpa w prawie. „Prezydent i jego zespół wydali mądre zarządzenie, które nakazuje agencjom federalnym wykorzystywanie wyłącznie narzędzi sztucznej inteligencji, które mówią prawdę” – powiedział Patronis, argumentując, że istnieją „przykłady za przykładami, w których narzędzia sztucznej inteligencji psują się, ponieważ podstawowe programowanie skłania się politycznie w lewo”.

Co to oznacza dla dostawców sztucznej inteligencji

Dla firm zajmujących się sztuczną inteligencją – w tym pionierskich laboratoriów ścigających się obecnie w kierunku ofert publicznych – wytyczne sygnalizują, że dokumentacja dotycząca neutralności ideologicznej staje się de facto wymogiem na amerykańskim rynku obronnym, jednym z najszybciej rozwijających się segmentów klientów komercyjnej sztucznej inteligencji. Dostawcy, którzy mogą stworzyć ścieżki audytu dotyczące szkolenia i zachowań swoich modeli, mogą odkryć, że drzwi są otwarte; dla tych, którzy nie mogą, zamówienia federalne mogą być coraz bardziej zamykane.

Praktyczny efekt jest taki, że „bezstronna sztuczna inteligencja” przechodzi od retoryki politycznej do pisemnego wymogu w umowach z największymi nabywcami technologii na świecie – a każda inna agencja obserwuje, jak działają szablony Pentagonu.

Co dostawcy będą faktycznie musieli produkować

Zgodnie z szablonami ciężar dowodu przesuwa się na sprzedawcę. Firmy ubiegające się o kontrakty oparte na sztucznej inteligencji musiałyby dostarczyć dokumentację wykazującą, że ich modele są zgodne z zasadami „bezstronnej sztucznej inteligencji”, co w efekcie doprowadziłoby do stworzenia nowej kategorii dokumentów związanych z przejęciem, obok akredytacji bezpieczeństwa i certyfikatów łańcucha dostaw. Z kolei urzędnicy kontraktowi otrzymują ujednolicony język, dzięki któremu mogą wypowiadać się na temat ofert bez konieczności pisania od zera, co według ekspertów ds. zamówień publicznych zwykle przekłada się na praktykę polityki.

Wytyczne pojawiają się również w momencie, gdy Pentagon normalizuje komercyjne chatboty dla swoich pracowników po wdrożeniu dostosowanych przez rząd wersji komercyjnych asystentów AI dla personelu obrony. Osadzanie w tych umowach języka neutralności ideologicznej rozszerza standardy polityczne na systemy używane we wszystkim, od planowania logistycznego po rutynowe prace administracyjne.

Sprawa testowa dla reszty rządu

Inne agencje stoją teraz przed wyborem: przyjąć hurtowo szablony Pentagonu, napisać własne lub poczekać, aż Kongres podejmie działania. Nacisk Patronisa na skodyfikowanie zarządzenia wykonawczego rozwiązałby tę dwuznaczność w drodze ustawy i znacznie utrudniłby przyszłej administracji odwrócenie wymogów neutralności.

Krytycy nakazu argumentują, że mierzenie neutralności ideologicznej w modelach językowych jest najeżone naukowo i może osłabić uzasadnione zachowania modelowe, w tym dokładne opisy spornych tematów. Zwolennicy twierdzą, że standardy zamówień już rutynowo nakładają na dostawców wymagania dotyczące treści, a twórcy modeli mogą swobodnie sprzedawać gdzie indziej.

Tak czy inaczej, kierunek podróży jest jasny. Największy rządowy nabywca technologii spisał „bezstronną sztuczną inteligencję”, a wykonawcy z branży obronnej, którzy chcą sprzedać systemy sztucznej inteligencji Pentagonowi, mają teraz do spełnienia nową listę kontrolną – zaczynającą się od dokumentacji i potencjalnie kończącą się sporami kontraktowymi, jeśli wdrożony model nie przejdzie testu neutralności.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →