Według najwyższego organu nadzoru rządu federalnego w biurze Pentagonu, którego zadaniem jest koordynacja odpowiedzialnego i etycznego wykorzystania sztucznej inteligencji, występują znaczne niedobory kadrowe, co utrudnia wdrażanie sztandarowych ram etycznych departamentu w zakresie sztucznej inteligencji, nawet gdy wojsko stara się stać się siłą bojową „najpierw sztuczną inteligencją”.
Niedobory kadrowe w Głównym Biurze ds. Cyfryzacji i Sztucznej Inteligencji uniemożliwiły mu pełne wdrożenie inicjatywy Pentagonu Odpowiedzialna sztuczna inteligencja, stwierdziło Biuro Odpowiedzialności Rządu w raporcie z dnia 14 października i opublikowanym we wtorek przez Stars and Stripes. Odkrycie następuje w momencie, gdy podejmowanie decyzji przez sztuczną inteligencję w obronności przeniosło się z laboratorium na pole bitwy, co daje konkretne konsekwencje luce kadrowej.
Trzy z dziesięciu stanowisk obsadzonych, a wakaty mogą pozostać wolne
Odpowiedzialna sztuczna inteligencja to zintegrowane ramy etyczne Departamentu Obrony regulujące rozwój, wdrażanie i działanie zdolności sztucznej inteligencji zarówno w systemach bojowych, jak i pozabojowych. CDAO jest głównym biurem zajmującym się wdrażaniem i integracją sztucznej inteligencji w departamencie, w tym ramami odpowiedzialnej sztucznej inteligencji, co sprawia, że poziom zatrudnienia w tym departamencie jest bezpośrednią miarą rzeczywistych możliwości funkcji nadzorczej.
GAO ustaliło, że według stanu na luty tylko trzy z 10 autoryzowanych stanowisk w biurze były obsadzone. Urzędnicy obrony powiedzieli organowi nadzorczemu, że pozostałe stanowiska prawdopodobnie nie zostaną obsadzone, co sugeruje, że niedobór nie wynika z tymczasowego opóźnienia w zatrudnieniu, ale ze strukturalnego warunku mandatu nadzorczego urzędu.
Strategia „Najpierw sztuczna inteligencja” przewyższająca własne zabezpieczenia
Ujawnienie informacji o personelu jest niezręcznie powiązane ze strategicznym kierunkiem departamentu. W styczniu sekretarz obrony Pete Hegseth wydał strategię sztucznej inteligencji, która według raportu GAO ponownie położyła nacisk na przyspieszenie integracji i przyjęcia sztucznej inteligencji. W raporcie stwierdza się, że strategia „kładła nacisk na podłoże wojenne i wzywała Departament Obrony do stania się siłą bojową „najpierw sztuczną inteligencję” we wszystkich komponentach”.
Kontrast jest wyraźny: coraz większy mandat dla sztucznej inteligencji w systemach walki, nadzorowany przez biuro pracujące przy 30 procentach autoryzowanych zasobów. Szybki rozwój sztucznej inteligencji stanowi wyzwanie dla organów zarządzających na całym świecie, ponieważ technologia ta przewyższa tradycyjny nadzór legislacyjny i nadzór człowieka, a organ nadzoru Pentagonu dokumentuje obecnie tę lukę wewnątrz największej na świecie biurokracji wojskowej. Więcej raportów na temat zasad i zarządzania sztuczną inteligencją znajdziesz na naszej stronie głównej z wiadomościami o sztucznej inteligencji.
Stawka: celowanie, poręcze i odmowa, które zmieniły politykę
Konsekwencje cienkiego nadzoru nie są hipotetyczne. W zeszłym miesiącu Bloomberg doniósł, a Stars and Stripes powtórzyło, że oprogramowanie obsługujące sztuczną inteligencję wykorzystywane do wybierania celów przyczyniło się do amerykańskiego ataku rakietą Tomahawk na szkołę podstawową 28 lutego, pierwszego dnia wojny w Iranie, w którym zginęło ponad 100 dzieci.
Walki o zarządzanie sztuczną inteligencją w wojsku przyciągnęły także sektor prywatny. W lutym sekretarz obrony Pete Hegseth i prezydent Donald Trump nalegali, aby Anthropic usunęło barierki zabezpieczające z zamówionego przez rząd modelu Claude, które uniemożliwiają wykorzystywanie systemu do w pełni autonomicznej broni i masowej inwigilacji. Kiedy Anthropic odmówił, administracja uznała firmę za stwarzającą zagrożenie dla bezpieczeństwa narodowego i zakazała agencjom rządowym korzystania z Claude – co było sprawą patową, którą AI Buzz Wire rozpatrywała w sądach, w tym w wyroku sądu apelacyjnego podtrzymującego czarną listę.
Co oznacza bieganie na poziomie 30 procent w praktyce
Biuro nadzoru na trzech z dziesięciu autoryzowanych stanowisk nie jest biurokracją z zaległościami – to struktura działająca na ułamku zamierzonych wydajności. Inicjatywa Odpowiedzialna sztuczna inteligencja zależy od tego, czy CDAO przełoży zasady etyczne na procesy przeglądu, których muszą przestrzegać rzeczywiste programy dotyczące broni i komunikacji, a każde nieobsadzone miejsce oznacza pracę, która albo nie zostanie wykonana, albo spadnie na pozostałych pracowników rozłożonych na różnych stanowiskach.
Ponieważ urzędnicy obrony powiedzieli GAO, że wakaty nie zostaną obsadzone, ograniczenie wygląda na trwałe, a nie cykliczne. Programy będą w dalszym ciągu skupiać się na zdolnościach związanych ze sztuczną inteligencją, a praktyczny ciężar stosowania ram etycznych będzie w dalszym ciągu koncentrować się na coraz mniejszej grupie ludzi.
Etyka człowieka jako ostatnia linia obrony
Prawnicy wojskowi argumentują, że luki kadrowe pozostawiają ludzką ocenę jako jedyną znaczącą kontrolę. „Podejmowanie decyzji w wojsku musi opierać się na etyce ludzkiej, a samo nakazanie komputerowi, aby coś wykonał, może być bardzo szybkim sposobem, aby to zrobić, ale może nie być etyczną, moralną ani uzasadnioną metodologią prawną, aby osiągnąć to, co staramy się osiągnąć” – powiedział we wtorek telefonicznie, Sean Timmons, prawnik specjalizujący się w prawie wojskowym w firmie Tully Rinckey, według Stars and Stripes.
Niektórzy liderzy branży sztucznej inteligencji wzywali do spowolnienia tempa rozwoju sztucznej inteligencji, ostrzegając, że utrata kontroli nad autonomicznymi agentami sztucznej inteligencji może stanowić zagrożenie egzystencjalne – ostrzeżenia te mają szczególną wagę w przypadku zastosowania do broni autonomicznej. Odkrycie GAO sugeruje, że obecnie najszybciej rosnący element amerykańskiej potęgi militarnej jest skalowany w stosunku do infrastruktury ludzkiej, która ma nim zarządzać.
---
Wyprzedź sztuczną inteligencjęOtrzymuj najnowsze wiadomości, analizy i przełomowe informacje dotyczące sztucznej inteligencji — wszystko w jednym miejscu.
Przeczytaj więcej aktualności o sztucznej inteligencji →
