Kancelář Pentagonu pověřená koordinací odpovědného a etického využívání umělé inteligence je podle nejvyššího hlídacího psa federální vlády výrazně nedostatečná – což je nedostatek, který brání vlajkové lodi ministerstva etiky AI, i když armáda tlačí na to, aby se stala bojovou silou „AI first“.
Nedostatek zaměstnanců v hlavním úřadu pro digitální a umělou inteligenci mu zabránil v plné implementaci iniciativy Pentagonu Responsible AI, uvedl vládní úřad pro odpovědnost ve zprávě ze 14. října a v úterý o ní informoval Stars and Stripes. Nález přistane ve chvíli, kdy se rozhodování umělé inteligence v obraně přesunulo z laboratoře na bojiště, což dává personální propasti konkrétní důsledky.
Tři z deseti pozic jsou obsazeny a volná místa mohou zůstat otevřená
Responsible AI je integrovaný etický rámec ministerstva obrany, který řídí vývoj, nasazení a provoz schopností AI v bojových i nebojových systémech. CDAO je vedoucí kanceláří pro přijímání a integraci AI oddělením, včetně rámce Responsible AI – díky čemuž je jeho personální úroveň přímým měřítkem toho, jakou kapacitu skutečně má funkce dohledu.
GAO zjistil, že pouze tři z 10 oprávněných míst úřadu byly k únoru obsazeny. Úředníci obrany řekli hlídacímu psovi, že zbývající pozice pravděpodobně nebudou obsazeny, což je přiznání, které naznačuje, že nedostatek není dočasným zpožděním v náboru, ale strukturální podmínkou mandátu úřadu pro dohled.
Strategie „AI na prvním místě“ překonává svá vlastní ochranná opatření
Zveřejnění personálního obsazení je nešikovné vedle strategického směřování oddělení. V lednu vydal ministr obrany Pete Hegseth strategii umělé inteligence, která podle zprávy GAO znovu zdůraznila urychlení integrace a přijetí umělé inteligence. Tato strategie, uvádí zpráva, „zdůrazňuje válečné postavení a vyzývá DOD, aby se stal „AI first“ bojovou silou napříč všemi složkami.“
Kontrast je ostrý: zrychlující mandát pro AI napříč bojovými systémy, pod dohledem kanceláře běžící na 30 procent své autorizované síly. Rychlý vývoj umělé inteligence zpochybnil řídící orgány po celém světě, protože technologie předčila tradiční legislativní dohled a lidský dohled – a vlastní hlídací pes Pentagonu nyní dokumentuje tuto mezeru uvnitř největší světové vojenské byrokracie. Další informace o zásadách a správě AI najdete na naší domovské stránce zpráv o AI.
The Stakes: Cílení, zábradlí a odmítnutí, které změnilo politiku
Důsledky slabého přehlédnutí nejsou hypotetické. Bloomberg minulý měsíc informoval a Stars and Stripes zopakoval, že software s umělou inteligencí používaný pro výběr cílů přispěl k americkému útoku na základní školu raketou Tomahawk 28. února, v první den íránské války, při kterém bylo zabito více než 100 dětí.
Boje armády o vládu AI se stáhly také v soukromém sektoru. V únoru ministr obrany Pete Hegseth a prezident Donald Trump naléhali na společnost Anthropic, aby odstranila bezpečnostní zábradlí ve svém vládou nasmlouvaném modelu Claude, které brání použití systému pro plně autonomní zbraně a hromadné sledování. Když společnost Anthropic odmítla, administrativa označila firmu za riziko pro národní bezpečnost a zakázala vládním agenturám používat Claude – spor, který AI Buzz Wire pokryla prostřednictvím soudů, včetně rozhodnutí odvolacího soudu, který potvrdil černou listinu.
Co znamená běh na 30 procent v praxi
Úřad dohledu na třech ze svých deseti oprávněných míst není byrokracií s nevyřízenými záležitostmi – je to rámec fungující na zlomku své zamýšlené kapacity. Iniciativa Responsible AI závisí na CDAO, aby převedla etické principy do kontrolních procesů, kterými se musí řídit skutečné zbrojní a komunikační programy, a každé neobsazené místo představuje práci, která se buď nedokončí, nebo připadne zbývajícímu personálu napříč portfolii.
Vzhledem k tomu, že představitelé obrany řekli GAO, že volná místa pravděpodobně nebudou obsazena, toto omezení vypadá spíše trvanlivě než cyklicky. Programy se budou i nadále zaměřovat na schopnosti umělé inteligence a praktická zátěž spojená s uplatňováním etického rámce se bude nadále soustřeďovat na stále menší a menší skupinu lidí.
Lidská etika jako poslední linie obrany
Vojenští právníci tvrdí, že personální mezera ponechává lidský úsudek jako jedinou smysluplnou kontrolu. "Vojenské rozhodování musí být založeno na lidské etice a jen říct počítači, aby něčeho dosáhl, může být velmi rychlý způsob, jak toho dosáhnout, ale nemusí to být etická, morální nebo legitimní právní metodologie, jak dosáhnout toho, co se snažíme, aby se stalo," řekl podle Stars a Stripes po telefonu Sean Timmons, právník specializující se na vojenské právo ve firmě Tully Rinckey.
Někteří vůdci odvětví umělé inteligence vyzvali ke zpomalení tempa pokroku v oblasti umělé inteligence a varovali, že ztráta kontroly nad autonomními agenty umělé inteligence by mohla představovat existenční hrozbu – varování, která mají zvláštní váhu při aplikaci na autonomní zbraně. Zjištění GAO naznačuje, že v současnosti je nejrychleji rostoucí složka americké vojenské síly škálována před lidskou infrastrukturou, která ji má řídit.
---
Stay Ahead of AIZískejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.
Přečtěte si další zprávy o AI →
