Národní bezpečnostní agentura letos utrácí miliardy dolarů na testování pokročilých modelů umělé inteligence, přičemž většinu nákladů řídí výpočetní výkon, podle tajných odhadů popsaných Kongresu.

The Washington Sun uvedl tato čísla s odkazem na dva zdroje obeznámené s tajnými odhady. Zveřejnění vyostřilo debatu na Capitol Hill o tom, kdo by měl platit za dohled nad stále schopnějšími systémy umělé inteligence – a jak drahé je seriózní vládní prověřování.

Pro průběžné pokrytí dohledu a regulace AI se podívejte na nejnovější [zprávy o zásadách AI] (https://aibuzzwire.news).

Počítání je největší účet

Podle jednoho ze zdrojů citovaných deníkem The Washington Sun je výpočetní výkon jediným největším nákladem v provozu NSA na testování umělé inteligence. Personální náklady se k celkovému přidávají, protože agentura musí soutěžit s platovými balíčky, které nabízejí hraniční laboratoře umělé inteligence, o malou skupinu odborníků schopných vyhodnotit špičkové modely.

Uvedené částky přitahují pozornost, protože dřívější veřejné odhady vládního dohledu AI byly dramaticky nižší. Rozpočtový úřad Kongresu stanovil náklady na dvoustranný návrh zákona na vytvoření centra pro rizika AI na zhruba 20 milionů dolarů ročně. Zákonodárci nyní očekávají, že úplný dohled nad umělou inteligencí by podle zdrojů mohl stát desítky miliard dolarů ročně.

Proč testování Frontier Models stojí tolik

Ekonomika testování AI odráží ekonomiku používání AI ve velkém. Spotřebitelské předplatné produktů AI je silně dotováno: analytická společnost SemiAnalysis odhaduje, že maximální předplatné ChatGPT Pro s maximální hodnotou 200 USD za měsíc má hodnotu až 14 000 USD za ceníkové ceny API, zatímco plán Claude Max společnosti Anthropic s podobnou cenou má hodnotu až zhruba 8 000 USD.

Firemní a vládní zákazníci naopak platí blíže skutečným nákladům. OpenAI přesunula nové podnikové smlouvy na fakturaci založenou na tokenech a ve společnosti Anthropic odhadem 75 až 85 procent příjmů pochází ze smluv založených na použití podle SemiAnalysis. Agentní pracovní postupy – přesně ten druh autonomních testerů chování, které potřebují testery bezpečnosti nejvíce zkoumat – mohou spotřebovat až tisíckrát více tokenů než standardní chatovací konverzace.

Poskytovatelé experimentují se způsoby, jak tyto náklady u velkých zákazníků zkrotit. Podle The Information nyní OpenAI umožňuje některým velkým klientům platit pouze za dokončené úkoly namísto nezpracovaných tokenů a představila GPT-6 Sol a Luna, dva modely s cenou za polovinu obvyklé sazby API. Tyto slevy se však nevztahují na nejvýkonnější hraniční systémy, jejichž provoz je stále nejnákladnější – a poskytovatelé stále více omezují své nejschopnější modely za uzavřené programy kybernetické bezpečnosti, což přidává další vrstvu nákladů a složitosti pro každého externího hodnotitele.

Výdajové tlaky běží oběma směry. Financial Times oznámily, že OpenAI plánuje do roku 2030 utratit zhruba 856 miliard dolarů za výpočetní výkon, zatímco Anthropic se připravuje na IPO očekávané nejpozději v listopadu. SemiAnalysis odhaduje, že hrubá marže na API společnosti Anthropic přesahuje 80 procent – ​​marže, které pomáhají financovat závody v oblasti hraničního vývoje, které se NSA nyní snaží nezávisle vyhodnotit.

Kdo platí za dohled?

Otázka financování se již rozdělila na konkurenční návrhy. Nat Purser z AI Verification and Evaluation Research Institute navrhl poplatek pro vývojáře AI, který by pomohl financovat nezávislé vládní testování – přístup, který by formalizoval to, co průmysl již dobrovolně dělá.

Pozoruhodné je, že The Washington Sun uvedl, že Anthropic a OpenAI naznačily, že by mohly být ochotny zaplatit za rozšířený vládní dohled. Tento postoj je v souladu s veřejnou podporou obou společností pro hodnocení bezpečnosti třetí stranou a náklady by se rozložily napříč odvětvím, spíše než aby se soustředily do federálního rozpočtu.

Krajina širšího dohledu

Odhalení výdajů NSA přistává uprostřed širší restrukturalizace toho, jak americká vláda hodnotí systémy AI. Agentura již dříve prosazovala dobrovolné testování přístupu ke komerčním modelům a národní bezpečnostní agentury se staly stále důležitějšími pro politiku AI s tím, jak hraniční systémy získávají kybernetické a biologické schopnosti, které se regulační orgány snaží nezávisle posoudit.

Cenovka také ilustruje nepříjemnou realitu pro tvůrce politik: náklady na smysluplný dohled se mění s náklady na systémy, které jsou prověřovány. Rozpočet vybudovaný na hodnocení 20 milionů dolarů ročně je špatně vybavený pro modely, jejichž školení a hodnocení stojí každý stovky milionů dolarů.

Zatímco Kongres zvažuje opětovnou autorizaci programů pro dohled nad umělou inteligencí, utajované odhady poskytují zákonodárcům konkrétní – a střízlivé – údaje o tom, co seriózní hodnocení ve skutečnosti stojí.

Udržujte si náskok před AI

Vládní výdaje na dohled nad umělou inteligencí se mají stát jedním z určujících politických bojů nadcházejícího roku. Chcete-li získat další nejnovější zprávy o AI, od regulace až po uvedení hraničních modelů, sledujte AI Buzz Wire.

Přečtěte si další zprávy o AI →