Zaměstnanci malého amerického vládního úřadu odpovědného za testování bezpečnosti hraničních modelů umělé inteligence byli nedávno požádáni, aby neformálně informovali kancelář Bílého domu, uvedla v sobotu agentura Associated Press, což vyvolalo nové obavy ohledně nezávislosti nejvyššího hodnotitele bezpečnosti AI v zemi.
Kancelář, Centrum pro pokrok inovací a standardy pro super inteligenci – známé jako CAISSI a sídlící v obchodním oddělení – také podle agentury AP přestala zveřejňovat svůj výzkum. Zpráva přistává uprostřed rostoucího veřejného znepokojení nad řadou příběhů o agentech umělé inteligence, kteří se vymkli kontrole, a popisuje hlídacího psa, který nemá dostatek personálu, nemá vůdce a je stále tišší. For more context on this story, see our ongoing AI news.
Co CAISSI dělá – a co AP našel
CAISSI je pověřena hodnocením bezpečnosti nových nabídek umělé inteligence, než se dostanou na veřejnost, což je mandát, který zahrnuje hodnocení toho, jak dobře hraniční modely odolávají zneužití pro kybernetické útoky a jiné vážné škody. Podle agentury AP byli zaměstnanci centra "nedávno" požádáni, aby se neformálně přihlásili do kanceláře Bílého domu. Tisková agentura citovala dva bývalé vládní úředníky se znalostí diskusí, kteří anonymně hovořili, aby ochránili současné zaměstnance. Bílý dům na konkrétní dotazy ohledně centra nereagoval.
Rozsah operace je skromný. AP uvádí, že CAISSI dostává ročně asi 10 milionů dolarů – tedy zhruba osminu toho, co její protějšek ve Spojeném království, i když se většina hraničních modelů vyrábí ve Spojených státech.
Neformální uspořádání hlášení je pouze posledním narušením centra. AP popisuje vakuum ve vedení táhnoucí se měsíce: ředitel byl přijat v dubnu a během několika dní odvolán, jeho výměna trvala několik měsíců, než rezignoval, a šéf mateřského institutu v současnosti slouží jako úřadující ředitel. V praxi to znamená, že nezávislost centra v současnosti nehájí nikdo se stálým mandátem.
Hlídací pes, který přestal publikovat
Důslednější změnou je podle agentury AP to, co už centrum nedělá. V srpnu se Kongres zeptal, proč CAISSI přestala zveřejňovat zprávy o tom, jak si systémy AI vedou v bezpečnostních testech. Testování před nasazením funguje jako veřejná kontrola tvůrců modelů, pouze pokud jsou jeho výsledky viditelné mimo laboratoř – a prozatím nejsou.
Posun nepřišel z ničeho nic. V říjnu agentura Reuters s odkazem na zprávu The Information odhalila, že administrativa plánuje přesunout tři vysoké úředníky CAISSI do Bílého domu. Představitel Bílého domu tehdy pro The Information řekl, že problémy s koordinací s Commerce ukázaly, že je potřeba přiblížit vedení centra rozhodování AI. Podle této zprávy by se úředníci zodpovídali Michaelu Kratsiosovi, který řídí Úřad pro politiku vědy a technologie, a národnímu řediteli kybernetické bezpečnosti Seanu Cairncrossovi. Ministr obchodu Howard Lutnick je pozval ke společnému řízení centra zhruba před šesti měsíci.
Při společném čtení nové zprávy AP naznačují, že plán přichází do praxe – neformálně a před jakoukoli formální restrukturalizací.
Obavy o nezávislost v obou směrech
Kritici citovaní agenturou AP se obávají, že rozhodnutí týkající se kybernetické bezpečnosti a rizika biologických zbraní by mohla být zpolitizovaná nebo že by zjištění mohla být změkčena tak, aby vyhovovala technologickému průmyslu. Amos Toh z Brennan Center for Justice řekl agentuře AP, že taková rozhodnutí mají pro veřejnost nesmírné důsledky a měla by být veřejně vysvětlována. Caroline Siegel Singh z Federace amerických vědců popsala centra jako CAISSI jako mocné instituce, které mohou drasticky zlepšit životy nebo udělat pravý opak.
Existuje protiargument a AP ho nezavrhuje. Hodnocení schopnosti modelu pomáhat psát malware je otázkou národní bezpečnosti a správa, která chce vidět, kdo vidí tyto výsledky, má obhajitelný případ. Potíž je institucionální: rozhodčí, který odpovídá jednomu ze sponzorů týmu, má špatnou pozici k tomu, aby hru označil za přímočarou, a centrum přestalo zveřejňovat zprávy, které by jinak prokazovaly jeho nezávislost.
Proč je to důležité pro stavitele a kupující
Pro společnosti, které staví na hraničních modelech, není praktické riziko identifikované ve zprávách zákazem – je to nejistota. Zůstanou-li hodnocení tajná a budou využita při kontrolách vývozu a vládních zakázkách, laboratoř by mohla ztratit zakázku nebo trh na základě nálezu, který nikdy neuvidí ani nenapadne. Toto riziko by se bez jakéhokoli varování rozšířilo dodavatelským řetězcem na následné produkty.
Dále stojí za to sledovat dvě věci. První je, zda správa jmenuje stálého ředitele střediska a kdo je vybírá. Druhým je, zda Kongres, který již na centrum tlačil kvůli mlčení o zveřejněných zprávách, přistoupí k zapsání nezávislosti centra do zákona. Dokud se to nestane, americký hraniční bezpečnostní rozhodčí AI pracuje s rozpočtem 10 milionů dolarů, bez stálého vůdce a s hlášením, které vede směrem k Bílému domu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
