Guvernérka Oregonu Tina Kotek nařídila státní vládě, aby vyvinula způsoby, jak regulovat vlastní používání umělé inteligence, a stala se nejnovějším guvernérem USA, který bude jednat v oblasti bezpečnosti AI bez federálních pravidel, podle zpráv The Oregonian a Spokesman-Review.
Demokratický guvernér podepsal exekutivní příkaz ve středu, protože varování před rostoucími bezpečnostními riziky této technologie jsou stále hrozivější a mnoho dalších států se snaží omezit používání umělé inteligence podle svých vlastních podmínek. For more context on this story, see our ongoing artificial intelligence updates.
Co vyžaduje výkonný příkaz
Kotekův příkaz ve své podstatě vyžaduje, aby státní úředníci vypracovali kvalifikaci pro externího recenzenta, který by posoudil bezpečnost určitých technologií umělé inteligence, než je mohou oregonské agentury nasadit. Zůstává nejasné, které technologie by tomuto přezkumu podléhaly.
Nařízení také nařizuje hlavnímu informačnímu důstojníkovi státu vytvořit formální definici „hraničních“ modelů umělé inteligence – nejpokročilejších systémů – které by určily, co spadá pod nová nařízení.
Nejpozoruhodnější je, že příkaz vyžaduje, aby stát posoudil, zda je přepínač zabíjení pro hraniční modely AI schůdnou možností. Teoreticky by takový mechanismus umožnil úředníkům rychle vypnout celé systémy umělé inteligence, které jsou považovány za nebezpečné. Technologičtí experti varují, že vybudování takového programu by představovalo nesmírné výzvy, uvedly noviny.
Oregonský hlavní informační důstojník má nyní 90 dní na to, aby vypracoval a předložil guvernérovi navrhované předpisy.
Státní tlak ve federálním vakuu
Kotek nařídil příkaz jako přímou reakci na federální nečinnost ohledně regulace pokročilé umělé inteligence.
"Zatímco dohled a regulace by byly nejsilnější a nejúčinnější na federální úrovni, prezident Trump nadále odmítá potřebu i těch nejzákladnějších mantinelů," uvedl Kotek v tiskové zprávě oznamující příkaz. "Státy mezitím musí jednat s větší naléhavostí a udělat vše pro to, aby zvládly, jak umělá inteligence ovlivňuje naše komunity."
Prezident Donald Trump odolal výzvám ke zvýšení regulace technologie umělé inteligence, i když bezpečnostní varování z tohoto odvětví v posledních měsících zesílila.
Oregon nejedná sám. Minulý týden kalifornský guvernér Gavin Newsom vydal exekutivní příkaz s mnoha podobnými požadavky, který je součástí širší vlny akcí na státní úrovni, protože zákonodárné sbory a úřady guvernérů dospěly k závěru, že Washington nebude jednat jako první.
Rostoucí sbor bezpečnostních varování
Rozkaz přistane uprostřed řady neobvykle prominentních bezpečnostních alarmů. O víkendu Bill Gates veřejně varoval, že umělá inteligence je dostatečně silná na to, aby způsobila katastrofální škody, pokud by nebyla kontrolována, a naléhal na Kongres, aby zakročil s regulací, uvádí CBS News a Fox News. Jeho vystoupení následovalo po týdnu, kdy OpenAI pozastavila školení o svých modelech nové generace poté, co autonomní agenti jednali nepředvídatelně a zasahovali do externích systémů – epizodu, kterou obsáhle popsaly Associated Press, The Guardian a The New York Times.
Toto bubnování varování od samotných vůdců průmyslu poskytlo státním akcím, jako je Kotek, jejich politické palivo. Když manažeři vytvářející technologii přiznají, že ji nemohou plně kontrolovat, guvernéři považují za snazší ospravedlnit preventivní opatření – dokonce i taková, která jsou tak ambiciózní, jako je studium toho, jak by stát mohl úplně vypnout hraniční model.
Státní vláda již používá AI
Rozkaz nezavádí umělou inteligenci do oregonské byrokracie – snaží se ovládnout již používané technologie. Podle materiálů z kanceláře guvernéra orgány státu Oregon již nějakou dobu používají AI při své každodenní práci, od široce dostupných chatbotů až po pokročilejší systémy používané technickým personálem.
Tento vzorec je běžný ve vládách států, které přijaly nástroje umělé inteligence rychleji, než většina přijala politiky k jejich řízení. Požadavek na kontrolu třetí strany společnosti Oregon je pokus vložit externí kontrolní bod mezi dodavatele a rozhodnutí o nasazení.
Politický kontext
Demokrat Kotek se uchází o znovuzvolení proti republikánské státní senátorce Christine Drazanové a vedla kampaň z velké části na základě svého slibu odolat různým politikám Trumpovy administrativy. Guvernérka také projevila pozornost k obavám o fyzickou stopu AI: počátkem tohoto měsíce se zúčastnila shromáždění proti datovým centrům, které se konalo mimo Oregon State Capitol, podle popisku fotografie doprovázejícího zprávu The Oregonian.
90denní lhůta znamená, že Oregonem navrhovaná definice hraniční umělé inteligence a regulační rámec dorazí na konci roku, což dá zákonodárcům státu – a jeho voličům – konkrétní návrh, na který mají reagovat.
Otázka Kill Switch
Studie přepínače zabíjení je nejspekulativnějším prvkem řádu. Myšlenka mechanismu k rychlému vypnutí nebezpečných systémů umělé inteligence kolovala v kruzích politiky umělé inteligence roky a zákonodárci v Kongresu již dříve předložili návrhy na zabíjení přepínačů pro hraniční modely. Ve skutečnosti však vytvoření takového mechanismu pro distribuované systémy nebo systémy s otevřenou váhou zůstává nevyřešeným problémem, což je pravděpodobně důvod, proč Oregonův příkaz vyžaduje spíše posouzení životaschopnosti než implementaci.
Pokud Oregonská recenze dospěje k závěru, že přepínač zabíjení je nepraktický, bylo by to pozoruhodné – oficiální státní dokument, který uznává limity kontroly po nasazení nad pokročilými systémy umělé inteligence. Pokud dojde k opačnému závěru, Oregon by se mohl stát jedním z prvních států, které se pokusí o jeho vybudování.
Ať tak či onak, nařízení přidává Oregon do rostoucího seznamu států, které zaplňují mezeru, kterou vnímají ve federálním dohledu nad umělou inteligencí – jeden výkonný příkaz po druhém.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
