Mléko a pračky jsou v současné době regulovány více než umělá inteligence, podle prezidenta Microsoftu – a to, jak tvrdí Brad Smith, je přesně obráceně.
V rozhovoru s Big Boss Interview BBC v poznámkách zveřejněných v neděli Smith vyzval ke globálním bezpečnostním pravidlům pro AI, včetně právní povinnosti sdělit „oběti“, když byl jejich systém narušen podvodným agentem AI, a rámce pro rozhodování, kdy by nezávislí hodnotitelé měli podepsat produkt AI před jeho odesláním. Jeho komentáře ho veřejně postavily do rozporu s americkým prezidentem Donaldem Trumpem, který tvrdil, že sektor by se měl regulovat sám, aby americké firmy neztrácely půdu pod nohama vůči čínským rivalům. For more context on this story, see our ongoing latest AI developments.
"Právě teď podléhá vaše pračka více bezpečnostním pravidlům než AI," řekl Smith. "Každý karton mléka, který vidíte v obchodě s potravinami, podléhá bezpečnostním pravidlům a kontrole."
Nástroj a zbraň
Smith popsal AI jako „nástroj i zbraň“, kterou naléhavě potřebuje regulovat, a dodal: „Začněme dnes.“
Jeho návrhy byly konkrétnější než obvyklý regulační vzor. Společnosti by měly vybudovat „nouzové brzdy“ – to, co průmysl často nazývá vypínači – které mohou pozastavit nebo zpomalit systém AI, pokud se vymkne kontrole. Firmy by měly mít ze zákona povinnost psát zprávy o incidentech a informovat oběti, když se AI zkazí. A nezávislí vládní hodnotitelé by měli před vydáním prověřit novou technologii AI.
"Víme, jak to udělat u jiných produktů," řekl Smith. "Měli bychom na těchto znalostech stavět a přemýšlet o tom, jak je aplikovat na AI."
Zásah přistane v horečnatém týdnu pro dohled nad AI. Před několika dny vyzval vlastní generální ředitel Microsoftu, Satya Nadella, k nouzové brzdě, která by lidem umožnila vypnout systémy umělé inteligence uprostřed úkolu – což je pozoruhodná pozice pro šéfa jednoho z největších světových prodejců umělé inteligence, která se nyní zdá být spíše firemní doktrínou než přemýšlením jednoho manažera.
Rozchod s Bílým domem
Smithovy názory se ostře liší od názorů jeho prezidenta. Trump opakovaně řekl, že „kdo vyhraje AI, vyhraje“ – a postavil se proti volání šéfů Anthropic, OpenAI a Google DeepMind, kteří všichni podpořili myšlenku zpomalení vývoje AI.
Přesto Smith také navrhl, že tření je menší, než vypadá. Na konci minulého měsíce Trump hostil vůdce OpenAI, Anthropic, Nvidia, SpaceX, Meta a Google v Bílém domě, kde manažeři podepsali to, co bylo popsáno jako „morálně závazný“ dokument, který je zavazuje spolupracovat s nezávislými auditory, aby posoudili, zda jejich systémy umělé inteligence fungují tak, jak bylo zamýšleno – a nikoli „hackovat nebo přistupovat k technickým systémům nezamýšleným způsobem“.
Smith prohlášení zatleskal a řekl, že Microsoft je „rád to podepíše“. Ale dodal: "Je to dobrý krok, je to nezbytný krok... Ale nemyslím si, že už to nestačí."
Jeho úvaha se zaměřuje na základní problém dobrovolných režimů: "Dobré společnosti udělají, co chcete," řekl. "Jsou to společnosti, které nejsou tak zodpovědné, o které se musíte starat."
Proč si myslí, že Británie by měla napsat pravidla
Geopoliticky nejzatíženější částí rozhovoru byla Smithova podpora Spojeného království jako přirozeného autora globálních pravidel umělé inteligence, poukazující na britský institut pro bezpečnost umělé inteligence – založený za vlády bývalého premiéra Rishi Sunaka jako Institut pro bezpečnost AI – který před vydáním testuje nejvýkonnější modely světa.
"Ve světě technologií, v technologickém sektoru by většina lidí, které znám, řekla, když se jich zeptáte, jmenujte zemi, která je lídrem v této technické schopnosti, řekli by, že je to velmi jednoduché. Je to Spojené království. Jsou nejlepší," řekl Smith.
Argumentoval také tím, že americká vláda by přijala standardy vytvořené ve Spojeném království snadněji než nařízení ve stylu Bruselu: „Ve Washingtonu DC se lidé nedívají na Spojené království a nedívají se na Londýn tak, jako se dívají na Brusel – to je síla.“
Jeho argument naléhavosti byl přímočarý. "Když se podíváte na agenty umělé inteligence, kteří unikli lidské kontrole, když se podíváte na modely, které jsou tak silné, že ohrožují světovou kybernetickou bezpečnost, řekl bych: Nadešel ten okamžik," řekl Smith. "Pojďme mluvit klidně, možná i tiše, ale pevně, a začněme sbližovat lidi. Doufám, že to je role, kterou jako společnost můžeme hrát. Doufám, že takovou roli může hrát Spojené království jako země."
Vzácná rozdělená obrazovka v technických zásadách
Je neobvyklé, že sedící prezident společnosti lobuje za přísnější pravidla ve svém vlastním odvětví, zatímco jeho generální ředitel uvádí stejný případ z jiné fáze. Soubojné zásahy Microsoftu – Nadellova záchranná brzda a Smithova výzva k povinnému hlášení incidentů, oznámení obětí a nezávislého vyhodnocení – signalizují, že alespoň jeden velký dodavatel dospěl k závěru, že závazným omezením pro přijetí AI se stává důvěra, nikoli schopnosti.
Poskytují také vládě Spojeného království včasný argument. Whitehall strávil minulý týden vstřebáváním varování od vlastních šéfů tajných služeb, zatímco ministři zvažovali, zda se připojit k mezinárodní výzvě ke koordinovaným bezpečnostním standardům AI, kterou Washington zatím odmítal podepsat. Když prezident Microsoftu říká, že Spojené království je „nejlepší“ v pozici k sepsání knihy pravidel, Downing Street získá jak potvrzení, tak pozvánku, kterou bude těžké ignorovat.
Zda Smithovo rámování krabic od mléka změní nějaké hlasy ve Washingtonu, je jiná věc. Ale jako prohlášení o tom, kam chce jeden z největších tvůrců AI směřovat regulační debatu – povinné brzdy, povinné hlášení, nezávislé odhlašování – lze rozhovor zapamatovat jako ukazatel posunu od dobrovolných závazků k vymahatelným pravidlům.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
