Americká federace učitelů, United Federation of Teachers a Microsoft ve středu oznámily „National AI Safety & Privacy Standard“ zavádějící právně vymahatelnou ochranu pro studenty, rodiny a pedagogy – první dohodu svého druhu vyjednanou během několika měsíců v období, které odbory nazývají vakuem federálních a státních pravidel AI pro školy.

Dohodu v New Yorku odhalili prezidentka AFT Randi Weingarten, prezident UFT Michael Mulgrew a místopředseda Microsoftu a prezident Brad Smith. Přichází po nově přijatých obrazovkách a zákazu umělé inteligence New York City Public Schools a je navržena tak, aby byla začleněna přímo do zákaznických smluv školních čtvrtí se společností Microsoft – díky čemuž jsou ochrany smluvně vymahatelné spíše než aspirační závazky. Další kontext k tomuto příběhu naleznete v našem probíhajícím pokrytí zásad AI.

Co smlouva vyžaduje

Ve svém jádru standard mění sdílené principy na vymahatelnou ochranu zaměřenou na tři priority.

Ochrana soukromí: Data studentů a pedagogů nebudou použita k trénování modelů umělé inteligence, nebudou prodána ani přeměněna a studenty nebude možné nikdy sledovat. Školy mají kontrolu nad tím, jak jsou data používána, uchovávána a mazána. Posílení bezpečnosti: Systémy umělé inteligence musí být navrženy tak, aby se vyhnuly škodlivým nebo manipulativním zkušenostem, chránily citlivé informace a splňovaly přísné standardy pro zabezpečení, odpovědnost a odpovědné používání – s nezbytným lidským dohledem, než rozhodnutí řízená umělou inteligencí vstoupí v platnost. Poskytování transparentnosti a kontroly: Rodiny dostávají jasné a dostupné informace o tom, jak se umělá inteligence používá ve třídách, jaká data se shromažďují a jaké ochrany jsou zavedeny. Společnosti musí jasně komunikovat o změnách produktů, rizicích a kontrolách. Zásadní je, že okresy, které přijmou standard, mohou ukončit dohody a požadovat náhradu škody od společností, které pravidla poruší, čímž se to, co bylo historicky jemným politickým jazykem, stalo smluvním závazkem se skutečnými důsledky.

"Udělali jsme tvrdě vybojovanou, železem oděnou smlouvu o soukromí se skutečnými zuby, která chrání studenty a rodiny, protože nikdo jiný, včetně federální vlády, nepřistoupil k tomu, aby vykonal skutečnou práci," uvedl Weingarten v prohlášení. "Cokoli menšího než právně vymahatelná ustanovení je prostě seznam přání."

Mulgrew, jejíž UFT zastupuje 200 000 pedagogů z New Yorku, uvedl, že dohoda „umožňuje školním obvodům ukončit dohody a požadovat náhradu škody od špatných herců, kteří porušují pravidla“.

Smith ze společnosti Microsoft zarámoval dohodu spíše jako šablonu než jednorázovou: „Tento standard nastavuje vysokou laťku pro soukromí dětí a bezpečnost AI a tuto dohodu rozšíříme na každou školní čtvrť po celé zemi.“

Stavíme na vlně státní a místní akce

Dohoda omezuje měsíce eskalující aktivity odborů na obrazovkách, AI a studentských datech. V květnovém projevu nazvaném „Devices Down, Eyes Up, Hands-On“ Weingarten vyzval k úplnému zákazu obrazovky od mateřské školy až do druhé třídy, zákazu umělé inteligence pro studenty na základní škole a zákazu chatbotů pro sociální partnery pro studenty mladší 16 let.

Podobný rámec byl od té doby přijat Los Angeles Unified School District, New York State United Teachers a – právě minulý týden – New York City Public Schools, což dalo novému národnímu standardu řadu velkých, hotových osvojitelů.

AFT se k této pozici již nějakou dobu stavěla: její „Guardy zdravého rozumu pro používání pokročilých technologií ve školách“ z roku 2024 stanovily devět základních principů pro ochranu studentů a unie loni spustila Národní akademii pro výuku umělé inteligence, která má školit pedagogy v používání a zneužívání nástrojů umělé inteligence.

Proč na tom záleží

Dohoda je řešením regulační mezery. Stávající zákony na ochranu soukromí dětí, jako jsou FERPA a HIPAA, byly napsány dříve, než existovala generativní umělá inteligence. „HIPAA a FERPA si nikdy nepředstavovaly příchod umělé inteligence,“ řekl Weingarten s tím, že při absenci aktualizovaných ochran musí technologické společnosti převzít odpovědnost za produkty, které prodávají školám.

Sázky jsou značné pro obě strany. AFT představuje 1,8 milionu pre-K přes učitele 12. třídy, poloprofesionály, vysokoškolské fakulty, státní zaměstnance, zdravotní sestry a vychovatele raného dětství – což poskytuje standard okamžitý zásah do tisíců okresů. Pro Microsoft je dohoda zároveň ústupkem a konkurenční zbraní. Dobrovolné dodržování závazných podmínek ochrany osobních údajů staví společnost příznivě proti soupeřům, kteří se dvoří vzdělávacímu trhu – a s 1,8 miliony členů AFT a tisíci okresů jako potenciálních zákazníků dává Microsoftu rozšíření standardu na celostátní úroveň pohotový argument, proč by jeho nástroje pro výuku měly být důvěryhodným výchozím nastavením.

Otevřenou otázkou je prosazování a šíření. Ochrany zavazují pouze okresy, které je začlení do svých smluv s Microsoftem, a žádná jiná velká společnost zabývající se vzdělávacími technologiemi dosud nepodepsala ekvivalentní podmínky. Zda bude Google, OpenAI, Anthropic a další čelit tlaku, aby odpovídaly standardu – nebo zda státní legislativa přistoupí ke kodifikaci podobných pravidel – rozhodne, zda se středeční oznámení stane novou průmyslovou základnou nebo odlišuje pouze Microsoft.

---

Stay Ahead of AI

Získejte nejnovější zprávy, analýzy a průlomové informace o umělé inteligenci – vše na jednom místě.

Přečtěte si další zprávy o AI →