De American Federation of Teachers, de United Federation of Teachers en Microsoft hebben woensdag een ‘National AI Safety & Privacy Standard’ aangekondigd die juridisch afdwingbare bescherming biedt voor studenten, gezinnen en docenten – een unieke overeenkomst waarover gedurende meerdere maanden is onderhandeld in wat de vakbonden een vacuüm van federale en staats-AI-regels voor scholen noemen.
De overeenkomst werd in New York onthuld door AFT-president Randi Weingarten, UFT-president Michael Mulgrew en Microsoft vice-voorzitter en president Brad Smith. Het volgt op de nieuwe schermen en het AI-verbod van New York City Public Schools, en is ontworpen om rechtstreeks te worden opgenomen in de Microsoft-klantovereenkomsten van schooldistricten, waardoor de bescherming contractueel afdwingbaar wordt in plaats van ambitieuze beloften. Voor meer context over dit verhaal, zie onze voortdurende AI-beleidsdekking.
Wat de overeenkomst vereist
In de kern zet de standaard gedeelde principes om in afdwingbare bescherming, waarbij drie prioriteiten centraal staan.
Privacy beschermen: Gegevens van leerlingen en docenten worden niet gebruikt om AI-modellen te trainen, verkocht of hergebruikt, en leerlingen kunnen nooit worden gevolgd. Scholen behouden de controle over hoe gegevens worden gebruikt, bewaard en verwijderd. Verhoging van de veiligheid: AI-systemen moeten worden ontworpen om schadelijke of manipulatieve ervaringen te voorkomen, gevoelige informatie te beschermen en te voldoen aan strenge normen voor beveiliging, verantwoordelijkheid en verantwoord gebruik – waarbij menselijk toezicht vereist is voordat door AI aangestuurde beslissingen van kracht worden. Transparantie en controle bieden: Gezinnen krijgen duidelijke, toegankelijke informatie over hoe AI in klaslokalen wordt gebruikt, welke gegevens worden verzameld en welke beveiligingen er zijn. Bedrijven moeten duidelijk communiceren over productwijzigingen, risico's en controles. Cruciaal is dat districten die de standaard aannemen, overeenkomsten kunnen beëindigen en schadevergoeding kunnen eisen van bedrijven die de regels overtreden, waardoor wat historisch gezien kleine lettertjesbeleidstaal was, kunnen worden omgezet in een contractuele verplichting met reële gevolgen.“We hebben een zwaar bevochten, ijzersterke privacyovereenkomst met echte tanden gesmeed die studenten en gezinnen beschermt, omdat niemand anders, inclusief de federale overheid, het echte werk heeft gedaan”, zei Weingarten in een verklaring. "Alles wat minder is dan juridisch afdwingbare bepalingen is slechts een verlanglijstje."
Mulgrew, wiens UFT 200.000 onderwijzers in New York City vertegenwoordigt, zei dat de overeenkomst "schooldistricten de macht geeft om overeenkomsten te beëindigen en schadevergoeding te eisen van slechte actoren die de regels overtreden."
Smith van Microsoft formuleerde de deal eerder als een sjabloon dan als een eenmalige gebeurtenis: "Deze standaard legt een hoge lat voor de privacy van kinderen en AI-veiligheid, en we zullen deze overeenkomst uitbreiden naar elk schooldistrict in het hele land."
Voortbouwen op een golf van staats- en lokale actie
De overeenkomst maakt een einde aan maandenlange escalerende vakbondsactiviteiten op schermen, AI en studentengegevens. In een toespraak in mei met de titel 'Devices Down, Eyes Up, Hands-On' riep Weingarten op tot een totaal schermverbod vanaf de kleuterschool tot en met de tweede klas, een verbod op leerlinggerichte AI op de basisschool en een verbod op sociale chatbots voor leerlingen onder de 16 jaar.
Een soortgelijk raamwerk is sindsdien aangenomen door het Los Angeles Unified School District, de New York State United Teachers en – vorige week nog – New York City Public Schools, waardoor de nieuwe nationale norm een reeks grote, kant-en-klare gebruikers heeft gekregen.
De AFT werkt al een tijdje aan dit standpunt: in haar 'Commonsense Guardrails for Use Advanced Technology in Schools' uit 2024 zijn negen kernprincipes vastgelegd voor de bescherming van studenten, en de vakbond heeft vorig jaar de National Academy for AI Instruction gelanceerd om docenten te trainen in het gebruik en misbruik van AI-instrumenten.
Waarom het ertoe doet
De deal is een oplossing voor een leemte in de regelgeving. Bestaande kinderprivacywetten zoals FERPA en HIPAA zijn geschreven voordat generatieve AI bestond. "HIPAA en FERPA hadden de komst van AI nooit voor ogen", zei Weingarten, met het argument dat technologiebedrijven bij gebrek aan bijgewerkte bescherming de verantwoordelijkheid moeten nemen voor de producten die ze op de markt brengen aan scholen.
De inzet is voor beide partijen aanzienlijk. De AFT vertegenwoordigt 1,8 miljoen leraren in het kleuter- tot en met het 12e leerjaar, paraprofessionals, docenten in het hoger onderwijs, overheidsmedewerkers, verpleegsters en onderwijzers voor jonge kinderen – wat het standaard onmiddellijke bereik in duizenden districten oplevert. Voor Microsoft is de overeenkomst tegelijkertijd een concessie en een concurrentiewapen. Door zich vrijwillig aan bindende privacyvoorwaarden te houden, staat het bedrijf gunstig ten opzichte van rivalen die de onderwijsmarkt betreden – en met 1,8 miljoen AFT-leden en duizenden districten als potentiële klanten geeft de uitbreiding van de standaard landelijk Microsoft een goed argument waarom zijn klaslokaalhulpmiddelen de vertrouwde standaard zouden moeten zijn.
De open vraag is handhaving en verspreiding. De beschermingen zijn alleen bindend voor de districten die ze opnemen in hun Microsoft-contracten, en geen enkel ander groot onderwijstechnologiebedrijf heeft tot nu toe gelijkwaardige voorwaarden ondertekend. Of Google, OpenAI, Anthropic en anderen onder druk komen te staan om aan de norm te voldoen – of dat de staatswetgevers vergelijkbare regels gaan codificeren – zal bepalen of de aankondiging van woensdag een nieuwe basislijn voor de sector wordt of een differentiator die alleen Microsoft onderscheidt.
---
Blijf AI een stap voorOntvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.
Lees meer AI-nieuws →
