La Federazione americana degli insegnanti, la Federazione unita degli insegnanti e Microsoft mercoledì hanno annunciato uno “Standard nazionale sulla sicurezza e la privacy dell’intelligenza artificiale” che stabilisce tutele legalmente applicabili per studenti, famiglie ed educatori – un accordo primo nel suo genere negoziato nel corso di diversi mesi in quello che i sindacati chiamano un vuoto di regole federali e statali sull’intelligenza artificiale per le scuole.
L'accordo è stato presentato a New York dal presidente dell'AFT Randi Weingarten, dal presidente dell'UFT Michael Mulgrew e dal vicepresidente e presidente di Microsoft Brad Smith. Arriva sulla scia dei nuovi schermi adottati dalle scuole pubbliche di New York e del divieto di intelligenza artificiale, ed è progettato per essere incorporato direttamente negli accordi con i clienti Microsoft dei distretti scolastici, rendendo le protezioni contrattualmente applicabili anziché impegni ambiziosi. Per ulteriori informazioni su questa storia, consulta la nostra copertura delle norme sull'intelligenza artificiale in corso.
Cosa richiede l'accordo
Fondamentalmente, lo standard trasforma i principi condivisi in tutele applicabili incentrate su tre priorità.
Protezione della privacy: i dati di studenti ed educatori non verranno utilizzati per addestrare modelli di intelligenza artificiale, venduti o riproposti e gli studenti non potranno mai essere monitorati. Le scuole mantengono il controllo su come i dati vengono utilizzati, conservati ed eliminati. Migliorare la sicurezza: i sistemi di intelligenza artificiale devono essere progettati per evitare esperienze dannose o manipolative, proteggere le informazioni sensibili e soddisfare standard rigorosi di sicurezza, responsabilità e uso responsabile, con la supervisione umana richiesta prima che le decisioni guidate dall'intelligenza artificiale abbiano effetto. Fornire trasparenza e controllo: le famiglie ottengono informazioni chiare e accessibili su come viene utilizzata l'intelligenza artificiale nelle classi, quali dati vengono raccolti e quali protezioni sono in atto. Le aziende devono comunicare chiaramente in merito a modifiche, rischi e controlli dei prodotti. Fondamentalmente, i distretti che adottano lo standard possono porre fine agli accordi e chiedere il risarcimento dei danni alle aziende che infrangono le regole, trasformando quello che storicamente è stato un linguaggio politico scritto in piccolo in un obbligo contrattuale con conseguenze reali."Abbiamo stretto un accordo sulla privacy duramente combattuto e rivestito di ferro, che protegge gli studenti e le famiglie, perché nessun altro, incluso il governo federale, si è fatto avanti per fare il vero lavoro", ha affermato Weingarten in una nota. "Qualsiasi cosa che non sia giuridicamente applicabile è semplicemente una lista dei desideri."
Mulgrew, la cui UFT rappresenta 200.000 educatori di New York City, ha affermato che l'accordo "consente ai distretti scolastici di porre fine agli accordi e chiedere danni ai cattivi attori che infrangono le regole".
Smith di Microsoft ha definito l'accordo come un modello piuttosto che come un caso unico: "Questo standard stabilisce un livello elevato per la privacy dei bambini e la sicurezza dell'intelligenza artificiale, e estenderemo questo accordo a tutti i distretti scolastici del paese".
Costruire su un'ondata di azioni statali e locali
L’accordo pone un limite a mesi di crescente attività sindacale su schermi, intelligenza artificiale e dati degli studenti. In un discorso di maggio intitolato “Devices Down, Eyes Up, Hands-On”, Weingarten ha chiesto il divieto totale dello schermo dalla scuola materna fino alla seconda elementare, il divieto dell’intelligenza artificiale rivolta agli studenti nella scuola elementare e il divieto dei chatbot di accompagnamento sociale per gli studenti sotto i 16 anni.
Un quadro simile è stato adottato da allora dal distretto scolastico unificato di Los Angeles, dagli United Teachers dello Stato di New York e, proprio la scorsa settimana, dalle scuole pubbliche di New York City, fornendo al nuovo standard nazionale una serie di ampi e già pronti adottanti.
L’AFT si sta muovendo verso questa posizione da tempo: i suoi “Commonsense Guardrails for Using Advanced Technology in Schools” del 2024 hanno stabilito nove principi fondamentali per proteggere gli studenti, e l’anno scorso il sindacato ha lanciato la National Academy for AI Instruction per formare gli insegnanti sull’uso e l’abuso degli strumenti di intelligenza artificiale.
Perché è importante
L’accordo è una soluzione alternativa a una lacuna normativa. Le leggi esistenti sulla privacy dei minori come FERPA e HIPAA sono state scritte prima che esistesse l’IA generativa. "HIPAA e FERPA non hanno mai previsto l'avvento dell'intelligenza artificiale", ha affermato Weingarten, sostenendo che in assenza di protezioni aggiornate, le aziende tecnologiche devono assumersi la responsabilità dei prodotti che commercializzano nelle scuole.
La posta in gioco è considerevole per entrambe le parti. L’AFT rappresenta 1,8 milioni di insegnanti dalla scuola dell’infanzia alla scuola media, paraprofessionisti, docenti di istruzione superiore, dipendenti pubblici, infermieri ed educatori della prima infanzia, garantendo allo standard una portata immediata in migliaia di distretti. Per Microsoft l'accordo è allo stesso tempo una concessione e un'arma competitiva. L’adesione volontaria a termini vincolanti sulla privacy posiziona favorevolmente l’azienda rispetto ai rivali che corteggiano il mercato dell’istruzione – e con 1,8 milioni di membri AFT e migliaia di distretti come potenziali clienti, l’estensione dello standard a livello nazionale fornisce a Microsoft un’argomentazione pronta sul motivo per cui i suoi strumenti per la classe dovrebbero essere l’impostazione predefinita affidabile.
La questione aperta è l’applicazione e la diffusione. Le protezioni vincolano solo i distretti che le incorporano nei loro contratti Microsoft, e nessun’altra grande azienda di tecnologia educativa ha ancora firmato termini equivalenti. Se Google, OpenAI, Anthropic e altri dovranno affrontare pressioni per adeguarsi allo standard – o se le legislature statali si muoveranno per codificare regole simili – determinerà se l’annuncio di mercoledì diventerà una nuova linea di base del settore o un elemento di differenziazione esclusivo di Microsoft.
---
Stai al passo con l'intelligenza artificialeRicevi le ultime notizie, analisi e scoperte sull'intelligenza artificiale, tutto in un unico posto.
Leggi altre notizie sull'AI →
