La Fédération américaine des enseignants, la Fédération unie des enseignants et Microsoft ont annoncé mercredi une « norme nationale de sécurité et de confidentialité de l'IA » établissant des protections juridiquement exécutoires pour les étudiants, les familles et les éducateurs – un accord unique en son genre négocié sur plusieurs mois dans ce que les syndicats appellent un vide de règles fédérales et étatiques en matière d'IA pour les écoles.

L'accord a été dévoilé à New York par le président de l'AFT Randi Weingarten, le président de l'UFT Michael Mulgrew et le vice-président et président de Microsoft Brad Smith. Il fait suite aux écrans et à l'interdiction de l'IA récemment adoptés par les écoles publiques de la ville de New York, et est conçu pour être intégré directement dans les accords clients Microsoft des districts scolaires, rendant les protections contractuellement exécutoires plutôt que des promesses ambitieuses. Pour plus de contexte sur cette histoire, consultez notre Couverture politique en matière d'IA.

Ce que l'accord exige

Fondamentalement, la norme transforme les principes partagés en protections exécutoires centrées sur trois priorités.

Protéger la confidentialité : Les données des étudiants et des enseignants ne seront pas utilisées pour former des modèles d'IA, vendues ou réutilisées, et les étudiants ne pourront jamais être suivis. Les écoles gardent le contrôle sur la manière dont les données sont utilisées, conservées et supprimées. Amélioration de la sécurité : les systèmes d'IA doivent être conçus pour éviter les expériences nuisibles ou manipulatrices, protéger les informations sensibles et répondre à des normes rigoureuses en matière de sécurité, de responsabilité et d'utilisation responsable, une surveillance humaine étant requise avant que les décisions basées sur l'IA ne prennent effet. Assurer transparence et contrôle : Les familles obtiennent des informations claires et accessibles sur la manière dont l'IA est utilisée en classe, quelles données sont collectées et quelles protections sont en place. Les entreprises doivent communiquer clairement sur les modifications, les risques et les contrôles des produits. Surtout, les districts qui adoptent la norme peuvent mettre fin aux accords et demander des dommages-intérêts aux entreprises qui enfreignent les règles, transformant ainsi ce qui était historiquement un langage politique en petits caractères en une obligation contractuelle avec des conséquences réelles.

"Nous avons forgé un accord de confidentialité âprement disputé, à toute épreuve, doté de véritables pouvoirs, qui protège les étudiants et les familles, car personne d'autre, y compris le gouvernement fédéral, ne s'est mobilisé pour faire le vrai travail", a déclaré Weingarten dans un communiqué. "Tout ce qui ne relève pas de dispositions juridiquement exécutoires n'est qu'une liste de souhaits."

Mulgrew, dont l'UFT représente 200 000 éducateurs de la ville de New York, a déclaré que l'accord "autorise les districts scolaires à mettre fin aux accords et à demander des dommages-intérêts aux mauvais acteurs qui enfreignent les règles".

Smith de Microsoft a présenté l'accord comme un modèle plutôt que comme un modèle unique : "Cette norme place la barre haute en matière de confidentialité des enfants et de sécurité de l'IA, et nous étendrons cet accord à tous les districts scolaires du pays."

S'appuyer sur une vague d'action étatique et locale

L’accord met fin à des mois d’activité syndicale croissante sur les écrans, l’IA et les données des étudiants. Dans un discours de mai intitulé "Devices Down, Eyes Up, Hands-On", Weingarten a appelé à une interdiction totale des écrans de la maternelle à la CE1, à l'interdiction de l'IA destinée aux élèves à l'école primaire et à l'interdiction des chatbots sociaux pour les élèves de moins de 16 ans.

Un cadre similaire a depuis été adopté par le district scolaire unifié de Los Angeles, le New York State United Teachers et, la semaine dernière encore, les écoles publiques de la ville de New York, donnant à la nouvelle norme nationale un ensemble de larges adoptants prêts à l'emploi.

L'AFT s'efforce d'atteindre cette position depuis un certain temps : ses « Garde-corps de bon sens pour l'utilisation des technologies avancées dans les écoles » de 2024 ont établi neuf principes fondamentaux pour la protection des élèves, et le syndicat a lancé l'année dernière la National Academy for AI Instruction pour former les éducateurs à l'utilisation et à la mauvaise utilisation des outils d'IA.

Pourquoi c'est important

L’accord est une solution de contournement à une lacune réglementaire. Les lois existantes sur la vie privée des enfants, telles que la FERPA et la HIPAA, ont été rédigées avant l'existence de l'IA générative. "La HIPAA et la FERPA n'ont jamais envisagé l'avènement de l'IA", a déclaré Weingarten, affirmant qu'en l'absence de protections actualisées, les entreprises technologiques doivent assumer la responsabilité des produits qu'elles commercialisent auprès des écoles.

Les enjeux sont considérables des deux côtés. L'AFT représente 1,8 million d'enseignants de la maternelle à la terminale, des paraprofessionnels, des professeurs d'enseignement supérieur, des employés du gouvernement, des infirmières et des éducateurs de la petite enfance, ce qui donne à la norme une portée immédiate dans des milliers de districts. Pour Microsoft, l'accord est à la fois une concession et une arme concurrentielle. Le fait de se soumettre volontairement à des conditions de confidentialité contraignantes positionne l'entreprise favorablement par rapport à ses concurrents courtisant le marché de l'éducation – et avec 1,8 million de membres de l'AFT et des milliers de districts comme clients potentiels, l'extension de la norme à l'échelle nationale donne à Microsoft un argument facile pour expliquer pourquoi ses outils de classe devraient être la valeur par défaut de confiance.

La question ouverte est celle de l’application et de la propagation. Les protections n'engagent que les districts qui les intègrent dans leurs contrats Microsoft, et aucune autre grande entreprise de technologie éducative n'a encore signé des conditions équivalentes. Que Google, OpenAI, Anthropic et d'autres subissent des pressions pour se conformer à la norme – ou que les législatures des États décident de codifier des règles similaires – déterminera si l'annonce de mercredi deviendra une nouvelle référence pour l'industrie ou un différenciateur réservé à Microsoft.

---

Gardez une longueur d'avance sur l'IA

Recevez les dernières actualités, analyses et avancées en matière d'IA, le tout en un seul endroit.

Lire plus d'actualités sur l'IA →