A Federação Americana de Professores, a Federação Unida de Professores e a Microsoft anunciaram na quarta-feira um “Padrão Nacional de Segurança e Privacidade de IA” que estabelece proteções legalmente aplicáveis para estudantes, famílias e educadores – um acordo inédito negociado ao longo de vários meses no que os sindicatos chamam de vácuo nas regras federais e estaduais de IA para escolas.
O acordo foi revelado em Nova York pelo presidente da AFT, Randi Weingarten, pelo presidente da UFT, Michael Mulgrew, e pelo vice-presidente e presidente da Microsoft, Brad Smith. Ele chega logo após as telas recém-adotadas pelas Escolas Públicas de Nova York e a proibição da IA, e foi projetado para ser incorporado diretamente nos acordos de clientes da Microsoft dos distritos escolares – tornando as proteções contratualmente aplicáveis, em vez de promessas aspiracionais. Para obter mais contexto sobre esta história, consulte nossa cobertura de política de IA em andamento.
O que o contrato exige
Na sua essência, a norma transforma princípios partilhados em proteções aplicáveis centradas em três prioridades.
Proteção da privacidade: os dados de alunos e educadores não serão usados para treinar modelos de IA, vendidos ou reaproveitados, e os alunos nunca poderão ser rastreados. As escolas mantêm o controle sobre como os dados são usados, retidos e excluídos. Aumentar a segurança: Os sistemas de IA devem ser projetados para evitar experiências prejudiciais ou manipuladoras, proteger informações confidenciais e atender a padrões rigorosos de segurança, responsabilidade e uso responsável — com supervisão humana necessária antes que as decisões baseadas em IA entrem em vigor. Oferecendo transparência e controle: As famílias recebem informações claras e acessíveis sobre como a IA está sendo usada nas salas de aula, quais dados são coletados e quais proteções estão em vigor. As empresas devem comunicar claramente sobre alterações, riscos e controles de produtos. Crucialmente, os distritos que adoptam a norma podem rescindir acordos e pedir indemnizações às empresas que violam as regras – transformando o que historicamente tem sido uma linguagem política em letras miúdas numa obrigação contratual com consequências reais.“Forjamos um acordo de privacidade rígido e duro, com força real, que protege estudantes e famílias, porque ninguém mais, incluindo o governo federal, se apresentou para fazer o verdadeiro trabalho”, disse Weingarten em um comunicado. "Qualquer coisa menos do que disposições legalmente aplicáveis é simplesmente uma lista de desejos."
Mulgrew, cuja UFT representa 200 mil educadores da cidade de Nova York, disse que o acordo “capacita os distritos escolares a encerrar acordos e buscar indenização por maus atores que violam as regras”.
Smith, da Microsoft, enquadrou o acordo como um modelo e não como um caso único: “Este padrão estabelece um padrão elevado para a privacidade infantil e a segurança da IA, e estenderemos este acordo a todos os distritos escolares do país”.
Construindo uma onda de ação estadual e local
O acordo limita meses de escalada da atividade sindical em telas, IA e dados de alunos. Em um discurso de maio intitulado “Dispositivos desligados, olhos para cima, práticos”, Weingarten pediu a proibição total da tela do jardim de infância até a segunda série, a proibição da IA voltada para os alunos no ensino fundamental e a proibição de chatbots sociais para alunos menores de 16 anos.
Desde então, uma estrutura semelhante foi adotada pelo Distrito Escolar Unificado de Los Angeles, pelos Professores Unidos do Estado de Nova York e – na semana passada – pelas Escolas Públicas da Cidade de Nova York, dando ao novo padrão nacional um conjunto de grandes adotantes já prontos.
A AFT vem construindo essa posição há algum tempo: seu 2024 "Commonsense Guardrails for Using Advanced Technology in Schools" estabeleceu nove princípios básicos para proteger os alunos, e o sindicato lançou no ano passado a Academia Nacional de Instrução de IA para treinar educadores no uso e uso indevido de ferramentas de IA.
Por que é importante
O acordo é uma solução alternativa para uma lacuna regulatória. As leis existentes sobre privacidade infantil, como FERPA e HIPAA, foram escritas antes da existência da IA generativa. “A HIPAA e a FERPA nunca imaginaram o advento da IA”, disse Weingarten, argumentando que, na ausência de protecções actualizadas, as empresas tecnológicas precisam de assumir a responsabilidade pelos produtos que comercializam nas escolas.
Os riscos são consideráveis para ambos os lados. A AFT representa 1,8 milhões de professores do ensino pré-escolar ao 12.º ano, paraprofissionais, docentes do ensino superior, funcionários públicos, enfermeiros e educadores da primeira infância – dando ao padrão um alcance imediato em milhares de distritos. Para a Microsoft, o acordo é simultaneamente uma concessão e uma arma competitiva. O voluntariado para termos vinculativos de privacidade posiciona a empresa favoravelmente contra rivais que cortejam o mercado educacional - e com 1,8 milhão de membros da AFT e milhares de distritos como clientes potenciais, a extensão do padrão em todo o país dá à Microsoft um argumento pronto para explicar por que suas ferramentas de sala de aula deveriam ser o padrão confiável.
A questão em aberto é a aplicação e a difusão. As proteções vinculam apenas os distritos que as incorporam em seus contratos com a Microsoft, e nenhuma outra grande empresa de tecnologia educacional assinou termos equivalentes. Se Google, OpenAI, Anthropic e outros enfrentarem pressão para cumprir o padrão – ou se as legislaturas estaduais agirem para codificar regras semelhantes – determinará se o anúncio de quarta-feira se tornará uma nova linha de base da indústria ou um diferenciador exclusivo da Microsoft.
---
Fique à frente da IAReceba as últimas notícias, análises e avanços sobre IA — tudo em um só lugar.
Leia mais notícias sobre IA →
