Die American Federation of Teachers, die United Federation of Teachers und Microsoft haben am Mittwoch einen „National AI Safety & Privacy Standard“ angekündigt, der rechtlich durchsetzbare Schutzmaßnahmen für Schüler, Familien und Pädagogen festlegt – eine einzigartige Vereinbarung, die über mehrere Monate hinweg in einem von den Gewerkschaften als Vakuum bezeichneten Vakuum von Bundes- und Landes-KI-Regeln für Schulen ausgehandelt wurde.

Die Vereinbarung wurde in New York von AFT-Präsident Randi Weingarten, UFT-Präsident Michael Mulgrew und dem stellvertretenden Vorsitzenden und Präsidenten von Microsoft, Brad Smith, vorgestellt. Es folgt auf das neu eingeführte Bildschirm- und KI-Verbot der New York City Public Schools und soll direkt in die Microsoft-Kundenvereinbarungen der Schulbezirke integriert werden – wodurch die Schutzmaßnahmen vertraglich durchsetzbar werden und keine angestrebten Zusagen sind. Weitere Informationen zu dieser Geschichte finden Sie in unserer laufenden KI-Richtlinienberichterstattung.

Was die Vereinbarung erfordert

Im Kern verwandelt der Standard gemeinsame Grundsätze in durchsetzbare Schutzmaßnahmen, die sich auf drei Prioritäten konzentrieren.

Schutz der Privatsphäre: Daten von Schülern und Lehrkräften werden nicht zum Trainieren von KI-Modellen verwendet, verkauft oder für andere Zwecke verwendet, und Schüler können niemals verfolgt werden. Die Schulen behalten die Kontrolle darüber, wie Daten verwendet, aufbewahrt und gelöscht werden. Erhöhung der Sicherheit: KI-Systeme müssen so konzipiert sein, dass sie schädliche oder manipulative Erfahrungen vermeiden, sensible Informationen schützen und strenge Standards für Sicherheit, Verantwortlichkeit und verantwortungsvolle Nutzung erfüllen – wobei eine menschliche Aufsicht erforderlich ist, bevor KI-gesteuerte Entscheidungen wirksam werden. Transparenz und Kontrolle bieten: Familien erhalten klare und zugängliche Informationen darüber, wie KI in Klassenzimmern eingesetzt wird, welche Daten gesammelt werden und welche Schutzmaßnahmen vorhanden sind. Unternehmen müssen klar und deutlich über Produktänderungen, Risiken und Kontrollen kommunizieren. Entscheidend ist, dass Bezirke, die den Standard übernehmen, Vereinbarungen kündigen und Schadensersatz von Unternehmen fordern können, die gegen die Regeln verstoßen – und so aus einer in der Vergangenheit kleingedruckten Richtliniensprache eine vertragliche Verpflichtung mit echten Konsequenzen machen.

„Wir haben ein hart umkämpftes, eisernes Datenschutzabkommen mit echten Zähnen geschmiedet, das Studenten und Familien schützt, weil niemand sonst, einschließlich der Bundesregierung, sich für die eigentliche Arbeit eingesetzt hat“, sagte Weingarten in einer Erklärung. „Alles andere als rechtlich durchsetzbare Bestimmungen ist lediglich eine Wunschliste.“

Mulgrew, dessen UFT 200.000 New Yorker Pädagogen vertritt, sagte, die Vereinbarung „ermächtigt Schulbezirke, Vereinbarungen zu beenden und Schadensersatz von schlechten Akteuren zu fordern, die gegen die Regeln verstoßen.“

Smith von Microsoft bezeichnete den Deal eher als Vorlage als als Einzelfall: „Dieser Standard legt hohe Maßstäbe für die Privatsphäre von Kindern und die KI-Sicherheit fest, und wir werden diese Vereinbarung auf jeden Schulbezirk im ganzen Land ausweiten.“

Aufbauend auf einer Welle staatlicher und lokaler Maßnahmen

Die Vereinbarung begrenzt monatelange eskalierende Gewerkschaftsaktivitäten in Bezug auf Bildschirme, KI und Studentendaten. In einer Rede im Mai mit dem Titel „Geräte runter, Augen hoch, Hands-On“ forderte Weingarten ein völliges Bildschirmverbot vom Kindergarten bis zur zweiten Klasse, ein Verbot der schülerorientierten KI in der Grundschule und ein Verbot von Chatbots mit sozialen Begleitern für Schüler unter 16 Jahren.

Ein ähnlicher Rahmen wurde inzwischen vom Los Angeles Unified School District, den New York State United Teachers und – erst letzte Woche – den New York City Public Schools übernommen, wodurch der neue nationale Standard eine Reihe großer, vorgefertigter Anwender hat.

Die AFT arbeitet seit einiger Zeit auf diese Position hin: In ihren „Commonsense Guardrails for Using Advanced Technology in Schools“ aus dem Jahr 2024 wurden neun Grundprinzipien zum Schutz von Schülern festgelegt, und im vergangenen Jahr gründete die Gewerkschaft die National Academy for AI Instruction, um Pädagogen in der Nutzung und dem Missbrauch von KI-Tools zu schulen.

Warum es wichtig ist

Der Deal ist ein Workaround für eine Regulierungslücke. Bestehende Gesetze zum Schutz der Privatsphäre von Kindern wie FERPA und HIPAA wurden verfasst, bevor es generative KI gab. „HIPAA und FERPA haben nie mit dem Aufkommen von KI gerechnet“, sagte Weingarten und argumentierte, dass Technologieunternehmen ohne aktualisierte Schutzmaßnahmen Verantwortung für die Produkte übernehmen müssen, die sie an Schulen vermarkten.

Für beide Seiten steht viel auf dem Spiel. Die AFT vertritt 1,8 Millionen Vorschul- bis Zwölftklässler, paraprofessionelle Lehrkräfte, Hochschullehrer, Regierungsangestellte, Krankenschwestern und frühpädagogische Erzieher – und bietet so eine unmittelbare Reichweite des Standards in Tausenden von Bezirken. Für Microsoft ist die Vereinbarung Zugeständnis und Wettbewerbswaffe zugleich. Durch den freiwilligen Einsatz verbindlicher Datenschutzbestimmungen positioniert sich das Unternehmen positiv gegenüber Konkurrenten, die den Bildungsmarkt umwerben – und mit 1,8 Millionen AFT-Mitgliedern und Tausenden von Bezirken als potenziellen Kunden liefert die landesweite Ausweitung des Standards Microsoft ein gutes Argument dafür, warum seine Unterrichtstools der vertrauenswürdige Standard sein sollten.

Die offene Frage ist Durchsetzung und Verbreitung. Die Schutzmaßnahmen binden nur Bezirke, die sie in ihre Microsoft-Verträge aufnehmen, und kein anderes großes Bildungstechnologieunternehmen hat sich bisher gleichwertigen Bedingungen angeschlossen. Ob Google, OpenAI, Anthropic und andere dem Druck ausgesetzt sind, sich an den Standard zu halten – oder ob die bundesstaatlichen Gesetzgebungen versuchen, ähnliche Regeln zu kodifizieren – wird darüber entscheiden, ob die Ankündigung vom Mittwoch zu einer neuen Branchenbasis oder zu einem Alleinstellungsmerkmal nur für Microsoft wird.

---

Der KI einen Schritt voraus sein

Erhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.

Weitere KI-Neuigkeiten lesen →