Laut einem exklusiven Bericht von The Guardian sagen Lehrer von Multiverse, dem von Euan Blair mitbegründeten 1,6 Milliarden Pfund schweren Tech-Trainingsunternehmen, dass ein KI-System, das ihren Online-Unterricht überwacht und bewertet, „horrenden Stress“ verursacht hat, da einige Mitarbeiter den Schlaf verloren und eine Therapie suchten. Das System analysiert Transkripte von Online-Unterrichtssitzungen und alarmiert menschliche Manager, wenn der Verdacht besteht, dass Dozenten etwas falsch gemacht haben.
Der Streit ist einer der bisher detailliertesten Einblicke in die Art und Weise, wie die KI-Überwachung in Büroarbeitsplätze Einzug hält – und er landet mitten in einer breiteren Debatte über neueste KI-Entwicklungen, die die Art und Weise verändern, wie Arbeitnehmer durch Software überwacht, bewertet und verwaltet werden.
Was die KI beobachtet
Das in den letzten Wochen eingeführte System ersetzt ein früheres System, bei dem ein menschlicher Manager jeden Ausbilder einmal im Monat beobachtete. Lehrer werden nun mehrere Stunden am Tag von einer KI überwacht, die darauf trainiert ist, eine Reihe von Verhaltensweisen zu erkennen: Sie schaffen es nicht, eine Unterbrechung der Online-Verbindung schnell genug zu beheben – innerhalb von etwa einer Minute – sie verwenden zu viele Füllsätze wie „irgendwie“ und „irgendwie“, sie geben vage oder unsichere Antworten auf Fragen der Lernenden und sie werden in längere Einzelgespräche verwickelt, die den Rest der Gruppe aus dem Weg räumen.
Die KI markiert jeden Ausbilder mit einem „Risikostatus“, berechnet einen „prozentualen Vertrauenswert“ und erstellt schriftliche Kommentare, die Manager auf einen Blick überprüfen können. Seine vom Guardian zitierten Anweisungen fordern ihn auf, „das MUSTER anhand des gesamten Transkripts und nicht anhand einzelner Fälle zu beurteilen“ – obwohl die Selbstkorrektur auch zu Lasten des Lehrers geht: Wenn ein Lehrer „sich selbst korrigieren musste, während er die Anweisung erteilte, gilt diese Verwirrung selbst als Beweis dafür, dass die Anweisung beim ersten Mal nicht klar war“, selbst wenn sie „letztendlich geklärt“ wurde.
„Mitten in der Nacht aufwachen“
Mehrere Lehrer schilderten anonym die Auswirkungen auf ihr Wohlbefinden. „Seitdem das alles hereingekommen ist, ist der Stresspegel absolut horrend“, sagte einer. „Es hat Auswirkungen auf den Schlaf, und zwar nicht nur bei mir. Ich habe in meinem Leben eine Menge Dinge durchgemacht und war noch nie in der Lage, mitten in der Nacht aufzuwachen.“
Andere sagten, die ständige Bewertung habe die Art und Weise verändert, wie sie unterrichten. „Ihre Aufmerksamkeit liegt nicht mehr darauf, den Unterricht zu erteilen und dem Lernenden zuzuhören“, sagte ein Lehrer, „sondern: ‚Sage ich das Richtige, damit die KI mich nicht für etwas Dummes abstempelt?‘“ Arbeiter berichteten auch, dass sie von Managern wegen angeblicher „Abschweifungen“ angesprochen wurden, bei denen es sich in Wirklichkeit um Antworten auf Fragen von Studenten handelte. Sie beschrieben das System als „unbarmherzig“ und „beunruhigend“.
Multiversum: Die KI „lenkt die menschliche Zeit“
Multiverse lehnt die Darstellung ab, dass die KI das menschliche Urteilsvermögen ersetzt habe. Ein Unternehmenssprecher sagte, das System „bietet den Ausbildern verbesserte Ratschläge zur Entwicklung und Feedback – genau so, wie jede lernende Organisation KI einsetzen sollte“ und betonte, dass „die folgenreichste Maßnahme zum Leistungsmanagement darin besteht, einem Menschen zu empfehlen, eine Sitzung persönlich zu überprüfen.“
Das Unternehmen sagte, dass die KI „die menschliche Zeit dorthin lenkt, wo sie am meisten benötigt wird“, indem sie Probleme hervorhebt, dass nur menschliche Manager Leistungsbeurteilungen von Lehrern schreiben, dass ihre Einführung im Voraus kommuniziert wurde und dass Lehrer Zugriff auf die von der KI gesammelten Daten haben werden. Es ging nicht direkt auf die Beschwerden über Stress und Angst ein.
Eine sich ausweitende Überwachungsdebatte
Der Streit bei Multiverse passt zu einem Muster der KI-Überwachung, die sich an Arbeitsplätzen ausbreitet. Anfang dieses Jahres begann Burger King, KI zu nutzen, um die Kundeninteraktionen von Restaurantmitarbeitern zu verfolgen, und in diesem Sommer stellte Meta die Verfolgung der Computer-Tastatureingaben von Mitarbeitern aufgrund von Datenschutzbedenken und einer Gegenreaktion der Mitarbeiter ein.
Gewerkschaftsorganisatoren argumentieren, dass der Trend tiefer geht als bei jedem einzelnen Arbeitgeber. Die United Tech and Allied Workers-Abteilung der Communication Workers Union ist zu dem Schluss gekommen, dass KI am Arbeitsplatz zu einer „kognitiven Kapitulation“ führt, da die Mitarbeiter sich maschinellen Urteilen unterordnen, und eine neue Studie, die diese Woche veröffentlicht werden soll, kommt Berichten zufolge zu dem Ergebnis, dass Arbeitnehmer in der gesamten britischen Technologiebranche sagen, dass KI die Arbeitszufriedenheit beeinträchtigt.
Das Unternehmen hinter dem System
Multiverse schult Tausende britischer Arbeitnehmer in Computer- und KI-Kenntnissen für Arbeitgeber wie den NHS, Kommunalverwaltungen, Universitäten und Privatunternehmen, wobei der Großteil seiner Einnahmen aus der Ausbildungsabgabe der Regierung fließt. Das Unternehmen beschäftigt mehr als 800 Mitarbeiter und wurde zuletzt mit 1,6 Milliarden Pfund bewertet, allerdings beruht dies auf einem Umsatz von 118 Millionen Pfund und Verlusten von 28 Millionen Pfund im letzten Jahr.
Blair, der älteste Sohn des ehemaligen Premierministers Tony Blair, besitzt eine große Minderheitsbeteiligung, die sein persönliches Nettovermögen auf schätzungsweise 350 Millionen Pfund beläuft. Er war einer der lautesten Unternehmensstimmen für die Einführung von KI in der britischen Wirtschaft und behauptete letzte Woche, dass „jeder einzelne Arbeitnehmer umgeschult werden muss“ und dass Arbeitgeber ihre Belegschaft „so KI-gestützt wie möglich“ wollen.
Die Bildungsaufsichtsbehörde Ofsted stellte im Februar fest, dass Multiverse in mehreren Bereichen die erwarteten Standards nicht erfüllte – und lobte gleichzeitig seine Ausbilder als „qualifizierte, effektive Lehrer“. Ob die KI, die diese Lehrer beobachtet, ihnen hilft, sich zu verbessern, oder ob sie sie einfach ausbrennt, ist nun die Frage, die das Unternehmen beantworten muss.
---
Der KI einen Schritt voraus seinErhalten Sie die neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Weitere KI-Neuigkeiten lesen →
