Leraren bij Multiverse, het technologietrainingsbedrijf ter waarde van 1,6 miljard pond dat mede is opgericht door Euan Blair, zeggen dat een AI-systeem dat hun online onderwijs monitort en scoort, ‘verschrikkelijke stress’ heeft veroorzaakt, waarbij sommige personeelsleden de slaap verloren en therapie zochten, volgens een exclusief rapport van The Guardian. Het systeem analyseert transcripties van online klassikale sessies en waarschuwt menselijke managers wanneer docenten ervan worden verdacht iets verkeerd te doen.

Het dispuut is een van de meest gedetailleerde onderzoeken tot nu toe naar hoe AI-surveillance de witteboordenwerkplekken binnendringt – en het belandt midden in een breder debat over de nieuwste AI-ontwikkelingen die een nieuwe vorm geven aan de manier waarop werknemers worden bekeken, beoordeeld en beheerd door software.

Waar de AI naar kijkt

Het systeem, dat de afgelopen weken werd geïntroduceerd, vervangt een eerder regime waarbij een menselijke manager elke instructeur één keer per maand observeerde. Leraren worden nu meerdere uren per dag in de gaten gehouden door een AI die is getraind om een ​​reeks gedragingen te signaleren: het niet snel genoeg verhelpen van een verstoring van de online verbinding – binnen ongeveer een minuut – met behulp van te veel vulzinnen zoals ‘soort van’ en ‘soort van’, het geven van vage of onzekere antwoorden op vragen van leerlingen, en het betrokken raken bij langdurige één-op-één-gesprekken waarbij de rest van de groep buitenspel wordt gezet.

De AI tagt elke instructeur met een ‘risicostatus’, berekent een ‘percentage betrouwbaarheidsscore’ en produceert schriftelijke opmerkingen die managers in één oogopslag kunnen bekijken. De instructies, geciteerd door The Guardian, zeggen dat het "het PATROON over het hele transcript moet beoordelen, niet op geïsoleerde gevallen" - hoewel zelfcorrectie ook in het nadeel van de leraar geldt: als een instructeur "zichzelf moest corrigeren terwijl hij de instructie gaf, geldt die verwarring zelf als bewijs dat de instructie de eerste keer niet duidelijk was", zelfs als deze "uiteindelijk werd rechtgetrokken".

'Midden in de nacht wakker worden'

Verschillende leraren beschreven anoniem het effect op hun welzijn. “Sinds dit allemaal binnenkwam, was het stressniveau absoluut verschrikkelijk”, zei iemand. "Het heeft de slaap beïnvloed, en niet alleen voor mij. Ik heb veel dingen meegemaakt in mijn leven, en ik ben nog nooit in een positie geweest waarin ik midden in de nacht wakker werd."

Anderen zeiden dat de constante score de manier waarop ze lesgeven had veranderd. "Je aandacht is niet langer gericht op het geven van de les en het luisteren naar de leerling", zei een instructeur, "maar 'zeg ik het juiste, zodat de AI me niet afkeurt voor iets stoms'." Werknemers meldden ook dat ze door managers werden opgepakt wegens vermoedelijke 'uitweidingen' die in feite antwoorden waren op vragen van studenten. Ze omschrijven het systeem als ‘meedogenloos’ en ‘zenuwslopend’.

Multiversum: de AI 'regisseert de menselijke tijd'

Multiverse verwerpt de karakterisering dat de AI het menselijk oordeel heeft vervangen. Een woordvoerder van het bedrijf zei dat het systeem "instructeurs beter advies biedt over ontwikkeling en feedback - precies hoe elke lerende organisatie AI zou moeten inzetten", en benadrukte dat "de meest consequente prestatiemanagementactie die het kan ondernemen is om aan te bevelen dat een mens persoonlijk een sessie beoordeelt."

Het bedrijf zei dat de AI "de menselijke tijd daar stuurt waar deze het meest nodig is" door problemen onder de aandacht te brengen, dat alleen menselijke managers prestatiebeoordelingen van leraren schrijven, dat de introductie ervan vooraf werd gecommuniceerd en dat leraren toegang zullen hebben tot de gegevens die de AI verzamelt. Het ging niet direct in op de klachten over stress en angst.

Een breder surveillancedebat

De ruzie bij Multiverse past in een patroon van AI-monitoring die zich over werkplekken verspreidt. Eerder dit jaar begon Burger King AI te gebruiken om de klantinteracties van restaurantpersoneel bij te houden, en deze zomer stopte Meta met het volgen van de computertoetsaanslagen van werknemers na bezorgdheid over de gegevensprivacy en een reactie van het personeel.

Arbeidsorganisatoren beweren dat de trend dieper gaat dan welke werkgever dan ook. De United Tech and Allied Workers-tak van de Communication Workers Union heeft geconcludeerd dat AI op de werkplek een ‘cognitieve overgave’ teweegbrengt wanneer het personeel zich overgeeft aan machinale oordelen. Uit nieuw onderzoek dat deze week wordt gepubliceerd blijkt dat werknemers in de bredere Britse technologie-industrie zeggen dat AI de werktevredenheid verslechtert.

Het bedrijf achter het systeem

Multiverse traint duizenden Britse werknemers in computer- en AI-vaardigheden voor werkgevers, waaronder de NHS, lokale raden, universiteiten en particuliere bedrijven, waarbij het grootste deel van de inkomsten via de leerlingheffing van de overheid stroomt. Het bedrijf heeft ruim 800 mensen in dienst en werd onlangs gewaardeerd op 1,6 miljard pond, hoewel dat berust op een omzet van 118 miljoen pond en een verlies van 28 miljoen pond vorig jaar.

Blair, de oudste zoon van voormalig premier Tony Blair, bezit een groot minderheidsbelang, waardoor zijn persoonlijk vermogen op naar schatting 350 miljoen pond bedraagt. Hij was een van de luidste stemmen uit het bedrijfsleven voor de adoptie van AI in de Britse economie. Hij beweerde vorige week dat “elke werknemer opnieuw moet worden opgeleid” en dat werkgevers willen dat hun personeel “zo AI-geïnspireerd mogelijk is”.

Ofsted, de onderwijsinspectie, constateerde in februari dat Multiverse op verschillende gebieden niet aan de verwachte normen voldeed – terwijl het zijn instructeurs prees als ‘bekwame, effectieve leraren’. Of de AI die naar deze leraren kijkt hen helpt verbeteren of ze simpelweg opbrandt, is nu de vraag die het bedrijf zal moeten beantwoorden.

---

Blijf AI een stap voor

Ontvang het laatste AI-nieuws, analyses en doorbraken – allemaal op één plek.

Lees meer AI-nieuws →