Згідно з ексклюзивним звітом The Guardian, вчителі Multiverse, технологічної навчальної компанії з вартістю 1,6 мільярда фунтів стерлінгів, співзасновником якої є Юан Блер, кажуть, що система штучного інтелекту, яка відстежує та оцінює їх онлайн-навчання, спричинила «жахливий стрес». Система аналізує стенограми онлайн-сесій у класі та попереджає менеджерів, коли викладачі підозрюються в тому, що вони роблять щось не так.
Ця суперечка є одним із найдетальніших поглядів на те, як стеження ШІ проникає на робочі місця білих комірців — і воно потрапляє в середину ширшої дискусії про [останні розробки ШІ] (https://aibuzzwire.news), які змінюють те, як за працівниками спостерігають, оцінюють і керують програмним забезпеченням.
Що спостерігає AI
Система, запроваджена останніми тижнями, замінює попередній режим, за якого керівник-людина спостерігав за кожним інструктором раз на місяць. Тепер за вчителями протягом кількох годин на день стежить штучний інтелект, навчений позначати низку поведінки: нездатність усунути збій онлайн-з’єднання досить швидко — протягом приблизно хвилини — використання занадто великої кількості фраз-заповнювачів, таких як «начебто» та «вид», надання розпливчастих або невизначених відповідей на запитання учнів і втягнення в тривалі приватні бесіди, які відсувають решту групи.
Штучний інтелект позначає кожного інструктора «статусом ризику», обчислює «оцінку достовірності у відсотках» і створює письмові коментарі для менеджерів, які можна переглянути з першого погляду. Його інструкції, цитовані The Guardian, наказують йому «судити ШАБЛОН по всій стенограмі, а не по окремих випадках» — хоча самовиправлення також зараховується проти вчителя: якщо інструктор «мусить самостійно виправлятися під час надання інструкцій, ця плутанина сама по собі вважається доказом того, що інструкція була незрозумілою з першого разу», навіть якщо вона «врешті-решт була виправлена».
"Прокинутися посеред ночі"
Кілька вчителів, виступаючи анонімно, описали вплив на їхнє самопочуття. «Відколи все це з’явилося, рівень стресу був просто жахливим», – сказав один. "Це вплинуло на сон, і не тільки для мене. Я пройшов через багато речей у своєму житті, і я ніколи не був у положенні, коли я прокидався посеред ночі".
Інші казали, що постійне підрахування очок змінило спосіб навчання. «Ваша увага більше не в тому, щоб проводити урок і слухати учня, — сказав один інструктор, — а чи правильно я говорю, щоб штучний інтелект не оцінив мене за якусь дурницю». Працівники також повідомляли, що їх затягували менеджери за ймовірні «відступи», які насправді були відповідями на запитання студентів. Вони описали систему як "безжалісну" та "нервуючу".
Мультивсесвіт: ШІ «керує людським часом»
Мультивсесвіт відкидає те, що штучний інтелект замінив людське судження. Представник компанії сказав, що система «надає інструкторам кращі поради щодо розробки та зворотного зв’язку — саме те, як будь-яка навчальна організація повинна розгортати штучний інтелект», і підкреслив, що «найбільш значуща дія управління ефективністю, яку вона може зробити, — це рекомендувати людині особисто перевірити сеанс».
У компанії заявили, що штучний інтелект «спрямовує людський час туди, де він найбільше потрібен», висвітлюючи проблеми, що лише менеджери пишуть оцінки роботи вчителів, що про його впровадження було повідомлено заздалегідь, і що вчителі матимуть доступ до даних, які збирає ШІ. У ньому безпосередньо не розглядалися скарги на стрес і тривогу.
Поширення дискусії про стеження
Суперечка в Multiverse відповідає моделі моніторингу ШІ, що поширюється на робочих місцях. Раніше цього року Burger King почав використовувати штучний інтелект для відстеження взаємодії працівників ресторану з клієнтами, а цього літа Meta призупинила відстеження натискань клавіш комп’ютера співробітниками через проблеми з конфіденційністю даних і негативну реакцію персоналу.
Організатори праці стверджують, що ця тенденція глибша, ніж будь-який роботодавець. Відділення United Tech and Allied Workers Union Workers Workers прийшло до висновку, що штучний інтелект на робочому місці викликає «когнітивну капітуляцію», оскільки персонал покладається на судження машин, а нове дослідження, яке буде опубліковано цього тижня, як повідомляється, показує, що працівники британської технологічної індустрії кажуть, що штучний інтелект знижує задоволення від роботи.
Компанія, що стоїть за системою
Multiverse навчає тисячі британських працівників навичкам комп’ютера та ШІ для роботодавців, включаючи Національну службу охорони здоров’я, місцеві ради, університети та приватні компанії, причому більша частина його доходу надходить через державний збір за учнівство. У компанії працює понад 800 людей, і її нещодавно оцінили в 1,6 мільярда фунтів стерлінгів, хоча це базується на обороті в 118 мільйонів фунтів і збитках у 28 мільйонів фунтів минулого року.
Блер, старший син колишнього прем'єр-міністра Тоні Блера, володіє великим міноритарним пакетом акцій, що оцінює його особистий капітал у 350 мільйонів фунтів. Він був одним із найгучніших корпоративних голосів за впровадження штучного інтелекту в економіці Великої Британії, заявивши минулого тижня, що «кожному працівнику потрібно буде перекваліфікуватись» і що роботодавці хочуть, щоб їхня робоча сила «якомога більше була задіяна на штучному інтелекті».
Офстед, освітня інспекція, виявила в лютому, що Multiverse не відповідає очікуваним стандартам у кількох сферах, водночас вихваляючи своїх інструкторів як «кваліфікованих, ефективних вчителів». Чи допоможе штучний інтелект, який спостерігає за цими вчителями, покращити їх чи просто вигорить їх, тепер це питання, на яке компанія повинна відповісти.
---
Будьте попереду ШІОтримуйте останні новини штучного інтелекту, аналіз і прориви — усе в одному місці.
Читати більше новин AI →
