ガーディアン紙の独占報道によると、ユアン・ブレア氏が共同設立した16億ポンドの技術トレーニング会社マルチバースの教師らは、オンライン授業を監視して採点するAIシステムが「ひどいストレス」を引き起こし、一部のスタッフが睡眠不足になってセラピーを求めていると述べた。このシステムは、オンライン教室セッションの記録を分析し、講師が何か間違ったことをしている疑いがある場合に人間の管理者に警告します。

この論争は、AI監視がホワイトカラーの職場にどのように浸透しているのかについて、これまでで最も詳細に検討されたものの1つであり、ソフトウェアによる労働者の監視、採点、管理の方法を再構築する最新のAI開発に関する広範な議論の真っ只中にある。

AI が監視しているもの

このシステムはここ数週間で導入され、人間のマネージャーが月に一度各インストラクターを観察していた以前の体制に取って代わるものである。教師たちは現在、さまざまな行動にフラグを立てるように訓練された AI によって 1 日に数時間監視されている。オンライン接続の中断を 1 分以内に十分な速さで解決できないこと、「なんとなく」や「一種の」などのつなぎフレーズを多用すること、学習者の質問に対して曖昧または不確実な答えを与えること、グループの他のメンバーを無視するような長時間の 1 対 1 のやり取りに巻き込まれることなどである。

AI は各インストラクターに「リスク ステータス」のタグを付け、「パーセンテージ信頼スコア」を計算し、マネージャーが一目で確認できるように書面によるコメントを作成します。ガーディアン紙が引用したその指示では、「個別の事例ではなく、トランスクリプト全体でパターンを判断する」ように指示されているが、自己修正は教師にも不利となる。インストラクターが「指導中に自己修正しなければならなかった場合、その混乱自体が、たとえそれが「最終的には正された」としても、最初は指示が明確でなかった証拠としてみなされる。

「真夜中に目が覚める」

何人かの教師が匿名で、自分たちの健康への影響について語った。 「このようなことが起こって以来、ストレスレベルは本当にひどいものになっています」とある人は語った。 「それは睡眠に影響を与えていますが、それは私だけではありません。私はこれまでの人生でたくさんのことを経験してきましたが、真夜中に目が覚めるような状況になったことは一度もありません。」

一定の採点によって教え方が変わったと言う人もいた。ある講師は、「授業を行うことや学習者の話を聞くことに注意が向けられなくなっているが、『AIが愚かなことを指摘しないように、私は正しいことを言っているのだろうか』と語った。」従業員らはまた、実際には学生の質問に対する答えだった「脱線」の疑いで管理者に呼び止められたと報告した。彼らはこのシステムを「無慈悲」で「不安な」ものだと表現した。

マルチバース: AI は「人間の時間を指示する」

マルチバースは、AI が人間の判断を置き換えたという特徴付けを拒否します。同社の広報担当者は、このシステムは「開発とフィードバックに関する改善されたアドバイスをインストラクターに提供するものであり、まさに学習組織が AI を導入すべき方法を提供する」と述べ、「このシステムが実行できる最も重要なパフォーマンス管理アクションは、人間が個人的にセッションをレビューすることを推奨することである」と強調した。

同社は、AIが問題を強調することで「人間の時間を最も必要なところに振り向ける」こと、教師の業績評価を書くのは人間の管理者のみであること、AIの導入は事前に伝えられたこと、教師はAIが収集するデータにアクセスできることなどを挙げた。ストレスや不安に関する訴えに直接対処するものではありませんでした。

拡大する監視の議論

マルチバースでの騒動は、職場に広がる AI 監視のパターンに当てはまります。バーガーキングは今年初め、レストラン従業員の顧客とのやりとりを追跡するためにAIを使い始めたが、この夏、メタ社はデータプライバシーに関する懸念と従業員の反発を受けて従業員のコンピュータのキー入力の追跡を一時停止した。

労働団体は、この傾向はどの雇用主よりも根深いものであると主張している。通信労働者組合のユナイテッド・テック・アンド・アライド・ワーカーズ支部は、スタッフが機械の判断に従うことで職場のAIが「認知的降伏」を引き起こすと結論付けており、今週発表される新しい研究では、英国のテクノロジー業界全体の労働者がAIが仕事の満足度を低下させていると主張していることが明らかになったと伝えられている。

システムの背後にある会社

Multiverse は、NHS、地方自治体、大学、民間企業などの雇用主向けに、英国の何千人もの労働者にコンピューターと AI のスキルを訓練しており、収益のほとんどは政府の見習い徴収金から流れています。同社は800人以上の従業員を擁し、最近の評価額は16億ポンドだが、これは昨年の売上高1億1,800万ポンドと損失2,800万ポンドに基づいている。

トニー・ブレア元首相の長男であるブレア氏は、個人純資産が推定3億5,000万ポンドとされる大規模な少数株を所有している。同氏は英国経済におけるAI導入を最も声高に主張する企業の1人で、先週「すべての労働者が再訓練を受ける必要がある」と主張し、雇用主は従業員に「可能な限りAIを導入する」ことを望んでいると主張した。

教育監督当局のオフステッドは2月、マルチバースがいくつかの分野で期待される基準を満たしていないことを発見し、一方でその講師を「熟練した有能な教師」と称賛した。これらの教師を監視する AI が教師の向上を助けるのか、それとも単に教師を消耗させるだけなのかは、現在企業が答えなければならない問題だ。

---

AI の先を行く

最新の AI ニュース、分析、画期的な情報をすべて 1 か所で入手できます。

AI ニュースをもっと読む→