유안 블레어(Euan Blair)가 공동 설립한 16억 파운드 규모의 기술 교육 회사인 멀티버스(Multiverse)의 교사들은 온라인 교육을 모니터링하고 점수를 매기는 AI 시스템으로 인해 "끔찍한 스트레스"가 발생했으며 일부 직원은 잠을 못 자고 치료를 받아야 한다고 The Guardian의 단독 보고서에서 밝혔습니다. 이 시스템은 온라인 강의실 세션의 기록을 분석하고 강사가 뭔가 잘못한 것으로 의심되는 경우 관리자에게 경고합니다.

이 논쟁은 AI 감시가 화이트칼라 작업장에 어떻게 도입되는지에 대한 가장 자세한 조사 중 하나이며, 최신 AI 개발이 소프트웨어를 통해 작업자를 감시하고, 점수를 매기고 관리하는 방식을 재구성하는 것에 대한 더 광범위한 논쟁의 한가운데에 있습니다.

AI가 보는 것

최근 몇 주 동안 도입된 이 시스템은 인간 관리자가 한 달에 한 번씩 각 강사를 관찰했던 이전 체제를 대체합니다. 교사는 이제 다양한 행동을 표시하도록 훈련된 AI에 의해 하루에 몇 시간씩 모니터링됩니다. 온라인 연결 중단을 신속하게(약 1분 내에) 해결하지 못함, "일종의" 및 "종류의"와 같은 필러 문구를 너무 많이 사용, 학습자 질문에 모호하거나 불확실한 답변 제공, 그룹의 나머지 부분을 소외시키는 장기간의 일대일 교환에 끌려감.

AI는 각 강사에게 "위험 상태" 태그를 지정하고 "신뢰도 점수 백분율"을 계산하며 관리자가 한 눈에 검토할 수 있도록 서면 의견을 생성합니다. The Guardian이 인용한 지침에는 "개별적인 사례가 아닌 전체 성적표에 걸쳐 패턴을 판단"하라고 나와 있습니다. 하지만 자체 교정은 교사에게도 불리한 것으로 간주됩니다. 강사가 "지시를 제공하는 동안 자체 교정을 해야 한다면, 그 혼란 자체는 지침이 처음에 명확하지 않았다"는 증거로 간주됩니다. 비록 "결국 바로잡았더라도" 말입니다.

'한밤 중에 깨어나다'

몇몇 교사들은 익명으로 그들의 복지에 미치는 영향을 설명했습니다. "이 모든 것이 발생한 이후로 스트레스 수준은 정말 끔찍했습니다"라고 한 사람은 말했습니다. "그것은 수면에 영향을 미쳤고, 나에게만 영향을 끼친 것은 아닙니다. 나는 인생에서 많은 일을 겪었고, 한밤중에 잠에서 깨어나는 상황에 처해본 적이 없습니다."

다른 사람들은 끊임없는 채점으로 인해 가르치는 방식이 바뀌었다고 말했습니다. 한 강사는 "당신의 관심은 더 이상 수업을 전달하고 학습자의 말을 듣는 데 있지 않습니다. 그러나 '내가 옳은 말을 해서 AI가 나를 어리석은 것으로 표시하지 않도록 하는 것입니까'"라고 말했습니다. 근로자들은 또한 실제로 학생들의 질문에 대한 답변인 "일탈"이 의심되는 경우 관리자에 의해 끌려갔다고 보고했습니다. 그들은 이 시스템을 "무자비하고" "불안하게 만든다"고 묘사했습니다.

멀티버스: AI가 '인간의 시간을 지시한다'

멀티버스는 AI가 인간의 판단을 대체했다는 특성을 거부합니다. 회사 대변인은 이 시스템이 "강사에게 개발 및 피드백에 대한 향상된 조언, 즉 학습 조직이 AI를 어떻게 배포해야 하는지 정확하게 제공한다"고 말했으며 "이 시스템이 취할 수 있는 가장 중요한 성과 관리 조치는 사람이 개인적으로 세션을 검토하도록 권장하는 것"이라고 강조했습니다.

회사는 AI가 문제를 강조함으로써 "인간의 시간을 가장 필요한 곳으로 안내"하고, 인간 관리자만이 교사 성과 리뷰를 작성하고, 도입이 사전에 전달되었으며, 교사는 AI가 수집한 데이터에 접근할 수 있다고 밝혔습니다. 스트레스와 불안에 대한 불만을 직접적으로 다루지는 않았습니다.

확대되는 감시 논쟁

Multiverse의 행은 직장 전체에 퍼지는 AI 모니터링 패턴에 적합합니다. 올해 초 버거킹은 레스토랑 직원의 고객 상호 작용을 추적하기 위해 AI를 사용하기 시작했으며 올 여름 Meta는 데이터 개인 정보 보호 문제와 직원의 반발로 직원의 컴퓨터 키 입력 추적을 일시 중지했습니다.

노동 운동가들은 이러한 추세가 어떤 고용주보다 더 심하다고 주장합니다. 통신 노동자 연합(Communication Workers Union)의 United Tech and Allied Workers 지부는 직원이 기계 판단을 따르기 때문에 직장 AI가 "인지적 굴복"을 가져온다는 결론을 내렸습니다. 이번 주에 발표될 새로운 연구에 따르면 영국 기술 산업 전반의 노동자들은 AI가 업무 만족도를 저하한다고 말합니다.

시스템 뒤에 있는 회사

Multiverse는 NHS, 지방 의회, 대학 및 민간 기업을 포함한 고용주를 위해 수천 명의 영국 근로자에게 컴퓨터 및 AI 기술을 교육하고 있으며, 수익의 대부분은 정부의 견습 부담금을 통해 흘러갑니다. 이 회사는 800명이 넘는 직원을 고용하고 있으며 최근 16억 파운드의 가치를 인정받았습니다. 하지만 이는 지난해 매출 1억 1,800만 파운드, 손실 2,800만 파운드에 달합니다.

토니 블레어 전 총리의 장남인 블레어 총리는 개인 순자산이 약 3억 5천만 파운드에 달하는 대규모 소수 지분을 소유하고 있습니다. 그는 지난주 "모든 근로자는 재교육을 받아야 할 것"이며 고용주는 "가능한 한 AI로 가득 찬" 인력을 원한다고 주장하면서 영국 경제에서 AI 채택에 대한 가장 큰 기업 목소리 중 하나였습니다.

교육 조사 기관인 Ofsted는 지난 2월 Multiverse가 여러 영역에서 기대되는 표준을 충족하지 못했다는 사실을 발견했으며 강사를 "숙련되고 효과적인 교사"라고 칭찬했습니다. 교사를 관찰하는 AI가 교사의 발전에 도움이 되는지 아니면 단순히 지치게 하는지는 이제 회사가 대답해야 할 질문입니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →