내부 문서와 3개 계약업체와의 인터뷰를 기반으로 한 404 Media의 보고서에 따르면 OpenAI의 모델을 훈련시키기 위해 돈을 받은 사람들은 AI의 도움으로 업무를 수행했다는 이유로 해고되고 있다고 합니다.

이야기의 중심에 있는 아이러니는 날카롭다. AI 연구자들은 "모델 붕괴"(모델이 AI 생성 텍스트에 대해 점점 더 많은 훈련을 받을 때 발생하는 성능 저하)에 대해 경고했습니다. 그러한 결과를 방지하기 위해 고용된 사람들 중 일부는 AI 생성 응답을 사용하여 OpenAI의 모델을 교육하고 있으며 회사의 검토 장치는 적극적으로 그들을 추적하고 있습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

"당신을 쫓겨나게 만드는 거의 유일한 것"

한 계약자는 404 Media에 직원들이 AI를 항상 사용하고 사람들은 항상 AI를 사용하는 것을 본다고 말했습니다. 이는 최대한 빨리 해고될 수 있는 유일한 이유입니다. 그 사람은 "수천 마리의 그룹에서 잡힌 톤이 있습니다"라고 덧붙였습니다.

이 보고서는 수백 명의 계약자가 실제 ChatGPT 사용자의 프롬프트와 대화(개인 정보가 포함될 수 있음)를 읽은 다음 응답이 너무 아첨하지 않거나 챗봇을 의인화하는 경향이 없는지 확인하는 것을 포함하여 모델의 응답을 평가하고 비평하는 OpenAI 노력인 404 Media의 이전 공개된 Project Lily를 기반으로 합니다.

새로운 보고는 OpenAI 프로젝트 전반에 걸쳐 작업하는 세 명의 계약자와의 추가 내부 문서 및 인터뷰를 기반으로 합니다. 한 내부 문서에 따르면 해당 프로젝트에는 1만 명 이상의 계약자가 참여할 수 있습니다.

규칙서: GPTZero 없음, 문법 없음, AI 없음

404 Media가 검토한 문서는 도구 사용에 대해 명확합니다. 다른 계약자의 작업 상태를 검토하는 계약자를 위한 문서에는 "AI 감지 도구 또는 AI를 직접 사용하지 마십시오"가 나와 있습니다. "GPTZero 또는 기타 AI 감지 도구를 사용하지 마십시오. 신뢰할 수 없습니다. 리뷰어도 Grammarly 및 AI 번역을 포함하여 AI를 사용할 수 없습니다."

동일한 문서는 검토자들에게 자신의 방법에 대해 조용히 지내도록 지도합니다. "평가자에게 AI를 의심하는 이유를 말하지 마십시오. 찾고 있는 것이 무엇인지 안다면 숨기는 것이 더 쉽습니다. 하나의 단서가 아닌 전체 패턴을 판단하십시오."

세 계약자 모두 검토자들에게 작업에 AI를 사용하지 말라고 지시했으며 두 사람은 AI를 사용한 이유로 해고되거나 해고되었다고 말했습니다. 404 미디어는 언론과의 대화가 허용되지 않았기 때문에 계약자에게 익명성을 부여했습니다.

그렇다면 노동자에게 무엇이 도움이 될까요? 보고서에 따르면 리뷰어들은 반복적인 단어, AI 스타일 구두점(엠 대시의 과도한 사용을 포함), 작업이 비정상적으로 빨리 완료되는 등 AI 사용을 나타내는 징후를 찾아보라는 지시를 받습니다. 한 계약업체는 계약업체가 조언을 교환하는 Slack 채널에서 사람들이 "이게 AI인가요?"라고 묻는 사례를 자주 게시한다고 말했습니다.

OpenAI의 모델 훈련을 도우면서 AI 사용을 인정한 한 계약자는 해고 편지로 제시한 내용을 공유했습니다. 고용주는 업무의 '진정성'에 문제가 있음을 확인했다고 밝혔습니다.

"나는 나쁜 사람이나 노동자가 아닙니다. 단지 약간의 힘이 필요했고 나를 돕기 위해 AI로 전환했고 결국 몰락하게 되었습니다."라고 계약자는 404 Media에 말했습니다. "나는 일에서 기쁨을 느끼지 못했고 어떤 식으로든 사회에 기여하고 있다는 느낌을 받지 못했습니다."

Mercor의 역할과 AI 교육 노동 체인

계약자 중 두 명은 ChatGPT 관련 자료를 검토하는 계약자를 고용하는 AI 교육 회사인 Mercor에서 근무했습니다. 머코 대변인은 404미디어에 성명을 통해 자사의 전문가는 전문지식과 판단을 위해 고용되며 이는 회사가 지속적인 AI 발전에 필수적이라고 설명했으며 계약에서는 작업에 AI 사용을 엄격히 금지한다고 밝혔습니다.

이 합의는 최첨단 AI 개발 뒤에 있는 계층화된 노동 구조를 강조합니다. OpenAI와 같은 회사는 전문 공급업체에 점점 더 의존하고 있으며, 그 결과 프로젝트당 수천 명에 달하는 대규모 프리랜서 검토자 풀을 모집하여 모델 출력을 평가하고 유해한 콘텐츠에 플래그를 지정하며 근거 있는 응답을 유지합니다. 해당 체인의 품질 관리는 소프트웨어가 아니라 "AI 스타일"을 읽는 다른 사람에 의해 시행됩니다.

금지 조치가 존재하는 이유와 시행이 어려운 이유

금지 이유는 간단합니다. ChatGPT의 답변을 평가하는 사람이 판단을 ChatGPT 자체에 아웃소싱하면 피드백 루프가 무너집니다. 평가는 진정한 인간 선호도를 반영하지 않고, 모델 붕괴는 가속화되며, 교육을 안내하는 평가 데이터는 순환화됩니다. OpenAI 자체 문서에서는 AI 탐지 도구가 신뢰할 수 없다는 점을 인정한 것으로 알려졌는데, 이것이 리뷰어가 소프트웨어보다는 패턴 판단에 의존하라는 지시를 받는 이유입니다.

그러나 중개인을 통해 고용되고 업무당 급여를 받는 수천 명의 프리랜서 인력에 대해 AI 없음 규칙을 시행하는 것은 그 자체로 압력을 가합니다. 계약업체들은 해고가 빈번하더라도 AI 사용이 흔하다고 404 미디어에 전했으며, 해고 편지를 공유한 익명의 직원은 AI를 사용하게 된 이유는 게으름 때문이 아니라 즐겁지 않은 작업에 대한 "약간의 활력소"라고 설명했습니다.

이 보고서는 모든 주요 모델을 뒷받침하는 주석자, 평가자, 검토자 등 AI 업계의 보이지 않는 인력의 근무 조건에 대한 광범위한 논쟁이 진행되는 가운데 작성되었습니다. 이는 또한 더 넓은 경제에 불편한 질문을 제기합니다. 인간의 글쓰기와 기계의 글쓰기를 구별하기 위해 돈을 지불한 사람들이 그렇게 하기 위해 고군분투하고 OpenAI 자체 평가에 따르면 AI 탐지기가 여전히 신뢰할 수 없는 경우, 모든 곳의 고용주는 점점 더 보기 어려운 경계를 감시하게 됩니다.

현재로서는 OpenAI의 교육 파이프라인 내부 정책이 명확하고 처벌도 명확합니다. 세계에서 가장 유능한 AI 시스템 중 하나의 결과를 평가하는 작업자는 전적으로 검증 가능한 인간일 것으로 예상되며, 평가하는 도구에 손을 뻗는 작업자는 일자리를 잃을 위험이 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →