内部文書と請負業者3社へのインタビューに基づいた404 Mediaの報道によると、OpenAIのモデルをトレーニングするために報酬をもらった人々は、AIの助けを借りて仕事をしたために解雇されているという。

物語の中心にある皮肉は鋭い。 AI研究者らは、「モデルの崩壊」、つまりAIが生成したテキストでモデルのトレーニングが増えると起こる劣化について警告している。このような結果を防ぐために雇用された従業員の中には、AI が生成した応答を使用して OpenAI のモデルをトレーニングしている人もおり、同社の審査機関は積極的に彼らを追い詰めています。 この件の詳細は、AIの最新動向をご覧ください。

「あなたを追い出す唯一のこと」

ある請負業者は404メディアに対し、労働者がAIを使用しているのを「常に見ており、人々は常にそのために解雇されており、それはほぼすぐに解雇される唯一のことだ」と語った。この関係者は、「数千人の集団で何トンも捕獲されている」と付け加えた。

このレポートは、404 Media が以前に明らかにした Project Lily に基づいて構築されています。Project Lily は、何百人もの請負業者が実際の ChatGPT ユーザーのプロンプトと会話 (個人情報を含む可能性がある) を読み取り、応答があまりにもお調子者でないか、チャットボットを擬人化する傾向がないかのチェックを含め、モデルの応答を評価および批評する OpenAI の取り組みです。

新しいレポートは、追加の内部文書と、OpenAI プロジェクト全体で働く 3 人の請負業者へのインタビューに基づいています。ある内部文書によると、これらのプロジェクトには1万人以上の請負業者が関与する可能性があるという。

ルールブック: GPTZero なし、Grammarly なし、AI なし

404 Media がレビューした文書には、ツールの使用について明確な記載があります。他の請負業者の作業状態をレビューする請負業者向けの文書の 1 つは、「AI 検出ツールや自分自身で AI を使用しないでください」というものです。 「GPTZero やその他の AI 検出ツールは使用しないでください。それらは信頼できません。査読者も、Grammarly や AI 翻訳を含む AI を使用することはできません。」

同じ文書では、評価者に対し、自分たちの手法について沈黙を保つよう指導している。「評価者に、AIを疑う理由を告げてはいけない。何を探しているのかを知っていれば、隠れるのは簡単だ。一つの手がかりではなく、全体的なパターンを判断してください。」

請負業者3社はいずれも、審査担当者は業務でAIを使用しないよう指示されており、うち2社はAIを使用したために解雇または解雇されたと述べた。 404 メディアは請負業者に報道陣との会話が許可されていなかったため、匿名を許可した。

では、労働者に何が与えられるのでしょうか？報告書によると、査読者は、単語の繰り返し、AI スタイルの句読点 (明らかに全角ダッシュの過度の使用を含む)、および作業が異常に早く終了するなど、AI 使用の明らかな兆候を探すように指示されています。ある請負業者によると、請負業者がアドバイスを交換する Slack チャネルでは、人々が「これは AI ですか?」という質問の例を頻繁に投稿します。

OpenAI のモデルのトレーニングを支援する際に AI を使用したことを認めたある請負業者は、解雇通知として提出した内容を共有しました。彼らの雇用主は彼らの仕事の「信頼性」に問題があると指摘したという。

「私は悪い人間でも労働者でもない。ただ少し元気が欲しかっただけで、AIに助けを求めたが、それが結果的に私の転落につながった」と請負業者は404メディアに語った。 「仕事に喜びを感じなかったし、何らかの形で社会に貢献しているという実感もなかった。」

Mercor の役割と AI トレーニングの労働連鎖

請負業者のうち 2 人は、ChatGPT 関連資料をレビューする請負業者を雇う AI トレーニング会社 Mercor で働いていました。メルコールの広報担当者は声明で404メディアに対し、同社の専門家はその専門知識と判断力を求めて雇用されており、同社はそれがAIの継続的な進歩に不可欠であるとし、業務でのAIの使用は契約で厳しく禁止されていると述べた。

この取り決めは、フロンティアAI開発の背後にある階層化された労働構造を浮き彫りにしている。 OpenAI のような企業は、専門ベンダーへの依存を強めており、その結果、モデルの出力を評価し、有害なコンテンツにフラグを立て、回答を根付かせるために、プロジェクトごとに数千人規模のフリーランスのレビュー担当者を大規模に採用しています。そのチェーンにおける品質管理は、ソフトウェアによってではなく、「AI スタイル」の指示を読み取る他の人間によって実施されます。

禁止が存在する理由 — そしてそれを強制するのが難しい理由

禁止の理論的根拠は簡単です。ChatGPT の回答を評価する人間がその判断を ChatGPT 自体に委託すると、フィードバック ループが崩壊します。評価は人間の真の好みを反映しなくなり、モデルの崩壊は加速し、トレーニングの指針となる評価データは循環するようになります。 OpenAI 自身の文書では、AI 検出ツールが信頼できないことを認めていると伝えられており、そのためレビュー担当者はソフトウェアではなくパターン判断に依存するよう指示されています。

しかし、仲介業者を通じて雇用され、タスクごとに報酬が支払われる何千人ものフリーランサーの労働力全体に AI 非使用ルールを強制することは、それ自体のプレッシャーを生み出します。請負業者らは404メディアに対し、解雇が頻繁に行われているにもかかわらずAIの使用は一般的であると語った。解雇通知書を共有した匿名の労働者は、AIに頼ったのは怠惰からではなく、楽しくないと感じた仕事の「ちょっとした後押し」だったと述べた。

この報告書は、AI 業界の目に見えない労働力、つまりあらゆる主要モデルの労働力を支えているアノテーター、評価者、査読者の労働条件に関する広範な議論の真っただ中にあります。また、これはより広範な経済にとっても不快な疑問を引き起こす。人間の書き込みと機械の書き込みを区別するためにお金を払っている人々がそれを確実に区別するのに苦労し、OpenAI 自身の評価によれば AI 検出器の信頼性が低いままであれば、どこの雇用主もますます見えにくくなった境界を取り締まることになる。

今のところ、OpenAI のトレーニング パイプライン内のポリシーは明確であり、ペナルティも明確です。世界で最も有能な AI システムの 1 つによる出力を評価する労働者は、完全かつ検証可能な形で人間であることが期待されており、評価しているツールに手を伸ばす人は職を失う危険があります。

---

AIの最新情報をお届け

AIの最新ニュース、分析、ブレイクスルーを一箇所で。

AIニュースをもっと読む →