Orang yang dibayar untuk melatih model OpenAI dipecat kerana melakukan kerja mereka dengan bantuan AI, menurut laporan oleh 404 Media berdasarkan dokumen dalaman dan temu bual dengan tiga kontraktor.
Ironi di tengah-tengah cerita adalah tajam. Penyelidik AI telah memberi amaran tentang "keruntuhan model" — kemerosotan yang berlaku apabila model semakin dilatih pada teks yang dijana AI. Sesetengah orang yang diupah untuk menghalang hasil itu sendiri menggunakan respons yang dijana AI untuk melatih model OpenAI, dan peralatan semakan syarikat sedang giat memburunya. For more context on this story, see our ongoing AI industry coverage.
"Hampir Satu Perkara Yang Akan Membuat Anda Disepak"
Seorang kontraktor memberitahu 404 Media bahawa mereka melihat pekerja menggunakan AI "sepanjang masa dan orang ramai dilepaskan untuknya sepanjang masa, ia adalah satu perkara yang akan membuatkan anda bermula ASAP." Orang itu menambah bahawa "dalam sekumpulan ribuan terdapat banyak tan yang telah ditangkap."
Laporan itu dibina berdasarkan pendedahan Project Lily 404 Media sebelum ini, usaha OpenAI di mana beratus-ratus kontraktor membaca gesaan dan perbualan pengguna ChatGPT sebenar — yang boleh termasuk maklumat peribadi — kemudian menilai dan mengkritik respons model, termasuk menyemak bahawa balasan tidak terlalu menjijikkan atau terdedah kepada antropomorfosis chatbot.
Pelaporan baharu ini menggunakan dokumen dalaman tambahan dan temu bual dengan tiga kontraktor yang bekerja merentasi projek OpenAI. Menurut satu dokumen dalaman, projek tersebut boleh melibatkan lebih daripada sepuluh ribu kontraktor.
Buku Peraturan: Tiada GPTZero, Tiada Tatabahasa, Tiada AI
Dokumen yang disemak oleh 404 Media adalah jelas tentang penggunaan alat. "Jangan gunakan alat pengesanan AI, atau AI sendiri," satu dokumen untuk kontraktor yang menyemak keadaan kerja kontraktor lain. "Jangan gunakan GPTZero atau mana-mana alat pengesanan AI yang lain. Mereka tidak boleh dipercayai. Pengulas juga tidak boleh menggunakan AI, termasuk Grammarly dan terjemahan AI."
Dokumen yang sama melatih pengulas untuk berdiam diri tentang kaedah mereka: "Jangan beritahu penilai sebab anda mengesyaki AI. Lebih mudah bagi mereka untuk bersembunyi jika mereka tahu perkara yang anda cari. Nilai corak keseluruhan, bukan satu petunjuk."
Ketiga-tiga kontraktor berkata pengulas diarahkan untuk tidak menggunakan AI dalam kerja mereka, dan dua orang berkata telah dipecat atau diberhentikan kerana menggunakannya. 404 Media tidak mahu namanya disiarkan kepada kontraktor kerana mereka tidak dibenarkan bercakap kepada akhbar.
Jadi apa yang menyebabkan pekerja pergi? Menurut laporan itu, pengulas diberitahu untuk mencari tanda-tanda penggunaan AI: perkataan berulang, tanda baca gaya AI — termasuk, nampaknya, penggunaan sengkang em yang terlalu bersemangat — dan kerja diselesaikan dengan cepat luar biasa. Dalam saluran Slack di mana kontraktor berdagang nasihat, seorang kontraktor berkata, orang sering menyiarkan contoh bertanya, "Adakah ini AI?"
Seorang kontraktor yang mengaku menggunakan AI semasa membantu melatih model OpenAI berkongsi perkara yang mereka bentangkan sebagai surat penamatan perkhidmatan mereka. Ia berkata majikan mereka telah mengenal pasti masalah dengan "keaslian" kerja mereka.
"Saya bukan orang atau pekerja yang jahat. Saya hanya memerlukan sedikit dorongan dan beralih kepada AI untuk membantu saya yang akhirnya membawa kepada kejatuhan saya," kata kontraktor itu kepada 404 Media. "Saya tidak merasakan kegembiraan dalam kerja atau bahawa saya menyumbang kepada masyarakat dalam apa cara sekalipun."
Peranan Mercor dan Rantaian Buruh Latihan AI
Dua daripada kontraktor bekerja untuk Mercor, sebuah syarikat latihan AI yang mengupah kontraktor yang menyemak bahan berkaitan ChatGPT. Jurucakap Mercor memberitahu 404 Media dalam satu kenyataan bahawa pakarnya diupah untuk kepakaran dan pertimbangan mereka, yang disifatkan syarikat itu penting untuk kemajuan AI yang berterusan, dan kontraknya melarang penggunaan AI dalam kerja.
Susunan itu menyerlahkan struktur buruh berlapis di sebalik pembangunan AI sempadan. Syarikat seperti OpenAI semakin bergantung pada vendor khusus, yang seterusnya merekrut kumpulan besar pengulas bebas — dengan beribu-ribu setiap projek — untuk menggredkan output model, membenderakan kandungan berbahaya dan memastikan respons berasas. Kawalan kualiti dalam rantaian itu dikuatkuasakan bukan oleh perisian tetapi oleh manusia lain yang membaca untuk memberitahu "gaya AI".
Mengapa Pengharaman Wujud — dan Mengapa Sukar Dikuatkuasakan
Rasional untuk larangan itu adalah mudah: jika manusia menilai jawapan ChatGPT menyumber luar pertimbangan mereka kepada ChatGPT sendiri, gelung maklum balas akan runtuh. Penilaian berhenti mencerminkan pilihan manusia tulen, model runtuh dipercepatkan dan data penilaian yang membimbing latihan menjadi bulat. Dokumen OpenAI sendiri dilaporkan mengakui bahawa alat pengesanan AI tidak boleh dipercayai, itulah sebabnya penyemak diberitahu untuk bergantung pada pertimbangan corak dan bukannya perisian.
Tetapi menguatkuasakan peraturan tanpa AI merentasi tenaga kerja yang terdiri daripada ribuan pekerja bebas, diupah melalui pengantara dan dibayar setiap tugas, mewujudkan tekanannya sendiri. Kontraktor memberitahu 404 Media bahawa penggunaan AI adalah perkara biasa walaupun penamatan adalah kerap, dan pekerja tanpa nama yang berkongsi surat penamatan menyifatkan beralih kepada AI bukan kerana malas tetapi sebagai "sedikit rangsangan" untuk kerja yang mereka rasa tidak gembira.
Laporan itu tiba di tengah-tengah perdebatan yang lebih luas tentang keadaan kerja tenaga kerja halimunan industri AI — pencatat, penilai dan penyemak yang tenaga kerjanya menyokong setiap model utama. Ia juga menimbulkan persoalan yang tidak selesa untuk ekonomi yang lebih luas: jika orang yang dibayar untuk membezakan tulisan manusia daripada penulisan mesin bergelut untuk melakukannya dengan pasti, dan pengesan AI kekal tidak boleh dipercayai oleh penilaian OpenAI sendiri, majikan di mana-mana dibiarkan mengawal sempadan yang semakin sukar untuk dilihat.
Buat masa ini, dasar dalam saluran paip latihan OpenAI adalah jelas, dan begitu juga penaltinya. Pekerja yang menggredkan output salah satu sistem AI yang paling berkebolehan di dunia dijangka sepenuhnya, boleh dipastikan manusia — dan mereka yang mencapai alat yang mereka gred berisiko kehilangan pekerjaan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
