Orang-orang yang dibayar untuk melatih model OpenAI dipecat karena melakukan pekerjaan mereka dengan bantuan AI, menurut laporan 404 Media berdasarkan dokumen internal dan wawancara dengan tiga kontraktor.
Ironi yang menjadi inti cerita sangat tajam. Peneliti AI telah memperingatkan tentang "keruntuhan model" – degradasi yang terjadi ketika model semakin banyak dilatih menggunakan teks yang dihasilkan AI. Beberapa orang yang dipekerjakan untuk mencegah hal tersebut menggunakan respons yang dihasilkan AI untuk melatih model OpenAI, dan alat peninjau perusahaan secara aktif memburu mereka. For more context on this story, see our ongoing breaking AI news.
"Satu-Satunya Hal yang Akan Membuat Anda Memulai"
Salah satu kontraktor mengatakan kepada 404 Media bahwa mereka melihat para pekerja menggunakan AI "sepanjang waktu dan orang-orang diberhentikan sepanjang waktu, itulah satu-satunya hal yang akan membuat Anda dikeluarkan secepatnya." Orang tersebut menambahkan bahwa "dalam kelompok ribuan ada banyak sekali yang telah ditangkap."
Laporan ini dibuat berdasarkan pengungkapan Project Lily sebelumnya oleh 404 Media, sebuah upaya OpenAI di mana ratusan kontraktor membaca permintaan dan percakapan pengguna ChatGPT yang sebenarnya — yang dapat mencakup informasi pribadi — lalu menilai dan mengkritik respons model, termasuk memastikan bahwa balasan tersebut tidak terlalu menjilat atau cenderung melakukan antropomorfisasi pada chatbot.
Pelaporan baru ini mengacu pada dokumen internal tambahan dan wawancara dengan tiga kontraktor yang bekerja di proyek OpenAI. Menurut dokumen internal, proyek tersebut bisa melibatkan lebih dari sepuluh ribu kontraktor.
Buku Peraturan: Tanpa GPTZero, Tanpa Tata Bahasa, Tanpa AI
Dokumen yang ditinjau oleh 404 Media tidak ambigu tentang penggunaan alat. “Jangan gunakan alat pendeteksi AI, atau AI sendiri,” salah satu dokumen untuk kontraktor yang meninjau status pekerjaan kontraktor lain. "Jangan gunakan GPTZero atau alat pendeteksi AI lainnya. Alat tersebut tidak dapat diandalkan. Peninjau juga tidak boleh menggunakan AI, termasuk Grammarly dan terjemahan AI."
Dokumen yang sama melatih para peninjau untuk tetap diam mengenai metode mereka: "Jangan beri tahu evaluator mengapa Anda mencurigai AI. Lebih mudah bagi mereka untuk bersembunyi jika mereka tahu apa yang Anda cari. Nilailah pola keseluruhannya, bukan satu petunjuk pun."
Ketiga kontraktor tersebut mengatakan bahwa para pengulas diinstruksikan untuk tidak menggunakan AI dalam pekerjaan mereka, dan dua orang mengatakan orang-orang telah dipecat atau dipecat karena menggunakannya. 404 Media memberikan anonimitas kepada kontraktor karena mereka tidak diizinkan berbicara kepada pers.
Jadi, apa yang membuat seorang pekerja menjauh? Menurut laporan tersebut, pengulas diminta untuk mencari tanda-tanda penggunaan AI: kata-kata yang berulang, tanda baca bergaya AI – termasuk, tampaknya, penggunaan tanda hubung yang berlebihan – dan pekerjaan diselesaikan dengan sangat cepat. Di saluran Slack tempat para kontraktor bertukar saran, kata salah satu kontraktor, orang sering memposting contoh yang menanyakan, "Apakah ini AI?"
Salah satu kontraktor yang mengaku menggunakan AI saat membantu melatih model OpenAI membagikan apa yang mereka tunjukkan sebagai surat penghentian. Dikatakan bahwa majikan mereka telah mengidentifikasi masalah dengan “keaslian” pekerjaan mereka.
"Saya bukan orang atau pekerja jahat. Saya hanya butuh sedikit dorongan dan beralih ke AI untuk membantu saya yang akhirnya menyebabkan kejatuhan saya," kata kontraktor tersebut kepada 404 Media. "Saya tidak merasakan kegembiraan dalam pekerjaan ini atau bahwa saya berkontribusi kepada masyarakat dengan cara apa pun."
Peran Mercor dan Rantai Tenaga Kerja Pelatihan AI
Dua kontraktor bekerja untuk Mercor, sebuah perusahaan pelatihan AI yang mempekerjakan kontraktor untuk meninjau materi terkait ChatGPT. Seorang juru bicara Mercor mengatakan kepada 404 Media dalam sebuah pernyataan bahwa para ahli mereka dipekerjakan berdasarkan keahlian dan penilaian mereka, yang oleh perusahaan digambarkan sebagai hal yang penting untuk kemajuan AI yang berkelanjutan, dan bahwa kontrak mereka dengan tegas melarang penggunaan AI dalam pekerjaan mereka.
Pengaturan ini menyoroti struktur ketenagakerjaan berlapis di balik pengembangan AI terdepan. Perusahaan seperti OpenAI semakin bergantung pada vendor khusus, yang pada gilirannya merekrut sejumlah besar peninjau lepas – ribuan per proyek – untuk menilai keluaran model, menandai konten berbahaya, dan menjaga respons tetap rendah. Kontrol kualitas dalam rantai tersebut diterapkan bukan oleh perangkat lunak, melainkan oleh manusia lain yang membaca cerita "gaya AI".
Mengapa Larangan Ada — dan Mengapa Sulit untuk Ditegakkan
Alasan pelarangan ini sangat jelas: jika manusia yang menilai jawaban ChatGPT melakukan outsourcing penilaian mereka ke ChatGPT itu sendiri, maka putaran umpan balik akan runtuh. Pemeringkatan tidak lagi mencerminkan preferensi manusia yang sebenarnya, keruntuhan model semakin cepat, dan data evaluasi yang memandu pelatihan menjadi melingkar. Dokumen OpenAI sendiri dilaporkan mengakui bahwa alat pendeteksi AI tidak dapat diandalkan, itulah sebabnya peninjau diminta untuk mengandalkan penilaian pola daripada perangkat lunak.
Namun menerapkan aturan tanpa AI pada ribuan pekerja lepas, yang dipekerjakan melalui perantara dan dibayar per tugas, menciptakan tekanan tersendiri. Para kontraktor mengatakan kepada 404 Media bahwa penggunaan AI adalah hal biasa meskipun sering terjadi pemutusan hubungan kerja, dan pekerja anonim yang membagikan surat pemutusan hubungan kerja menjelaskan bahwa penggunaan AI bukan karena kemalasan tetapi sebagai "sedikit dorongan" untuk pekerjaan yang mereka anggap tidak menyenangkan.
Laporan ini muncul di tengah perdebatan yang lebih luas mengenai kondisi kerja tenaga kerja tak kasat mata di industri AI – yaitu para anotator, penilai, dan peninjau yang pekerjaannya mendasari setiap model utama. Hal ini juga menimbulkan pertanyaan yang tidak mengenakkan bagi perekonomian yang lebih luas: jika orang-orang yang dibayar untuk membedakan tulisan manusia dan tulisan mesin kesulitan melakukannya dengan andal, dan detektor AI tetap tidak dapat diandalkan berdasarkan penilaian OpenAI sendiri, maka perusahaan di mana pun harus mengawasi batasan yang semakin sulit untuk dilihat.
Untuk saat ini, kebijakan dalam jalur pelatihan OpenAI sudah jelas, begitu pula hukumannya. Pekerja yang menilai hasil dari salah satu sistem AI yang paling mampu di dunia diharapkan sepenuhnya merupakan manusia – dan mereka yang menggunakan alat yang mereka nilai berisiko kehilangan pekerjaan.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
