Theo báo cáo của 404 Media dựa trên các tài liệu nội bộ và các cuộc phỏng vấn với ba nhà thầu, những người được trả tiền để đào tạo các mô hình của OpenAI đang bị sa thải vì thực hiện công việc của họ với sự trợ giúp của AI.

Sự trớ trêu ở trung tâm của câu chuyện là sắc nét. Các nhà nghiên cứu AI đã cảnh báo về hiện tượng "sụp đổ mô hình" - sự xuống cấp xảy ra khi các mô hình ngày càng được đào tạo về văn bản do AI tạo ra. Một số người được thuê để ngăn chặn kết quả đó đang sử dụng phản hồi do AI tạo ra để huấn luyện các mô hình của OpenAI và bộ máy đánh giá của công ty đang tích cực săn lùng họ. For more context on this story, see our ongoing more AI stories.

"Hầu như có một điều sẽ khiến bạn bị loại"

Một nhà thầu nói với 404 Media rằng họ thấy các công nhân sử dụng AI "mọi lúc và mọi người luôn buông thả nó, đó gần như là điều sẽ khiến bạn bị đuổi việc càng sớm càng tốt." Người này nói thêm rằng “trong một đàn hàng nghìn người đã đánh bắt được hàng tấn”.

Báo cáo được xây dựng dựa trên tiết lộ trước đó của 404 Media về Project Lily, một nỗ lực của OpenAI trong đó hàng trăm nhà thầu đọc lời nhắc và cuộc trò chuyện thực sự của người dùng ChatGPT — có thể bao gồm thông tin cá nhân — sau đó xếp hạng và phê bình các phản hồi của mô hình, bao gồm cả việc kiểm tra xem các câu trả lời đó không quá đồng điệu hoặc có xu hướng nhân cách hóa chatbot.

Báo cáo mới dựa trên các tài liệu nội bộ bổ sung và các cuộc phỏng vấn với ba nhà thầu làm việc trong các dự án OpenAI. Theo một tài liệu nội bộ, những dự án đó có thể có sự tham gia của hơn mười nghìn nhà thầu.

Sách quy tắc: Không GPTZero, Không ngữ pháp, Không AI

Các tài liệu được 404 Media xem xét đều rõ ràng về việc sử dụng công cụ. "Không sử dụng các công cụ phát hiện AI hoặc chính AI", một tài liệu dành cho các nhà thầu xem xét trạng thái làm việc của các nhà thầu khác. "Không sử dụng GPTZero hoặc bất kỳ công cụ phát hiện AI nào khác. Chúng không đáng tin cậy. Người đánh giá cũng không được sử dụng AI, bao gồm cả Grammarly và AI dịch thuật."

Tài liệu tương tự cũng hướng dẫn những người đánh giá giữ im lặng về phương pháp của họ: "Đừng nói cho người đánh giá biết lý do bạn nghi ngờ AI. Họ sẽ dễ dàng che giấu hơn nếu họ biết bạn đang tìm kiếm điều gì. Hãy đánh giá mô hình tổng thể chứ không phải một manh mối."

Cả ba nhà thầu đều cho biết những người đánh giá được hướng dẫn không sử dụng AI trong công việc của họ và hai người cho biết đã bị sa thải hoặc sa thải vì sử dụng nó. 404 Media cho phép giấu tên các nhà thầu vì họ không được phép nói chuyện với báo chí.

Vậy điều gì khiến người lao động mất đi? Theo báo cáo, những người đánh giá được yêu cầu tìm kiếm các dấu hiệu nhận biết về việc sử dụng AI: các từ lặp đi lặp lại, dấu câu kiểu AI - rõ ràng bao gồm cả việc sử dụng dấu gạch ngang quá mức - và công việc được hoàn thành nhanh chóng một cách bất thường. Trong các kênh Slack, nơi các nhà thầu tư vấn giao dịch, một nhà thầu cho biết, mọi người thường đăng các ví dụ với câu hỏi: "Đây có phải là AI không?"

Một nhà thầu thừa nhận đã sử dụng AI khi giúp đào tạo các mô hình của OpenAI đã chia sẻ những gì họ trình bày dưới dạng thư chấm dứt hợp đồng. Nó cho biết người chủ của họ đã xác định được vấn đề về "tính xác thực" trong công việc của họ.

"Tôi không phải là người xấu hay công nhân. Tôi chỉ cần một chút động lực và chuyển sang AI để giúp đỡ, điều này cuối cùng đã dẫn đến sự suy sụp của tôi", nhà thầu nói với 404 Media. "Tôi không cảm thấy niềm vui trong công việc hay rằng tôi đang đóng góp cho xã hội bằng bất kỳ cách nào."

Vai trò của Mercor và Chuỗi lao động đào tạo AI

Hai trong số các nhà thầu đã làm việc cho Mercor, một công ty đào tạo AI thuê các nhà thầu đánh giá tài liệu liên quan đến ChatGPT. Người phát ngôn của Mercor nói với 404 Media trong một tuyên bố rằng các chuyên gia của họ được thuê vì chuyên môn và khả năng phán đoán của họ, điều mà công ty mô tả là cần thiết cho sự tiến bộ không ngừng của AI và các hợp đồng của họ nghiêm cấm việc sử dụng AI trong công việc.

Sự sắp xếp này nêu bật cơ cấu lao động phân tầng đằng sau sự phát triển AI biên giới. Các công ty như OpenAI ngày càng phụ thuộc vào các nhà cung cấp chuyên biệt, từ đó tuyển dụng một lượng lớn người đánh giá tự do - lên tới hàng nghìn người cho mỗi dự án - để chấm điểm kết quả đầu ra của mô hình, gắn cờ nội dung có hại và giữ cho các phản hồi có căn cứ. Việc kiểm soát chất lượng trong chuỗi đó được thực thi không phải bằng phần mềm mà do những người khác đọc thông báo về "kiểu AI".

Tại sao lệnh cấm tồn tại - và tại sao khó thực thi

Lý do cấm rất đơn giản: nếu con người đánh giá các câu trả lời của ChatGPT chuyển các đánh giá của họ cho chính ChatGPT, thì vòng phản hồi sẽ sụp đổ. Xếp hạng không còn phản ánh sở thích thực sự của con người, tốc độ sụp đổ của mô hình tăng nhanh và dữ liệu đánh giá hướng dẫn đào tạo trở nên tuần hoàn. Các tài liệu riêng của OpenAI được cho là thừa nhận rằng các công cụ phát hiện AI là không đáng tin cậy, đó là lý do tại sao người đánh giá được yêu cầu dựa vào phán đoán mẫu thay vì phần mềm.

Nhưng việc thực thi quy tắc không có AI đối với lực lượng lao động gồm hàng nghìn người làm việc tự do, được thuê thông qua trung gian và được trả lương cho mỗi nhiệm vụ, đã tạo ra áp lực riêng. Các nhà thầu nói với 404 Media rằng việc sử dụng AI là phổ biến ngay cả khi việc chấm dứt hợp đồng xảy ra thường xuyên và nhân viên ẩn danh đã chia sẻ lá thư chấm dứt hợp đồng mô tả việc chuyển sang sử dụng AI không phải vì lười biếng mà là "một chút động lực" cho công việc mà họ thấy không vui.

Báo cáo đưa ra giữa một cuộc tranh luận rộng rãi hơn về điều kiện làm việc của lực lượng lao động vô hình của ngành AI - những người chú thích, người đánh giá và người đánh giá có sức lao động làm nền tảng cho mọi mô hình chính. Nó cũng đặt ra những câu hỏi khó chịu cho nền kinh tế rộng lớn hơn: nếu những người được trả tiền để phân biệt chữ viết của con người với chữ viết của máy gặp khó khăn để làm điều đó một cách đáng tin cậy và các máy dò AI vẫn không đáng tin cậy theo đánh giá của chính OpenAI, thì các nhà tuyển dụng ở khắp mọi nơi sẽ phải kiểm soát một ranh giới ngày càng khó nhìn thấy.

Hiện tại, chính sách trong quy trình đào tạo của OpenAI đã rõ ràng và hình phạt cũng vậy. Những công nhân phân loại kết quả đầu ra của một trong những hệ thống AI có năng lực nhất thế giới dự kiến ​​sẽ hoàn toàn là con người và có thể xác minh được - và những người sử dụng công cụ mà họ đang phân loại có nguy cơ mất việc.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →