404 Media'nın dahili belgelere ve üç yükleniciyle yapılan röportajlara dayanan bir raporuna göre, OpenAI modellerini eğitmek için para alan kişiler işlerini yapay zeka yardımıyla yaptıkları için işten atılıyor.
Hikayenin merkezindeki ironi keskindir. Yapay zeka araştırmacıları, modeller yapay zeka tarafından oluşturulan metin üzerinde giderek daha fazla eğitildiğinde ortaya çıkan bozulma olan "model çöküşü" konusunda uyardılar. Bu sonucu önlemek için işe alınan kişilerden bazıları, OpenAI modellerini eğitmek için yapay zeka tarafından oluşturulan yanıtları kullanıyor ve şirketin inceleme aygıtı aktif olarak onları avlıyor. For more context on this story, see our ongoing AI industry coverage.
"İşten Atılmanızı Sağlayacak Tek Şey"
Bir yüklenici 404 Media'ya işçilerin yapay zeka kullandığını gördüklerini söyledi "her zaman ve insanlar buna izin veriyor, bu hemen hemen sizi en kısa sürede işten attıracak tek şey." Kişi, "Binlerce kişilik bir grupta yakalanan tonlarca insan var" diye ekledi.
Rapor, yüzlerce yüklenicinin kişisel bilgileri içerebilen gerçek ChatGPT kullanıcılarının istemlerini ve konuşmalarını okuduğu ve ardından yanıtların fazla dalkavukluk yapmadığını veya chatbot'u antropomorfize etmeye eğilimli olmadığını kontrol etmek de dahil olmak üzere modelin yanıtlarını derecelendirdiği ve eleştirdiği bir OpenAI çalışması olan 404 Media'nın Project Lily'ye ilişkin daha önceki açıklamasına dayanıyor.
Yeni raporlama, ek dahili belgelerden ve OpenAI projelerinde çalışan üç yüklenici ile yapılan röportajlardan yararlanıyor. Dahili bir belgeye göre, bu projelere on binden fazla yüklenici dahil olabilir.
Kural Kitabı: GPTZero Yok, Dilbilgisi Yok, Yapay Zeka Yok
404 Media tarafından incelenen belgeler araç kullanımı konusunda nettir. Diğer yüklenicilerin çalışma durumlarını inceleyen yüklenicilere yönelik bir belge olan "Yapay zeka tespit araçlarını veya kendiniz yapay zeka kullanmayın". "GPTZero'yu veya başka herhangi bir yapay zeka tespit aracını kullanmayın. Bunlar güvenilir değil. İncelemeciler, Grammarly ve yapay zeka çevirisi de dahil olmak üzere yapay zekayı da kullanamaz."
Aynı belge, incelemecilere yöntemleri konusunda sessiz kalmaları konusunda koçluk yapıyor: "Değerlendiricilere yapay zekadan neden şüphelendiğinizi söylemeyin. Ne aradığınızı biliyorlarsa saklanmaları daha kolaydır. Tek bir ipucunu değil, genel modeli değerlendirin."
Her üç yüklenici de, incelemecilere işlerinde yapay zeka kullanmamaları yönünde talimat verildiğini ve ikisi de kişilerin yapay zekayı kullandıkları için kovulduğunu veya işten atıldığını söyledi. 404 Medya, yüklenicilerin basına konuşmalarına izin verilmediği için anonimlik hakkı tanıdı.
Peki bir işçiyi ele veren nedir? Rapora göre, incelemecilere yapay zeka kullanımına dair açıklayıcı işaretler aramaları söyleniyor: tekrarlanan kelimeler, yapay zeka tarzı noktalama işaretleri (görünüşe göre uzun tirenin aşırı kullanımı da dahil) ve işin alışılmadık derecede hızlı bir şekilde bitirilmesi. Bir yüklenici, yüklenicilerin tavsiye alışverişinde bulunduğu Slack kanallarında insanların sıklıkla "Bu yapay zeka mı?" diye soran örnekler yayınladığını söyledi.
OpenAI modellerinin eğitilmesine yardımcı olurken yapay zekayı kullandığını itiraf eden bir yüklenici, fesih mektubu olarak sunduklarını paylaştı. İşverenlerinin çalışmalarının "özgünlüğü" ile ilgili sorunlar tespit ettiği belirtildi.
Yüklenici 404 Media'ya "Ben kötü bir insan ya da işçi değilim. Sadece biraz desteğe ihtiyacım vardı ve bana yardım etmesi için yapay zekaya başvurdum, bu da sonunda çöküşüme yol açtı" dedi. "İşten ya da topluma herhangi bir şekilde katkıda bulunduğumdan hiç keyif almadım."
Mercor'un Rolü ve Yapay Zeka Eğitimi İşgücü Zinciri
Yüklenicilerden ikisi, ChatGPT ile ilgili materyalleri inceleyen yüklenicileri işe alan bir yapay zeka eğitim şirketi olan Mercor için çalışıyordu. Bir Mercor sözcüsü, 404 Media'ya yaptığı açıklamada, uzmanlarının uzmanlıkları ve kararları için işe alındığını, şirketin bunu yapay zekanın devam eden gelişimi için gerekli olarak tanımladığını ve sözleşmelerinin yapay zekanın bu işte kullanılmasını kesinlikle yasakladığını söyledi.
Düzenleme, yapay zeka gelişiminin ardındaki katmanlı emek yapısını vurguluyor. OpenAI gibi şirketler, model çıktılarını derecelendirmek, zararlı içerikleri işaretlemek ve yanıtları sağlam tutmak için, proje başına binlerce kişiden oluşan geniş bir serbest inceleme havuzu havuzunu işe alan uzmanlaşmış satıcılara giderek daha fazla güveniyor. Bu zincirdeki kalite kontrolü, yazılım tarafından değil, "Yapay Zeka tarzı" anlatımlar okuyan diğer insanlar tarafından sağlanır.
Yasak Neden Var? ve Uygulanması Neden Zor?
Yasaklamanın mantığı basittir: ChatGPT'nin yanıtlarını derecelendiren insanlar kararlarını ChatGPT'nin kendisinden alırsa geri bildirim döngüsü çöker. Derecelendirmeler gerçek insan tercihlerini yansıtmayı bırakır, modelin çöküşü hızlanır ve eğitime rehberlik eden değerlendirme verileri döngüsel hale gelir. OpenAI'nin kendi belgelerinin, AI tespit araçlarının güvenilmez olduğunu kabul ettiği bildiriliyor, bu yüzden incelemecilere yazılım yerine kalıp muhakemesine güvenmeleri söyleniyor.
Ancak aracılar aracılığıyla işe alınan ve görev başına ücret ödenen binlerce serbest çalışandan oluşan bir iş gücünde yapay zeka kullanmama kuralını uygulamak, kendi baskılarını yaratıyor. Yükleniciler 404 Media'ya, işten çıkarmaların sık olmasına rağmen yapay zeka kullanımının yaygın olduğunu söyledi ve işten çıkarma mektubunu paylaşan isimsiz çalışan, yapay zekaya yönelmeyi tembellikten değil, keyifsiz buldukları iş için "küçük bir destek" olarak tanımladı.
Rapor, yapay zeka endüstrisinin görünmez işgücünün (çalışmaları her büyük modelin temelini oluşturan yorumcular, değerlendiriciler ve incelemeciler) çalışma koşulları hakkında daha geniş bir tartışmanın ortasında yer alıyor. Aynı zamanda daha geniş ekonomi için rahatsız edici soruları da gündeme getiriyor: İnsan yazısını makine yazısından ayırmak için para ödeyen insanlar bunu güvenilir bir şekilde yapmakta zorlanırsa ve yapay zeka dedektörleri OpenAI'nin kendi değerlendirmesine göre güvenilmez olmaya devam ederse, her yerdeki işverenler, görülmesi giderek zorlaşan bir sınırı denetlemek zorunda kalacak.
Şimdilik OpenAI'nin eğitim hattındaki politika ve ceza da açık. Dünyanın en yetenekli yapay zeka sistemlerinden birinin çıktılarını derecelendiren işçilerin tamamen, doğrulanabilir şekilde insan olması bekleniyor ve derecelendirdikleri araca ulaşanların işini kaybetme riski var.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
