Jak wynika z raportu 404 Media opartego na wewnętrznych dokumentach i wywiadach z trzema wykonawcami, osoby opłacane za szkolenie modeli OpenAI są zwalniane za wykonywanie pracy przy pomocy sztucznej inteligencji.

Ironia w centrum tej historii jest wyraźna. Badacze sztucznej inteligencji ostrzegają przed „zapadnięciem się modelu” – degradacją, która ma miejsce, gdy modele są coraz częściej szkolone na tekście generowanym przez sztuczną inteligencję. Niektóre osoby zatrudnione, aby temu zapobiec, same wykorzystują odpowiedzi generowane przez sztuczną inteligencję do szkolenia modeli OpenAI, a firmowy aparat recenzyjny aktywnie je tropi. Więcej kontekstu na ten temat znajdziesz w naszych trendy AI.

„Prawie jedyna rzecz, która Cię wyrzuci”

Jeden z wykonawców powiedział 404 Media, że widzi pracowników korzystających ze sztucznej inteligencji „cały czas i ludzie są z tego powodu bez przerwy zwolnieni. To w zasadzie jedyna rzecz, za którą najszybciej można zostać wyrzuconym”. Osoba dodała, że ​​„w grupie tysięcy złowionych jest ton”.

Raport opiera się na wcześniejszych doniesieniach 404 Media o Project Lily, inicjatywie OpenAI, w ramach której setki wykonawców czytają podpowiedzi i rozmowy prawdziwych użytkowników ChatGPT – które mogą zawierać dane osobowe – a następnie oceniają i krytykują odpowiedzi modelki, sprawdzając, czy odpowiedzi nie są zbyt pochlebne lub podatne na antropomorfizację chatbota.

Nowy raport opiera się na dodatkowych dokumentach wewnętrznych i wywiadach z trzema wykonawcami pracującymi w projektach OpenAI. Według jednego z wewnętrznych dokumentów, w projektach tych może brać udział kilkanaście tysięcy wykonawców.

Zestaw zasad: brak GPTZero, brak gramatyki, brak sztucznej inteligencji

Dokumenty przeglądane przez 404 Media nie pozostawiają wątpliwości co do sposobu użycia narzędzi. „Nie używaj narzędzi do wykrywania sztucznej inteligencji ani samodzielnie” – jeden dokument dla wykonawców, którzy sprawdzają stan pracy innych wykonawców. „Nie używaj GPTZero ani żadnego innego narzędzia do wykrywania sztucznej inteligencji. Nie są one niezawodne. Recenzenci również nie mogą korzystać ze sztucznej inteligencji, w tym tłumaczeń gramatycznych i sztucznej inteligencji”.

W tym samym dokumencie recenzenci uczą, jak zachować milczenie na temat swoich metod: „Nie mów oceniającym, dlaczego podejrzewasz sztuczną inteligencję. Łatwiej im się ukryć, jeśli wiedzą, czego szukasz. Oceniaj ogólny wzór, a nie jedną wskazówkę”.

Wszyscy trzej wykonawcy stwierdzili, że recenzenci zostali pouczeni, aby nie wykorzystywać sztucznej inteligencji w swojej pracy, a dwie osoby zostały zwolnione lub wyrzucone z pracy za korzystanie z niej. 404 Media zapewniły wykonawcom anonimowość, gdyż nie pozwolono im rozmawiać z prasą.

Co więc zdradza pracownika? Według raportu recenzenci mają zwracać uwagę na charakterystyczne oznaki użycia sztucznej inteligencji: powtarzające się słowa, interpunkcję w stylu sztucznej inteligencji – w tym najwyraźniej nadgorliwe używanie myślnika – oraz niezwykle szybkie zakończenie pracy. Jak stwierdził jeden z wykonawców, na kanałach Slack, na których kontrahenci doradzają, ludzie często publikują przykłady z pytaniem: „Czy to sztuczna inteligencja?”

Jeden z wykonawców, który przyznał się do korzystania ze sztucznej inteligencji podczas szkolenia modeli OpenAI, podzielił się tym, co przedstawił jako list z rozwiązaniem umowy. Stwierdzono, że ich pracodawca stwierdził problemy z „autentycznością” ich pracy.

„Nie jestem złym człowiekiem ani pracownikiem. Potrzebowałem tylko odrobiny wsparcia i zwróciłem się o pomoc do sztucznej inteligencji, co ostatecznie doprowadziło do mojego upadku” – powiedział wykonawca 404 Media. „Nie odczuwałam żadnej radości z pracy ani tego, że w jakikolwiek sposób przyczyniam się do rozwoju społeczeństwa”.

Rola firmy Mercor i łańcuch pracy w zakresie szkolenia AI

Dwóch z nich pracowało dla Mercor, firmy szkoleniowej w zakresie sztucznej inteligencji, która zatrudnia wykonawców przeglądających materiały związane z ChatGPT. Rzecznik Mercoru powiedział 404 Media w oświadczeniu, że eksperci są zatrudniani ze względu na ich wiedzę specjalistyczną i osąd, które firma określiła jako niezbędne dla ciągłego rozwoju sztucznej inteligencji, oraz że jej umowy surowo zabraniają wykorzystywania sztucznej inteligencji w pracy.

Porozumienie podkreśla warstwową strukturę pracy stojącą za pionierskim rozwojem sztucznej inteligencji. Firmy takie jak OpenAI w coraz większym stopniu polegają na wyspecjalizowanych dostawcach, którzy z kolei rekrutują duże grupy niezależnych recenzentów – tysiące na projekt – w celu oceniania wyników modeli, oznaczania szkodliwych treści i utrzymywania rzetelnych odpowiedzi. Kontrola jakości w tym łańcuchu jest egzekwowana nie przez oprogramowanie, ale przez innych ludzi czytających wypowiedzi „w stylu sztucznej inteligencji”.

Dlaczego zakaz istnieje — i dlaczego trudno go wyegzekwować

Uzasadnienie zakazu jest proste: jeśli ludzie oceniający odpowiedzi ChatGPT zlecą swoje oceny samemu ChatGPT, pętla informacji zwrotnej załamie się. Oceny przestają odzwierciedlać rzeczywiste ludzkie preferencje, upadek modelu przyspiesza, a dane oceniające, które kierują szkoleniem, stają się cykliczne. Dokumenty OpenAI podobno potwierdzają, że narzędzia do wykrywania sztucznej inteligencji są zawodne, dlatego recenzentom zaleca się poleganie na ocenie wzorców, a nie na oprogramowaniu.

Jednak egzekwowanie zasady braku sztucznej inteligencji wśród pracowników składających się z tysięcy freelancerów, zatrudnianych przez pośredników i opłacanych za wykonanie zadania, stwarza własną presję. Kontrahenci powiedzieli 404 Media, że ​​korzystanie ze sztucznej inteligencji jest powszechne, mimo że zwolnienia są częste, a anonimowy pracownik, który udostępnił list z rozwiązaniem umowy, opisał zwracanie się do sztucznej inteligencji nie z lenistwa, ale jako „mały impuls” do pracy, który uznał za pozbawiony radości.

Raport wpisuje się w szerszą debatę na temat warunków pracy niewidzialnej siły roboczej w branży sztucznej inteligencji – komentatorów, osób oceniających i recenzentów, których praca leży u podstaw każdego głównego modelu. Rodzi to również niewygodne pytania dla szerszej gospodarki: jeśli ludzie, którym płacono za odróżnienie pisma ludzkiego od pisma maszynowego, mają trudności z robieniem tego w sposób niezawodny, a według własnej oceny OpenAI detektory AI pozostają zawodne, pracodawcy na całym świecie zmuszeni są pilnować granicy, która jest coraz trudniejsza do dostrzeżenia.

Na razie polityka dotycząca procesu szkoleniowego OpenAI jest jasna, podobnie jak kara. Oczekuje się, że pracownicy oceniający wyniki jednego z najpotężniejszych na świecie systemów sztucznej inteligencji będą w całości i w sposób możliwy do sprawdzenia ludźmi, a ci, którzy sięgną po oceniane przez nich narzędzie, ryzykują utratę pracy.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →