Οι άνθρωποι που πληρώνονται για να εκπαιδεύουν τα μοντέλα του OpenAI απολύονται επειδή κάνουν τη δουλειά τους με τη βοήθεια της τεχνητής νοημοσύνης, σύμφωνα με έκθεση της 404 Media βασισμένη σε εσωτερικά έγγραφα και συνεντεύξεις με τρεις εργολάβους.
Η ειρωνεία στο κέντρο της ιστορίας είναι έντονη. Οι ερευνητές της τεχνητής νοημοσύνης έχουν προειδοποιήσει για την «κατάρρευση μοντέλου» - την υποβάθμιση που συμβαίνει όταν τα μοντέλα εκπαιδεύονται όλο και περισσότερο σε κείμενο που δημιουργείται από την τεχνητή νοημοσύνη. Μερικοί από τους ανθρώπους που προσλαμβάνονται για να αποτρέψουν αυτό το αποτέλεσμα χρησιμοποιούν οι ίδιοι αποκρίσεις που δημιουργούνται από την τεχνητή νοημοσύνη για να εκπαιδεύσουν τα μοντέλα του OpenAI και η συσκευή ελέγχου της εταιρείας τα κυνηγάει ενεργά. For more context on this story, see our ongoing AI trends.
"Σχεδόν το μόνο πράγμα που θα σας κάνει να αποχωριστείτε"
Ένας εργολάβος είπε στο 404 Media ότι βλέπουν εργαζομένους να χρησιμοποιούν τεχνητή νοημοσύνη «όλη την ώρα και οι άνθρωποι αφήνονται να το κάνουν συνέχεια, είναι σχεδόν το μόνο πράγμα που θα σας κάνει να αποδράσετε το συντομότερο δυνατό». Το πρόσωπο πρόσθεσε ότι «σε μια ομάδα χιλιάδων υπάρχουν τόνοι που έχουν πιαστεί».
Η αναφορά βασίζεται στην προηγούμενη αποκάλυψη του Project Lily από το 404 Media, μια προσπάθεια OpenAI στην οποία εκατοντάδες εργολάβοι διάβασαν τις προτροπές και τις συνομιλίες των πραγματικών χρηστών ChatGPT - που μπορεί να περιλαμβάνουν προσωπικά στοιχεία - και στη συνέχεια αξιολογούν και κριτικάρουν τις απαντήσεις του μοντέλου, συμπεριλαμβανομένου του ελέγχου ότι οι απαντήσεις δεν είναι πολύ συκοφαντικές ή επιρρεπείς σε ανθρωπομορφοποίηση του chat.
Η νέα αναφορά βασίζεται σε πρόσθετα εσωτερικά έγγραφα και συνεντεύξεις με τρεις εργολάβους που εργάζονται σε έργα OpenAI. Σύμφωνα με ένα εσωτερικό έγγραφο, σε αυτά τα έργα μπορούν να συμμετέχουν περισσότεροι από δέκα χιλιάδες εργολάβοι.
Το βιβλίο κανόνων: Χωρίς GPTZero, Χωρίς Γραμματικά, Χωρίς AI
Τα έγγραφα που εξετάζονται από το 404 Media είναι ξεκάθαρα σχετικά με τη χρήση του εργαλείου. "Μην χρησιμοποιείτε εργαλεία ανίχνευσης τεχνητής νοημοσύνης ή τεχνητή νοημοσύνη μόνοι σας", αναφέρει ένα έγγραφο για εργολάβους που εξετάζουν τις εργασίες άλλων εργολάβων. "Μην χρησιμοποιείτε το GPTZero ή οποιοδήποτε άλλο εργαλείο ανίχνευσης τεχνητής νοημοσύνης. Δεν είναι αξιόπιστα. Οι αναθεωρητές δεν μπορούν επίσης να χρησιμοποιούν τεχνητή νοημοσύνη, συμπεριλαμβανομένης της μετάφρασης Grammarly και AI."
Το ίδιο έγγραφο καθοδηγεί τους αναθεωρητές να παραμείνουν σιωπηλοί σχετικά με τις μεθόδους τους: "Μην πείτε στους αξιολογητές γιατί υποπτεύεστε την τεχνητή νοημοσύνη. Είναι πιο εύκολο γι 'αυτούς να κρύψουν εάν ξέρουν τι ψάχνετε. Κρίνετε το συνολικό μοτίβο, όχι μια ένδειξη."
Και οι τρεις εργολάβοι δήλωσαν ότι οι αναθεωρητές έχουν οδηγίες να μην χρησιμοποιούν τεχνητή νοημοσύνη στην εργασία τους και δύο άτομα που αναφέρθηκαν έχουν απολυθεί ή απομακρυνθεί από το πλοίο επειδή τη χρησιμοποίησαν. Το 404 Media παραχώρησε στους εργολάβους την ανωνυμία επειδή δεν τους επετράπη να μιλήσουν στον Τύπο.
Τι χαρίζει λοιπόν έναν εργαζόμενο; Σύμφωνα με την έκθεση, οι αναθεωρητές καλούνται να αναζητήσουν ενδεικτικά σημάδια χρήσης τεχνητής νοημοσύνης: επαναλαμβανόμενες λέξεις, σημεία στίξης τύπου AI — συμπεριλαμβανομένης, προφανώς, υπερβολικής χρήσης της παύλας em — και η εργασία να ολοκληρώνεται ασυνήθιστα γρήγορα. Στα κανάλια Slack όπου οι εργολάβοι ανταλλάσσουν συμβουλές, είπε ένας εργολάβος, οι άνθρωποι δημοσιεύουν συχνά παραδείγματα ρωτώντας: "Είναι αυτό το AI;"
Ένας εργολάβος που παραδέχτηκε ότι χρησιμοποίησε AI ενώ βοηθούσε στην εκπαίδευση των μοντέλων του OpenAI μοιράστηκε αυτό που παρουσίαζαν ως επιστολή τερματισμού. Ανέφερε ότι ο εργοδότης τους είχε εντοπίσει προβλήματα με την «αυθεντικότητα» της εργασίας τους.
"Δεν είμαι κακός άνθρωπος ή εργάτης. Απλώς χρειαζόμουν λίγη ώθηση και στράφηκα στην τεχνητή νοημοσύνη για να με βοηθήσει, κάτι που τελικά οδήγησε στην πτώση μου", είπε ο ανάδοχος στο 404 Media. «Δεν ένιωσα καμία χαρά στη δουλειά ή ότι συνεισφέρω στην κοινωνία με οποιονδήποτε τρόπο».
Ο ρόλος της Mercor και η Εργατική Αλυσίδα Εκπαίδευσης AI
Δύο από τους εργολάβους εργάζονταν για τη Mercor, μια εταιρεία εκπαίδευσης τεχνητής νοημοσύνης που προσλαμβάνει τους εργολάβους που εξετάζουν υλικό που σχετίζεται με το ChatGPT. Ένας εκπρόσωπος της Mercor είπε στο 404 Media σε δήλωση ότι οι ειδικοί της προσλαμβάνονται για την τεχνογνωσία και την κρίση τους, κάτι που η εταιρεία περιέγραψε ως ουσιαστικό για τη συνεχή εξέλιξη της τεχνητής νοημοσύνης και ότι τα συμβόλαιά της απαγορεύουν αυστηρά τη χρήση της τεχνητής νοημοσύνης στην εργασία.
Η συμφωνία υπογραμμίζει την πολυεπίπεδη δομή εργασίας πίσω από την ανάπτυξη συνοριακής τεχνητής νοημοσύνης. Εταιρείες όπως το OpenAI βασίζονται όλο και περισσότερο σε εξειδικευμένους προμηθευτές, οι οποίοι με τη σειρά τους προσλαμβάνουν μεγάλες ομάδες ανεξάρτητων αναθεωρητών - κατά χιλιάδες ανά έργο - για να βαθμολογήσουν τα αποτελέσματα των μοντέλων, να επισημάνουν το επιβλαβές περιεχόμενο και να διατηρήσουν τις απαντήσεις στη βάση. Ο ποιοτικός έλεγχος σε αυτήν την αλυσίδα επιβάλλεται όχι από λογισμικό αλλά από άλλους ανθρώπους που διαβάζουν για αφηγήσεις τύπου "AI-style".
Γιατί υπάρχει η απαγόρευση — και γιατί είναι δύσκολο να επιβληθεί
Το σκεπτικό για την απαγόρευση είναι ξεκάθαρο: εάν οι άνθρωποι αξιολογούν τις απαντήσεις του ChatGPT αναθέτουν τις κρίσεις τους στο ίδιο το ChatGPT, ο βρόχος ανατροφοδότησης καταρρέει. Οι αξιολογήσεις παύουν να αντικατοπτρίζουν τις γνήσιες ανθρώπινες προτιμήσεις, η κατάρρευση του μοντέλου επιταχύνεται και τα δεδομένα αξιολόγησης που καθοδηγούν την εκπαίδευση γίνονται κυκλικά. Τα έγγραφα του ίδιου του OpenAI φέρεται να αναγνωρίζουν ότι τα εργαλεία ανίχνευσης τεχνητής νοημοσύνης είναι αναξιόπιστα, γι' αυτό οι αναθεωρητές καλούνται να βασίζονται στην κρίση προτύπων και όχι στο λογισμικό.
Αλλά η επιβολή ενός κανόνα μη τεχνητής νοημοσύνης σε ένα εργατικό δυναμικό χιλιάδων ελεύθερων επαγγελματιών, που προσλαμβάνονται μέσω διαμεσολαβητών και πληρώνονται ανά εργασία, δημιουργεί τις δικές του πιέσεις. Οι εργολάβοι είπαν στο 404 Media ότι η χρήση τεχνητής νοημοσύνης είναι συνηθισμένη, ακόμη και επειδή οι τερματισμοί είναι συχνοί, και ο ανώνυμος εργαζόμενος που μοιράστηκε μια επιστολή τερματισμού περιέγραψε ότι στράφηκε στην τεχνητή νοημοσύνη όχι από τεμπελιά, αλλά ως «λίγη ώθηση» για τη δουλειά που δεν τους άρεσε.
Η έκθεση προσγειώνεται εν μέσω μιας ευρύτερης συζήτησης σχετικά με τις συνθήκες εργασίας του αόρατου εργατικού δυναμικού της βιομηχανίας τεχνητής νοημοσύνης - των σχολιαστών, των αξιολογητών και των κριτικών των οποίων η εργασία στηρίζει κάθε σημαντικό μοντέλο. Εγείρει επίσης δυσάρεστα ερωτήματα για την ευρύτερη οικονομία: εάν οι άνθρωποι που πληρώνονται για να διακρίνουν την ανθρώπινη γραφή από τη μηχανή γραφής δυσκολεύονται να το κάνουν αξιόπιστα, και οι ανιχνευτές τεχνητής νοημοσύνης παραμένουν αναξιόπιστοι σύμφωνα με την εκτίμηση του OpenAI, οι εργοδότες παντού μένουν να τηρούν ένα όριο που είναι όλο και πιο δύσκολο να δει κανείς.
Προς το παρόν, η πολιτική εντός του αγωγού εκπαίδευσης του OpenAI είναι σαφής, όπως και η ποινή. Οι εργαζόμενοι που βαθμολογούν τα αποτελέσματα ενός από τα πιο ικανά συστήματα τεχνητής νοημοσύνης στον κόσμο αναμένεται να είναι εξ ολοκλήρου, επαληθεύσιμα άνθρωποι — και όσοι αναζητούν το εργαλείο που βαθμολογούν κινδυνεύουν να χάσουν τη δουλειά τους.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
