Laut einem Bericht von 404 Media, der auf internen Dokumenten und Interviews mit drei Auftragnehmern basiert, werden die Leute, die dafür bezahlt werden, die Modelle von OpenAI zu trainieren, entlassen, weil sie ihre Arbeit mit Hilfe von KI erledigen.
Die Ironie im Zentrum der Geschichte ist scharf. KI-Forscher haben vor dem „Modellkollaps“ gewarnt – der Verschlechterung, die auftritt, wenn Modelle zunehmend auf KI-generierten Text trainiert werden. Einige der Leute, die eingestellt wurden, um dieses Ergebnis zu verhindern, verwenden selbst KI-generierte Antworten, um die Modelle von OpenAI zu trainieren, und der Überprüfungsapparat des Unternehmens macht aktiv Jagd auf sie. Weitere Informationen zu dieser Geschichte finden Sie in unserer KI-Nachrichten.
„So ziemlich das Einzige, was dich begeistern wird“
Ein Auftragnehmer erzählte 404 Media, dass er sehe, dass Arbeiter ständig KI nutzen und die Leute ständig dafür entlassen werden, das ist so ziemlich das Einzige, was dafür sorgt, dass man so schnell wie möglich entlassen wird. Die Person fügte hinzu, dass „in einer Gruppe von Tausenden Tonnen gefangen wurden“.
Der Bericht baut auf der früheren Enthüllung von Project Lily durch 404 Media auf, einem OpenAI-Projekt, bei dem Hunderte von Auftragnehmern die Aufforderungen und Gespräche echter ChatGPT-Benutzer lesen – die persönliche Informationen enthalten können – und dann die Antworten des Modells bewerten und kritisieren, einschließlich der Überprüfung, dass die Antworten nicht zu kriecherisch sind oder dazu neigen, den Chatbot zu vermenschlichen.
Die neue Berichterstattung stützt sich auf zusätzliche interne Dokumente und Interviews mit drei Auftragnehmern, die an OpenAI-Projekten arbeiten. Einem internen Dokument zufolge können an diesen Projekten mehr als zehntausend Auftragnehmer beteiligt sein.
Das Regelwerk: Kein GPTZero, keine Grammatik, keine KI
Die von 404 Media überprüften Dokumente geben eindeutige Auskunft über die Verwendung von Werkzeugen. „Verwenden Sie keine KI-Erkennungstools oder KI selbst“, heißt es in einem Dokument für Auftragnehmer, die die Arbeitszustände anderer Auftragnehmer überprüfen. „Verwenden Sie weder GPTZero noch ein anderes KI-Erkennungstool. Sie sind nicht zuverlässig. Prüfer dürfen auch keine KI verwenden, einschließlich Grammatik und KI-Übersetzung.“
Dasselbe Dokument fordert Rezensenten dazu auf, über ihre Methoden Stillschweigen zu bewahren: „Erzählen Sie den Gutachtern nicht, warum Sie KI vermuten. Sie können sich leichter verstecken, wenn sie wissen, wonach Sie suchen. Beurteilen Sie das Gesamtmuster und nicht einen einzigen Hinweis.“
Alle drei Auftragnehmer sagten, dass die Gutachter angewiesen seien, bei ihrer Arbeit keine KI zu verwenden, und zwei sagten, dass Personen wegen der Verwendung von KI entlassen oder entlassen wurden. 404 Media gewährte den Auftragnehmern Anonymität, da es ihnen nicht gestattet war, mit der Presse zu sprechen.
Was also verrät einen Arbeiter? Dem Bericht zufolge werden Rezensenten aufgefordert, auf verräterische Anzeichen für den Einsatz von KI zu achten: sich wiederholende Wörter, Interpunktion im KI-Stil – offenbar auch die übereifrige Verwendung des Gedankenstrichs – und ungewöhnlich schnelle Fertigstellung der Arbeit. In Slack-Kanälen, in denen Auftragnehmer Ratschläge austauschen, posten Leute laut einem Auftragnehmer häufig Beispiele mit der Frage: „Ist das KI?“
Ein Auftragnehmer, der zugab, KI zu verwenden, während er beim Trainieren der OpenAI-Modelle half, teilte mit, was er als Kündigungsschreiben vorgelegt hatte. Es hieß, ihr Arbeitgeber habe Probleme mit der „Authentizität“ ihrer Arbeit festgestellt.
„Ich bin weder ein schlechter Mensch noch ein schlechter Arbeiter. Ich brauchte nur einen kleinen Anstoß und wandte mich an die KI, um mir zu helfen, was schließlich zu meinem Untergang führte“, sagte der Auftragnehmer gegenüber 404 Media. „Ich hatte weder Freude an der Arbeit noch daran, dass ich in irgendeiner Weise einen Beitrag zur Gesellschaft leistete.“
Mercors Rolle und die Arbeitskette der KI-Ausbildung
Zwei der Auftragnehmer arbeiteten für Mercor, ein KI-Schulungsunternehmen, das Auftragnehmer anstellt, die ChatGPT-bezogenes Material prüfen. Ein Mercor-Sprecher teilte 404 Media in einer Erklärung mit, dass seine Experten aufgrund ihres Fachwissens und Urteilsvermögens eingestellt werden, was das Unternehmen als wesentlich für die kontinuierliche Weiterentwicklung der KI bezeichnet, und dass seine Verträge den Einsatz von KI bei der Arbeit strikt verbieten.
Die Vereinbarung unterstreicht die vielschichtige Arbeitsstruktur hinter der bahnbrechenden KI-Entwicklung. Unternehmen wie OpenAI verlassen sich zunehmend auf spezialisierte Anbieter, die ihrerseits große Pools freiberuflicher Gutachter rekrutieren – Tausende pro Projekt –, um Modellergebnisse zu bewerten, schädliche Inhalte zu kennzeichnen und die Antworten fundiert zu halten. Die Qualitätskontrolle in dieser Kette wird nicht durch Software, sondern durch andere Menschen erzwungen, die für Tells im „KI-Stil“ lesen.
Warum es das Verbot gibt – und warum es schwer durchzusetzen ist
Der Grund für das Verbot ist einfach: Wenn die Menschen, die die Antworten von ChatGPT bewerten, ihre Urteile an ChatGPT selbst auslagern, bricht die Rückkopplungsschleife zusammen. Bewertungen spiegeln nicht mehr echte menschliche Vorlieben wider, der Modellzerfall beschleunigt sich und die Bewertungsdaten, die das Training leiten, werden zirkulär. In den eigenen Dokumenten von OpenAI wird Berichten zufolge anerkannt, dass KI-Erkennungstools unzuverlässig sind, weshalb Prüfern empfohlen wird, sich eher auf Musterurteile als auf Software zu verlassen.
Aber die Durchsetzung einer No-KI-Regel gegenüber einer Belegschaft von Tausenden von Freiberuflern, die über Vermittler eingestellt und pro Aufgabe bezahlt werden, erzeugt einen eigenen Druck. Auftragnehmer sagten gegenüber 404 Media, dass der Einsatz von KI weit verbreitet sei, auch wenn es häufig zu Kündigungen komme, und der anonyme Arbeiter, der ein Kündigungsschreiben geteilt habe, beschrieb, dass er sich nicht aus Faulheit an KI wandte, sondern als „einen kleinen Schub“ für die Arbeit, die er als freudlos empfand.
Der Bericht findet inmitten einer breiteren Debatte über die Arbeitsbedingungen der unsichtbaren Arbeitskräfte der KI-Branche statt – der Kommentatoren, Bewerter und Gutachter, deren Arbeit jedem wichtigen Modell zugrunde liegt. Es wirft auch unangenehme Fragen für die Gesamtwirtschaft auf: Wenn die Leute, die dafür bezahlt werden, zwischen menschlicher und maschineller Schrift zu unterscheiden, Schwierigkeiten haben, dies zuverlässig zu tun, und KI-Detektoren nach OpenAIs eigener Einschätzung weiterhin unzuverlässig sind, müssen Arbeitgeber überall eine Grenze überwachen, die immer schwerer zu erkennen ist.
Derzeit ist die Richtlinie innerhalb der Trainingspipeline von OpenAI klar, ebenso wie die Strafe. Von Arbeitern, die die Ergebnisse eines der leistungsfähigsten KI-Systeme der Welt bewerten, wird erwartet, dass sie ausschließlich und nachweislich Menschen sind – und diejenigen, die nach dem Werkzeug greifen, das sie bewerten, riskieren, den Job zu verlieren.
---
Bleib vorne bei KIDie neuesten KI-Nachrichten, Analysen und Durchbrüche – alles an einem Ort.
Mehr KI-Nachrichten lesen →
