Согласно отчету 404 Media, основанному на внутренних документах и интервью с тремя подрядчиками, людей, которым платят за обучение моделей OpenAI, увольняют за то, что они выполняют свою работу с помощью ИИ.
Ирония, лежащая в основе истории, остра. Исследователи ИИ предупреждают о «коллапсе модели» — деградации, которая происходит, когда модели все чаще обучаются на тексте, сгенерированном ИИ. Некоторые из людей, нанятых для предотвращения такого исхода, сами используют ответы, сгенерированные ИИ, для обучения моделей OpenAI, и аппарат проверки компании активно их выслеживает. Подробнее об этой истории — в нашем новости об ИИ.
«Почти единственное, что вас оттолкнет»
Один из подрядчиков рассказал 404 Media, что видит, как рабочие используют ИИ «все время, и людей все время отпускают за это, это практически единственное, за что вас уволят как можно скорее». Человек добавил, что "в группе из тысяч выловлено тонны".
Отчет основан на более раннем раскрытии 404 Media о Project Lily, проекте OpenAI, в рамках которого сотни подрядчиков читают подсказки и разговоры реальных пользователей ChatGPT, которые могут включать личную информацию, а затем оценивают и критикуют ответы модели, включая проверку того, что ответы не являются слишком подхалимскими или склонными к антропоморфизации чат-бота.
Новый отчет основан на дополнительных внутренних документах и интервью с тремя подрядчиками, работающими в проектах OpenAI. Согласно одному внутреннему документу, в этих проектах могут участвовать более десяти тысяч подрядчиков.
Книга правил: без GPTZero, без грамматики, без искусственного интеллекта
Документы, просмотренные 404 Media, недвусмысленно говорят об использовании инструмента. «Не используйте инструменты обнаружения ИИ или ИИ самостоятельно», — говорится в одном документе для подрядчиков, которые проверяют работу других подрядчиков. «Не используйте GPTZero или любой другой инструмент обнаружения ИИ. Они ненадежны. Рецензенты также не могут использовать ИИ, включая Grammarly и перевод ИИ».
Тот же документ учит рецензентов хранить молчание о своих методах: «Не говорите оценщикам, почему вы подозреваете ИИ. Им легче скрыться, если они знают, что вы ищете. Судите об общей закономерности, а не об одной подсказке».
Все три подрядчика заявили, что рецензентам дано указание не использовать ИИ в своей работе, а двое заявили, что люди были уволены или отстранены от работы за его использование. 404 СМИ предоставили подрядчикам анонимность, поскольку им не разрешили общаться с прессой.
Так что же выдает работника? Согласно отчету, рецензентам рекомендуется искать явные признаки использования ИИ: повторяющиеся слова, знаки препинания в стиле ИИ (в том числе, очевидно, чрезмерное использование длинного тире) и необычно быстрое завершение работы. По словам одного из подрядчиков, на каналах Slack, где подрядчики обмениваются советами, люди часто публикуют примеры с вопросом: «Это ИИ?»
Один подрядчик, который признался, что использовал ИИ при обучении моделей OpenAI, поделился письмом об увольнении. В нем говорилось, что их работодатель выявил проблемы с «подлинностью» их работы.
«Я не плохой человек и не работник. Мне просто нужен был небольшой импульс, и я обратился к искусственному интеллекту, чтобы помочь мне, что в конечном итоге привело к моему падению», — сказал подрядчик 404 Media. «Я не чувствовал радости от работы или от того, что каким-либо образом вношу вклад в общество».
Роль Mercor и цепочка обучения искусственному интеллекту
Двое из подрядчиков работали в Mercor, компании по обучению искусственному интеллекту, которая нанимает подрядчиков, которые просматривают материалы, связанные с ChatGPT. Представитель Mercor сообщил 404 Media в своем заявлении, что ее экспертов нанимают за их знания и суждения, которые компания назвала важными для постоянного развития ИИ, и что ее контракты строго запрещают использование ИИ в работе.
Эта договоренность подчеркивает многоуровневую структуру труда, лежащую в основе передовой разработки ИИ. Такие компании, как OpenAI, все чаще полагаются на специализированных поставщиков, которые, в свою очередь, набирают большие группы рецензентов-фрилансеров (тысячи на проект) для оценки результатов моделей, маркировки вредоносного контента и обоснования ответов. Контроль качества в этой цепочке обеспечивается не программным обеспечением, а другими людьми, читающими сообщения в стиле «ИИ».
Почему существует запрет и почему его трудно обеспечить соблюдением
Обоснование запрета простое: если люди, оценивающие ответы ChatGPT, передадут свои суждения самому ChatGPT, петля обратной связи рухнет. Рейтинги перестают отражать подлинные человеческие предпочтения, крах модели ускоряется, а данные оценки, которые определяют обучение, становятся цикличными. Сообщается, что в собственных документах OpenAI признается, что инструменты обнаружения ИИ ненадежны, поэтому рецензентам рекомендуется полагаться на шаблонные суждения, а не на программное обеспечение.
Но соблюдение правила отсутствия искусственного интеллекта среди тысяч фрилансеров, нанятых через посредников и получающих оплату за каждую задачу, создает собственное давление. Подрядчики рассказали 404 Media, что использование ИИ широко распространено, даже несмотря на то, что увольнения происходят часто, а анонимный работник, который поделился письмом об увольнении, описал обращение к ИИ не из-за лени, а как «небольшой стимул» для работы, которую они считают безрадостной.
Доклад появился на фоне более широких дебатов об условиях работы невидимой рабочей силы в индустрии искусственного интеллекта — комментаторов, оценщиков и рецензентов, чей труд лежит в основе каждой крупной модели. Это также поднимает неприятные вопросы для экономики в целом: если людям, которым платят за то, чтобы отличить человеческое письмо от машинного, трудно сделать это надежно, а детекторы искусственного интеллекта остаются ненадежными, по собственной оценке OpenAI, работодателям повсюду приходится следить за границей, которую становится все труднее увидеть.
На данный момент политика в рамках процесса обучения OpenAI ясна, как и наказание. Ожидается, что работники, оценивающие результаты одной из самых мощных в мире систем искусственного интеллекта, будут полностью и поддающимися проверке людьми, а те, кто достанет инструмент, который они оценивают, рискуют потерять работу.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
