Відповідно до звіту 404 Media, заснованого на внутрішніх документах та інтерв’ю з трьома підрядниками, людей, яким платять за навчання моделей OpenAI, звільняють за те, що вони виконують свою роботу за допомогою ШІ.
Іронія в центрі оповідання гостра. Дослідники штучного інтелекту попереджають про «колапс моделі» — погіршення, яке відбувається, коли моделі все частіше навчаються на тексті, створеному штучним інтелектом. Деякі з людей, яких найняли, щоб запобігти такому результату, самі використовують відповіді, згенеровані штучним інтелектом, для навчання моделей OpenAI, і апарат перевірки компанії активно висліджує їх. For more context on this story, see our ongoing more AI stories.
"Майже єдина річ, яка змусить вас підняти"
Один підрядник сказав 404 Media, що вони бачать, як працівники постійно використовують штучний інтелект, і люди весь час відмовляються від нього, це майже єдине, що допоможе вам якнайшвидше вигнати». Людина додала, що "у групі з тисяч є тонни, які були спіймані".
Звіт ґрунтується на попередньому розкритті 404 Media Project Lily, проекту OpenAI, у якому сотні підрядників читають підказки та розмови справжніх користувачів ChatGPT, які можуть містити особисту інформацію, а потім оцінюють і критикують відповіді моделі, зокрема перевіряючи, чи відповіді не є надто підступними чи схильними до антропоморфізації чат-бота.
Нова звітність спирається на додаткові внутрішні документи та інтерв’ю з трьома підрядниками, які працюють над проектами OpenAI. Згідно з одним внутрішнім документом, ці проекти можуть залучати більше десяти тисяч підрядників.
Правила: немає GPTZero, немає Grammarly, немає штучного інтелекту
Документи, розглянуті 404 Media, однозначно говорять про використання інструменту. «Не використовуйте інструменти виявлення штучного інтелекту чи штучний інтелект самостійно», — йдеться в одному документі для підрядників, які перевіряють роботу інших підрядників. «Не використовуйте GPTZero чи будь-який інший інструмент виявлення штучного інтелекту. Вони ненадійні. Рецензенти також не можуть використовувати штучний інтелект, зокрема Grammarly та переклад штучного інтелекту».
Той самий документ навчає рецензентів мовчати про свої методи: «Не кажіть оцінювачам, чому ви підозрюєте ШІ. Їм легше приховати, якщо вони знають, що ви шукаєте. Оцінюйте загальну схему, а не одну підказку».
Усі три підрядники сказали, що рецензенти отримали вказівки не використовувати штучний інтелект у своїй роботі, а двоє сказали, що людей звільнили або виключили за його використання. 404 ЗМІ залишили підрядників анонімними, оскільки їм не дозволили спілкуватися з пресою.
Тож що видає робітника? Згідно зі звітом, рецензентам наказано шукати ознаки використання штучного інтелекту: повторювані слова, розділові знаки в стилі штучного інтелекту — включаючи, очевидно, надмірне використання тире — і роботу, яка закінчується надзвичайно швидко. У каналах Slack, де підрядники обмінюються порадами, один підрядник сказав, що люди часто публікують приклади, запитуючи: «Це ШІ?»
Один підрядник, який зізнався, що використовував ШІ під час навчання моделей OpenAI, поділився тим, що вони представили як свій лист про звільнення. У ньому сказано, що їхній роботодавець виявив проблеми з «автентичністю» їхньої роботи.
«Я не погана людина чи працівник. Мені просто потрібен був невеликий поштовх, і я звернувся за допомогою до штучного інтелекту, що зрештою призвело до мого краху», — сказав підрядник 404 Media. «Я не відчував радості від роботи або від того, що роблю будь-який внесок у суспільство».
Роль Mercor і трудовий ланцюжок навчання ШІ
Двоє підрядників працювали на Mercor, навчальну компанію зі штучного інтелекту, яка наймає підрядників, які переглядають матеріали, пов’язані з ChatGPT. Представник Mercor повідомив 404 Media у своїй заяві, що його експертів наймають за їхній досвід і судження, які компанія назвала важливими для постійного розвитку ШІ, і що її контракти суворо забороняють використання ШІ в роботі.
Композиція підкреслює багаторівневу структуру праці, що стоїть за передовою розробкою ШІ. Такі компанії, як OpenAI, дедалі більше покладаються на спеціалізованих постачальників, які, у свою чергу, набирають великі групи позаштатних рецензентів — по тисячі на проект — для оцінки результатів моделей, позначення шкідливого вмісту та збереження обґрунтованості відповідей. Контроль якості в цьому ланцюжку забезпечується не програмним забезпеченням, а іншими людьми, які читають розповіді «у стилі ШІ».
Чому існує заборона — і чому її важко застосувати
Обґрунтування заборони є простим: якщо люди, які оцінюють відповіді ChatGPT, передають свої судження самому ChatGPT, цикл зворотного зв’язку руйнується. Рейтинги перестають відображати справжні людські вподобання, крах моделі прискорюється, а дані оцінювання, які спрямовують навчання, стають циклічними. Як повідомляється, у власних документах OpenAI визнається, що інструменти виявлення штучного інтелекту є ненадійними, тому рецензентам наказано покладатися на оцінку шаблонів, а не на програмне забезпечення.
Але застосування правила про відсутність штучного інтелекту в робочій силі з тисяч фрілансерів, найнятих через посередників і оплачуваних за виконання завдання, створює власний тиск. Підрядники розповіли 404 Media, що штучний інтелект є поширеним явищем, навіть якщо звільнення трапляються часто, а анонімний працівник, який поділився листом про звільнення, описав звернення до штучного інтелекту не через лінь, а як «невеликий стимул» для роботи, яку вони вважали безрадісним.
Звіт з’являється на тлі ширшої дискусії про умови роботи невидимої робочої сили індустрії ШІ — анотаторів, оцінювачів і рецензентів, чия праця лежить в основі кожної великої моделі. Це також викликає незручні питання для ширшої економіки: якщо людям, які платять за те, щоб відрізняти людське письмо від машинного, важко робити це надійно, а детектори штучного інтелекту залишаються ненадійними, згідно з оцінкою OpenAI, роботодавцям у всьому світі доводиться стежити за кордоном, який стає все важче побачити.
На даний момент політика в рамках навчання OpenAI зрозуміла, як і покарання. Очікується, що працівники, які оцінюють результати однієї з найпотужніших у світі систем штучного інтелекту, будуть цілком перевіреними людьми — і ті, хто тягнуться до інструменту, який вони оцінюють, ризикують втратити роботу.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
