Новый неотредактированный материал в иске The New York Times об авторских правах против OpenAI и Microsoft раскрывает ряд поразительных внутренних признаний, в том числе высокопоставленный руководитель Microsoft, который в частном порядке назвал практику обучения ИИ в компаниях кражей, а также собственное руководство OpenAI, признающее, что ее чат-бот представляет «экзистенциальную угрозу» для издателей, чья работа его обучила.
Иск, о котором сообщил TechCrunch в четверг, поступил через три года после того, как The Times впервые подала в суд, утверждая, что фирмы нарушили закон об авторском праве, обучая генеративные модели искусственного интеллекта на его контенте. Недавно появившийся материал подробно описывает, как компании предположительно получали и использовали этот контент: незамеченный обход платного доступа, создание наборов обучающих данных посредством массового парсинга и намеренное удаление уведомлений об авторских правах из обучающих данных. Подробнее об этой истории — в нашем больше статей об ИИ.
Стоит отметить предостережение, которое отметил сам TechCrunch: большая часть новой информации взята из собственного обзора The Times, а не из основных материалов, которые остаются запечатанными, а цитаты представлены без их исходного контекста.
«Петля судьбы» для издателей
Среди наиболее важных разоблачений можно назвать собственные данные Microsoft о том, что ее «система ответов» Copilot сделала с трафиком на сайт The Times. Согласно документу, внутренние данные Microsoft показывают, что Copilot привел к падению рейтинга кликов для домена nytimes.com на целых 93 процента по сравнению с традиционным поиском Bing.
Во внутренней презентации, написанной директором по прикладным наукам Microsoft Брентом Хехтом в январе 2024 года, этот спад описывается как «обреченная петля», которая «одновременно ухудшит производительность наших моделей и всей сети».
«Весьма необычно, что конечный продукт угрожает экономическим основам его основных поставщиков, но именно такую ситуацию мы создали для нашего бизнеса LLM в отношении его «цепочки поставок контента»», — говорится в документе Microsoft, цитируемом в документе.
Это признание прямо противоречит одному из столпов защиты добросовестного использования, на который опирались компании ИИ: использование не заменяет оригинальную работу и не наносит вреда ее рынку.
Слова руководителей входят в протокол
Неотредактированные документы также содержат откровенные оценки самых высокопоставленных лиц компаний.
Генеральный директор Microsoft Сатья Наделла в своих показаниях ранее в этом году заявил, что «все, что является платным, должно лицензироваться каждым, кто хочет его использовать… для обучения или обучения». Наделла ясно дал понять, что если бы он «узнал, что OpenAI собирал и обучал информацию, которая находилась за платным доступом», он бы «ссылался на [право Microsoft] требовать от OpenAI переобучения своих моделей».
Наделла также под присягой согласился, что общение с чат-ботами «заменило… предоставление вам информации прямо на веб-сайте, на платформе искусственного интеллекта, вместо необходимости обращаться к первоисточнику».
Что касается OpenAI, Ник Терли, глава ChatGPT компании, написал во внутренних сообщениях, что издатели сталкиваются с «экзистенциальной угрозой» со стороны таких продуктов, как чат-бот, которые «в значительной степени заменяют друг друга» и «будут становиться все более и более замещающими по мере их улучшения». Президент OpenAI Грег Брокман назвал эти модели «отличными в новостях».
А во внутренней записке от января 2023 года Хехт — тот самый руководитель Microsoft, который позже обозначил «петлю гибели» — назвал очистку «удивительным воровством беспрецедентных масштабов» и «крупнейшей кражей рабочей силы в истории человечества».
Огромный масштаб копирования
В документах количественно описано копирование в ранее не разглашавшихся масштабах. В документации говорится, что только наборы данных OpenAI в середине обучения содержат более 91 692 копий работ, опубликованных The New York Times, New York Daily News и Центром журналистских расследований.
Набор данных, полученный из Common Crawl, бесплатного открытого хранилища данных веб-сканирования, включал более 2 миллионов документов только с сайта nytimes.com. В заявке также описан Project Mango, инициатива Microsoft-OpenAI в области данных, собранный набор обучающих данных которой содержит копии как минимум 160 903 уникальных работ от издателей новостей. OpenAI предоставила Microsoft весь свой набор обучающих данных GPT-3 для оценки, а Microsoft аналогичным образом предоставила OpenAI обучающие данные в рамках инициатив под названием Project Taxi и Project Mango.
Сотрудники OpenAI также предположительно создали ранние наборы обучающих данных, такие как WebText и WebText2, которые непропорционально полагались на собранный новостной контент.
Взломы платного доступа и удаление уведомлений об авторских правах
Пожалуй, самые яркие подробности касаются того, как был получен контент. Когда исследователь OpenAI Ник Райдер рассказал Брокману о «хаке, позволяющем обойти платный доступ в любое время», Брокман, как говорится в документации, ответил: «А, здорово».
В документах также описываются преднамеренные попытки удалить уведомления об авторских правах из обучающих данных до того, как они попадут в модель, поскольку исследователи «не хотели бы», чтобы модель выдавала пользователям «уведомления об авторских правах».
«Доказательства, представленные здесь впервые, показывают, что OpenAI и Microsoft знали, что то, что они делали, было неправильным», — заявил Стивен Либерман, советник New York Daily News, в заявлении, переданном TechCrunch.
Что это значит для борьбы за добросовестное использование
Вопрос о том, могут ли компании, занимающиеся искусственным интеллектом, на законных основаниях обучать материалам, защищенным авторским правом, без лицензии, остается нерешенным, но судьи до сих пор в основном благосклонно относились к аргументам компаний, занимающихся искусственным интеллектом, о добросовестном использовании. Ранее в этом месяце администрация Трампа представила доклад в защиту нелицензионного использования OpenAI материалов, защищенных авторским правом, для обучения своих больших языковых моделей.
Тем не менее, некоторые из новых допусков противоречат требованию рыночного ущерба теста добросовестного использования — идее, что использование не должно заменять или подрывать рынок оригинального произведения. Внутренние заявления о том, что эти продукты «в значительной степени заменяют друг друга», в сочетании с собственными данными Microsoft, показывающими падение кликабельности на 93 процента, дают стороне The Times наиболее конкретные доказательства замещения рынка.
Это заявление является последней эскалацией дела, которое стало определяющим судебным разбирательством по поводу того, как компании, занимающиеся искусственным интеллектом, получают данные обучения. Каким бы ни был результат, неотредактированные записи теперь показывают, что руководители компаний рано поняли возникшую напряженность и изложили ее в письменной форме.
Чтобы продолжать освещать судебные баталии, формирующие искусственный интеллект, следите за нашими последними новостями об искусственном интеллекте и углубленным анализом дел, которые будут определять отрасль.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
