Meta готовится переложить юридическую ответственность за ошибки, допущенные ее функциями искусственного интеллекта, на корпоративных клиентов, которые их используют, согласно обновлениям коммерческих условий компании, о которых сообщает CIO.com.
Изменения, которые вступят в силу 30 октября, включают формулировку, в которой говорится, что «функции ИИ могут допускать ошибки и не всегда могут давать точные, полные или подходящие результаты» и что клиенты «несут единоличную ответственность и принимают на себя любые риски, связанные с такими функциями ИИ и любым полученным в результате контентом». Подробнее об этой истории — в нашем новости об ИИ.
На практике это означает, что когда ИИ Meta дает неточный, неполный или иным образом ошибочный результат в бизнес-контексте, юридическая ответственность ложится на клиента, а не на компанию, создавшую модель.
Подотчетность «перевернута с ног на голову»
Эта статья вызвала резкую критику со стороны отраслевых аналитиков.
«Переворачивает подотчетность с ног на голову. Meta создает функции ИИ, признает, что они «могут совершать ошибки», а затем возлагает на бизнес «любые и все риски», — сказал Фрэнк Диксон, главный аналитик Dickson Research, в комментариях CIO.com.
Майк Уилкс, директор по информационной безопасности охранной фирмы Aikido Security, согласился с тем, что этот шаг вызывает недоумение, и присоединился к более широкому хору консультантов, которые отметили три самые большие проблемы, связанные с новыми условиями: передача ответственности за ИИ, изменение прав собственности на данные и широкие права на сбор веб-страниц.
Обновленный язык также расширяет ответственность за пределы прямого использования клиентом. В соответствии с новыми условиями ИТ-руководители могут нести ответственность за действия, предпринятые партнерами или подрядчиками, которые взаимодействуют с функциями искусственного интеллекта Meta от их имени — положение, которое значительно расширяет круг рисков.
Пункт о веб-скрапинге и частичный возврат
Самым спорным положением, помимо ответственности, оказался грант, позволяющий Meta использовать «автоматизированное программное обеспечение, такое как веб-скраперы, боты, роботы, пауки, сканеры и пользовательские агенты» для «доступа, индексирования, кэширования, анализа, сбора, извлечения или сканирования доменов, веб-страниц или URL-адресов, а также любого доступного через них контента, связанного с вашими продуктами или услугами», с правом «периодического получения обновлений» из этих доменов.
Если читать буквально, этот пункт, по-видимому, позволял Meta очищать контент из доменов, связанных с ее бизнес-клиентами, независимо от предпочтений robots.txt — фактически, как выразились критики, ставя под угрозу саму суть давнего веб-стандарта.
После запроса от CIO.com Мета внесла ясность. Эмиль Васкес, менеджер по связям с общественностью Meta, заявил в заявлении, отправленном по электронной почте, что «условия сканирования, которые мы объединили, применимы только к нашей рекламе и бизнес-продуктам, и мы разъяснили это в самих условиях. Это не меняет того, как Meta использует веб-сканеры. Как всегда, владельцы контента могут использовать robots.txt, чтобы сообщить о своих предпочтениях».
По состоянию на вечер понедельника по нью-йоркскому времени предлагаемый документ еще не был обновлен, чтобы отразить это разъяснение, хотя Васкес заявил, что изменения грядут.
Условия владения данными отличают Meta
Условия также предоставляют Meta широкую лицензию на контент, которым корпоративные пользователи делятся через ее продукты. Согласно предложенной формулировке, использование любого мета-продукта дает компании «лицензию на контент, на который распространяются права интеллектуальной собственности, например фотографии или видео, которыми вы делитесь, публикуете или загружаете в наши продукты Meta Company или в связи с ними». Лицензия явно распространяется на контент, предоставленный третьими лицами, действующими от имени клиента, такими как рекламные агентства или поставщики услуг по управлению страницами.
Аналитики отмечают, что такой аппетит к данным отличает Meta от других поставщиков ИИ. В то время как многие корпоративные поставщики искусственного интеллекта сейчас конкурируют за гарантии того, что данные клиентов не будут использоваться для обучения моделей, бизнес-модель Meta, ориентированная на рекламу, движется в противоположном направлении — к максимальным правам на анализ и изучение всего, с чем сталкиваются ее системы.
Почему это важно для предприятий
Распределение ответственности стало одним из определяющих полей битвы за внедрение корпоративного ИИ. Поставщики, как правило, хотят избежать неограниченной ответственности за результаты модели, в то время как клиенты хотят обратиться за помощью по договору, когда ошибка ИИ причиняет вред бизнесу — неверно рассчитанный прогноз, ошибочный документ, неверная рекомендация, выполненная в масштабе.
Большинство крупных поставщиков ИИ оказались где-то посередине: предлагая обязательства по уровню обслуживания, программы компенсации за претензии в области интеллектуальной собственности или многоуровневые корпоративные соглашения, которые принимают на себя некоторую долю выходного риска. Формулировка «единственной ответственности» Меты выделяется тем, насколько полностью она отвергает эту золотую середину, и она появляется, когда предприятия уже переоценивают структуру рисков вокруг агентных систем искусственного интеллекта, которые предпринимают действия, а не просто генерируют текст.
Исследователи безопасности также отмечают, что положение об ответственности создает извращенный стимул: если поставщик не несет никаких расходов из-за ошибок модели, экономическое давление, требующее инвестиций в повышение точности, защитные меры и инструменты оценки, ослабевает, в то время как клиент, который обычно имеет меньше всего понимания того, как работает модель, принимает на себя последствия.
Условия еще не окончательные. Meta все еще может пересмотреть формулировку до даты вступления в силу 30 октября, о чем она уже сигнализировала в отношении пункта о сканировании после проверки прессы.
Для корпоративных покупателей практический вывод — просмотреть обновленные условия построчно до наступления крайнего срока: оценить, какие функции ИИ фактически используются, существует ли компенсация где-либо в соглашении и как расширение ответственности партнера и подрядчика взаимодействует с существующими агентскими отношениями. Заключенные сейчас контракты будут определять, кто будет платить, если системы искусственного интеллекта неизбежно ошибутся.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
