Anthropic начнет применять невидимые водяные знаки к тексту, генерируемому ее моделями Claude, подтвердила компания на этой неделе, став последним поставщиком искусственного интеллекта, который добавит машиночитаемые сигналы происхождения в ответ на новые европейские правила прозрачности.
Изменение, подробно описанное на обновленной странице поддержки, означает, что контент, созданный Клодом, будет иметь скрытую подпись, предназначенную для того, чтобы его можно было скопировать и вставить в другое место. Это прямой ответ на Кодекс прозрачности Закона Европейского Союза об искусственном интеллекте, который вступил в силу 2 августа и требует от компаний, занимающихся искусственным интеллектом, маркировать созданный или отредактированный контент таким образом, чтобы его могли обнаружить другие системы.
Как работает водяной знак
Anthropic заявила, что все модели, выпущенные после 2 августа, будут автоматически включать технологию нанесения водяных знаков как на текст, так и на файлы, созданные компьютером. Для файлов компания применяет открытый стандарт C2PA — систему аутентификации контента, которая уже используется некоторыми производителями фотоаппаратов и инструментами для редактирования изображений для записи процесса создания медиафайла.
Текстовый водяной знак внедряется на уровне модели, а не применяется второстепенно. Согласно документации поддержки Anthropic, «поскольку водяной знак является частью текста, он будет перемещаться вместе с текстом при его копировании и вставке в другое место и может сохраняться при некотором редактировании. Водяные знаки будут применяться на уровне модели, что означает, что они будут присутствовать независимо от того, с какого продукта Claude или с какой поверхности взят текст».
Компания добавила, что планирует распространить поддержку водяных знаков и на старые модели. Эта функция будет применяться ко всей линейке продуктов Anthropic, включая API платформы Claude, приложение чата Claude, Claude Code, Claude Cowork и Claude Tag.
Не совсем ясно, сколько именно правок пользователю придется сделать, чтобы убрать след, и Anthropic не раскрывает публично подробностей этого метода. Использование водяных знаков в тексте технически сложно, поскольку небольшие изменения в формулировках могут нарушить хрупкие статистические закономерности, что является давней проблемой для исследователей в этой области.
Нет отказа для пользователей
Примечательно, что пользователи Claude не смогут отключить водяной знак. Этот параметр применяется самой моделью, а не переключается по запросу, что означает, что любой, кто генерирует текст через поверхность Claude, будет помечен, хотят он этого или нет.
Эта позиция, вероятно, вызовет сопротивление со стороны некоторых профессиональных пользователей. Писатели, разработчики и компании, которые используют Claude для создания контента, привыкли к чистому, немаркированному результату, и некоторым может быть неудобно видеть невидимую подпись, сопровождающую их текст в Интернете. Anthropic, похоже, пришла к выводу, что соблюдение нормативных требований перевешивает это предпочтение.
Часть более широкой отраслевой борьбы
Антропик действует не в одиночку. Требования ЕС к прозрачности спровоцировали гонку среди ИИ и контент-платформ за добавление сигналов о происхождении до того, как к ним постучатся регулирующие органы.
Буквально на прошлой неделе музыкальная платформа искусственного интеллекта Suno заявила, что начнет маркировать треки, созданные на ее сервисе, после волны судебных разбирательств по поводу аудио, сгенерированного искусственным интеллектом. В прошлом месяце платформа информационных бюллетеней Substack заключила партнерское соглашение с фирмой по обнаружению Pangram, чтобы пометить контент, созданный искусственным интеллектом, а генеральный директор Substack Крис Бест публично назвал «Claudefishing» — термин, обозначающий людей, использующих искусственный интеллект для наводнения платформ некачественным материалом.
Давление распространяется далеко за пределы прямых конкурентов Anthropic. Согласно отчету TechCrunch, Black Forest Labs, Google, Meta, Microsoft, OpenAI и Synthesia взяли на себя обязательство соблюдать кодекс прозрачности ЕС, что свидетельствует о том, что водяные знаки быстро становятся базовым ожиданием отрасли, а не отличительным признаком.
Почему происхождение вдруг стало актуальным
Стремление к использованию водяных знаков отражает две взаимосвязанные проблемы. Первый – нормативный: Закон ЕС об искусственном интеллекте уже вступил в силу, и компании, которые не соблюдают его, сталкиваются с перспективой значительных штрафов. Заблаговременное создание инфраструктуры происхождения обходится дешевле, чем ее модернизация под давлением правоохранительных органов.
Второй – репутационный. Поскольку текст, изображения, аудио и видео, сгенерированные ИИ, наводнили социальные платформы, издатели и платформы сталкиваются с растущей негативной реакцией по поводу «отбросов ИИ», низкокачественного синтетического контента, который вытесняет человеческий труд и подрывает доверие. Невидимые водяные знаки дают технический ответ на вопрос, который не может решить одна модерация: было ли это написано машиной?
Для Anthropic, которая построила свой бренд на безопасности искусственного интеллекта, использование водяных знаков также является шагом к повышению доверия. Компания, которая позиционирует себя как ответственная альтернатива, имеет сильные стимулы обеспечивать прозрачность, а не тянуть время.
Более сложные вопросы остаются нерешенными. Водяные знаки помогают только в том случае, если инструменты обнаружения действительно их ищут, и если знаки окажутся достаточно надежными, чтобы выдержать редактирование, переформатирование и отмывание, которые происходят при перемещении контента по открытой сети. Anthropic делает ставку на то, что внедрение сигнала на уровне модели является наиболее надежным подходом. Справедливо ли это на практике, будет быстро и публично проверено в ближайшие месяцы.
Чтобы постоянно освещать политику в области ИИ и инструменты, меняющие отрасль, добавьте в закладки [последние новости AI Buzz Wire] (https://aibuzzwire.news).
