OpenAI в среду объявила, что предлагает нулевое сохранение данных (ZDR) для своих передовых моделей, и представила новую систему под названием Private Safety Processing, предназначенную для обнаружения злоупотреблений в ходе многочисленных взаимодействий, не предоставляя компании доступа к контенту клиентов. Этот шаг проводит резкую линию против конкурентов: Axios сообщила, что это объявление появилось, поскольку Anthropic теперь требует от клиентов разрешить регистрацию данных, а Firstpost отметил контраст с переходом Anthropic на 30-дневное хранение данных.

Выбор времени не является тонким. В своем заявлении OpenAI отметила, что «некоторые недавние развертывания передовой модели потребовали от клиентов разрешить своему поставщику ИИ сохранять конфиденциальный контент для мониторинга безопасности» - требования, по словам компании, «противоречат их обязательствам по безопасности или обязательствам перед людьми, которых они обслуживают». Компания позиционирует конфиденциальность как конкурентное оружие в борьбе за регулируемых корпоративных клиентов. Подробнее об этой истории — в нашем новости об ИИ.

Что обещает нулевое сохранение данных

В рамках предложения ZDR соответствующие клиенты API получают то, что OpenAI называет «четким обещанием»: OpenAI не сохраняет запросы или моделирует ответы после обработки запроса. Контент клиентов недоступен для просмотра персоналу OpenAI, а данные корпоративных клиентов не используются для обучения моделей OpenAI, если только клиенты явно не согласятся на это.

Для банков, больниц и юридических фирм, рассматривающих возможность внедрения ИИ, эти обязательства касаются наиболее распространенного нарушения условий сделки: риска того, что конфиденциальные материалы, проходящие через системы провайдера ИИ, могут быть сохранены, прочитаны или включены в будущие модели. OpenAI отмечает, что организации, с которыми она работает, обрабатывают «финансовые отчеты, данные о состоянии здоровья, конфиденциальные бизнес-планы и собственные исследования».

Проблема с безопасностью была решена

В заявлении также признается наличие реальной технической напряженности. Как описывает сам OpenAI, наиболее серьезные угрозы безопасности ИИ не всегда видны за одно взаимодействие. Вредные намерения могут стать ясными только тогда, когда многочисленные взаимодействия рассматриваются вместе — когда злоумышленники неоднократно проверяют меры безопасности, координируют действия между учетными записями, маскируют угрозы под рутинные исследования или когда агент ИИ продолжает действовать после того, как ему приказали остановиться.

Существующие ZDR-совместимые системы безопасности оценивают каждое взаимодействие индивидуально, что означает, что риски, основанные на шаблонах, ускользают. Провайдеры, которые отреагировали требованием сохранения, решили одну проблему, создав другую, заставив клиентов выбирать между мониторингом безопасности и собственными обязательствами по конфиденциальности.

Как работает обработка конфиденциальной информации

Предлагаемое OpenAI решение является архитектурным. В рамках частной безопасной обработки контент клиента остается в инфраструктуре, которую контролирует клиент, или, в варианте, который все еще находится в разработке, хранится в инфраструктуре OpenAI, зашифрованной ключами, контролируемыми клиентом. Затем автоматизированные системы анализируют закономерности связанных взаимодействий и возвращают «ограниченные сигналы безопасности» — флажки о потенциальном неправильном использовании — не раскрывая основные подсказки или ответы персоналу OpenAI.

Клиенты исследуют оповещения, используя информацию, доступную в их собственных системах. Если они хотят обжаловать решение правоохранительных органов, прояснить законную деятельность или поддержать расследование подтвержденного злоупотребления, они могут поделиться соответствующей информацией с OpenAI. Другими словами, конфиденциальность становится параметром по умолчанию, а раскрытие информации остается выбором клиента.

В настоящее время система тестируется на первых клиентах. OpenAI сообщает, что планирует начать внедрение Private Safety Processing и опубликовать технический документ в сентябре.

Доверие предприятий как рынок

Объявление сопровождалось отзывом клиента, который читается как аргумент в пользу закупок. «Внедрение корпоративного ИИ зависит исключительно от контроля данных со стороны клиента, без какого-либо прямого или производного использования за пределами выбранной услуги», — сказал Сунил Агравал, директор по информационной безопасности в Glean, чью цитату OpenAI опубликовал рядом с публикацией. «Поскольку модели становятся более функциональными, OpenAI показывает, что безопасность может повышаться без ущерба для конфиденциальности и контроля, которые поддерживают доверие предприятия».

OpenAI представляет предварительную версию как ответ на спрос, заявляя, что она услышала от клиентов «громко и ясно, что им нужна предсказуемость в отношении того, как их контент будет защищен по мере того, как системы искусственного интеллекта станут более функциональными». Компания добавляет, что этот подход формируется клиентами «в разных отраслях, регионах и размерах компаний», и что он будет информировать клиентов с достаточным запасом времени для планирования развертывания с учетом изменений.

Дебаты, которые это вызовет

Исследователи безопасности уже давно утверждают, что прозрачность моделей использования необходима для выявления злоупотреблений до того, как они причинят вред, и некоторые задаются вопросом, может ли автоматизированный зашифрованный анализ соответствовать качеству обнаружения человеческого анализа. Между тем, защитники конфиденциальности будут приветствовать архитектуру, которая рассматривает доступ к данным клиентов как решение клиента, а не прерогативу поставщика.

Ясно одно: управление данными переместилось из юридического мелкого шрифта в центр конкуренции ИИ. По мере того, как передовые модели решают более длительные и автономные задачи в регулируемых отраслях, вопрос о том, кто сможет видеть следы, которые оставляют эти системы — клиент, поставщик или никто — становится основной осью, на которой выигрываются и проигрываются корпоративные сделки по ИИ. OpenAI теперь ясно дал свой ответ и поставил своих конкурентов в положение защиты своих.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →