В четверг Anthropic анонсировала Программу проверки биологических наук — новую многоуровневую систему доступа, которая предоставляет проверенным специалистам в области медико-биологических наук доступ к моделям Клода с гарантиями, которые намеренно более либеральны для работы, связанной с биологией, чем те, которые получают обычные пользователи.

Программа, известная как LSVP, открывает заявки для более широкого сообщества медико-биологических наук после этапа раннего доступа, на котором, по словам компании, она уже подключила десятки организаций. Сначала он запускается в бета-версии для команд и учреждений, а доступ для отдельных подписчиков Pro и Max планируется со временем. Подробнее об этой истории — в нашем больше статей об ИИ.

Что на самом деле разблокирует программа

Основная проблема, которую решает LSVP, знакома лабораториям искусственного интеллекта с клиентами, связанными с биологией: общедоступные модели Anthropic — линейка компании Fable — полностью блокируют многие запросы в области медико-биологических наук, потому что те же знания, которые помогают исследователю рака спланировать эксперимент, в принципе могут помочь кому-то спроектировать что-то опасное.

В рамках LSVP проверенные команды получают доступ к моделям Anthropic Mythos, Opus и Sonnet с «уточненными классификаторами, которые более подходят для научных задач, чем наши общедоступные модели», говорится в заявлении компании. Цель состоит в том, чтобы обеспечить возможность работы, которая в настоящее время заблокирована в общих моделях: открытие лекарств, биологические исследования, клинические разработки и производственные рабочие процессы, охватывающие все: от фундаментальной науки и исследований и разработок до цепочки поставок, обеспечения качества, регулирования и даже инвестиционной осмотрительности.

На практике это означает, что исследовательская группа фармацевтической компании может использовать Клода для обоснования рабочих процессов разработки анализов или оптимизации молекул, не нарушая при этом классификаторы безопасности, настроенные для широкой публики — задачи, которые, как прямо заявляет компания, сегодня заблокированы для обычных пользователей.

Два уровня доступа, два уровня проверки

Программа построена на двух типах грантов с существенно разными правилами.

Гранты на стандартное использование покрывают большую часть работ в области медико-биологических наук. Они выдаются всем командам, обновляются ежегодно и применяются к Mythos 5.1, Opus 5 и Sonnet 5 сегодня, а также к будущим моделям по мере их выпуска. Эти гранты ослабляют меры безопасности, связанные с биологией, сохраняя при этом остальную инфраструктуру безопасности Anthropic нетронутой. По данным Anthropic, ожидается, что стандартное использование покроет большинство потребностей в доступе — повседневные рабочие нагрузки в академических лабораториях, стартапах и крупных фармацевтических компаниях. Гранты на использование с высоким риском представляют собой более спорный уровень. Разработанные для команд, чья работа затрагивает области, заблокированные даже при стандартном использовании — Anthropic предлагает пример характеристики того, как определенное семейство вирусных векторов распознается иммунными путями человека — эти гранты «снимают все меры предосторожности, которые блокируют запросы медико-биологических наук». Они привязаны к одному исследовательскому проекту, а не к целой команде, и их необходимо обновлять каждые шесть месяцев.

Гранты высокого риска для Opus 5 и Sonnet 5 доступны при запуске. Гранты на Claude Mythos, наиболее эффективную модель компании, по-прежнему ограничиваются «небольшим набором организаций с дополнительной проверкой», в то время как Anthropic работает с правительством США над расширением доступности — признанием того, что пограничная модель находится в другом классе риска.

Как работает проверка

Согласно объявлению, каждый заявитель проходит процесс проверки, который включает в себя проверку полномочий на проведение исследований, стандартов безопасности и этический надзор за исследованиями, прежде чем выдавать какой-либо грант. Это возлагает бремя доказывания на институты, а не на модель: проверенная репутация команды, уровень безопасности и надзорные структуры ручаются за ее запросы, а не полагаются исключительно на классификаторов, догадывающихся о намерениях по тексту подсказки.

Проверенные команды могут использовать свои гранты в продуктах Anthropic, включая Claude Science, Claude.ai, Claude Code и API.

Что остается заблокированным

Разрыхление относится к биологии. Anthropic отмечает, что все остальные меры защиты — в частности, киберклассификаторы — остаются в силе в рамках грантов LSVP. Подтвержденная онкологическая лаборатория не получает более полную свободу действий в решении наступательных задач по обеспечению безопасности, а грант на использование с высоким риском для исследования вирусных векторов не превращается в общий пограничный доступ.

Почему это важно

Это объявление попало в разгар обостряющегося спора о роли ИИ в биологии. Недавние исследования, демонстрирующие, что модели ИИ могут создавать жизнеспособные вирусные геномы, включая работу, опубликованную в журнале Science ранее в этом году, усилили внимание к тому, какие именно биологические возможности лаборатории должны предоставлять и кому. Критики утверждают, что любая вседозволенность — это авантюра; Исследователи возражают, что слишком строгие классификаторы блокируют законную медицинскую работу и подталкивают ученых к использованию менее эффективных или менее прозрачных инструментов.

Многоуровневый ответ Anthropic фактически представляет собой ставку на то, что проверка личности плюс институциональная подотчетность могут заменить общие ограничения. Это заметный отход от принятой по умолчанию позиции отрасли, согласно которой все фильтруют и никогда не задают вопросов, а также прагматическое признание того, что ее крупнейшие научные клиенты с наибольшей вероятностью упрутся в стену.

Экономика указывает в том же направлении. Фармацевтика, биотехнологии и академические исследования входят в число наиболее богатых потенциальных клиентов передового ИИ, и Claude Science уже конкурирует за эти рабочие нагрузки. Программа, которая позволяет Merck или Стэнфордской лаборатории фактически запускать свои рабочие процессы на Клоде, а не прекращать работу при первом же заблокированном запросе, является не только коммерческим оружием, но и политикой безопасности.

Сработает ли ставка, зависит от проверки. Если проверка будет подтверждена, а неправильное использование останется теоретическим, LSVP, скорее всего, станет шаблоном, который будут копировать другие лаборатории. Если она потерпит неудачу, программа предоставит регулирующим органам конкретный пример того, как ослабленные меры защиты выглядят на практике — как раз в тот момент, когда политики в Вашингтоне и Лондоне просят лидеров ИИ замедлиться.

---

Будьте в курсе ИИ

Последние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.

Читать больше новостей об ИИ →