У четвер компанія Anthropic анонсувала Програму перевірки наук про життя, нову багаторівневу систему доступу, яка надає перевіреним професіоналам із біологічних наук доступ до своїх моделей Claude із гарантіями, які навмисно є більш допустимими для роботи, пов’язаної з біологією, ніж ті, які отримують звичайні користувачі.

Програма, відома як LSVP, відкриває заявки для ширшої спільноти наук про життя після фази раннього доступу, на якій, за словами компанії, вона вже залучила десятки організацій. Він запускається в бета-версії спочатку для команд і установ, а доступ для окремих передплатників Pro і Max планується з часом. For more context on this story, see our ongoing AI news.

Що насправді розблоковує програма

Основна проблема, яку вирішує LSVP, є знайомою для лабораторій штучного інтелекту з клієнтами, пов’язаними з біологією: загальнодоступні моделі Anthropic — лінійка компанії Fable — блокують багато запитів про життя, оскільки ті самі знання, які допомагають досліднику раку спланувати експеримент, можуть, у принципі, допомогти комусь створити щось небезпечне.

Відповідно до LSVP, перевірені команди отримують доступ до моделей Anthropic Mythos, Opus і Sonnet із «досконалими класифікаторами, які більш сприятливі для наукових завдань, ніж наші загальнодоступні моделі», — йдеться в повідомленні компанії. Мета полягає в тому, щоб увімкнути роботу, яка зараз заблокована в загальних моделях: відкриття ліків, біологія досліджень, клінічна розробка та робочі процеси виробництва, що охоплює все, починаючи від фундаментальної науки та науково-дослідних розробок і закінчуючи ланцюгом постачання, гарантією якості, регуляторними справами та навіть інвестиційною перевіркою.

На практиці це означає, що дослідницька група фармацевтичної компанії може використовувати Клода, щоб міркувати про розробку аналізів або робочі процеси оптимізації молекул, не вимикаючи класифікатори безпеки, налаштовані на широку публіку — завдання, які, за словами компанії, сьогодні заблоковані для звичайних користувачів.

Два рівні доступу, два рівні перевірки

Програма побудована навколо двох типів грантів із істотно різними правилами.

Гранти на стандартне використання охоплюють більшість науково-біологічних робіт. Вони видаються всім командам, поновлюються щорічно та застосовуються до Mythos 5.1, Opus 5 і Sonnet 5 сьогодні, а також до майбутніх моделей, щойно вони вийдуть. Ці гранти послаблюють гарантії, пов’язані з біологією, зберігаючи решту інфраструктури безпеки Anthropic недоторканою. Відповідно до Anthropic, очікується, що стандартне використання задовольнить більшість потреб у доступі — повсякденне робоче навантаження в академічних лабораторіях, стартапах і великих фармацевтичних компаніях. Гранти на використання з високим ризиком є більш спірним рівнем. Розроблено для команд, чия робота стосується областей, заблокованих навіть за стандартного використання — Anthropic пропонує приклад характеристики того, як конкретне сімейство вірусних векторів розпізнається імунними шляхами людини — ці гранти «усувають усі гарантії, які блокують запити наук про життя». Вони пов’язані з одним дослідницьким проектом, а не з цілою командою, і повинні оновлюватися кожні шість місяців.

Гранти високого ризику для Opus 5 і Sonnet 5 доступні під час запуску. Гранти для Claude Mythos, найефективнішої моделі компанії, залишаються обмеженими «невеликою групою організацій, які проходять додаткову перевірку», тоді як Anthropic співпрацює з урядом США, щоб розширити доступність — визнання того, що прикордонна модель знаходиться в іншому класі ризику.

Як працює перевірка

Згідно з оголошенням, кожен заявник проходить процес перевірки, який включає перевірку облікових даних дослідження, стандартів безпеки та етичний нагляд за дослідженнями перед видачею будь-якого гранту. Це покладає тягар доведення на інституції, а не на модель: авторитет перевіреної команди, стан безпеки та наглядові структури відповідають за її запити, а не покладаються виключно на класифікатори, які вгадують наміри з тексту підказки.

Перевірені команди можуть використовувати свої гранти на платформах продуктів Anthropic, зокрема Claude Science, Claude.ai, Claude Code та API.

Те, що залишається під замком

Розпушування відноситься до біології. Anthropic зазначає, що всі інші запобіжні заходи — зокрема кіберкласифікатори — залишаються в силі згідно з грантами LSVP. Перевірена онкологічна лабораторія не отримує вільніші руки для наступальних завдань безпеки, а грант на використання високого ризику для дослідження вірусних векторів не перетворюється на загальний прикордонний доступ.

Чому це важливо

Оголошення припадає на середину ескалації суперечки про роль ШІ в біології. Нещодавні дослідження, які демонструють, що моделі штучного інтелекту можуть створювати життєздатні геноми вірусів, включаючи роботу, опубліковану в Science на початку цього року, посилили перевірку того, скільки саме біологічних можливостей лабораторії повинні надавати та кому. Критики стверджують, що будь-яка вседозволеність — це азартна гра; Дослідники заперечують, що занадто обмежувальні класифікатори блокують законну медичну роботу та підштовхують науковців до менш ефективних або менш прозорих інструментів.

Багаторівнева відповідь Anthropic – це фактично ставка на те, що перевірка особи плюс інституційна підзвітність можуть замінити загальні обмеження. Це помітний відхід від стандартної позиції галузі, згідно з якою все фільтрується та ніколи не задається питанням, а також прагматичне визнання того, що її найбільші наукові клієнти були тими, хто найімовірніше зіткнувся зі стіною.

Економіка вказує в тому ж напрямку. Фармацевтика, біотехнології та наукові дослідження є одними з найбільш забезпечених потенційних клієнтів передового ШІ, і Claude Science вже конкурує за ці навантаження. Програма, яка дозволяє Merck або Стенфордській лабораторії фактично запускати свої робочі процеси на Клоді, а не залишати її після першого заблокованого запиту, є комерційною зброєю так само, як і політика безпеки.

Чи тримається ставка, залежить від перевірки. Якщо перевірка витримає, а неправильне використання залишиться теоретичним, LSVP, швидше за все, стане шаблоном, який копіюють інші лабораторії. Якщо це зазнає невдачі, програма надасть регуляторам конкретний приклад того, як на практиці виглядають ослаблені гарантії — саме в той момент, коли політики у Вашингтоні та Лондоні просять лідерів ШІ зменшити швидкість.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →