Společnost Antropic ve čtvrtek oznámila Life Sciences Verification Program, nový stupňovitý přístupový systém, který umožňuje prověřeným odborníkům z oblasti biologických věd přístup ke svým modelům Claude se zárukami, které jsou záměrně tolerantnější pro práci související s biologií, než jaké dostávají běžní uživatelé.

Program, známý jako LSVP, otevírá aplikace pro širší komunitu biologických věd po fázi raného přístupu, ve které společnost tvrdí, že již začlenila desítky organizací. Spouští se nejprve v beta verzi pro týmy a instituce, přičemž postupem času se plánuje přístup pro jednotlivé předplatitele Pro a Max. For more context on this story, see our ongoing breaking AI news.

Co vlastně program odemyká

Základní problém, který LSVP řeší, je známý pro laboratoře umělé inteligence se zákazníky v sousedství biologie: Obecně dostupné modely společnosti Anthropic – řada Fable společnosti – přímo blokují mnoho požadavků v oblasti biologických věd, protože tytéž znalosti, které pomáhají výzkumníkovi rakoviny navrhnout experiment, mohou v zásadě pomoci někomu vytvořit něco nebezpečného.

V rámci LSVP získají ověřené týmy přístup k modelům Mythos, Opus a Sonnet společnosti Anthropic s „rafinovanými klasifikátory, které jsou pro vědecké úkoly tolerantnější než naše obecně dostupné modely,“ uvedla společnost ve svém oznámení. Záměrem je umožnit práci, která je v současnosti blokována v obecných modelech: objevování léků, biologie výzkumu, klinický vývoj a výrobní pracovní postupy, zahrnující vše od základní vědy a výzkumu a vývoje až po dodavatelský řetězec, zajišťování kvality, regulační záležitosti a dokonce i investiční péči.

V praxi to znamená, že výzkumný tým farmaceutické společnosti by mohl Clauda využít k uvažování prostřednictvím návrhu testů nebo pracovních postupů optimalizace molekul, aniž by se vyhnul bezpečnostním klasifikátorům vyladěným pro širokou veřejnost – úkoly, o kterých společnost výslovně říká, že jsou dnes pro běžné uživatele blokovány.

Dvě úrovně přístupu, dvě úrovně prověřování

Program je postaven na dvou typech grantů s věcně odlišnými pravidly.

Standardní granty pokrývají většinu prací v oblasti biologických věd. Jsou vydávány celým týmům, každoročně se obnovují a platí pro Mythos 5.1, Opus 5 a Sonnet 5 dnes, plus budoucí modely po uvedení na trh. Tyto granty uvolňují bezpečnostní opatření související s biologií a zároveň udržují zbytek bezpečnostní infrastruktury společnosti Anthropic nedotčený. Podle společnosti Anthropic se očekává, že Standard Use pokryje většinu přístupových potřeb – každodenní pracovní zátěž v akademických laboratořích, startupech a velkých farmaceutických společnostech. Granty na použití s ​​vysokým rizikem jsou spornější úrovní. Navrženo pro týmy, jejichž práce se dotýká oblastí blokovaných i při standardním použití – Anthropic nabízí příklad charakterizující, jak je specifická rodina virových vektorů rozpoznána lidskými imunitními cestami – tyto granty „odstraňují všechna ochranná opatření, která blokují požadavky biologických věd“. Připojují se spíše k jedinému výzkumnému projektu než k celému týmu a musí se každých šest měsíců obnovovat.

Vysoce rizikové granty pro Opus 5 a Sonnet 5 jsou k dispozici při spuštění. Granty pro Claude Mythos, nejschopnější model společnosti, zůstávají omezeny na „malý soubor subjektů s dodatečným prověřováním“, zatímco Anthropic spolupracuje s americkou vládou na rozšíření dostupnosti – což je potvrzení, že hraniční model je v jiné rizikové třídě.

Jak funguje ověřování

Podle oznámení prochází každý žadatel ověřovacím procesem, který zahrnuje přezkoumání výzkumných pověření, bezpečnostních standardů a etického dohledu nad výzkumem před udělením grantu. To klade důkazní břemeno na instituce spíše než na model: postavení ověřeného týmu, bezpečnostní pozice a struktury dohledu ručí za jeho požadavky, spíše než se spoléhat pouze na klasifikátory, kteří odhadují záměr z textu výzvy.

Ověřené týmy mohou využít své granty na různých produktových plochách Anthropic, včetně Claude Science, Claude.ai, Claude Code a API.

Co zůstane zamčené

Uvolnění se týká biologie. Antropic poznamenává, že všechny ostatní záruky – zejména kybernetické klasifikátory – zůstávají v platnosti v rámci grantů LSVP. Ověřená rakovinová laboratoř nemá volnější ruku při útočných bezpečnostních úkolech a grant na vysoce rizikové použití pro studii virových vektorů se netransformuje do obecného hraničního přístupu.

Proč na tom záleží

Oznámení přistane uprostřed eskalující hádky o roli umělé inteligence v biologii. Nedávné studie prokazující, že modely umělé inteligence dokážou navrhnout životaschopné virové genomy – včetně práce publikované v časopise Science začátkem tohoto roku – zintenzivnily zkoumání přesně toho, kolik a komu by měly laboratoře biologické schopnosti vystavit. Kritici tvrdí, že jakákoli svolnost je hazard; výzkumníci namítají, že příliš omezující klasifikátory blokují legitimní lékařskou práci a tlačí vědce k méně schopným nebo méně transparentním nástrojům.

Odstupňovaná odpověď společnosti Anthropic je v podstatě sázka, že ověření identity a institucionální odpovědnost mohou nahradit plošné omezení. Je to významný posun od výchozího postoje tohoto odvětví, kdy vše filtrujete a nikdy se ptát – a pragmatické uznání, že největší zákazníci z oblasti vědy byli těmi, kdo s největší pravděpodobností narazí na zeď.

Ekonomika ukazuje stejný směr. Farmaceutický průmysl, biotechnologie a akademický výzkum patří mezi nejhlubší potenciální zákazníky hraniční umělé inteligence a Claude Science již soutěží o tyto pracovní zátěže. Program, který umožňuje společnosti Merck nebo stanfordské laboratoři skutečně provozovat své pracovní postupy na Claude – spíše než opuštění na první zablokovanou výzvu – je komerční zbraní stejně jako bezpečnostní politika.

Zda sázka platí, závisí na prověrce. Pokud ověření zůstane zachováno a zneužití zůstane teoretické, LSVP se pravděpodobně stane vzorovou kopií pro ostatní laboratoře. Pokud selže, program předá regulátorům konkrétní příklad toho, jak uvolněná ochranná opatření vypadají v praxi – přesně ve chvíli, kdy politici ve Washingtonu a Londýně žádají vůdce AI, aby zpomalili.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →