W czwartek firma Anthropic ogłosiła program weryfikacji nauk przyrodniczych, nowy, wielopoziomowy system dostępu, który zapewnia sprawdzonym specjalistom z zakresu nauk przyrodniczych dostęp do modeli Claude z zabezpieczeniami, które celowo zapewniają bardziej liberalne warunki pracy związanej z biologią niż te, które otrzymują zwykli użytkownicy.

Program, znany jako LSVP, udostępnia aplikacje szerszej społeczności zajmującej się naukami przyrodniczymi po fazie wczesnego dostępu, podczas której firma twierdzi, że zaangażowała już dziesiątki organizacji. Zostanie ona wypuszczona najpierw w wersji beta dla zespołów i instytucji, a z czasem planowany będzie dostęp dla indywidualnych abonentów Pro i Max. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.

Co program faktycznie odblokowuje

Główny problem, którym zajmuje się LSVP, jest znany laboratoriom AI współpracującym z klientami zajmującymi się biologią: ogólnie dostępne modele Anthropic – linia Fable – całkowicie blokują wiele wniosków z zakresu nauk przyrodniczych, ponieważ ta sama wiedza, która pomaga badaczowi nowotworów w zaprojektowaniu eksperymentu, może w zasadzie pomóc komuś zaprojektować coś niebezpiecznego.

W ramach LSVP zweryfikowane zespoły uzyskują dostęp do modeli Mythos, Opus i Sonnet firmy Anthropic z „udoskonalonymi klasyfikatorami, które w większym stopniu pozwalają na zadania naukowe niż nasze ogólnie dostępne modele” – podała firma w swoim ogłoszeniu. Celem jest umożliwienie pracy, która jest obecnie zablokowana w ogólnych modelach: odkrywanie leków, biologia badawcza, rozwój kliniczny i procesy produkcyjne, obejmujące wszystko, od nauk podstawowych i badań i rozwoju po łańcuch dostaw, zapewnienie jakości, kwestie regulacyjne, a nawet staranność inwestycyjną.

W praktyce oznacza to, że zespół badawczy firmy farmaceutycznej mógłby wykorzystać Claude do rozumowania podczas projektowania testów lub procesów optymalizacji cząsteczek bez zakłócania klasyfikatorów bezpieczeństwa dostosowanych do ogółu społeczeństwa – zadania, które firma wyraźnie twierdzi, są obecnie zablokowane dla zwykłych użytkowników.

Dwa poziomy dostępu, dwa poziomy weryfikacji

Program opiera się na dwóch rodzajach dotacji o zasadniczo różnych zasadach.

Dotacje na użytkowanie standardowe pokrywają większość prac z zakresu nauk przyrodniczych. Są wydawane całym zespołom, odnawiane co roku i mają zastosowanie do Mythos 5.1, Opus 5 i Sonnet 5 już dziś, a także do przyszłych modeli w momencie ich premiery. Dotacje te rozluźniają zabezpieczenia związane z biologią, utrzymując jednocześnie pozostałą infrastrukturę bezpieczeństwa Anthropic w nienaruszonym stanie. Według Anthropic oczekuje się, że użycie standardowe pokryje większość potrzeb w zakresie dostępu – codziennych obciążeń w laboratoriach akademickich, start-upach i dużych firmach farmaceutycznych. Dotacje na użytkowanie o wysokim ryzyku to poziom bardziej kontrowersyjny. Przeznaczone dla zespołów, których praca dotyczy obszarów zablokowanych nawet w przypadku standardowego użytku. Anthropic stanowi przykład scharakteryzowania sposobu rozpoznawania określonej rodziny wektorów wirusowych przez ludzkie szlaki odpornościowe. Dotacje te „usuwają wszelkie zabezpieczenia blokujące wnioski z zakresu nauk przyrodniczych”. Przywiązują się do pojedynczego projektu badawczego, a nie do całego zespołu i muszą być odnawiane co sześć miesięcy.

Dotacje wysokiego ryzyka dla Opus 5 i Sonnet 5 są dostępne w momencie premiery. Dotacje dla Claude’a Mythosa, najzdolniejszego modelu firmy, pozostają ograniczone do „niewielkiej grupy podmiotów podlegających dodatkowej weryfikacji”, podczas gdy Anthropic współpracuje z rządem USA w celu zwiększenia dostępności, co stanowi potwierdzenie, że model pionierski należy do innej klasy ryzyka.

Jak działa weryfikacja

Zgodnie z ogłoszeniem każdy wnioskodawca przechodzi proces weryfikacji, który obejmuje przegląd referencji badawczych, standardów bezpieczeństwa i etyczny nadzór nad badaniami przed przyznaniem grantu. To nakłada ciężar dowodu na instytucje, a nie na model: pozycja zweryfikowanego zespołu, stan bezpieczeństwa i struktury nadzoru gwarantują spełnienie jego żądań, zamiast polegać wyłącznie na klasyfikatorach odgadujących intencje na podstawie tekstu podpowiedzi.

Zweryfikowane zespoły mogą korzystać ze swoich grantów na platformach produktów Anthropic, w tym Claude Science, Claude.ai, Claude Code i API.

Co pozostaje zamknięte

Rozluźnienie ogranicza się do biologii. Anthropic zauważa, że ​​wszystkie pozostałe zabezpieczenia – w szczególności klasyfikatory cybernetyczne – pozostają w mocy w ramach dotacji LSVP. Zweryfikowane laboratorium onkologiczne nie ma większej swobody w wykonywaniu ofensywnych zadań związanych z bezpieczeństwem, a dotacja na wykorzystanie wysokiego ryzyka na badanie wektorów wirusowych nie przekłada się na ogólny dostęp graniczny.

Dlaczego to ma znaczenie

Oświadczenie wpisuje się w nasilający się spór na temat roli sztucznej inteligencji w biologii. Niedawne badania wykazujące, że modele sztucznej inteligencji mogą projektować żywotne genomy wirusów – w tym prace opublikowane w Science na początku tego roku – zintensyfikowały kontrolę nad tym, ile dokładnie laboratoria zajmujące się zdolnościami biologicznymi powinny udostępniać i komu. Krytycy twierdzą, że wszelka pobłażliwość jest hazardem; badacze zaprzeczają, że nadmiernie restrykcyjne klasyfikatory blokują legalną pracę medyczną i popychają naukowców w stronę mniej wydajnych lub mniej przejrzystych narzędzi.

Wielopoziomowa odpowiedź Anthropic jest w rzeczywistości założeniem, że weryfikacja tożsamości w połączeniu z odpowiedzialnością instytucjonalną może zastąpić ogólne ograniczenia. Jest to zauważalna zmiana w porównaniu z domyślną postawą branży, która zakłada filtrowanie wszystkiego i nigdy nie zadawanie pytań, a także pragmatyczne uznanie, że najwięksi klienci z branży naukowej to ci, którzy najprawdopodobniej zderzą się ze ścianą.

Ekonomia wskazuje ten sam kierunek. Branże farmaceutyczne, biotechnologiczne i badania akademickie należą do najbogatszych potencjalnych klientów pionierskiej sztucznej inteligencji, a Claude Science już konkuruje o te obciążenia. Program, który pozwala firmie Merck lub laboratorium ze Stanforda faktycznie uruchamiać przepływ pracy na Claude – zamiast porzucać go po pierwszym zablokowanym komunikacie – jest w równym stopniu bronią komercyjną, jak i polityką bezpieczeństwa.

To, czy zakład będzie ważny, zależy od weryfikacji. Jeśli weryfikacja się utrzyma, a niewłaściwe użycie pozostanie teoretyczne, LSVP prawdopodobnie stanie się szablonem kopiowanym przez inne laboratoria. Jeśli to się nie powiedzie, program daje organom regulacyjnym konkretny przykład tego, jak w praktyce wyglądają rozluźnione zabezpieczenia – dokładnie w momencie, gdy decydenci w Waszyngtonie i Londynie proszą przywódców sztucznej inteligencji o spowolnienie.

---

Bądź na Bieżąco z AI

Najnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.

Czytaj więcej wiadomości AI →