Anthropic Perşembe günü, incelenmiş yaşam bilimi profesyonellerinin Claude modellerine, biyoloji ile ilgili çalışmalar için genel kullanıcıların aldığından daha fazla izin veren güvenlik önlemleriyle erişmesine olanak tanıyan yeni bir katmanlı erişim sistemi olan Yaşam Bilimleri Doğrulama Programını duyurdu.

LSVP olarak bilinen program, şirketin zaten düzinelerce kuruluşu bünyesine kattığını söylediği erken erişim aşamasından sonra başvuruları daha geniş yaşam bilimleri topluluğuna açıyor. İlk olarak ekipler ve kurumlar için beta olarak piyasaya sürülecek ve bireysel Pro ve Max abonelerinin erişiminin zaman içinde planlanması planlanıyor. For more context on this story, see our ongoing AI news.

Programın gerçekte kilidini açtığı şey

LSVP'nin ele aldığı temel sorun, biyolojiye komşu müşterileri olan yapay zeka laboratuvarları için tanıdık bir sorundur: Anthropic'in genel olarak mevcut modelleri (şirketin Fable serisi) birçok yaşam bilimi talebini doğrudan engeller, çünkü bir kanser araştırmacısının bir deney tasarlamasına yardımcı olan aynı bilgi, prensip olarak birinin tehlikeli bir şey yapmasına da yardımcı olabilir.

Şirket, duyurusunda, LSVP kapsamında, doğrulanmış ekiplerin Anthropic'in Mythos, Opus ve Sonnet modellerine "bilim görevleri için genel olarak mevcut modellerimizden daha fazla izin veren gelişmiş sınıflandırıcılara" erişim elde ettiğini söyledi. Amaç, şu anda genel modellerde engellenen çalışmaları mümkün kılmaktır: ilaç keşfi, araştırma biyolojisi, klinik geliştirme ve temel bilim ve Ar-Ge'den tedarik zincirine, kalite güvencesine, düzenleyici ilişkilere ve hatta yatırım titizliğine kadar her şeyi kapsayan üretim iş akışları.

Uygulamada bu, bir ilaç şirketinin araştırma ekibinin, genel halk için ayarlanmış güvenlik sınıflandırıcılarını tetiklemeden tahlil tasarımı veya molekül optimizasyonu iş akışları üzerinde akıl yürütmek için Claude'u kullanabileceği anlamına gelir; şirket, bugün düzenli kullanıcılar için açıkça engellendiğini açıkça söylediği görevler.

İki erişim katmanı, iki inceleme düzeyi

Program, maddi olarak farklı kurallara sahip iki hibe türü etrafında oluşturulmuştur.

Standart Kullanım hibeleri çoğu yaşam bilimi çalışmasını kapsar. Tüm ekiplere dağıtılır, her yıl yenilenir ve Mythos 5.1, Opus 5 ve Sonnet 5'in yanı sıra piyasaya sürülecek gelecekteki modellere de uygulanır. Bu hibeler, Anthropic'in güvenlik altyapısının geri kalanını sağlam tutarken biyolojiyle ilgili önlemleri gevşetiyor. Anthropic'e göre Standart Kullanımın, akademik laboratuvarlar, yeni kurulan şirketler ve büyük ilaç şirketlerindeki günlük iş yükleri gibi erişim ihtiyaçlarının çoğunu karşılaması bekleniyor. Yüksek Riskli Kullanım hibeleri daha çekişmeli bir aşamadır. Çalışmaları Standart Kullanım altında bile engellenen alanlara temas eden ekipler için tasarlandı - Anthropic, belirli bir viral vektör ailesinin insan bağışıklık yolları tarafından nasıl tanındığını karakterize eden bir örnek sunuyor - bu bağışlar "yaşam bilimleri taleplerini engelleyen tüm önlemleri ortadan kaldırıyor." Bütün bir ekip yerine tek bir araştırma projesine bağlanırlar ve her altı ayda bir yenilenmeleri gerekir.

Opus 5 ve Sonnet 5 için yüksek riskli bağışlar lansman sırasında mevcut. Şirketin en yetenekli modeli olan Claude Mythos'a verilen hibeler "ek incelemeye tabi küçük bir grup kuruluşla" sınırlı kalırken Anthropic, kullanılabilirliği genişletmek için ABD hükümetiyle birlikte çalışıyor; bu, sınır modelinin farklı bir risk sınıfında yer aldığını kabul ediyor.

Doğrulama nasıl çalışır?

Duyuruya göre, her başvuru sahibi herhangi bir hibe verilmeden önce araştırma bilgilerinin, güvenlik standartlarının ve etik araştırma gözetiminin gözden geçirilmesini içeren bir doğrulama sürecinden geçiyor. Bu, ispat yükünü modelden ziyade kurumlara yüklüyor: Doğrulanmış bir ekibin durumu, güvenlik duruşu ve gözetim yapıları, yalnızca bir istem metninden amacı tahmin eden sınıflandırıcılara güvenmek yerine, isteklerine kefil oluyor.

Doğrulanmış ekipler, hibelerini Claude Science, Claude.ai, Claude Code ve API dahil olmak üzere Anthropic'in ürün yüzeylerinde kullanabilir.

Kilitli kalan şey

Gevşeme biyolojiyi kapsamaktadır. Anthropic, diğer tüm koruma önlemlerinin (özellikle siber sınıflandırıcıların) LSVP hibeleri kapsamında yürürlükte kaldığını belirtiyor. Doğrulanmış bir kanser laboratuvarı, saldırgan güvenlik görevlerinde daha özgür bir el sahibi olamaz ve bir viral vektör çalışması için verilen Yüksek Riskli Kullanım hibesi, genel sınır erişimine dönüşmez.

Neden önemli?

Duyuru, yapay zekanın biyolojideki rolüne ilişkin artan tartışmanın tam ortasında yer alıyor. Yapay zeka modellerinin uygulanabilir virüs genomları tasarlayabildiğini gösteren son çalışmalar (bu yılın başlarında Science dergisinde yayınlanan çalışmalar da dahil), laboratuvarların tam olarak ne kadar biyolojik kapasiteyi ve kime sunması gerektiği konusundaki incelemeyi yoğunlaştırdı. Eleştirmenler her türlü müsamahakarlığın bir kumar olduğunu savunuyor; araştırmacılar, aşırı kısıtlayıcı sınıflandırıcıların meşru tıbbi çalışmaları engellediğini ve bilim adamlarını daha az yetenekli veya daha az şeffaf araçlara ittiğini söylüyor.

Anthropic'in kademeli cevabı, kimlik doğrulama artı kurumsal sorumluluğun genel kısıtlamanın yerini alabileceğine dair etkili bir iddiadır. Bu, endüstrinin varsayılan her şeyi filtreleme ve asla soru sormama şeklindeki tutumundan kayda değer bir değişim ve en büyük bilim müşterilerinin duvara çarpma olasılığı en yüksek olanlar olduğunun pragmatik bir şekilde kabul edilmesidir.

Ekonomi de aynı yöne işaret ediyor. İlaç, biyoteknoloji ve akademik araştırma, ileri düzey yapay zekanın en zengin potansiyel müşterileri arasında yer alıyor ve Claude Science halihazırda bu iş yükleri için rekabet ediyor. Merck'in veya Stanford laboratuvarının, ilk engellenen istemde vazgeçmek yerine iş akışlarını Claude üzerinde yürütmesine olanak tanıyan bir program, bir güvenlik politikası olduğu kadar ticari bir silahtır.

Bahsin geçerli olup olmayacağı incelemeye bağlıdır. Doğrulama geçerli olursa ve yanlış kullanım teorik olarak kalırsa, LSVP muhtemelen diğer laboratuvarların kopyalayacağı şablon haline gelecektir. Başarısız olması durumunda program, düzenleyicilere gevşetilen önlemlerin pratikte nasıl göründüğüne dair somut bir örnek sunuyor; tam da Washington ve Londra'daki politika yapıcıların yapay zeka liderlerinden yavaşlamalarını istedikleri sırada.

---

Stay Ahead of AI

Get the latest AI news, analysis, and breakthroughs — all in one place.

Read more AI news →