Tencent'in baş yapay zeka bilimcisi, Cumartesi günü Hong Kong'da nadir görülen bir kamuoyu toplantısında, yapay zeka modellerinin yakında biyolojide ustalaşacak kadar güçlü olacağı, faydaları ve ciddi riskleri eşit ölçüde sunacağı konusunda uyardı ve yapay zeka sistemleri yaşam bilimlerini tamamen özümsediğinde ne olacağına dair büyüyen tartışmaya kendi sesini ekledi.
Tencent Holdings'in baş yapay zeka bilimcisi ve eski OpenAI araştırmacısı Yao Shunyu, South China Morning Post'a göre Hong Kong Bilimler Akademisi ve Gelecek Bilim Ödülü'nün ortak ev sahipliği yaptığı bir bilim sempozyumunda "Yapay zeka modellerinin siber yetenekleri - ve yakında modellerin biyolojik yeteneği - gerçekten zarar vermenin mümkün olduğu bir eşiğe ulaşacak" dedi. For more context on this story, see our ongoing breaking AI news.
Açık Ağırlıklı Bir Avukat Sorumluluk Çağırıyor
Yao'nun uyarısı içeriğinden çok kaynağı açısından dikkate değer. Çin'in en büyük teknoloji şirketlerinden biri olan Tencent'e katılmadan önce OpenAI'de itibar kazandı ve Tencent kendisini, temel parametreleri halka açık olan ve herkes tarafından indirilebilen, değiştirilebilen ve çalıştırılabilen sistemler olan açık ağırlıklı yapay zeka modellerinin en agresif yayıncıları arasında konumlandırdı.
SCMP'ye göre Yao, "Bütün Çinlilerin veya herhangi bir açık model şirketin bu güvenlik ve güvenlik endişeleri konusunda çok sorumlu ve çok ciddi olması gerekiyor" dedi.
Değerlendirme, SCMP'nin raporuna göre, yeni ilaçların ve diğer tedavilerin keşfini hızlandırabilecek öncü yapay zeka sistemlerinin tıp ve biyolojiye giderek daha fazla uygulanmasıyla birlikte geliyor; bu değişim halihazırda Çin'in ilaç endüstrisini yeniden şekillendiriyor. Ancak güvenlik uzmanları uzun zamandır aynı yeteneklerin kötü niyetli aktörlerin biyolojik silah üretmesine veya bir sonraki salgını tetiklemesine yardımcı olabileceği konusunda uyarıyordu; bu, yetenekli modeller herkesin korkuluk olmadan çalıştırabileceği açık ağırlıklı yazılım olarak piyasaya sürüldüğünde polisin kontrol etmesi daha da zorlaşan bir risk.
Biyoloji, yapay zeka uzmanları arasında kodlamadan sonraki büyük sınır olarak görülüyor; bu alan, hızlı yapay zeka ilerlemesinin halihazırda küresel siber güvenliği altüst ettiği bir alan. Siber yetenekler gibi biyolojik yetenekler de ikili kullanımlıdır: Gelecek vaat eden ilaç adaylarını tasarlayan aynı model, prensipte bir saldırgana yardımcı olabilir. Hangi tarafın daha fazla fayda sağladığı konusunda gerçek bir tartışma var.
Tencent'in Kendi Güvenlik Başucu Kitabı
Yao'nun sözleri ekstra ağırlık taşıyordu çünkü kendi şirketinin yeni bir amiral gemisi modelini piyasaya sürmesinden günler sonra geldi. SCMP'nin bildirdiğine göre Tencent, kıyaslama firması Yapay Analiz'e göre Çin'de üretilen en iyi ikinci performansa sahip model olan Hy4'ü Çarşamba günü piyasaya sürdü.
Tencent, yayın duyurusunda Hy4'te yerleşik güvenlik önlemlerini açıkladı. Şirket, eğitim aşamasında ilgili verileri filtreleyerek modelin siber saldırı yeteneklerini kaldırırken siber savunma yeteneklerini koruduğunu söyledi. Biyoloji tarafında ise Tencent, Hy4'ün biyolojik yeteneklerinin yüksek risk eşiğinin "oldukça altında" kaldığını, çünkü modelin hâlâ temel biyolojik bilgiyi eyleme geçirilebilir protokollere dönüştüremediğini, başka bir deyişle ders kitaplarının anlaşılması ile adım adım operasyonel rehberlik arasındaki boşluğun bulunduğunu söyledi.
Bir modelin genel bilgiyi kullanılabilir prosedürlere dönüştürüp dönüştüremeyeceğini ölçen bu çerçeveleme, yapay zeka sistemlerinin biyogüvenlik değerlendirmelerinde ortak bir kıstas haline geldi. Tencent'in Hy4'ün bu çizginin altında kaldığı iddiası, modelin kendi üreticisinin iddiasıdır ve bu tür değerlendirmelerin harici doğrulaması sektör genelinde sınırlı kalmaktadır.
Zamanlama aynı zamanda rekabet baskısını da yansıtıyor. SCMP'nin lansmanla ilgili daha önceki haberine göre Tencent, Hy4'ü Çin'in yapay zeka firmaları arasında gittikçe kızışan bir açık ağırlık yarışına soktu; DeepSeek, Z.ai ve Alibaba'nın tümü son haftalarda yeni modeller gönderiyor. Ağırlıkların yayınlanmasının rekabetçi bir gereklilik olduğu bir ekosistemde, Yao'nun "çok sorumlu" sürüm uygulamaları çağrısı, güvenlik incelemelerinin uygulanmasını zorlaştıran hareketin içinde normlar belirleme girişimi olarak okunuyor.
Uyarılardan Otonom Laboratuvarlara
Yao'nun görünüşünü özellikle ilginç kılan şey Tencent'in eş zamanlı olarak yapay zekayı laboratuvarın derinliklerine itmesidir. Bilgisayar bilimi öğrencilerinden oluşan bir odaya hitaben, karmaşık deneyleri uçtan uca yürütmek için yapay zeka sistemlerini kullanacak "otonom bilim laboratuvarları" planlarını özetledi; ters protein katlanması, şirketin hedeflediği türden bir çalışmanın bir örneği olarak gösterildi.
Yao, güvenli ve yetenekli bilimsel yapay zekanın önündeki teknik engellerin zamanla ortadan kalkacağını savundu. SCMP'ye göre "Bütün teknik değişikliklerin çözülebileceğini düşünüyorum; bu sadece zaman meselesi" dedi. "En büyük zorluğun toplumsal ve örgütsel olduğunu düşünüyorum."
Mekan, mesajın hedef kitlesinin altını çizdi: Yao, SCMP'nin bildirdiğine göre yaklaşık 1.000 katılımcının katıldığı 2026 Gelecek Bilim Ödülü Haftası sırasında bilgisayar bilimleri öğrencileriyle (bu modeller üzerine inşa edilmesi en muhtemel nüfus) dolu bir odada konuştu.
Çözülebilir mühendislik sorunları ve çözülmemiş yönetişim sorunları arasındaki bu ayrım, Pasifik'in her iki yakasındaki yapay zeka yöneticilerinin standart konumu haline geliyor. Tencent için bu aynı zamanda savunma amaçlıdır: Bir sonraki adımını otonom laboratuvarlara koyan bir şirket, düzenleyicileri biyo-risk eşiklerinin açıkta tasarlanabileceği, denetlenebileceği ve bunlara saygı duyulabileceği konusunda ikna etmek için her türlü teşvike sahiptir.
Şimdilik kısa vadeli soru, açık ağırlıklı modeller yayınlayan şirketlerin ölçülebilir biyo-risk eşiklerini, yetenekler bu eşikleri aşmadan önce mi, yoksa sonra mı benimseyeceğidir. Yao'nun uyarısı Tencent'in en azından zamanın ilerlediğine inandığını gösteriyor.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
