Artificiell intelligensmodeller kommer snart att vara tillräckligt kraftfulla för att bemästra biologin, och presentera fördelar och allvarliga risker i lika mått, varnade Tencents chefs AI-forskare under ett sällsynt offentligt framträdande i Hongkong på lördagen, och lade sin röst till en växande debatt om vad som händer när AI-system helt absorberar biovetenskapen.
"Cyberförmågan hos AI-modeller - och snart modellernas bioförmåga - kommer att nå en tröskel där det faktiskt är möjligt att göra skada", sa Yao Shunyu, Tencent Holdings chefs AI-forskare och en före detta OpenAI-forskare, vid ett vetenskapssymposium som arrangerats av Hong Kong Academy of Sciences och The Future Science Prize enligt Morning Post to the South China. For more context on this story, see our ongoing breaking AI news.
En förespråkare med öppen vikt kräver ansvar
Yaos varning är mindre anmärkningsvärd för dess innehåll än för dess källa. Han byggde upp sitt rykte på OpenAI innan han gick med i Tencent, ett av Kinas största teknikföretag, och Tencent har positionerat sig bland de mest aggressiva utgivarna av AI-modeller med öppen vikt – system vars underliggande parametrar släpps offentligt och kan laddas ner, modifieras och köras av vem som helst.
Det gör att hans medföljande meddelande pekade: "Alla kineser eller något företag med öppen modell måste vara mycket ansvarsfulla och mycket allvarliga när det gäller dessa säkerhets- och säkerhetsproblem", sa Yao, enligt SCMP.
Bedömningen kommer när frontier AI-system i allt högre grad tillämpas på medicin och biologi, där de kan påskynda upptäckten av nya läkemedel och andra behandlingar - en förändring som redan omformar Kinas läkemedelsindustri, enligt SCMP:s rapportering. Säkerhetsexperter har dock länge varnat för att samma kapacitet kan hjälpa illvilliga aktörer att producera biovapen eller utlösa nästa pandemi – en risk som blir svårare att polisera när kapabla modeller släpps som öppen mjukvara som vem som helst kan köra utan skyddsräcken.
Biologi ses allmänt bland AI-experter som nästa stora gräns efter kodning, en domän där snabba AI-framsteg redan har förbättrat den globala cybersäkerheten. Liksom cyberkapaciteter är biologiska förmågor dubbel användning: samma modell som designar lovande drogkandidater skulle i princip kunna hjälpa en angripare. Det finns en genuin debatt om vilken sida som gynnar mest.
Tencents egen säkerhetshandbok
Yaos kommentarer vägde extra tungt eftersom de kom dagar efter att hans eget företag skickade en ny flaggskeppsmodell. Tencent släppte Hy4 på onsdagen, som rankades som den näst bäst presterande modellen som producerats i Kina enligt benchmarkingföretaget Artificial Analysis, rapporterade SCMP.
I sitt släppmeddelande beskrev Tencent säkerhetsåtgärderna inbyggda i Hy4. Företaget sa att det tog bort modellens cyberhackningsförmåga samtidigt som de behöll sina cyberförsvarsförmåga genom att filtrera bort relevant data under utbildningsstadiet. På den biologiska sidan sa Tencent att Hy4:s biokapacitet förblev "väl under" högrisktröskeln eftersom modellen fortfarande inte kunde omvandla grundläggande biologisk kunskap till handlingsbara protokoll - gapet, med andra ord, mellan lärobokförståelse och steg-för-steg operativ vägledning.
Denna inramning - att mäta om en modell kan omvandla allmän kunskap till användbara procedurer - har blivit en vanlig måttstock i biosäkerhetsutvärderingar av AI-system. Tencents påstående att Hy4 inte ligger inom den gränsen är ett påstående från modellens egen tillverkare, och extern validering av sådana utvärderingar är fortfarande begränsad i hela branschen.
Tidpunkten speglar också konkurrenstrycket. Tencent presenterade Hy4 i ett alltmer upphettat race med öppen vikt bland Kinas AI-företag, där DeepSeek, Z.ai och Alibaba alla skickade nya modeller under de senaste veckorna, enligt SCMP:s tidigare rapportering av lanseringen. I ett ekosystem där publicering av vikter är en konkurrensmässig nödvändighet, läses Yaos uppmaning till "mycket ansvarsfulla" utgivningsmetoder som ett försök att sätta normer inom just den rörelse som gör säkerhetsgranskningar svårast att genomdriva.
Från varningar till autonoma labb
Det som gör Yaos utseende särskilt intressant är att Tencent samtidigt driver AI djupare in i laboratoriet. Till ett rum med datavetenskapsstudenter beskrev han planer för "autonoma vetenskapslabb" som skulle använda AI-system för att köra komplexa experiment från början till slut, med omvänd proteinveckning som ett exempel på den typ av arbete företaget riktar sig till.
Yao hävdade att de tekniska hindren för säker, kapabel vetenskaplig AI skulle falla med tiden. "Jag tror att alla tekniska förändringar kan lösas - där det bara är en tidsfråga", sa han, enligt SCMP. "Jag tror att den största utmaningen är samhällelig och organisatorisk."
Lokalen underströk budskapets avsedda publik: Yao talade till ett rum fyllt med datavetenskapsstudenter – befolkningen som mest sannolikt kommer att bygga på dessa modeller – under 2026 Future Science Prize Week, som SCMP rapporterade drog omkring 1 000 deltagare.
Den uppdelningen – lösbara tekniska problem kontra olösta förvaltningsproblem – håller tyst på att bli standardpositionen för AI-chefer på båda sidor av Stilla havet. För Tencent är det också en defensiv sådan: ett företag som satsar sin nästa handling på autonoma laboratorier har alla incitament att övertyga tillsynsmyndigheter om att biorisktrösklar kan konstrueras, granskas och respekteras i det fria.
För närvarande är frågan på kort sikt om företag som publicerar modeller med öppen vikt kommer att anta mätbara bioriskgränser innan förmågor passerar dem - eller efter. Yaos varning tyder på att åtminstone Tencent tror att klockan går.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
