Modellen van kunstmatige intelligentie zullen binnenkort krachtig genoeg zijn om de biologie onder de knie te krijgen en zowel voordelen als ernstige risico's met zich meebrengen, waarschuwde Tencent's hoofd AI-wetenschapper zaterdag tijdens een zeldzame publieke verschijning in Hong Kong, en voegde zijn stem toe aan een groeiend debat over wat er gebeurt als AI-systemen de levenswetenschappen volledig absorberen.

“De cybercapaciteiten van AI-modellen – en binnenkort het biovermogen van modellen – zullen een drempel bereiken waarop het feitelijk mogelijk is om schade aan te richten”, zegt Yao Shunyu, hoofd AI-wetenschapper van Tencent Holdings en voormalig OpenAI-onderzoeker, op een wetenschappelijk symposium dat mede wordt georganiseerd door de Hong Kong Academy of Sciences en de Future Science Prize, volgens de South China Morning Post. Voor meer context over dit verhaal, zie ons AI-nieuws.

Een openhartige pleitbezorger roept op tot verantwoordelijkheid

Yao's waarschuwing valt minder op vanwege de inhoud dan vanwege de bron. Hij bouwde zijn reputatie op bij OpenAI voordat hij bij Tencent kwam, een van de grootste technologiebedrijven van China, en Tencent heeft zichzelf gepositioneerd als een van de meest agressieve uitgevers van open-weight AI-modellen: systemen waarvan de onderliggende parameters publiekelijk worden vrijgegeven en door iedereen kunnen worden gedownload, aangepast en uitgevoerd.

Dat maakt zijn begeleidende boodschap scherp: “Alle Chinezen of welk open modelbedrijf dan ook moeten zeer verantwoordelijk en zeer serieus zijn met betrekking tot deze veiligheids- en veiligheidsproblemen”, zei Yao, volgens het SCMP.

De beoordeling komt op het moment dat grensverleggende AI-systemen steeds vaker worden toegepast in de geneeskunde en de biologie, waar ze de ontdekking van nieuwe medicijnen en andere behandelingen zouden kunnen versnellen – een verschuiving die de Chinese farmaceutische industrie al een nieuwe vorm geeft, volgens de rapportage van het SCMP. Beveiligingsexperts waarschuwen er echter al lang voor dat dezelfde mogelijkheden kwaadwillende actoren kunnen helpen biowapens te produceren of de volgende pandemie te veroorzaken – een risico dat moeilijker te controleren wordt wanneer capabele modellen worden vrijgegeven als open-weight software die iedereen zonder vangrails kan gebruiken.

Biologie wordt onder AI-experts algemeen gezien als de volgende grote stap na codering, een domein waar de snelle vooruitgang op het gebied van AI de mondiale cyberveiligheid al op zijn kop heeft gezet. Net als cybercapaciteiten zijn biologische capaciteiten voor tweeërlei gebruik geschikt: hetzelfde model dat veelbelovende kandidaat-geneesmiddelen ontwerpt, zou in principe een aanvaller kunnen helpen. Er bestaat een oprechte discussie over welke kant er meer baat bij heeft.

Tencents eigen veiligheidsplaybook

Yao's opmerkingen hadden extra gewicht omdat ze arriveerden dagen nadat zijn eigen bedrijf een nieuw vlaggenschip had verzonden. Tencent heeft woensdag Hy4 uitgebracht, dat volgens benchmarkingbedrijf Artificial Analysis het op een na best presterende model is dat in China wordt geproduceerd, zo meldde de SCMP.

In de release-aankondiging beschreef Tencent de veiligheidsmaatregelen die in Hy4 zijn ingebouwd. Het bedrijf zei dat het de cyberhackmogelijkheden van het model heeft verwijderd en tegelijkertijd de cyberverdedigingsmogelijkheden heeft behouden door relevante gegevens eruit te filteren tijdens de trainingsfase. Aan de biologische kant zei Tencent dat de biocapaciteiten van Hy4 ‘ruim onder’ de hoge risicodrempel bleven, omdat het model nog steeds niet in staat was fundamentele biologische kennis om te zetten in bruikbare protocollen – de kloof, met andere woorden, tussen begrip van de leerboeken en stapsgewijze operationele begeleiding.

Die framing – het meten of een model algemene kennis kan omzetten in bruikbare procedures – is een veelgebruikte maatstaf geworden bij bioveiligheidsevaluaties van AI-systemen. De bewering van Tencent dat Hy4 niet aan die grens voldoet, is een bewering van de maker van het model zelf, en de externe validatie van dergelijke evaluaties blijft binnen de sector beperkt.

De timing weerspiegelt ook de concurrentiedruk. Tencent onthulde Hy4 in een steeds verhittere open-weight race tussen de Chinese AI-bedrijven, waarbij DeepSeek, Z.ai en Alibaba de afgelopen weken allemaal nieuwe modellen verscheepten, volgens de eerdere berichtgeving van de SCMP over de lancering. In een ecosysteem waar het publiceren van gewichten een competitieve noodzaak is, leest Yao's oproep voor "zeer verantwoorde" vrijgavepraktijken als een poging om normen te stellen binnen de beweging die veiligheidsbeoordelingen het moeilijkst af te dwingen maakt.

Van waarschuwingen tot autonome laboratoria

Wat Yao's optreden bijzonder interessant maakt, is dat Tencent tegelijkertijd AI dieper het laboratorium in duwt. Hij richtte zich tot een zaal met studenten informatica en schetste plannen voor ‘autonome wetenschapslaboratoria’ die AI-systemen zouden gebruiken om complexe experimenten end-to-end uit te voeren, waarbij inverse eiwitvouwing werd aangehaald als voorbeeld van het soort werk waar het bedrijf zich op richt.

Yao voerde aan dat de technische obstakels voor veilige, capabele wetenschappelijke AI mettertijd zouden verdwijnen. “Ik denk dat alle technische veranderingen kunnen worden opgelost – terwijl het slechts een kwestie van tijd is”, zei hij volgens de SCMP. "Ik denk dat de grotere uitdaging maatschappelijk en organisatorisch ligt."

De locatie onderstreepte het beoogde publiek van de boodschap: Yao sprak met een zaal vol computerwetenschappenstudenten – de bevolking die het meest waarschijnlijk op deze modellen zal voortbouwen – tijdens de Future Science Prize Week van 2026, die volgens het SCMP ongeveer 1.000 deelnemers trok.

Die verdeling – oplosbare technische problemen versus onopgeloste bestuursproblemen – wordt stilletjes de standaardpositie van AI-managers aan beide kanten van de Stille Oceaan. Voor Tencent is het ook een defensieve kwestie: een bedrijf dat zijn volgende actie inzet op autonome laboratoria heeft alle prikkels om toezichthouders ervan te overtuigen dat drempels voor biorisico's in het openbaar kunnen worden ontwikkeld, gecontroleerd en gerespecteerd.

Voorlopig is de vraag op de korte termijn of bedrijven die open-weight-modellen publiceren, meetbare biorisicodrempels zullen hanteren voordat de capaciteiten deze overschrijden – of daarna. Yao's waarschuwing suggereert dat Tencent in ieder geval gelooft dat de klok loopt.

---

Blijf Voorop met AI

Het laatste AI-nieuws, analyses en doorbraken — allemaal op één plek.

Lees meer AI-nieuws →