I modelli di intelligenza artificiale saranno presto abbastanza potenti da padroneggiare la biologia, presentando benefici e seri rischi in egual misura, ha avvertito il capo scienziato dell’intelligenza artificiale di Tencent durante una rara apparizione pubblica a Hong Kong sabato, aggiungendo la sua voce a un crescente dibattito su cosa accadrà quando i sistemi di intelligenza artificiale assorbiranno completamente le scienze della vita.
"Le capacità informatiche dei modelli di intelligenza artificiale - e presto la capacità biologica dei modelli - raggiungeranno una soglia in cui sarà effettivamente possibile arrecare danni", ha affermato Yao Shunyu, capo scienziato dell'intelligenza artificiale di Tencent Holdings ed ex ricercatore di OpenAI, in un simposio scientifico co-ospitato dall'Accademia delle scienze di Hong Kong e dal Future Science Prize, secondo il South China Morning Post. Per maggiori informazioni su questa storia, consulta la nostra tendenze IA.
Un sostenitore del peso aperto chiede responsabilità
L'avvertimento di Yao è degno di nota meno per il suo contenuto che per la sua fonte. Ha costruito la sua reputazione presso OpenAI prima di entrare in Tencent, una delle più grandi aziende tecnologiche cinesi, e Tencent si è posizionata tra gli editori più aggressivi di modelli di intelligenza artificiale a peso aperto, sistemi i cui parametri sottostanti sono rilasciati pubblicamente e possono essere scaricati, modificati ed eseguiti da chiunque.
Ciò rende pertinente il suo messaggio di accompagnamento: "Tutti i cinesi, o qualsiasi azienda a modello aperto, devono essere molto responsabili e molto seri riguardo a tali problemi di sicurezza e protezione", ha affermato Yao, secondo l'SCMP.
La valutazione arriva in un momento in cui i sistemi di intelligenza artificiale di frontiera vengono sempre più applicati alla medicina e alla biologia, dove potrebbero accelerare la scoperta di nuovi farmaci e altri trattamenti – un cambiamento che sta già rimodellando l’industria farmaceutica cinese, secondo il rapporto dell’SCMP. Gli esperti di sicurezza, tuttavia, avvertono da tempo che le stesse capacità potrebbero aiutare gli autori malintenzionati a produrre armi biologiche o innescare la prossima pandemia, un rischio che diventa più difficile da controllare quando modelli capaci vengono rilasciati come software open-weight che chiunque può eseguire senza guardrail.
La biologia è ampiamente vista dagli esperti di intelligenza artificiale come la prossima grande frontiera dopo la codifica, un dominio in cui il rapido progresso dell’intelligenza artificiale ha già sconvolto la sicurezza informatica globale. Come le capacità informatiche, le capacità biologiche sono a duplice uso: lo stesso modello che progetta promettenti farmaci candidati potrebbe, in linea di principio, assistere un aggressore. Esiste un vero dibattito su quale parte tragga maggiori vantaggi.
Manuale di sicurezza di Tencent
Le osservazioni di Yao hanno avuto un peso ulteriore perché sono arrivate giorni dopo che la sua stessa azienda aveva spedito un nuovo modello di punta. Mercoledì Tencent ha rilasciato Hy4, che si è classificato come il secondo modello con le migliori prestazioni prodotto in Cina secondo la società di benchmarking Artificial Analysis, ha riferito l'SCMP.
Nel suo annuncio di rilascio, Tencent ha descritto le misure di sicurezza integrate in Hy4. La società ha dichiarato di aver rimosso le capacità di cyber hacking del modello, pur mantenendo le sue capacità di difesa informatica filtrando i dati rilevanti durante la fase di formazione. Dal punto di vista biologico, Tencent ha affermato che le capacità biologiche di Hy4 sono rimaste “ben al di sotto” della soglia di alto rischio perché il modello non è ancora in grado di trasformare le conoscenze biologiche fondamentali in protocolli attuabili: il divario, in altre parole, tra la comprensione dei libri di testo e la guida operativa passo dopo passo.
Questa definizione, ovvero misurare se un modello può convertire la conoscenza generale in procedure utilizzabili, è diventata un parametro comune nelle valutazioni della biosicurezza dei sistemi di intelligenza artificiale. L'affermazione di Tencent secondo cui Hy4 non raggiunge tale linea è un'affermazione del produttore stesso del modello e la convalida esterna di tali valutazioni rimane limitata in tutto il settore.
I tempi riflettono anche la pressione competitiva. Tencent ha presentato Hy4 in una gara sempre più accesa tra le aziende cinesi di intelligenza artificiale, con DeepSeek, Z.ai e Alibaba che hanno spedito nuovi modelli nelle ultime settimane, secondo la precedente copertura del lancio dell'SCMP. In un ecosistema in cui la pubblicazione dei pesi è una necessità competitiva, l'appello di Yao per pratiche di rilascio "molto responsabili" si legge come un tentativo di stabilire norme all'interno dello stesso movimento che rende le revisioni sulla sicurezza più difficili da applicare.
Dalle avvertenze ai laboratori autonomi
Ciò che rende l'apparizione di Yao particolarmente interessante è che Tencent sta contemporaneamente spingendo l'intelligenza artificiale più in profondità nei laboratori. Rivolgendosi a un'aula di studenti di informatica, ha delineato piani per "laboratori scientifici autonomi" che utilizzerebbero sistemi di intelligenza artificiale per eseguire esperimenti complessi end-to-end, con il ripiegamento inverso delle proteine citato come esempio del tipo di lavoro a cui si rivolge l'azienda.
Yao sosteneva che gli ostacoli tecnici a un’IA scientifica sicura e capace sarebbero caduti col tempo. "Penso che tutti i cambiamenti tecnici possano essere risolti, laddove è solo questione di tempo", ha detto, secondo l'SCMP. "Penso che la sfida più grande sia sociale e organizzativa."
Il luogo ha sottolineato il pubblico a cui era destinato il messaggio: Yao ha parlato a una stanza piena di studenti di informatica – la popolazione che più probabilmente svilupperà su questi modelli – durante la Future Science Prize Week 2026, che secondo SCMP ha attirato circa 1.000 partecipanti.
Questa divisione – problemi di ingegneria risolvibili e problemi di governance irrisolti – sta tranquillamente diventando la posizione standard dei dirigenti dell’IA su entrambe le sponde del Pacifico. Per Tencent si tratta anche di una strategia difensiva: un’azienda che scommette sulla prossima mossa dei laboratori autonomi ha tutti gli incentivi a convincere le autorità di regolamentazione che le soglie di rischio biologico possono essere progettate, verificate e rispettate apertamente.
Per ora, la domanda a breve termine è se le aziende che pubblicano modelli open-weight adotteranno soglie di rischio biologico misurabili prima che le capacità le superino – o dopo. L'avvertimento di Yao suggerisce che almeno Tencent crede che il tempo stia correndo.
---
Rimani Aggiornato sull'IALe ultime notizie, analisi e scoperte sull'intelligenza artificiale — tutto in un posto.
Leggi altre notizie sull'IA →
