Modelele de inteligență artificială vor fi în curând suficient de puternice pentru a stăpâni biologia, prezentând beneficii și riscuri grave în egală măsură, a avertizat principalul om de știință al lui Tencent în timpul unei apariții publice rare la Hong Kong, sâmbătă, adăugându-și vocea la o dezbatere tot mai mare despre ce se întâmplă atunci când sistemele AI absorb pe deplin științele vieții.
„Capacitățile cibernetice ale modelelor de inteligență artificială – și în curând bioabilitatea modelelor – vor atinge un prag în care este de fapt posibil să faci rău”, a spus Yao Shunyu, om de știință AI al Tencent Holdings și fost cercetător OpenAI, la un simpozion științific co-găzduit de Academia de Științe din Hong Kong și Morning Post pentru Science Prize South China. For more context on this story, see our ongoing breaking AI news.
Un avocat deschis cere responsabilitate
Avertismentul lui Yao este notabil mai puțin pentru conținutul său decât pentru sursa sa. Și-a construit reputația la OpenAI înainte de a se alătura Tencent, una dintre cele mai mari companii de tehnologie din China, iar Tencent s-a poziționat printre cei mai agresivi editori de modele AI deschise - sisteme ai căror parametri de bază sunt eliberați public și pot fi descărcați, modificați și rulați de oricine.
Acest lucru face ca mesajul său însoțitor să fie subliniat: „Toți chinezii sau orice companie de model deschis trebuie să fie foarte responsabili și foarte serioși cu privire la aceste preocupări de securitate și siguranță”, a spus Yao, potrivit SCMP.
Evaluarea vine pe măsură ce sistemele de inteligență artificială de frontieră sunt aplicate din ce în ce mai mult în medicină și biologie, unde ar putea accelera descoperirea de noi medicamente și alte tratamente - o schimbare care transformă deja industria farmaceutică din China, potrivit raportului SCMP. Cu toate acestea, experții în securitate au avertizat de mult că aceleași capacități ar putea ajuta actorii rău intenționați să producă arme biologice sau să declanșeze următoarea pandemie - un risc care devine mai greu de controlat atunci când modelele capabile sunt lansate ca software deschis pe care oricine îl poate rula fără balustrade.
Biologia este considerată pe scară largă printre experții în inteligență artificială ca următoarea graniță majoră după codificare, un domeniu în care progresul rapid al inteligenței artificiale a schimbat deja securitatea cibernetică globală. La fel ca capabilitățile cibernetice, capabilitățile biologice sunt cu dublă utilizare: același model care proiectează candidați promițători la medicamente ar putea, în principiu, să ajute un atacator. Există o dezbatere reală despre care parte beneficiază mai mult.
Manualul de siguranță al lui Tencent
Remarcile lui Yao au avut o greutate suplimentară, deoarece au ajuns la câteva zile după ce propria sa companie a livrat un nou model emblematic. Tencent a lansat Hy4 miercuri, care s-a clasat pe locul al doilea cel mai performant model produs în China, conform firmei de analiză comparativă Artificial Analysis, a raportat SCMP.
În anunțul de lansare, Tencent a descris măsurile de siguranță integrate în Hy4. Compania a declarat că a eliminat capabilitățile de hacking cibernetic ale modelului, păstrând în același timp capacitățile sale de apărare cibernetică prin filtrarea datelor relevante în timpul etapei de antrenament. Din punct de vedere biologic, Tencent a spus că bio capabilitățile lui Hy4 au rămas „cu mult sub” pragul de risc ridicat, deoarece modelul încă nu a putut transforma cunoștințele biologice fundamentale în protocoale acționabile - decalajul, cu alte cuvinte, între înțelegerea manualului și îndrumarea operațională pas cu pas.
Această încadrare – măsurarea dacă un model poate converti cunoștințele generale în proceduri utilizabile – a devenit un criteriu comun în evaluările de biosecuritate ale sistemelor AI. Afirmația lui Tencent că Hy4 nu atinge această linie este o afirmație a producătorului modelului, iar validarea externă a unor astfel de evaluări rămâne limitată în industrie.
Momentul reflectă și presiunea competitivă. Tencent a dezvăluit Hy4 într-o cursă deschisă din ce în ce mai aprinsă printre firmele de inteligență artificială din China, DeepSeek, Z.ai și Alibaba livrând toate modele noi în ultimele săptămâni, conform acoperirii anterioare de către SCMP a lansării. Într-un ecosistem în care publicarea ponderilor este o necesitate competitivă, apelul lui Yao pentru practici de lansare „foarte responsabile” se citește ca o încercare de a stabili norme în interiorul mișcării care face ca revizuirile de siguranță să fie cel mai greu de aplicat.
De la avertismente la laboratoare autonome
Ceea ce face apariția lui Yao deosebit de interesantă este faptul că Tencent împinge simultan AI mai adânc în laborator. Adresându-se unei săli de studenți la informatică, el a schițat planuri pentru „laboratoare de știință autonome” care ar folosi sisteme AI pentru a desfășura experimente complexe de la capăt la capăt, cu plierea inversă a proteinelor citată ca exemplu al tipului de activitate pe care compania îl vizează.
Yao a susținut că obstacolele tehnice din calea IA științifică sigură și capabilă vor cădea în timp. „Cred că toate modificările tehnice pot fi rezolvate – acolo unde este doar o chestiune de timp”, a spus el, conform SCMP. „Cred că cea mai mare provocare este cea societală și organizațională”.
Locul de desfășurare a subliniat publicul vizat de mesaj: Yao a vorbit într-o sală plină de studenți la informatică – populația cel mai probabil să se bazeze pe aceste modele – în timpul Săptămânii Premiului pentru Științe Viitoare din 2026, despre care SCMP a raportat că a atras aproximativ 1.000 de participanți.
Acea divizie – probleme de inginerie rezolvabile versus probleme de guvernare nerezolvate – devine în liniște poziția standard a directorilor AI de pe ambele maluri ale Pacificului. Pentru Tencent, este și una defensivă: o companie care pariază următorul act pe laboratoarele autonome are toate stimulentele pentru a convinge autoritățile de reglementare că pragurile de risc biologic pot fi proiectate, auditate și respectate în mod deschis.
Deocamdată, întrebarea pe termen scurt este dacă companiile care publică modele deschise vor adopta praguri măsurabile de risc biologic înainte ca capabilitățile să le depășească - sau după. Avertismentul lui Yao sugerează că Tencent, cel puțin, crede că ceasul merge.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
