Modely umělé inteligence budou brzy dostatečně výkonné, aby zvládly biologii a přinášely výhody i vážná rizika stejnou měrou, varoval hlavní vědec společnosti Tencent v oblasti umělé inteligence během vzácného sobotního veřejného vystoupení v Hongkongu a přidal svůj hlas k rostoucí debatě o tom, co se stane, když systémy umělé inteligence plně absorbují vědy o živé přírodě.
„Kybernetické schopnosti modelů umělé inteligence – a brzy i biologické schopnosti modelů – dosáhnou prahu, kdy je skutečně možné ublížit,“ řekl podle South China Morning Post Yao Shunyu, hlavní vědec AI společnosti Tencent Holdings a bývalý výzkumník OpenAI na vědeckém sympoziu pořádaném Hongkongskou akademií věd a Future Science Prize. For more context on this story, see our ongoing latest AI developments.
Obhájce otevřené váhy vyzývá k odpovědnosti
Yaoovo varování je pozoruhodné méně svým obsahem než svým zdrojem. Svou reputaci si vybudoval v OpenAI, než se připojil k Tencent, jedné z největších technologických společností v Číně, a Tencent se zařadil mezi nejagresivnější vydavatele modelů AI s otevřenou váhou – systémů, jejichž základní parametry jsou zveřejňovány a může si je stáhnout, upravit a provozovat kdokoli.
Z toho plyne jeho doprovodné poselství: „Všechny čínské nebo jakékoli společnosti s otevřeným modelem musí být velmi zodpovědné a velmi vážné k těmto otázkám zabezpečení a bezpečnosti,“ řekl Yao podle SCMP.
Hodnocení přichází v době, kdy se systémy hraniční umělé inteligence stále více uplatňují v medicíně a biologii, kde by mohly urychlit objevování nových léků a jiných léčebných postupů – což je podle zpráv SCMP posun již přetvářející čínský farmaceutický průmysl. Bezpečnostní experti však již dlouho varovali, že stejné schopnosti by mohly pomoci zlovolným aktérům vyrábět biologické zbraně nebo rozpoutat další pandemii – riziko, které se hůře kontroluje, když jsou schopné modely uvolněny jako otevřený software, který může kdokoli provozovat bez zábradlí.
Biologie je mezi odborníky na AI široce vnímána jako další hlavní hranice po kódování, což je doména, kde rychlý pokrok v oblasti AI již změnil globální kybernetickou bezpečnost. Stejně jako kybernetické schopnosti mají biologické schopnosti dvojí použití: stejný model, který navrhuje slibné kandidáty na drogy, by v zásadě mohl pomoci útočníkovi. Skutečně se diskutuje o tom, která strana má větší prospěch.
Vlastní bezpečnostní příručka společnosti Tencent
Yaoovy poznámky měly zvláštní váhu, protože dorazily několik dní poté, co jeho vlastní společnost dodala nový vlajkový model. Tencent ve středu uvedl na trh Hy4, který se podle srovnávací společnosti Artificial Analysis umístil jako druhý nejvýkonnější model vyráběný v Číně, uvedl SCMP.
Tencent ve svém oznámení o vydání popsal bezpečnostní opatření zabudovaná do Hy4. Společnost uvedla, že odstranila možnosti kybernetického hackování modelu a zároveň zachovala své schopnosti kybernetické obrany tím, že během fáze školení odfiltrovala relevantní data. Pokud jde o biologickou stránku, Tencent řekl, že biologické schopnosti Hy4 zůstaly „hluboce pod“ svým vysokým rizikovým prahem, protože model stále nedokázal přeměnit základní biologické znalosti na použitelné protokoly – jinými slovy, mezera mezi porozuměním učebnice a postupným provozním vedením.
Toto rámování – měření, zda model dokáže převést obecné znalosti na použitelné postupy – se stalo běžným měřítkem při hodnocení biologické bezpečnosti systémů umělé inteligence. Tvrzení společnosti Tencent, že Hy4 zaostává za touto hranicí, je tvrzením vlastního výrobce modelu a externí validace takových hodnocení zůstává v celém odvětví omezená.
Načasování také odráží konkurenční tlak. Tencent odhalil Hy4 ve stále vzrušenějším závodě mezi čínskými firmami zabývajícími se umělou inteligencí, přičemž DeepSeek, Z.ai a Alibaba všechny dodávaly nové modely v posledních týdnech, podle dřívějšího zpravodajství SCMP o uvedení na trh. V ekosystému, kde je publikování vah konkurenční nutností, se Yaoovo volání po „velmi odpovědných“ postupech vydávání čte jako pokus o stanovení norem přímo v hnutí, kvůli kterému je nejobtížnější prosadit bezpečnostní kontroly.
Od varování k autonomním laboratořím
Co dělá Yaoův vzhled obzvláště zajímavým, je to, že Tencent současně posouvá umělou inteligenci hlouběji do laboratoře. V místnosti studentů počítačových věd nastínil plány na „autonomní vědecké laboratoře“, které by využívaly systémy umělé inteligence k provádění komplexních experimentů od začátku do konce, přičemž jako příklad druhu práce, na kterou se společnost zaměřuje, se uvádí inverzní skládání proteinů.
Yao tvrdil, že technické překážky bezpečné a schopné vědecké umělé inteligence časem padnou. "Myslím, že všechny technické změny lze vyřešit - kde je to jen otázka času," řekl podle SCMP. "Myslím, že větší výzva je společenská a organizační."
Místo konání podtrhlo zamýšlené publikum zprávy: Yao mluvil do místnosti plné studentů počítačových věd – populace, která s největší pravděpodobností bude stavět na těchto modelech – během týdne budoucích vědeckých cen 2026, který podle SCMP přilákal asi 1 000 účastníků.
Tato divize – řešitelné inženýrské problémy versus nevyřešené problémy s řízením – se tiše stává standardní pozicí manažerů AI na obou stranách Pacifiku. Pro Tencent je to také defenzivní: společnost, která sází svůj příští akt na autonomní laboratoře, má všechny podněty k tomu, aby přesvědčila regulační orgány, že prahové hodnoty biologického rizika mohou být navrženy, auditovány a respektovány otevřeně.
Prozatím je krátkodobou otázkou, zda společnosti vydávající modely s otevřenou váhou přijmou měřitelné prahy biologického rizika dříve, než je schopnosti překročí – nebo až poté. Yaoovo varování naznačuje, že Tencent alespoň věří, že hodiny běží.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
