Modele sztucznej inteligencji wkrótce będą wystarczająco potężne, aby opanować biologię, niosąc w równym stopniu korzyści i poważne ryzyko, ostrzegł główny naukowiec zajmujący się sztuczną inteligencją w firmie Tencent podczas rzadkiego wystąpienia publicznego w Hongkongu w sobotę, dodając swój głos do rosnącej debaty na temat tego, co się stanie, gdy systemy sztucznej inteligencji w pełni wchłoną nauki przyrodnicze.
„Zdolności cybernetyczne modeli sztucznej inteligencji – a wkrótce biozdolność modeli – osiągną próg, przy którym faktycznie będzie można wyrządzić krzywdę” – powiedział Yao Shunyu, główny naukowiec zajmujący się sztuczną inteligencją w Tencent Holdings i były badacz OpenAI, podczas sympozjum naukowego, którego współorganizatorem jest Akademia Nauk w Hongkongu i nagroda Future Science Prize, według South China Morning Post. Więcej kontekstu na ten temat znajdziesz w naszych najnowsze osiągnięcia AI.
Zwolennik wagi otwartej wzywa do odpowiedzialności
Ostrzeżenie Yao jest godne uwagi nie tyle ze względu na treść, ile na źródło. Swoją reputację zbudował w OpenAI, zanim dołączył do Tencent, jednej z największych chińskich firm technologicznych, a Tencent ugruntował swoją pozycję wśród najbardziej agresywnych wydawców otwartych modeli sztucznej inteligencji — systemów, których podstawowe parametry są udostępniane publicznie i każdy może je pobrać, modyfikować i uruchamiać.
To sprawia, że jego towarzyszący komunikat jest tak wymowny: „Wszyscy Chińczycy i każda inna firma działająca według modelu otwartego muszą bardzo odpowiedzialnie i bardzo poważnie podchodzić do kwestii bezpieczeństwa i ochrony” – stwierdził Yao, według SCMP.
Ocena następuje w momencie, gdy pionierskie systemy sztucznej inteligencji są coraz częściej stosowane w medycynie i biologii, gdzie mogłyby przyspieszyć odkrywanie nowych leków i innych terapii, co według raportów SCMP już zmienia kształt chińskiego przemysłu farmaceutycznego. Eksperci ds. bezpieczeństwa od dawna ostrzegali jednak, że te same możliwości mogą pomóc złośliwym podmiotom w produkcji broni biologicznej lub wywołać kolejną pandemię – ryzyko, które staje się trudniejsze do kontrolowania, gdy odpowiednie modele zostaną udostępnione w postaci otwartego oprogramowania, z którego każdy będzie mógł korzystać bez barier ochronnych.
Biologia jest powszechnie postrzegana przez ekspertów w dziedzinie sztucznej inteligencji jako kolejna ważna dziedzina po kodowaniu – dziedzina, w której szybki postęp sztucznej inteligencji już wywrócił do góry nogami globalne bezpieczeństwo cybernetyczne. Podobnie jak zdolności cybernetyczne, zdolności biologiczne mają podwójne zastosowanie: ten sam model, który projektuje obiecujących kandydatów na leki, mógłby w zasadzie pomóc atakującemu. Trwa prawdziwa debata na temat tego, która ze stron zyskuje więcej.
Poradnik bezpieczeństwa firmy Tencent
Uwagi Yao miały dodatkową wagę, ponieważ pojawiły się kilka dni po wysłaniu przez jego firmę nowego flagowego modelu. Tencent wypuścił w środę Hy4, który według firmy benchmarkingowej Artificial Analysis zajął drugie miejsce pod względem wydajności modelu wyprodukowanego w Chinach, jak podało SCMP.
W ogłoszeniu o wydaniu Tencent opisał środki bezpieczeństwa wbudowane w Hy4. Firma stwierdziła, że usunęła z modelu możliwości cyberhakowania, zachowując jednocześnie możliwości cyberobrony poprzez odfiltrowanie odpowiednich danych na etapie szkolenia. Od strony biologicznej Tencent stwierdził, że możliwości biologiczne Hy4 pozostają „znacznie poniżej” progu wysokiego ryzyka, ponieważ model nadal nie jest w stanie przekształcić podstawowej wiedzy biologicznej w praktyczne protokoły — innymi słowy, istnieje luka między zrozumieniem podręcznika a wytycznymi operacyjnymi krok po kroku.
To sformułowanie – mierzące, czy model może przekształcić wiedzę ogólną w użyteczne procedury – stało się powszechną miarą w ocenach bezpieczeństwa biologicznego systemów sztucznej inteligencji. Twierdzenie Tencenta, że Hy4 nie spełnia tej granicy, jest stwierdzeniem samego twórcy modelu, a zewnętrzna weryfikacja takich ocen pozostaje ograniczona w całej branży.
Moment odzwierciedla również presję konkurencyjną. Tencent wprowadził Hy4 do coraz bardziej gorącego wyścigu w wadze otwartej wśród chińskich firm zajmujących się sztuczną inteligencją, a DeepSeek, Z.ai i Alibaba dostarczyły nowe modele w ostatnich tygodniach, zgodnie z wcześniejszymi relacjami SCMP z premiery. W ekosystemie, w którym publikowanie wag jest konkurencyjną koniecznością, wezwanie Yao do „bardzo odpowiedzialnych” praktyk wydawania można odczytać jako próbę ustanowienia norm w samym ruchu, który sprawia, że przeglądy bezpieczeństwa są najtrudniejsze do wyegzekwowania.
Od ostrzeżeń do laboratoriów autonomicznych
To, co sprawia, że wygląd Yao jest szczególnie interesujący, to fakt, że Tencent jednocześnie wpycha sztuczną inteligencję głębiej do laboratorium. Zwracając się do sali składającej się ze studentów informatyki, nakreślił plany dotyczące „autonomicznych laboratoriów naukowych”, które wykorzystywałyby systemy sztucznej inteligencji do kompleksowego przeprowadzania złożonych eksperymentów, przy czym jako przykład rodzaju pracy, na którą ukierunkowana jest firma, podano odwrotne zwijanie białek.
Yao argumentował, że z czasem znikną przeszkody techniczne na drodze do bezpiecznej i wydajnej naukowej sztucznej inteligencji. „Myślę, że wszystkie zmiany techniczne można rozwiązać – jeśli jest to tylko kwestia czasu” – stwierdził w opinii SCMP. „Myślę, że większe wyzwanie ma charakter społeczny i organizacyjny”.
Miejsce to podkreślało docelową grupę odbiorców przekazu: Yao przemawiał w sali wypełnionej studentami informatyki – czyli populacji, która najprawdopodobniej będzie opierać się na tych modelach – podczas Tygodnia Nagród Nauki Przyszłości 2026, w którym według SCMP wzięło udział około 1000 uczestników.
Podział na możliwe do rozwiązania problemy inżynieryjne i nierozwiązane problemy związane z zarządzaniem po cichu staje się standardowym stanowiskiem dyrektorów AI po obu stronach Pacyfiku. Dla Tencent jest to również podejście defensywne: firma stawiająca swoją kolejną ustawę na autonomiczne laboratoria ma wszelkie bodźce, aby przekonać organy regulacyjne, że progi ryzyka biologicznego można projektować, kontrolować i szanować na otwartej przestrzeni.
Na razie krótkoterminowe pytanie brzmi, czy firmy publikujące modele z wagą otwartą przyjmą mierzalne progi ryzyka biologicznego przed ich przekroczeniem – czy też później. Ostrzeżenie Yao sugeruje, że przynajmniej Tencent wierzy, że zegar bije.
---
Bądź na Bieżąco z AINajnowsze wiadomości, analizy i przełomy w dziedzinie AI — wszystko w jednym miejscu.
Czytaj więcej wiadomości AI →
