Моделі штучного інтелекту незабаром стануть достатньо потужними, щоб оволодіти біологією, представляючи як переваги, так і серйозні ризики в однаковій мірі, попередив головний науковець Tencent під час рідкого публічного виступу в Гонконзі в суботу, додавши свій голос до зростаючої дискусії про те, що відбувається, коли системи ШІ повністю поглинають науки про життя.
«Кіберздатності моделей штучного інтелекту — і незабаром біологічні здатності моделей — досягнуть порогу, коли справді можливо завдати шкоди», — сказав Яо Шунью, головний науковий співробітник Tencent Holdings у галузі штучного інтелекту та колишній дослідник OpenAI, на науковому симпозіумі, спільно організованому Академією наук Гонконгу та Премією науки майбутнього, повідомляє South China Morning Post. For more context on this story, see our ongoing breaking AI news.
Відкритий захисник закликає до відповідальності
Попередження Яо примітне не стільки своїм змістом, скільки джерелом. Він створив свою репутацію в OpenAI, перш ніж приєднатися до Tencent, однієї з найбільших технологічних компаній Китаю, і Tencent позиціонує себе серед найагресивніших видавців відкритих моделей штучного інтелекту — систем, базові параметри яких оприлюднені для всіх і можуть бути завантажені, змінені та запущені будь-ким.
Це робить його супровідне повідомлення чітким: «Усі китайці або будь-які компанії відкритого зразка повинні бути дуже відповідальними та дуже серйозними щодо цих проблем безпеки та безпеки», — сказав Яо, згідно з SCMP.
Ця оцінка з’явилася на тлі того, що передові системи штучного інтелекту дедалі частіше застосовуються в медицині та біології, де вони можуть прискорити відкриття нових ліків та інших методів лікування — згідно зі звітом SCMP, ця зміна вже змінила форму китайської фармацевтичної промисловості. Однак експерти з безпеки вже давно попереджають, що ті самі можливості можуть допомогти зловмисникам виробляти біологічну зброю або спровокувати наступну пандемію — ризик, який стає важчим для контролю, коли дієві моделі випускаються як відкрите програмне забезпечення, яке кожен може запускати без огорож.
Фахівці зі штучного інтелекту широко вважають біологію наступним важливим рубежем після кодування, областю, де швидкий прогрес ШІ вже перевернув глобальну кібербезпеку. Як і кіберможливості, біологічні можливості мають подвійне призначення: та сама модель, яка розробляє багатообіцяючі препарати-кандидати, може, в принципі, допомогти зловмиснику. Точаться справжні суперечки про те, яка сторона виграє більше.
Посібник Tencent з власної безпеки
Зауваження Яо мали додаткову вагу, оскільки вони надійшли через кілька днів після того, як його власна компанія відвантажила нову флагманську модель. У середу Tencent випустив Hy4, який став другою найкращою моделлю, виробленою в Китаї, згідно з бенчмаркінговою компанією Artificial Analysis, повідомляє SCMP.
У своєму оголошенні про випуск Tencent описав заходи безпеки, вбудовані в Hy4. Компанія заявила, що видалила з моделі можливості кіберзлому, зберігши її можливості кіберзахисту шляхом фільтрації відповідних даних на етапі навчання. Щодо біологічної сторони, Tencent сказав, що біологічні можливості Hy4 залишаються «набагато нижчими» від порогу високого ризику, оскільки модель все ще не може перетворити фундаментальні біологічні знання в дієві протоколи — іншими словами, розрив між розумінням підручника та покроковим оперативним керівництвом.
Цей фреймінг — вимірювання того, чи може модель перетворити загальні знання в придатні для використання процедури — став загальним критерієм оцінки біозахисту систем ШІ. Твердження Tencent про те, що Hy4 не відповідає цій лінії, є твердженням власного виробника моделі, і зовнішня перевірка таких оцінок залишається обмеженою в галузі.
Час також відображає конкурентний тиск. Tencent представила Hy4 у дедалі гострішій гонці серед китайських компаній штучного інтелекту, де DeepSeek, Z.ai та Alibaba постачали нові моделі протягом останніх тижнів, згідно з попереднім висвітленням SCMP про запуск. В екосистемі, де публікація вагових показників є конкуренційною необхідністю, заклик Яо до «дуже відповідальної» практики випуску читається як спроба встановити норми всередині самого руху, який ускладнює перевірку безпеки.
Від попереджень до автономних лабораторій
Що робить появу Яо особливо цікавою, так це те, що Tencent одночасно просуває ШІ глибше в лабораторію. Звертаючись до аудиторії студентів з інформатики, він окреслив плани створення «автономних наукових лабораторій», які використовуватимуть системи штучного інтелекту для проведення комплексних експериментів «від кінця до кінця», при цьому інверсне згортання білків наведено як приклад роботи, на яку націлена компанія.
Яо стверджував, що технічні перешкоди для безпечного, потужного наукового ШІ з часом зникнуть. «Я думаю, що всі технічні зміни можна вирішити — там, де це лише питання часу», — сказав він, згідно з SCMP. «Я думаю, що більшим викликом є суспільний та організаційний».
Місце проведення підкреслювало цільову аудиторію повідомлення: Яо виступав перед кімнатою, наповненою студентами інформатики — населенням, яке, швидше за все, буде спиратися на ці моделі — під час тижня премії в галузі науки майбутнього 2026 року, який, за повідомленням SCMP, зібрав близько 1000 учасників.
Такий розподіл — розв’язні інженерні проблеми проти невирішених проблем управління — тихо стає стандартною позицією керівників ШІ по обидва боки Тихого океану. Для Tencent це також захист: компанія, яка робить ставку на автономні лабораторії, має всі стимули переконати регулюючі органи, що порогові значення біологічного ризику можна розробити, перевірити та дотримуватися відкрито.
На даний момент питання в найближчій перспективі полягає в тому, чи будуть компанії, що публікують відкриті моделі, запроваджувати вимірювані порогові значення біологічного ризику до того, як можливості перетнуть їх — або після. Попередження Яо свідчить про те, що Tencent принаймні вважає, що годинник працює.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
