Модели искусственного интеллекта скоро станут достаточно мощными, чтобы освоить биологию, представляя в равной степени преимущества и серьезные риски, предупредил главный ученый Tencent по искусственному интеллекту во время редкого публичного выступления в Гонконге в субботу, добавив свой голос к растущим дебатам о том, что происходит, когда системы искусственного интеллекта полностью поглощают науки о жизни.
«Кибер-способности моделей ИИ — а вскоре и биологические способности моделей — достигнут порога, когда действительно можно будет причинить вред», — сказал Яо Шуньюй, главный научный сотрудник Tencent Holdings и бывший исследователь OpenAI, на научном симпозиуме, организованном совместно Академией наук Гонконга и Премией науки будущего, сообщает South China Morning Post. Подробнее об этой истории — в нашем больше статей об ИИ.
Сторонник открытого веса призывает к ответственности
Предупреждение Яо примечательно не столько своим содержанием, сколько своим источником. Он заработал свою репутацию в OpenAI, прежде чем присоединиться к Tencent, одной из крупнейших технологических компаний Китая, и Tencent позиционирует себя среди самых агрессивных издателей моделей искусственного интеллекта с открытым весом — систем, базовые параметры которых публикуются публично и могут быть загружены, изменены и запущены кем угодно.
Это подчеркивает его сопроводительное сообщение: «Все китайцы или любые компании открытой модели должны очень ответственно и очень серьезно относиться к этим проблемам безопасности», — сказал Яо, согласно SCMP.
Эта оценка проводится в связи с тем, что передовые системы искусственного интеллекта все чаще применяются в медицине и биологии, где они могут ускорить открытие новых лекарств и других методов лечения — согласно отчету SCMP, этот сдвиг уже меняет фармацевтическую промышленность Китая. Эксперты по безопасности, однако, уже давно предупреждают, что те же возможности могут помочь злоумышленникам создать биологическое оружие или спровоцировать следующую пандемию — риск, который становится труднее контролировать, когда функциональные модели выпускаются в виде открытого программного обеспечения, которое каждый может запускать без каких-либо ограничений.
Эксперты по искусственному интеллекту широко рассматривают биологию как следующий важный рубеж после кодирования — области, в которой быстрый прогресс искусственного интеллекта уже перевернул глобальную кибербезопасность. Как и кибервозможности, биологические возможности имеют двойное назначение: та же самая модель, которая разрабатывает многообещающие кандидаты на лекарства, в принципе может помочь злоумышленнику. Идут настоящие споры о том, какая сторона выигрывает больше.
Собственная инструкция безопасности Tencent
Замечания Яо имели дополнительный вес, поскольку они прозвучали через несколько дней после того, как его собственная компания выпустила новую флагманскую модель. В среду Tencent выпустила модель Hy4, которая заняла второе место по производительности среди моделей, производимых в Китае, по данным сравнительной компании Artificial Analysis, сообщает SCMP.
В своем объявлении о выпуске Tencent описала меры безопасности, встроенные в Hy4. Компания заявила, что удалила из модели возможности киберхакерства, сохранив при этом возможности киберзащиты, отфильтровав соответствующие данные на этапе обучения. Что касается биологической стороны, Tencent заявила, что биологические возможности Hy4 остаются «значительно ниже» порога высокого риска, поскольку модель все еще не может превратить фундаментальные биологические знания в действенные протоколы — другими словами, разрыв между пониманием из учебника и пошаговым оперативным руководством.
Эта формулировка — измерение того, может ли модель преобразовать общие знания в полезные процедуры — стала общепринятым критерием при оценке биобезопасности систем ИИ. Заявление Tencent о том, что Hy4 не соответствует этой черте, является утверждением самого производителя модели, а внешняя проверка таких оценок остается ограниченной во всей отрасли.
Выбор времени также отражает конкурентное давление. Tencent представила Hy4 в условиях все более ожесточенной гонки среди китайских компаний, занимающихся искусственным интеллектом, причем DeepSeek, Z.ai и Alibaba в последние недели поставляли новые модели, согласно предыдущему сообщению SCMP о запуске. В экосистеме, где публикация весов является конкурентной необходимостью, призыв Яо к «очень ответственной» практике публикации воспринимается как попытка установить нормы внутри самого движения, что затрудняет соблюдение проверок безопасности.
От предупреждений до автономных лабораторий
Что делает появление Яо особенно интересным, так это то, что Tencent одновременно продвигает искусственный интеллект глубже в лабораторию. Обращаясь к группе студентов-компьютерщиков, он обрисовал планы создания «автономных научных лабораторий», которые будут использовать системы искусственного интеллекта для непрерывного проведения сложных экспериментов, при этом обратное сворачивание белков приводится в качестве примера той работы, на которую нацелена компания.
Яо утверждал, что технические препятствия на пути к безопасному и эффективному научному ИИ со временем исчезнут. «Я думаю, что все технические изменения можно решить, но это лишь вопрос времени», — сказал он, согласно SCMP. «Я думаю, что более серьезная проблема носит социальный и организационный характер».
Место проведения подчеркнуло целевую аудиторию послания: Яо выступал перед аудиторией, заполненной студентами-компьютерщиками — аудиторией, которая, скорее всего, будет использовать эти модели — во время Недели премии науки будущего 2026 года, которая, по данным SCMP, собрала около 1000 участников.
Это разделение — решаемые инженерные проблемы и нерешённые проблемы управления — постепенно становится стандартной позицией руководителей ИИ по обе стороны Тихого океана. Для Tencent это также оборонительный подход: компания, делающая ставку на автономные лаборатории, имеет все стимулы убедить регулирующие органы в том, что пороги биологического риска можно разработать, проверить и соблюдать открыто.
На данный момент ближайший вопрос заключается в том, примут ли компании, публикующие модели открытого веса, измеримые пороговые значения биологического риска до того, как их возможности превысят их — или после. Предупреждение Яо предполагает, что, по крайней мере, Tencent считает, что время идет.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
