인공지능 모델은 곧 생물학을 마스터할 만큼 강력해질 것이며, 이점과 심각한 위험을 동등하게 제시할 것이라고 Tencent의 수석 AI 과학자는 토요일 홍콩에서 드물게 공개석상에서 경고하면서 AI 시스템이 생명과학을 완전히 흡수할 때 어떤 일이 일어날지에 대한 점점 커지는 논쟁에 자신의 목소리를 더했습니다.

사우스차이나모닝포스트(South China Morning Post)에 따르면 홍콩과학원과 미래과학상이 공동 주최한 과학 심포지엄에서 텐센트 홀딩스의 수석 AI 과학자이자 전 OpenAI 연구원인 야오 순위(Yao Shunyu)는 "AI 모델의 사이버 능력, 그리고 곧 모델의 생체 능력이 실제로 해를 끼칠 수 있는 한계점에 도달할 것"이라고 말했습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

책임을 요구하는 개방형 지지자

Yao의 경고는 내용보다는 출처가 더 중요합니다. 그는 중국 최대 기술 회사 중 하나인 Tencent에 합류하기 전에 OpenAI에서 명성을 쌓았습니다. Tencent는 기본 매개 변수가 공개적으로 공개되고 누구나 다운로드, 수정 및 실행할 수 있는 시스템인 개방형 AI 모델의 가장 공격적인 게시자 중 하나로 자리매김했습니다.

SCMP에 따르면 야오는 "모든 중국이나 개방형 모델 회사는 보안과 안전 문제에 대해 매우 책임감 있고 진지해야 한다"고 덧붙였다.

SCMP의 보고에 따르면 첨단 AI 시스템이 의학 및 생물학에 점점 더 많이 적용되어 신약 및 기타 치료법의 발견을 가속화할 수 있다는 점에서 이러한 평가가 이루어졌습니다. 이러한 변화는 이미 중국 제약 산업을 재편하고 있습니다. 그러나 보안 전문가들은 동일한 기능이 악의적인 행위자가 생물 무기를 생산하거나 다음 전염병을 촉발하는 데 도움이 될 수 있다고 오랫동안 경고해 왔습니다. 유능한 모델이 누구나 가드레일 없이 실행할 수 있는 개방형 소프트웨어로 출시되면 경찰이 더 어려워지는 위험입니다.

생물학은 AI 전문가들 사이에서 코딩 다음으로 중요한 영역으로 널리 인식되고 있습니다. 이 분야에서는 급속한 AI 발전으로 인해 이미 글로벌 사이버 보안이 뒤바뀌었습니다. 사이버 능력과 마찬가지로 생물학적 능력도 이중 용도로 사용됩니다. 유망한 약물 후보를 설계하는 동일한 모델이 원칙적으로 공격자를 지원할 수 있습니다. 어느 쪽이 더 많은 혜택을 받는지에 대한 진정한 논쟁이 있습니다.

Tencent의 자체 안전 플레이북

Yao의 발언은 그의 회사가 새로운 주력 모델을 출시한 지 며칠 후에 도착했기 때문에 더욱 무게를 실었습니다. SCMP에 따르면 텐센트는 지난 수요일 Hy4를 출시했는데, Hy4는 벤치마킹 업체인 Artificial Analysis에 따르면 중국에서 생산된 모델 중 두 번째로 성능이 좋은 모델로 평가되었습니다.

출시 발표에서 Tencent는 Hy4에 내장된 안전 조치를 설명했습니다. 회사 측은 훈련 단계에서 관련 데이터를 필터링해 사이버 방어 능력을 유지하면서도 모델의 사이버 해킹 능력을 제거했다고 밝혔다. 생물학적 측면에서 Tencent는 모델이 여전히 기본적인 생물학적 지식을 실행 가능한 프로토콜, 즉 교과서 이해와 단계별 운영 지침 사이의 격차로 전환할 수 없기 때문에 Hy4의 바이오 기능이 고위험 임계값보다 "훨씬 낮다"고 말했습니다.

모델이 일반 지식을 사용 가능한 절차로 변환할 수 있는지 여부를 측정하는 프레임은 AI 시스템의 생물보안 평가에서 일반적인 척도가 되었습니다. Hy4가 해당 라인에 미치지 못한다는 Tencent의 주장은 모델 자체 제조업체의 주장이며, 그러한 평가에 대한 외부 검증은 업계 전반에 걸쳐 여전히 제한적입니다.

타이밍은 또한 경쟁 압력을 반영합니다. SCMP의 출시 초기 보도에 따르면 Tencent는 DeepSeek, Z.ai 및 Alibaba 모두 최근 몇 주 동안 새로운 모델을 출하하면서 점점 더 뜨거워지는 중국 AI 기업 간의 공개 경쟁에 Hy4를 공개했습니다. 게시 가중치가 경쟁적으로 필요한 생태계에서 Yao의 "매우 책임감 있는" 출시 관행에 대한 요구는 안전 검토를 시행하기 가장 어렵게 만드는 바로 그 운동 내부에 규범을 설정하려는 시도로 읽혀집니다.

경고부터 자율 연구실까지

야오의 등장이 특히 흥미로운 점은 텐센트가 동시에 AI를 연구실 깊숙이 밀어넣고 있다는 점이다. 그는 컴퓨터 과학 학생들이 있는 방에서 AI 시스템을 사용하여 복잡한 실험을 처음부터 끝까지 실행하는 "자율 과학 실험실"에 대한 계획을 설명했으며 회사가 목표로 하는 작업 종류의 예로 역단백질 접힘을 언급했습니다.

Yao는 안전하고 유능한 과학적 AI에 대한 기술적 장애물은 시간이 지나면 사라질 것이라고 주장했습니다. SCMP에 따르면 그는 "모든 기술적 변화가 해결될 수 있다고 생각합니다. 이는 단지 시간 문제일 뿐입니다"라고 말했습니다. "더 큰 도전은 사회적, 조직적이라고 생각합니다."

장소는 메시지의 의도된 청중을 강조했습니다. Yao는 약 1,000명의 참가자가 모였다고 SCMP가 보고한 2026년 미래 과학상 주간 동안 컴퓨터 과학 학생들(이 모델을 기반으로 구축할 가능성이 가장 높은 인구)로 가득 찬 방에서 연설했습니다.

해결할 수 있는 엔지니어링 문제와 해결되지 않은 거버넌스 문제라는 구분은 태평양과 태평양 양쪽에서 조용히 AI 경영진의 표준 입장이 되고 있습니다. Tencent의 경우 이는 방어적인 것이기도 합니다. 자율 실험실에 차기 조치를 거는 회사는 규제 기관에 생물 위험 임계값을 공개적으로 설계, 감사 및 존중할 수 있다는 점을 설득할 수 있는 모든 인센티브가 있습니다.

현재로서는 개방형 모델을 게시하는 기업이 측정 가능한 생물학적 위험 임계값을 역량을 초과하기 전 또는 이후에 채택할지 여부가 단기적인 문제입니다. Yao의 경고는 적어도 Tencent가 시계가 작동하고 있다고 믿고 있음을 시사합니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →