Google DeepMind는 감지 가능하고 감지할 수 없는 시그니처를 AI 설계 단백질에 직접 삽입하는 새로운 워터마킹 방법 제품군인 SynthID Bio를 출시했습니다. 9월 30일에 발표된 이 시스템은 AI 생성 텍스트, 이미지, 오디오 및 비디오에 라벨을 지정하는 데 이미 사용된 회사의 SynthID 워터마킹 기술을 생물보안 및 공공 과학 데이터베이스의 무결성이 포함되는 합성 생물학으로 확장합니다.

디지털 워터마킹과 달리 생물학적 워터마크는 훨씬 더 가혹한 테스트를 통과해야 합니다. 즉, 소프트웨어 모델의 출력뿐만 아니라 합성된 물리적 단백질 자체에서도 감지 가능한 상태로 유지되어야 합니다. DeepMind에 따르면 SynthID Bio는 해당 막대를 지웁니다. 실험실 실험에서 워터마크가 표시된 단백질 디자인은 검증 가능한 상태를 유지하면서 생물학적 기능을 유지하여 회사에서 설명하는 최초의 워터마크가 있는 생물학적 기능성 단백질 바인더를 생산했습니다. 이 작업은 "AI 생성 단백질의 기능 보존 워터마킹"이라는 제목의 Nature 논문에 자세히 설명되어 있습니다. 이 이야기에 대한 자세한 내용은 최신 AI 동향를 참조하세요.

왜 워터마크 생물학인가?

생성적 AI는 생물학 연구의 진정한 도구가 되었습니다. DeepMind는 자체 포트폴리오를 지적합니다. 단백질 구조를 예측하는 AlphaFold, 완전히 새로운 단백질을 설계하는 AlphaProteo 및 ProteinMPNN, 그리고 최근에는 박테리아를 감염시키는 바이러스인 새로운 박테리오파지 개발에 사용되는 AI 시스템입니다. 그러나 동일한 도구는 새로운 위험을 야기합니다.

발표에 따르면 새로운 AI 설계 서열은 전통적인 DNA 합성 스크리닝을 우회할 수 있다. 왜냐하면 스크리너는 익숙하지 않은 서열이 발견되지 않은 일부 자연 유기체에 속한다고 더 이상 가정할 수 없기 때문이다. 이와 별도로, 잘못 라벨이 붙은 합성 3D 구조는 공공 데이터베이스를 오염시키고 다운스트림 연구를 오해할 위험이 있습니다. 두 문제 모두 근본 원인을 공유합니다. 현재로서는 주어진 생물학적 설계가 어디서 왔는지 증명할 수 있는 사람이 아무도 없습니다.

두 가지 워터마킹 접근 방식, 하나의 목표

SynthID Bio는 데이터 유형에 맞춰 기술을 적용합니다. 단백질 서열의 경우, 서열이 생성될 때 아미노산 선택을 미묘하게 안내하여 검출 도구가 포착할 수 있는 통계 신호를 삽입합니다. 예측된 3D 구조의 경우 감지 가능한 서명을 전달하는 원자 좌표를 약간 조정합니다.

가장 강력한 증거는 습식 실험실 검증에서 나옵니다. DeepMind의 AlphaProteo 바인더 설계 방법과 함께 SynthID Bio 기반 ProteinMPNN 버전을 사용하여 연구원들은 VEGF-A, SARS-CoV-2 스파이크 단백질 수용체 결합 도메인 및 PD-L1의 세 가지 단백질을 표적으로 하는 디자인에 워터마크를 표시했습니다. 워터마크가 있는 디자인은 적중률, KD로 측정된 결합 친화도 및 자연적 서열 다양성에서 워터마크가 없는 디자인과 일치했습니다. 즉, 워터마크는 분자의 작업 수행 능력을 저하시키지 않았습니다.

단백질 접힘의 경우 DeepMind는 다른 경로를 택했습니다. 팀은 AlphaFold 3 확산 네트워크의 일부를 미세 조정하여 워터마킹 기능이 모델의 가중치에 직접 내장되도록 했습니다. 이는 예측된 모든 구조가 누가 모델을 실행하는지에 관계없이 감지 가능한 시그니처를 전달한다는 것을 의미하며, 회사는 이 접근 방식이 AlphaFold 3의 예측 정확도를 유지하고 거의 완벽한 감지 가능성을 제공하며 디지털 노이즈 또는 사소한 좌표 변경을 견딜 수 있다고 보고합니다.

차단방역의 '스위스 치즈' 방어의 새로운 층

DeepMind는 SynthID Bio를 계층화된 생물보안 모델의 한 계층으로 구성합니다. 즉, 여러 개의 독립적인 보호 장치가 서로의 사각지대를 덮는 "스위스 치즈" 접근 방식입니다. DNA 합성 스크리닝은 최전선에 있습니다. 디지털 단백질 디자인을 물리적 분자로 전환하려면 알려진 위협 데이터베이스에 대한 요청을 스크리닝하는 합성 공급자에게 DNA를 주문해야 합니다. 오늘날 익숙하지 않은 주문을 확인하려면 철저한 수동 검토가 필요할 수 있으며 이로 인해 합법적인 조사가 지연될 수 있습니다. 내장된 워터마크는 제공자에게 보호 장치가 내장된 신뢰할 수 있는 모델에서 주문이 발생했다는 자동화된 신호를 제공합니다.

DeepMind가 인용한 독립 전문가들은 이러한 프레임을 반영했습니다. 생물보안 정책 전문가이자 Science Policy Consulting의 사장인 Sarah Carter는 "SynthID Bio는 생물학적 설계의 출처를 추적하는 퍼즐의 중요한 조각입니다. 워터마크를 통해 개발자는 안전을 주도하고 합성 제공업체는 검사를 간소화할 수 있습니다."라고 말했습니다. 논문에 대한 초기 피드백을 제공한 Twist Bioscience의 정책 및 생물보안 담당 부사장인 James Diggans는 워터마킹을 "생물보안 도구 상자에 유망한 새로운 추가 기능"으로 평가하여 면밀한 검토가 필요한 시퀀스에 대한 정밀 조사에 집중할 수 있다고 말했습니다.

동일한 출처 신호는 공개 제출을 허용하는 Protein Data Bank, UniProt 및 GenBank와 같은 공개 과학 저장소를 보호할 수 있습니다. AI로 생성된 생물학이 축적됨에 따라 SynthID Bio는 합성 항목이 다른 연구자와 생물보안 결정에 의존하는 기록을 오염시키기 전에 플래그를 지정하거나 확인할 수 있습니다.

한계, 그리고 앞으로 다가올 일

DeepMind는 시스템이 변조 방지 기능이 없다는 점을 솔직하게 밝혔습니다. 고의적인 적대적 제거에 대비해 워터마크를 강력하게 만드는 것이 주요 공개 과제로 나열되어 있으며 회사는 SynthID Bio를 디지털 미디어에 사용되는 콘텐츠 자격 증명 체계인 C2PA와 유사한 출처 메타데이터 표준 또는 AI 생성 생물학적 데이터의 중앙 저장소와 결합할 것을 제안합니다.

범위도 단백질을 넘어 확장되고 있습니다. DeepMind는 Stanford University의 Hie 연구소 및 Arc Institute와 진행 중인 작업에서 SynthID Bio를 고급 게놈 모델인 Evo 2에 통합하고 이를 사용하여 Evo 2가 설계한 박테리오파지의 게놈을 워터마킹했습니다. 박테리아 배양에 대한 초기 실험실 테스트를 통해 워터마크가 표시된 파지가 여전히 기능을 유지하고 있음이 확인되었으며 회사는 기술 원고가 곧 나올 것이라고 말했습니다.

AI가 자연에 존재하지 않았던 생물학적 코드를 작성하기 시작한 분야에서는 "이것을 누가 만들었고, 어떤 모델로 만들었는가?"라고 대답할 수 있게 되었습니다. 조용히 인프라가 되어가고 있습니다. SynthID Bio는 해당 방향으로의 초기의 의도적인 신중한 단계입니다. 제작자는 이 단계가 생물학적 보안 스택의 나머지 부분을 대체하는 것이 아니라 보완하는 것이라고 주장합니다. AI 연구가 어떻게 진화하고 있는지 자세히 알아보려면 실험실에서 생성 모델을 자연 과학에 더 깊이 적용하는 최신 AI 개발을 살펴보세요.

AI보다 앞서 나가세요

홈페이지에서 전체 내용과 자세한 내용을 확인하세요. AI 뉴스 자세히 보기 →