영국, OpenAI와 Anthropic의 지원을 받아 1억 파운드를 들여 세계 최초의 AI 생물보안 연구소 설립

영국 정부는 AI 생물보안 연구소에 1억 파운드의 자금을 지원하고 OpenAI와 Anthropic이 생물학적 위협을 탐지하기 위해 최대 2억 파운드를 추가로 투입할 예정입니다.

영국 정부는 1억 파운드의 정부 자금과 OpenAI 및 Anthropic의 최대 2억 파운드의 지원을 받아 세계 최초의 AI 생물보안 전담 조직으로 설명되는 AI 생물보안 연구소(AI Biosecurity Lab)의 창설을 발표했습니다. 내각부는 금요일에 광범위한 국가 AI 생물보안 이니셔티브의 일환으로 이 계획을 발표했습니다.

종합하면, 정부와 업계는 약물 발견을 가속화하는 동일한 AI 시스템이 위험한 병원체 공학에 대한 장벽을 낮추지 않도록 하는 임무를 맡은 기관에 최대 3억 파운드를 지원하기로 약속했습니다.

AI 생물보안 연구실이 하는 일

정부 발표에 따르면, AIBL로 약칭되는 이 연구소는 최첨단 AI와 생물과학 인재를 모아 생물학적 위협을 이해, 예방, 탐지 및 대응하는 영국의 능력을 향상시키는 실용적인 기술 역량을 개발할 것입니다. 초기 작업 프로그램은 새로운 생물학적 위협의 조기 발견 강화, 백신, 치료법 및 기타 의료 대책 개발 가속화라는 두 가지 우선순위에 중점을 두고 있습니다.

이 연구소는 영국과 정부가 주장하는 전 세계가 질병 발생에 더 빠르게 대응할 수 있도록 한다는 목표를 가지고 영국의 국립 생물보안 센터 및 생명과학 산업과 협력하여 최첨단 AI를 활용할 것입니다. 이는 2023년부터 전염병 대비와 위협을 생물학적 위험의 단일 연속체로 구성한 영국의 기존 생물학적 안보 전략을 기반으로 합니다.

정부가 지금 움직이고 있는 이유

내각부 발표는 이중 용도 문제에 대해 이례적으로 직접적입니다. AI의 발전은 과학적 발견을 위한 전례 없는 기회를 창출하는 동시에 생물학적 위험 환경을 변화시키고 있습니다. AI는 질병에 대한 이해와 대응책 개발을 향상시킬 수 있지만 점점 더 능력이 향상되는 시스템은 유해한 활동에 대한 장벽을 낮출 수도 있습니다.

그 우려는 지난 한 해 동안 가설에서 실증으로 옮겨졌습니다. AI 모델이 실행 가능한 바이러스 유사 게놈을 설계한 연구를 포함하여 과학 언론에서 광범위하게 다루어진 연구에 따르면 유익한 능력과 위험한 능력 사이의 경계는 생물보안 커뮤니티가 한때 가정했던 것보다 얇습니다. 영국의 대답은 공격적인 측면이 성숙해지기 전에 해당 방정식의 방어적인 측면을 제도화하는 것입니다.

OpenAI와 Anthropic의 약속 이행

이번 발표에서 가장 눈에 띄는 특징은 자금구조다. 정부는 공공 자금 1억 파운드 외에도 OpenAI와 Anthropic이 최대 2억 파운드를 약속했다고 밝혔습니다. 더 시티 A.M. 신문은 Google DeepMind도 이 계획의 업계 후원자 중 하나라고 보도했지만, 정부 자체 발표에서는 OpenAI와 Anthropic을 회사 약속의 출처로 지정했습니다.

연구실의 경우 이러한 합의는 친숙한 참여 형태입니다. Anthropic은 안전 연구를 중심으로 상업적 정체성의 상당 부분을 구축했으며 OpenAI는 안전 인프라가 배포 야망을 따라가지 못한다는 지속적인 비판에 직면해 있습니다. 정부가 지원하는 생물보안 기관에 돈과 직원을 투입하면 두 회사 모두 안전 약속이 실제로 무엇에 해당하는지에 대한 질문에 대해 구체적이고 외부적으로 신뢰할 수 있는 답변을 얻을 수 있습니다.

또한 업무 관계를 확장합니다. 영국은 2023년 AI Safety Summit 이후 프론티어 모델 감독을 위한 시험장으로 자리매김했으며, 두 회사 모두 이미 주요 출시 전에 정부 연계 평가를 통해 모델을 라우팅했습니다. 자체 예산을 보유한 상설 기관은 임시 협력을 인프라로 전환합니다.

공공-민간 AI 안전성 테스트 사례

연구실은 템플릿으로 면밀히 관찰됩니다. AIBL이 정부와 선도적인 AI 기업이 운영상의 생물보안 역량을 함께 구축할 수 있다는 것을 입증한다면, 다른 수도에서도 유사한 기관이 있을 것으로 기대하고, 선도적인 연구소는 모델이 대규모로 배포되는 곳마다 동등한 합의를 모색할 것으로 기대합니다. 홍보 약속을 보도자료로 세탁하는 수단이 된다면 자발적인 안전 서약에 대한 회의론이 더욱 강화될 것입니다.

연구소의 인력, 프론티어 모델에 대한 접근, 규제 기관과의 관계, 탐지 기능을 공중 보건 시스템과 공유하는 방법 등 발표가 공개한 세부 사항에 따라 많은 것이 달라집니다. 정부는 파트너십이 연구소 업무의 중심이 될 것이며, 이 연구는 AI의 발전으로 가능해진 위험을 포함해 광범위한 생물학적 위험에 대한 회복력을 강화할 것이라고 밝혔습니다.

이미 분명한 것은 정책여행의 방향이다. 정부는 더 이상 AI 생물보안을 워크숍 논문의 연구 질문으로 취급하지 않습니다. 그들은 9자릿수 예산으로 상설 기관에 자금을 지원하고 AI 산업을 유료 파트너로 초안을 작성하고 있습니다. 영국은 첫 번째 실행을 주장했습니다. 다른 국가가 이 모델을 복사할지 여부는 과학보다는 신뢰에 달려 있으며, AIBL의 초기 연구 결과가 나머지 세계가 이를 기반으로 할 수 있을 만큼 공개적으로 발표되는지 여부에 달려 있습니다.

전 세계 정부가 최전선에 대응하는 최신 AI 정책 개발을 팔로우하세요.