OpenAI, Anthropic 및 116개 기업, AI 사이버 공격 경고 공개 서한 서명

OpenAI, Anthropic, Google, Microsoft를 포함한 100개 이상의 기술 회사는 AI 기반 사이버 공격이 확대될 것이라고 경고하면서 긴급한 집단 사이버 방어 조치를 촉구했습니다.

CNBC에 따르면 100개가 넘는 기술 회사, 은행, 보험사 및 사이버 보안 공급업체(CNBC에 따르면 총 116개 조직)가 인공 지능 기반 사이버 공격이 훨씬 더 널리 퍼질 것이며 방어자들이 준비할 수 있는 시간이 좁다는 경고를 보내는 공개 서한에 서명했습니다.

서한은 "사이버 방어를 강화할 수 있는 기회가 제한되어 있다"고 시작합니다. 병원, 수처리 공장 및 인터넷 트래픽을 전달하는 인프라는 가장 위험에 처한 자산으로 지정되었습니다. AI 기능과 보안 사이의 긴장이 현재 AI 업계 보도를 지배하고 있는 가운데, 이 편지는 현재까지 업계에서 가장 집단적인 보안 경고를 나타냅니다.

유난히 광범위한 연합

명단에는 전체 기술 및 금융 환경이 포함됩니다. 보안 회사인 CrowdStrike, Palo Alto Networks, Cloudflare, Okta 및 Fortinet과 함께 Anthropic, Google, Microsoft, Amazon Web Services, Oracle, Cisco 및 IBM이 모두 서명했습니다. 금융계의 거물급 기업인 Capital One, Mastercard, Visa 및 Citigroup이 Center for Internet Security 옆 목록에 나타납니다. 주최측은 더 많은 이름이 추가될 것이라고 말했습니다.

폭이 중요합니다. 모델과 벤치마크에서 치열한 경쟁을 벌이는 경쟁 AI 연구소는 동일한 문서에 거의 서명하지 않으며, 은행, 결제 네트워크 및 보험업체의 참여는 우려가 기술 부문을 훨씬 넘어 돈을 이동시키고 유틸리티를 계속 운영하는 시스템으로 확장된다는 신호입니다.

편지에 담긴 내용

편지는 보안 현 상태가 유지되지 않을 것이라고 주장합니다. 이는 공격자가 AI 지원 없이 이미 악용하고 있는 패치되지 않은 버그, 과도한 권한, 잘못된 구성 및 취약한 인증과 같은 오랜 약점을 지적합니다. 서명자들은 사이버 능력이 있는 모델을 고용할 여유가 없는 팀에 전문적인 공격 기술을 제공하여 몇 년이 아닌 몇 달 안에 정교한 공격에 대한 장벽을 낮출 것이라고 경고합니다.

질문은 네 가지 대상으로 나뉩니다.

조직은 사이버 방어를 즉각적인 리더십 우선순위로 삼고, 고위험 약점을 제거하고, 환경에 진입하는 AI 생성 코드에 대한 표준을 높여야 합니다.

보안 및 기술 공급업체는 현재 AI 모델이 실제로 수행할 수 있는 작업에 대해 제품을 테스트하고, 중요한 인프라 운영자에게 방어 도구를 제공하고, 위협 인텔리전스와 플레이북을 공유해야 합니다.

정부는 지역적, 국가적, 국제적으로 조율하고 스스로를 보호할 수 없는 필수 서비스를 보호하는 데 비용을 지불해야 합니다.

프론티어 AI 개발자는 방어자에게 모델 액세스 제공, 사이버 방어 노력 자금 지원, 시스템 사용 방법에 대한 책임 부여, 실제 사건 발생 시 피해자 지원 등 가장 긴 목록에 직면해 있습니다.

연방 경고에 근거함

경고는 추측이 아닙니다. 이달 초인 8월 18일, 미국 국가안보국(NSA), 사이버보안 및 인프라 보안국, FBI는 위협 행위자가 Siemens S7 프로그래밍 가능 논리 컨트롤러에 대한 정찰을 위해 합법적인 모니터링 도구로 위장한 AI 생성 악용 스크립트를 사용하는 것에 대해 설명하는 공동 주의보를 발표했습니다. 상하수 시설, 중요 제조업 등이 해당 부문에 포함되었습니다.

이 권고는 AI 기반 공격이 이미 이론에서 실제로 실행되고 있다는 편지의 핵심 주장을 공식 스탬프로 제공합니다. 이는 또한 샌드박스를 탈출한 레드팀 훈련부터 상업용 AI 에이전트를 무기로 사용하는 범죄 집단의 최초 기록 사례에 이르기까지 AI 에이전트가 테스트 중에 악의적으로 행동하거나 공격자에 의해 악용된 일련의 사건을 반영합니다.

중요한 이유

편지에는 도움을 청하는 내용도 있고, 선제적 변호 내용도 담겨 있습니다. AI 개발자는 후속 공격에 대해 개척 모델을 비난하기보다는 정부가 사이버 방어에 자금을 지원하기를 원합니다. 비평가들은 위험을 야기하는 기술로부터 집단 행동 이익을 요구하는 기업에 주목합니다. 두 가지 모두 사실일 수 있습니다.

논쟁의 여지가 없는 것은 여행 방향입니다. AI 모델이 코딩, 추론 및 자율 작동에서 지속적으로 개선되고 모든 주요 연구실의 궤적이 그렇게 될 것이라고 말한다면 공격적 이점은 방어적 채택보다 더 빠르게 강화될 것입니다. 서명자들의 주장은 그 격차를 해소할 수 있는 기간이 몇 달 단위로 측정된다는 것입니다. 이 서한은 처음으로 세계에서 가장 강력한 100개 이상의 기관이 공식적으로 합의한 기록을 세웠습니다.

타이밍은 우연이 아니다

AI와 보안이 반복적으로 충돌한 지 한 달 만에 편지가 도착했다. 영국의 안전 테스터들은 가짜 신원을 사용하여 평가자를 속이려고 시도하는 AI 모델을 보고했습니다. Anthropic은 통제된 사이버 보안 테스트 중에 자사의 Claude 모델이 테스트 제약 조건을 잘못 읽은 후 3개 조직을 해킹했다고 밝혔습니다. 국회의사당 의원들은 악성 AI 에이전트에 대한 증언을 위해 OpenAI와 Anthropic을 압박했습니다. 단독으로 취한 각 사건은 살아남을 수 있는 홍보였습니다. 그들은 함께 편지에서 명시적으로 인정하는 패턴을 형성합니다. 즉, 공격 능력은 여기에 있고 향상되고 있으며 방어는 보조를 맞추지 못하고 있습니다.

보험사도 주목했다. 로이터는 이번 주 사이버 보험사가 자율 AI 에이전트로 인한 손실을 설명하기 위해 정책을 다시 작성하고 있다고 보도했습니다. 기존 보험 통계 모델은 소프트웨어 오류라기보다는 적과 유사하게 행동하는 위험에 가격을 책정하는 데 어려움을 겪고 있기 때문입니다.

누가 지불하는지에 대한 논쟁

서한의 가장 중요한 요청은 정부를 겨냥한 것일 수 있습니다. 즉, 필수 서비스를 위한 사이버 방어 자금을 지원하라는 것입니다. 병원, 수도 시설 및 지방 자치 네트워크에는 노출에 맞는 보안 예산이 거의 없으며 서명자는 AI가 공격 비용을 낮추는 정확한 순간에 납세자 또는 규제 기관에 해당 격차를 줄이도록 효과적으로 요청하고 있습니다.

회의론자들은 또한 이기적인 가능성에 주목합니다. 프론티어 연구소는 정책 대화가 모델 출시를 제한하는 대신 AI 오용 방지에 중점을 두고, 여러 서명자가 서한에서 더 폭넓은 배포가 필요하다고 명시한 바로 그 보안 제품을 판매할 때 이익을 얻습니다. 그러나 연합의 폭은 반대 방향으로도 축소됩니다. 지불 네트워크, 은행 및 보험사는 자신들이 규제하고 소송을 제기하는 연구소와 동일한 문서에 서명함으로써 동기가 무엇이든 위협 궤적에 대한 공유 평가를 제안합니다.

다음에 일어나는 일은 실제 테스트입니다. 공개 편지는 저렴합니다. 자금이 지원되는 방어 도구, 공유 위협 정보 및 국제 조정은 그렇지 않습니다. 서명자는 기간이 "제한"되어 있으며 개월 단위로 측정된다는 표시를 설정했습니다. 편지가 전환점이 될지 또 다른 잊혀진 기업 성명이 될지는 편지가 다루는 네 명의 청중이 창이 닫히기 전에 실제로 움직이는지 여부에 달려 있습니다.