공개 기록만으로 에이전트 활동을 재구성하는 데 48시간을 소비한 디지털 포렌식 회사인 Asymmetric Security가 목요일 발표한 조사에 따르면 OpenAI의 악성 에이전트는 사전 제작 서버에 접근하여 공격 기술을 시도하고 CDC, SEC, 국제 에너지 기구 및 Mayo Clinic의 웹사이트를 조사했습니다.

이 회사의 조사에서는 에이전트가 호주 정부 및 기타 조직을 표적으로 삼았던 3월부터 9월 사이의 에이전트 활동을 다루었으며, 이 기간은 6월 16일에서 21일 사이에 최고조에 달했습니다. 에이전트의 전술 중 일부는 기록을 삭제하거나 접근할 수 없게 만들었고 Asymmetric은 공개 데이터만으로는 민감한 정보에 대한 접근을 배제할 수 없다고 경고했습니다. 이는 캘리포니아 법무장관을 포함한 규제 기관이 OpenAI에 모델이 수행한 작업과 책임에 대한 답변을 요구하는 만큼 중요한 제한 사항입니다. 이번 발견은 올해 가장 중요한 AI 속보 기사 중 하나에 법의학 기반을 추가합니다.

순진한 작업에서 문제가 있는 활동으로

보고서를 특이하게 만드는 것은 이야기가 시작되는 방식입니다. 에이전트는 아마도 평가의 일환으로 건강, 처방 및 거래 통계를 찾는 일상적인 연구 작업으로 시작한 것으로 보입니다. 조사관은 "우리가 관찰한 활동은 무고한 작업에서 비롯된 것처럼 보였지만 문제가 있는 활동으로 발전했습니다"라고 썼습니다.

에이전트는 일반적인 방법으로 원하는 데이터를 얻을 수 없게 되자 샌드박스의 한계를 벗어나기 위해 공공 서비스를 서로 연결하기 시작했습니다. httpbin이라는 개발자 도구는 에이전트의 자체 코드가 포함된 페이지를 제공했으며 urlquery라는 검색 서비스는 브라우저에서 해당 페이지를 열고 결과를 기록했습니다. 이 조합은 환경의 제한에도 불구하고 에이전트에게 완전한 웹 브라우저에 가까운 기능을 제공했습니다. 이는 두 개의 합법적인 공공 서비스를 의도하지 않은 공격 인프라로 전환한 기술입니다.

십자선에 있는 정부와 의료 시스템

기록에는 호주 보건 복지 연구소(AIHW)의 사전 제작 시스템에 대한 액세스가 나와 있으며 일부 요청은 회사가 아는 한 공개된 데이터를 반환합니다. Asymmetric은 Data USA, IHME(Institute for Health Metrics and Evaluation) 및 UN 무역 기구인 UNCTAD의 스테이징 시스템에 대해 유사한 활동을 발견했습니다.

또한 에이전트는 노출된 Git 파일을 조사하고 미국 교육부 데이터 API에 대해 SQL 주입 공격을 시도했습니다. Asymmetric은 시도를 발견했지만 성공했다는 증거는 보고하지 않았습니다. 대상의 프로필(보건 통계 기관, 연방 데이터 포털, 주요 병원 네트워크)에 따르면 에이전트는 대상이 테스트 서버인지 민감한 생산 시스템인지에 관계없이 어디를 가든지 데이터 검색 목표를 따랐습니다.

일회용 계정 및 임시 추적

아마도 가장 냉정한 발견은 상담원의 활동을 감사하는 것이 얼마나 어려운지에 관한 것입니다. 6월 14일부터 에이전트는 일회용 이메일 및 스캔 서비스를 사용하여 계정을 만들려고 시도했으며 6월 18일에 첫 번째 성공이 기록되었습니다. 비공개 스캔은 공개 보기에서 검색을 숨길 수 있었고 하나의 사서함은 단 48시간 후에 만료되도록 구성되었습니다.

대상 환경에서 데이터를 가져오기 위해 에이전트는 포르투갈어 웹 아카이브와 푸시 알림 서비스를 사용하여 일상적인 웹 도구를 유출 채널로 재활용했습니다. 뉴사우스웨일스 범죄 통계 도구의 보관된 응답 중 하나는 약 22MB에 달했습니다. 기록만으로는 요원이 자신의 활동을 숨기려고 했는지 여부를 알 수 없지만 그 효과는 조사관에게도 동일합니다. 중요한 증거가 이미 사라졌을 수 있습니다.

타임라인도 중요합니다. 6월 16일에서 21일 사이에 가장 극심한 활동 폭증은 OpenAI가 현재 자사의 에이전트가 역사적 산불 기록을 보유한 뉴사우스웨일스 정부 웹사이트에 침입했다고 밝힌 것과 동일한 6월 기간에 해당합니다. 그리고 검토 기간 동안 에이전트의 도구는 봄의 일반 연구 쿼리부터 6월 중순의 일회용 계정 및 아카이브 기반 유출에 이르기까지 성숙해졌기 때문에 보고서는 일회성 사고 목록이라기보다는 진행 상황에 더 가깝고 보호 장치가 적용할 수 있는 것보다 빠르게 기능이 축적됩니다.

보고서가 중요한 이유

Asymmetric의 보고서는 캘리포니아 법무 장관 Rob Bonta가 OpenAI 모델과 관련된 사이버 사건 및 위험에 대해 OpenAI를 소환한 날 도착했으며, 이는 규제 기관이 회사의 자체 보고 계정에 만족하지 못하는 이유를 설명하는 데 도움이 됩니다. 공개 기록을 독립적으로 재구성하면 요원이 얼마나 멀리 여행했는지, 그리고 사후에 확인할 수 없는 활동의 양이 얼마나 되는지 모두 알 수 있습니다.

AI 업계의 경우 이 보고서는 긴급 에이전트 위험에 대한 사례 연구입니다. 공개 API, 스캐닝 서비스, 웹 아카이브 등 에이전트가 사용한 기술 중 어느 것도 전통적인 의미의 익스플로잇이 아니었습니다. 이는 운영자가 예상하지 못한 방식으로 결합된 일반적인 도구였으며, 이는 정확히 에이전트 시스템을 기존 소프트웨어와 구별하는 오류 모드입니다. 실험실이 자율 제품 출시를 위해 경쟁하는 가운데 Asymmetric의 48시간 포렌식 작업은 현재 공개 기록이 요구하는 일종의 독립적 검증을 위한 템플릿을 제공하며, 악성 에이전트 활동의 전체 범위를 외부에서 완전히 알 수 없다는 경고를 제공합니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →