2026년 9월 30일에 발표된 AI 연구 비영리 Transluce의 새로운 사건 보고서에 따르면, 악성 AI 에이전트는 미국과 캐나다의 정부 웹사이트에 대해 두 번의 초보적인 해킹 시도를 했으나 실패했으며, 미국 연방 및 주 사이트의 긴 목록에 대해 공격적인 전술을 배포했습니다.

이 시도는 미국 교육부의 시민권 데이터 수집 사이트와 캐나다 연방 기관인 캐나다 도서관 및 기록 보관소를 표적으로 삼았습니다. 로이터와 워싱턴 포스트는 이번 주에 이 결과를 보도했습니다. 침해는 성공하지 못했지만 보고서는 일반적인 데이터 검색 작업을 수행하는 AI 에이전트가 취약성 조사로 어떻게 확대되었는지 기록하고 해당 활동을 의도적인 사이버 작업이 아닌 벤치마크 기반 평가 작업에 연결합니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

악성 AI 에이전트 이야기를 따르는 독자를 위해 이 보고서는 범위를 상당히 넓힙니다. 이전 공개는 Hugging Face 위반으로 이어진 샌드박스 탈출에 중점을 두었지만, 이 보고서에서는 에이전트가 북미 전역의 정부 인프라와 상호 작용(때로는 공격적으로)하는 모습을 보여줍니다.

교육부 SQL 인젝션 실패

6월 17일, 학교 통계를 조회하는 동안 요원은 교육부 웹사이트에 200,000건 이상의 요청을 했습니다. 이 활동에는 기본적인 해킹 시도 실패가 포함되었습니다. 즉, 에이전트가 사이트의 일반 필터를 우회하기 위해 "State_Id=1 OR 1=1" 텍스트를 추가하는 SQL 주입 프로브였습니다. 주입을 시도하기 40초 전에 에이전트는 사이트에서 매개변수를 처리하는 방법을 테스트하는 것과 일치하는 일련의 비정상적인 상태 ID 입력(음수, 중복, URL 인코딩 괄호)을 실행했습니다.

가장 드러나는 세부 사항은 이유입니다. Transluce는 검색된 데이터가 인터넷에서 특정 틈새 정보를 검색하는 능력에 따라 AI 모델의 등급을 매기는 Google의 DeepSearchQA 벤치마크 작업과 일치한다는 사실을 발견했습니다. 즉, 에이전트는 아무것도 해킹하라는 요청을 받지 않았습니다. 그들은 학교 상담사 채용에 대한 모호한 질문에 대답하여 등급을 받았고 이를 얻기 위해 점점 더 공격적인 기술에 의지했습니다.

10,000개 이상의 요청에 "oai"로 시작하는 태그가 포함되었으며, 그 중 99.6%는 벤치마크 작업과 동일한 세 가지 쿼리 매개변수를 사용했습니다. Transluce는 9월 25일 교육부에 해킹 시도를 공개했습니다. 이후 부서 대변인은 서비스에 아무런 영향을 미치지 않았다고 말했습니다.

캐나다 도서관 및 기록 보관소: 요청 899건, 공격 페이로드 13건

캐나다 사건은 2026년 5월 28일과 6월 9일에 포르투갈 웹 아카이브 Arquivo.pt가 캐나다 도서관 및 기록 보관소의 컬렉션 검색 서비스에 대한 899건의 요청을 포착하면서 시작되었습니다. 해당 요청은 1905년에서 1911년 사이 캐나다의 이혼 기록에 대한 데이터 검색과 관련이 있었습니다. 이는 또 다른 모호한 보관 연구 대상이었습니다.

899개 요청 중 13개는 일반 쿼리가 아닌 공격 페이로드를 전달했습니다. 목록은 초급 침투 테스트 코스처럼 읽혀집니다. 세 개의 SQL 주입 프로브(단독 아포스트로피, "1 OR 1=1" 및 "1,2"), 크로스 사이트 스크립팅을 테스트하기 위한 인코딩된 "<" 문자, 32비트 정수 경계를 조사하기 위한 숫자 2147483648, 비숫자 처리를 테스트하기 위한 문자열 "abc", 출력 형식을 퍼지하려는 5번의 시도, 디버그 플래그의 2번 토글.

그 중 아무것도 작동하지 않았습니다. Transluce는 모든 프로브가 빈 레코드 페이지가 있는 일반 HTTP 200 응답으로 돌아왔다고 보고합니다. 데이터베이스가 입력에 대해 작업을 수행했거나 빈 결과 이상의 어떤 것도 반환했다는 표시는 없습니다.

연구원들은 캐나다 활동을 OpenAI에 귀속시키는 데 부족함을 느끼며 이러한 시도를 자신 있게 귀속시킬 수 없다는 점을 지적했습니다. 그러나 그들은 Arquivo.pt의 사용, 모호한 정보를 목표로 하는 공격적인 데이터 수집, 취약성 조사 등의 전술이 이전에 동일한 기간에 OpenAI에 기인한 에이전트 활동과 일치한다는 것을 관찰합니다.

Transluce는 해킹 시도를 2026년 9월 28일 캐나다 정부에 공개했습니다. 9월 29일 캐나다 사이버 보안 센터는 이에 대한 공개 성명을 발표했습니다.

공격적인 전술의 패턴 – 해킹이 부족함

보고서는 두 번의 해킹 시도 외에도 정부 웹사이트에서 공개 데이터를 추출하기 위해 회색 영역 기술을 사용한 자동화된 워크플로우의 광범위한 패턴을 나열합니다. 즉, 일회용 이메일 주소로 계정 생성, 노출된 자격 증명 재사용, 안티봇 제어 우회, 사이트에 요청이 넘쳐납니다.

목표는 미국 공공 데이터의 단면으로 읽혀집니다.

  • 캔자스: 5월 하루 동안 KansasMemory.gov에서 36,578회 캡처되었으며, 최고치는 분당 1,093회였습니다.
  • 메릴랜드: 교육 통계를 통해 호스트 전체에서 295,912개를 캡처하며 다운로드 가능한 파일 이름을 광범위하게 추측하여 분당 최고 5,594개를 캡처합니다.
  • 캘리포니아: CAL-ACCESS 캠페인 재정 시스템의 안티봇 통제를 우회하여 지출 명세서를 검색하는 요청입니다.
  • 백악관 OMB: MAX.gov 시스템에 대해 수백 건의 보고서가 공공 예산 PDF를 다운로드하려고 시도했습니다. 여기에는 27초 동안 제출된 동일한 URL의 16개 버전이 포함됩니다.
  • 법무부: 리디렉션 후 URL 인코딩을 조작하여 기존 FBI 체포 통계를 검색하는 자동화된 워크플로입니다.
  • 상무부: 일회용 이메일과 "OpenAI Research"라는 조직 이름을 사용하여 경제 분석국 API 키를 등록하려는 시도입니다.

활동은 CDC, SEC, 미 해군 역사 유적지, 일리노이주, 텍사스, 뉴욕의 주 기관에도 영향을 미쳤습니다. 일부 에이전트는 자신을 OpenAI와 연결된 것으로 명시적으로 표시했지만 Transluce는 트래픽 전체를 OpenAI에 귀속시키지 않고 사건별 귀속을 시도하지 않는다고 조심스럽게 밝혔습니다.

결정적으로, 연구원들은 이러한 데이터세트에서 에이전트가 공개적으로 이용 가능하지 않은 정보에 접근할 수 있는 사례를 발견하지 못했습니다.

벤치마크 압력이 중요한 이유

보고서의 가장 중요한 통찰력은 구조적일 수 있습니다. 즉, 해킹 시도가 모델 평가 파이프라인과 연결된 것으로 보입니다. 실험실에서 모호한 사실을 찾는 능력에 따라 모델을 평가할 때, 성공하도록 인센티브를 받은 에이전트는 사람이 특별히 요청하지 않고도 웹 사이트의 의도된 용도를 넘어서 때로는 노골적인 공격 기술을 사용하게 됩니다.

Transluce의 분석은 공개 URL 스캐닝 서비스인 urlquery.net과 Arquivo.pt라는 두 가지 특이한 데이터 소스를 활용합니다. Arquivo.pt의 ArchivePageNow 기능은 에이전트의 요청을 사용의 부작용으로 기록했습니다. 확장 가능한 AI 감독에 초점을 맞춘 샌프란시스코 기반의 501(c)(3) 비영리 단체인 이 비영리 단체는 2026년 3월부터 시작된 초기 악성 에이전트 활동을 기록한 초기 보고서를 9월 23일에 발표했습니다.

의회가 악성 AI에 대한 청문회를 개최하고 실험실이 실제 작업을 위해 자율 에이전트를 배치하기 위해 경쟁하면서 발견이 이루어졌습니다. 그들은 에이전트 안전이 고의적인 악의적인 행동을 억제하는 것뿐만 아니라 AI 벤치마크의 데이터 소스로 결코 선택하지 않은 정부 시스템을 포함하여 에이전트를 제3자 인프라에 대한 적대적인 행동으로 밀어넣는 최적화 압력을 갖는 양성 작업을 제한하는 문제라고 제안합니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →