지난 주 처음 노출된 가짜 미국 싱크탱크는 이제 Guardian에 의해 정량화되었습니다. 9일 만에 124개의 보고서와 560,000개의 단어가 AI 챗봇이 인용할 수 있도록 콘텐츠를 최적화할 것을 약속하는 상용 플랫폼을 기반으로 구축되었습니다. 이스라엘 정부 자금 추적은 미국 법무부 서류에 기록되어 있습니다. 이는 AI 답변 계층 자체, 즉 독자가 아니라 점점 더 그들을 대변하는 모델을 목표로 하는 국가 관련 행위자의 가장 명확한 공개 사례입니다. 챗봇 조작이 산업화되면서 우리의 AI 산업 보도가 추적하는 일종의 이야기입니다. (우리는 사이트의 초기 발견을 여기에서 다루었습니다.)

존재하지 않는 싱크탱크

이 사이트는 Hanover Institute for Public Policy라는 이름으로 게시됩니다. Guardian의 Jason Wilson에 따르면 이 연구소는 어떤 관할권에서도 법적 실체로 존재하지 않으며, 물리적 주소도 없으며, 지명된 직원도 없고 보고서에 작성자 이름도 표시되지 않습니다. 자체 이용 약관은 "연구소가 설립된 주"(문서에서 이름을 밝히기를 거부한 주)의 법률에 의해 규율됩니다.

생산 규모는 산업적이었습니다. 8월 6일부터 8월 14일까지 하노버 연구소는 총 560,000단어 이상, 각 보고서당 평균 약 4,500단어로 구성된 124개의 보고서를 발행했습니다. 8월 12일과 13일에만 거의 354,000단어에 달하는 73개의 보고서를 작성했습니다. 해당 사이트에 대한 최초의 언론 보도가 나온 이후로 아무 것도 게시되지 않았습니다.

챗봇 답변 레이어를 위해 설계되었습니다.

이 작전이 참신하다는 점은 표적화입니다. 124개의 헤드라인 중 하나를 제외하고 모두 사용자가 챗봇에 입력할 수 있는 질문과 유사한 질문으로 시작됩니다. "반시온주의는 반유대주의입니까?", "이스라엘이 팔레스타인인을 그들의 땅에서 추방했습니까?", "이스라엘이 가자에서 대량 학살을 자행하고 있습니까?" 보고서는 팔레스타인 포로 고문, 전쟁 범죄, 가자 지구의 기아에 대한 이스라엘의 입장을 기계 회수용으로 구성된 중립 연구로 제시합니다.

역학은 공식 서류에 문서화되어 있습니다. 뉴욕 미디어 제작 회사인 Piro Inc는 외국 정부에 대한 작업 공개를 요구하는 1938년 법률인 외국 대리인 등록법(Fara)에 따라 이번 달 미국 법무부에 이 사이트를 이스라엘 정부에 배포하는 자료로 등록했습니다. Guardian은 이 노력이 이스라엘 정부로부터 수천만 달러의 자금을 지원받고 유럽 광고 그룹인 Havas Media를 포함한 제3자를 통해 전달된다고 보고했습니다. 캠페인에 참여하는 Havas와 다른 미국 기업 간의 계약에는 "GPT 대화에서 GPT 프레이밍 결과를 제공하기 위한 웹사이트 및 콘텐츠 배포"가 포함되어 있습니다.

8월 14일 사이트의 존재가 처음 보고된 후 연구소는 다음과 같은 정정 내용이 포함된 자금 지원 페이지를 조용히 추가했습니다. "이 페이지의 이전 버전에는 연구소가 외부 자금 지원 없이 운영되었다고 나와 있었고, 작성 당시에는 사실이었습니다." Guardian은 Piro Inc, Havas Media 및 이스라엘 정부 광고 대행사 LaPam에 연락하여 논평을 요청했습니다.

챗봇이 새로운 전쟁터인 이유

이 전략은 마케팅 업계에서 생성 엔진 최적화(GEO)라는 이름을 갖고 있으며 검색 엔진 최적화의 후속 분야입니다. 챗봇은 질문에 답할 때 훈련 코퍼스와 검색 소스를 활용합니다. 방대하고 질문 형식이며 권위 있는 연구 스타일을 갖춘 콘텐츠는 모델의 답변에 표면화되거나 인용되거나 흡수될 가능성이 더 높습니다. 가짜 싱크탱크는 거의 이상적인 GEO 인공물입니다. 기관 없이 기관의 신뢰성을 확보하는 것입니다.

타이밍은 정교함만큼이나 절박함도 반영합니다. Guardian은 이번 캠페인이 미국 여론에서 이스라엘의 입지가 무너지고 이스라엘 관리들이 언론 매체에 "하스바라" 해외 공공 외교에 지출한 자금이 낭비됨에 따라 이루어졌다고 지적했습니다.

하노버 연구소는 고립된 사례가 아닙니다. Guardian이 조사 내용을 발표한 같은 날, OpenAI는 AI를 사용하여 러시아의 새로운 비밀 영향력 캠페인을 방해했다고 발표했습니다. 이는 회사가 정부와 연계된 공격자들에 의한 일련의 게시 중단 중 가장 최근의 조치입니다. 두 개의 별도 운영, 두 개의 대륙, 하나의 통찰력 공유: 이제 모델에 영향을 미치는 것이 사람들에게 직접 영향을 미치는 것보다 저렴하고 내구성이 뛰어납니다.

거버넌스 격차

규제 당국의 경우 이 사건은 기존 프레임워크에 허점을 노출시킵니다. Fara 공개는 문서상으로 작업을 포착했지만 콘텐츠가 라이브로 실행되고 잠재적으로 수집된 후에만 가능했습니다. EU AI 법의 투명성 조항과 교육 데이터 출처를 관리하는 자발적 프레임워크는 인구의 신념에 대한 가장 저렴한 경로가 챗봇을 통해 실행되는 세계를 위해 설계되지 않았습니다.

AI 연구실의 경우 운영상의 질문은 즉각적입니다. 검색 시스템과 훈련 파이프라인이 연구복을 입은 콘텐츠 팜과 연구를 어떻게 구별합니까? 권위의 신호인 양, 형식, 자신감 있는 인용은 바로 하노버 연구소가 대량 생산한 것입니다. 모델이 출처를 더 잘 알 수 있을 때까지 50만 단어가 이미 세상에 나와 있으며, 사실이 알려진 후에는 공개되지 않습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →