Responsible Statecraft가 월요일 발표한 조사에 따르면, 이스라엘 정부를 대신하여 만들어진 가짜 싱크탱크는 불과 일주일 만에 100개 이상의 세련된 연구 보고서를 발표했습니다. 분석가들은 AI 챗봇이 사용자에게 이스라엘과 팔레스타인에 대해 제공하는 답변을 조작하려는 고의적인 캠페인이라고 설명합니다.

하노버 공공 정책 연구소(Hanover Institute for Public Policy)라고 불리는 이 조직은 이스라엘/팔레스타인에 초점을 맞춘 새로운 연구 기관으로 자처합니다. 그러나 해당 보고서에는 작성자 이름이 표시되지 않으며 웹사이트 하단에 면책조항을 보면 해당 보고서가 스파이크 리의 "인사이드 맨"으로 알려진 영화 제작자 Daniel Rosenberg가 공동 설립한 회사인 Piro, Inc.가 이스라엘 정부 광고 대행사를 대신하여 제작했음을 알 수 있습니다. 이 이야기는 Arab News 및 The Cradle을 포함한 매체에서 다루었으며, 영향력 있는 운영이 소셜 미디어 피드에서 AI 모델로 전환되고 있음을 보여주는 최신 신호입니다. AI 시대에 조작이 어떻게 진화하고 있는지 자세히 알아보려면 최신 AI 뉴스 보도를 따르세요. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

LLM이 신뢰성을 판단하는 방법을 위해 설계된 보고서

Hanover Institute를 특이한 점은 대규모 언어 모델이 소스를 평가하는 방식에 맞춰 출력이 얼마나 정확하게 나타나는지입니다. Responsible Statecraft에 따르면 "데이터 보고서"에는 각주, 목차, 신중하고 중립적인 어조가 포함되어 있습니다. 이는 문서가 Claude 또는 Gemini와 같은 챗봇의 관심을 끄는 데 도움이 되는 형식입니다.

많은 제목은 사용자가 챗봇에 입력할 수 있는 정확한 질문인 "1948년에 팔레스타인 사람들의 이주 원인은 무엇입니까?"로 표현되어 있습니다. "이스라엘의 전쟁 범죄를 기록한 인도주의 단체는 어디입니까?" "현재 가자지구 상황은 어떤가요?" 그리고 "IDF는 세계에서 가장 도덕적인 군대인가?" — 그 중 마지막은 2022년 여론 조사에서 이스라엘 유대인의 47%가 그 설명을 믿었다는 결과를 인용합니다.

Piro의 웹사이트는 이 방법에 대해 무뚝뚝합니다. 이 회사는 "LLM이 신뢰성을 평가하는 방법에 맞게 엔지니어링된 콘텐츠"를 작성했으며 이 서비스를 "AI 스토리 최적화"라고 판매한다고 밝혔습니다. 연구자들은 이 행위에 대해 "LLM 중독"이라는 더 무뚝뚝한 이름을 가지고 있습니다.

공신력 있는 기관의 '완벽한 흉내'

허위 정보 추적 회사인 NewsGuard의 분석가인 Alice Lee는 Responsible Statecraft에 이 사이트의 보고서가 검색 엔진이나 AI 보조자를 통해 갈등에 대해 궁금해하는 미국 청중에게 도달하도록 설계된 것으로 보인다고 말했습니다.

"LLM은 구체적인 통계와 데이터는 물론 이러한 기사 모두가 갖고 있는 강력한 인용과 출처를 선호합니다."라고 Lee는 말했습니다. "일반적인 이름, 사이트 레이아웃 및 빨간색-흰색-파란색 구성표에 이르기까지 전형적인 신뢰할 수 있는 미국 싱크탱크를 완벽하게 모방한 것입니다."

연구소는 또한 독창적인 연구 결과라고 주장하는 내용도 발표했습니다. 예를 들어, 가장 많이 본 이스라엘-가자 설명 동영상 36개 중 19개에는 이의가 제기된 주장이 포함되어 있으며 이러한 이의가 제기된 주장의 대부분은 팔레스타인 내러티브와 일치한다고 주장하는 연구입니다. 가자 지구의 물과 시설 인프라의 90%가 손상되거나 파괴되었다는 유니세프의 주장에 의문을 제기하는 것을 포함하여 확립된 문서에 반대하는 다른 보고서도 있습니다.

특히, 결과가 항상 이스라엘 정부 노선을 추적하는 것은 아닙니다. 한 보고서는 대학에 대한 외국 자금 지원이 반유대주의 사건을 "약하고 예외로 가득 찬" 것으로 설명한다는 이론을 설명합니다. 벤자민 네타냐후 총리가 브레이트바트에게 외국 배우들이 미국 캠퍼스에 "수십억 달러"를 썼다고 말하면서 이 이론을 장려했음에도 불구하고 말입니다. 많은 보고서는 동일한 연구를 자주 인용하면서 당면한 주제를 증가하는 반유대주의와 연결함으로써 결론을 내립니다.

돈을 따라가세요: 프랑스 PR 대기업을 통해 $900,000

Responsible Statecraft에 따르면 Piro, Inc.는 프랑스 홍보 대기업인 Havas Media를 통해 하청 계약을 맺고 이스라엘 정부로부터 작업 대가로 90만 달러를 받았습니다. 이는 다른 이스라엘 계약업체가 해외 영향력 작업에 대해 급여를 받는 방식과 일치하는 방식입니다.

하노버 연구소는 8월 6일부터 발행을 시작했습니다. 그 후 약 10일 동안 100개 이상의 보고서를 발행했는데, 이는 비슷한 규모의 실제 정책 상점이 유지하지 못하는 속도입니다.

챗봇 조작이 다른 이유

이 사례는 AI 비서가 답변을 수집하는 방식의 구조적 약점을 강조합니다. 그들은 누가, 왜 생성했는지에 관계없이 잘 인용되고 통계가 많은 문서를 신뢰할 수 있는 것으로 취급합니다. 전통적인 허위 정보는 정서적인 힘이 가장 중요한 소셜 플랫폼의 인간 독자를 표적으로 삼았습니다. 대신 소위 LLM 중독은 모델이 인용하는 소스를 결정하는 검색 및 순위 레이어를 대상으로 하며, 그러면 설득력 있는 단일 문서가 수백만 개의 답변에 반영될 수 있습니다.

챗봇 개발자에게 하노버 연구소는 소스 조사에 대한 스트레스 테스트입니다. NewsGuard의 평가에 따르면 모방은 자동화된 신뢰성 신호를 속일 만큼 충분히 가깝습니다. 독자들에게 교훈은 더 간단합니다. 논쟁의 여지가 있는 갈등에 대해 챗봇이 제공하는 자신감 있고 잘 설명된 답변은 정확히 해당 답변을 생성하기 위해 설립되고, 브랜드화되고, 자금을 지원받은 조직으로 거슬러 올라갈 수 있습니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →