OpenAI는 화요일에 비밀 온라인 영향력 캠페인을 지원하는 데 사용된 러시아에서 시작된 ChatGPT 계정 클러스터를 금지했다고 밝혔습니다. 이 활동은 저명한 학자와의 제휴를 조작하고 게시된 자료의 대부분을 표절한 International Burke Institute라는 가상의 연구 조직을 중심으로 구축된 작업입니다.

회사는 "러시아의 새로운 비밀 영향력 캠페인 중단"이라는 제목의 블로그 게시물을 통해 게시 중단 사실을 공개했으며 그 결과는 CNBC와 Quartz에 의해 보고되었습니다. OpenAI에 따르면 해당 계정은 웹사이트에 이스라엘의 거리 주소가 나열되어 있고 2025년 2월에 등록된 자칭 "전문가 커뮤니티"인 International Burke Institute(IBI)를 홍보하는 데 사용되었습니다. 이 이야기에 대한 자세한 내용은 인공지능 뉴스를 참조하세요.

존재하지 않았던 싱크탱크

작전의 핵심은 제도적 정당성의 출현이었습니다. OpenAI는 IBI 웹사이트가 프란시스 후쿠야마(Francis Fukuyama)와 노암 촘스키(Noam Chomsky)를 포함한 저명한 학자들이 등장한다고 거짓 주장을 했다고 밝혔습니다. 사이트에 나열된 전문가와 연결되고 2025년 9월부터 2026년 5월 사이에 게시된 36개의 기사를 검토한 결과, 회사는 34개가 인터넷의 다른 곳에서 복사되었으며 때로는 출처가 부정확한 것으로 나타났습니다.

캠페인의 핵심 특징은 서방 국가를 비판하면서 러시아를 호의적으로 평가하도록 고안된 측정 기준에 따라 국가 순위를 매기는 "주권 지수"였습니다. OpenAI는 프랑스, ​​독일, 미국, 유럽연합을 대상으로 한 보고서가 논쟁의 여지가 있다고 밝혔습니다. 미국에 대한 한 항목은 다음과 같습니다. "트럼프는 세계 1위의 주권 지수를 가지고 [베이징에] 도착했으며 자발적인 자율성 축소로 [...] 자격을 얻을 수 있는 여러 조치를 취한 후 떠났습니다."

작업 방식

OpenAI는 위장에도 불구하고 해당 계정이 러시아에서 유래했을 가능성이 매우 높다고 평가했다고 밝혔습니다. OpenAI는 러시아로부터의 모델 액세스 금지를 회피하기 위해 VPN을 통해 연결을 라우팅했다고 회사측은 밝혔습니다. 그들은 러시아어로 작업하면서 ChatGPT를 사용하여 Substack, Telegram, X, Facebook 및 LinkedIn에 등장하는 소셜 미디어 콘텐츠의 초안을 작성했으며, AI가 생성한 원본을 배신할 수 있는 텍스트의 모든 특징을 제거하도록 모델에 지시했습니다. 생성된 콘텐츠의 대부분은 영어로 작성되었으며, 이는 해당 작업이 국내 러시아 독자가 아닌 서구 독자를 대상으로 했음을 암시하는 선택입니다.

작업은 영어 콘텐츠 이상으로 확장되었습니다. 한 운영자는 러시아와의 긴밀한 관계를 옹호하면서 우크라이나, 유럽 연합, 독일 정부를 비판하는 "Lahme Ente"(독일어 "레임덕")라는 텔레그램 채널에 독일어 게시물을 생성했습니다. 두 번째 운영자는 독일, 미국, 프랑스, ​​폴란드, 터키에 초점을 맞춘 약 12개의 텔레그램 채널에 대한 로고를 만들고 해당 채널의 활동에 대한 러시아어 요약을 요청했습니다.

도달 범위는 제한되어 있지만 놀라운 청사진

기존의 참여 지표에 따르면 캠페인은 성공하지 못했습니다. OpenAI는 대부분의 소셜 미디어 게시물의 조회수가 낮고, 공식 IBI 계정의 구독자가 거의 없으며, 관련 Telegram 채널의 팔로워 수가 각각 10,000~20,000명에 달한다는 점을 인정했습니다.

그러나 회사는 작업의 중요성이 도달 범위가 아니라 작업자가 구성한 장치에 있다고 주장했습니다. ChatGPT로 제작된 게시물은 실제 주소, 전문가 명단, 꾸준한 출판물 흐름을 갖춘 합법적인 연구 기관으로 보이는 곳으로 독자를 유도했습니다. OpenAI는 이러한 구조가 AI 도구가 악의적인 행위자가 제도적 신뢰성을 구축하고, 선호하는 이야기의 실제 출처를 모호하게 하며, 훨씬 더 커질 수 있는 운영의 토대를 마련하는 데 어떻게 도움이 될 수 있는지를 보여 준다고 말했습니다.

AI가 생성한 영향력을 둘러싼 더 광범위한 전투

이번 게시 중단은 OpenAI가 국가 연계 위협 행위자와 관련하여 발표한 일련의 중단 조치 중 가장 최근에 이루어졌으며 영향력 있는 운영이 야망을 소셜 미디어 피드에서 AI 시스템 자체로 옮기고 있다는 증거가 늘어나고 있는 가운데 이루어졌습니다. 지난 8월 초 Responsible Statecraft의 별도 조사에서는 AI 챗봇이 이스라엘과 팔레스타인에 대해 제공하는 답변을 조작하려는 명백한 노력의 일환으로 일주일에 100개 이상의 보고서를 게시하는 가짜 싱크탱크가 기록되었습니다.

이 사례들은 함께 새로운 플레이북을 개략적으로 설명합니다. 즉, 운영자는 인간에게 메시지를 전달하기만 하는 것이 아니라 사람들이 정보를 접하는 방식을 점점 더 중재하는 AI 모델에 의해 출력이 인용, 스크랩 및 흡수될 수 있는 잘못된 기관을 구축하고 있습니다.

AI 기업들에게는 그 의미가 불편하다. 유창한 다국어 초안 작성, 저렴한 비용, 지칠 줄 모르는 출력 등 대규모 언어 모델을 유용하게 만드는 동일한 속성은 세탁된 선전을 위한 매력적인 인프라를 만듭니다. 이 경우 OpenAI의 대응은 금지된 계정, 명명된 전술, 작업 작동 방식에 대한 공개 설명 등 콘텐츠 수준의 게시 중단이었습니다.

그러한 공개가 설명하는 작업과 보조를 맞출 수 있는지 여부는 AI 시대의 핵심 보안 질문 중 하나로 남아 있습니다. 화요일 보고서에서 분명히 알 수 있듯이, 설득력 있는 가짜 기관을 구축하는 데 드는 비용은 극적으로 떨어졌습니다. 이를 탐지할 수 있는 가장 좋은 위치에 있는 기관은 해당 기관을 구축하는 데 사용되는 모델을 보유한 바로 그 회사입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →