OpenAI는 목요일 지정학적 선전을 실제 언론 매체에 세탁하기 위해 고안된 정교한 "허위 전선" 단체를 운영하기 위해 ChatGPT를 사용하는 두 개의 비밀 영향력 작전(하나는 러시아에서, 다른 하나는 이란에서 시작됨)을 금지했다고 밝혔습니다. 이 회사는 러시아에서 시작된 캠페인이 2년 반 전 위협 보고서를 발표하기 시작한 이후 중단된 가장 광범위한 영향력 행사라고 말했습니다.

OpenAI 웹사이트에 게시된 이번 공개는 국가 정부가 어떻게 상업용 AI 모델을 오용하는지에 대한 일련의 보고서 중 최신 항목입니다. 또한 최신 AI 속보 수집에서 언급했듯이 OpenAI가 2024년 초부터 폭로한 30가지 비밀 작전에서 관찰한 패턴을 강조합니다. 콘텐츠를 진짜 출판물에 성공적으로 배치한 캠페인은 가짜 소셜 미디어 계정에 의존하는 캠페인보다 훨씬 더 많은 청중에게 도달합니다.

A 카테고리 5 첫 번째: "다크 클라크" 작전

OpenAI가 '다크 클라크(Dark Clark)'라는 별명을 붙인 러시아 작전은 SRC(Social Research Center)라는 라틴 아메리카의 자칭 연구 조직을 중심으로 이루어졌습니다. 오픈AI에 따르면 운영자들은 '미아 클라크'라는 조작된 페르소나를 통해 싱크탱크를 통제했고, 라틴아메리카 현지 직원들은 러시아 그룹에서 일하고 있다는 사실도 모른 채 인터뷰를 진행하고 연구 논문 초안을 작성했다.

Brookings에서 개발한 영향 운영의 잠재적 도달 범위를 1~6으로 측정하는 Breakout Scale을 사용하여 OpenAI는 Dark Clark을 카테고리 5로 평가했습니다. 이는 보고가 시작된 이후 모든 운영에 할당한 최고 등급입니다. 이란에서 시작된 캠페인은 카테고리 4에 도달했습니다.

OpenAI는 운영자의 ChatGPT 사용 중 대부분이 알려지지 않은 처리자에게 내부 보고되었으며 우크라이나를 폄하하고 우크라이나 군대 모집을 훼손하며 아르헨티나와 볼리비아의 국내 정치에 간섭하는 캠페인을 설명했다고 말했습니다. 운영자는 대부분 러시아어로 메시지를 표시하고 VPN을 사용하여 러시아로부터의 트래픽을 차단하는 서비스에 액세스했습니다.

OpenAI의 연구원들은 오픈 소스를 통해 해당 운영이 주장하는 여러 캠페인을 확증했습니다. 그 중 하나는 리마의 지역 교육국에서 보낸 것으로 위장한 가짜 이메일과 관련이 있으며, 페루 수도의 학교들에 국가 다양성의 날에 논쟁의 여지가 있는 우크라이나 민족주의 인물인 스테판 반데라를 기리는 행사를 열도록 지시했습니다. 페루와 폴란드 매체는 계속되는 논란을 다루었고, 이에 대한 취재에는 유럽 의회의 폴란드 의원이 인용되었습니다. 에콰도르에서는 운영자가 가짜 이메일 주소를 사용하여 학교를 속여 다니엘 노보아(Daniel Noboa) 대통령과 전 블랙워터 수장인 에릭 프린스(Erik Prince)에게 충성을 맹세하도록 했습니다. 이 스턴트는 언론 보도와 에콰도르 교육부 장관의 공개 반박을 불러 일으켰습니다.

이 작전은 또한 정부가 라파즈에 대한 공급을 중단할 것이라고 주장하는 볼리비아 국영 물 회사 EPSAS 직원의 목소리와 에콰도르 주재 우크라이나 영사의 목소리를 포함해 조작된 오디오 녹음을 유포했습니다. 양국의 팩트체커들은 이러한 주장이 사실이 아니라는 사실을 폭로했습니다. 오픈 소스 연구원들은 이전에 유사한 활동을 "정치학" 또는 "라 콤파니아"(고 예브게니 프리고진 작전의 후계자로 설명됨)와 연결시켰으며, 운영자 자체 보고서에서는 공개 보고와 일치하는 아르헨티나 대통령 하비에르 밀레이를 표적으로 삼은 캠페인이 있다고 주장했습니다.

7명의 가짜 언론인: 작전 "Bogus Bylines"

이란의 작전은 미디어 생태계에 다른 경로를 택했습니다. 페르시아어로 ChatGPT를 촉발한 운영자는 이 모델을 사용하여 미국-이란 분쟁에 대한 장문의 영어 기사를 다듬은 다음 Ervin B. Hoskins, Noah Lamington, Sophia Gonzalez, Michael Harrison, Ericka Feusier, Jenny Williams, Alice Johnson 등 7명의 조작된 언론인 페르소나를 사용하여 중소 온라인 매체의 편집자에게 해당 기사를 전달했습니다.

OpenAI는 전 세계 약 12개 매체에 걸쳐 이러한 작성자로 게시되거나 배포된 거의 100개의 기사를 식별했으며, 대부분은 국제 문제와 중동에 중점을 두고 있습니다. 이 작업은 또한 일련의 소셜 미디어 댓글을 생성했지만 OpenAI는 이러한 댓글이 실제 참여를 거의 이끌어 내지 못했다고 말했으며 운영자는 명백한 소셜 미디어 영향을 부풀리기 위해 내부 보고서에서 기만적인 계산을 사용했다고 지적했습니다. 회사는 이러한 활동이 상업 행위자가 채용에 영향력을 행사하는 캠페인과 일치하는 것으로 보이며 관련 당국과 정보를 공유했다고 밝혔습니다.

오래된 공예품, 새로운 도구

OpenAI는 연구원들에게 가장 놀라운 점은 두 작업이 AI 이전 시대의 캠페인에 얼마나 밀접하게 영향을 미쳤는가라고 썼습니다. 가짜 언론인 페르소나는 2016년과 2017년 서구 매체에 특집이 게재된 러시아 군사 정보국 소속 가상 기자 "앨리스 도노반"과 가족적 유사성을 갖고 있습니다. SRC의 무의식적인 현지 직원은 2020년에 실제 언론인을 채용한 가짜 뉴스 사이트인 "PeaceData"를 반향합니다.

AI는 이러한 기술을 발명한 것이 아니라 더 저렴하고 빠르며 유창하게 만들었습니다. 운영자는 모델을 사용하여 가짜를 현지 어휘 및 기관 스타일에 맞게 조정하고, 스크립트를 지역 스페인어 변형으로 번역하고, 편집자를 위한 세련된 피치 이메일을 생성했습니다. 그러나 OpenAI는 위장 작업의 은밀한 개인 대 개인 특성으로 인해 노출에 취약해진다고 주장했습니다. Alice Donovan과 PeaceData는 모두 공개적으로 이름이 알려진 후 종료되었습니다.

증거를 주의 깊게 읽어보세요

OpenAI는 자체 조사 결과에 주의를 기울였습니다. 운영자는 일상적으로 자신과 관련이 없는 이벤트에 대해 자신의 크레딧을 주장했으며, 그들이 심었다고 보고한 일부 가짜는 오픈 소스에서 찾을 수 없었습니다. 사실 확인, 공식적인 부인, 운영자의 설명과 일치하는 게시된 기사를 통해 OpenAI가 확인할 수 있는 것은 적어도 4개국에서 미디어와 정치적 담론이 실제로 침투하고 있음을 시사합니다.

AI 업계의 경우 이 보고서는 허위 정보에서 모델을 가장 효과적으로 사용하는 방법은 내부 보고서 작성, 주장 다듬기, 번역 다듬기 등 가장 눈에 띄지 않는 경우가 많다는 점을 상기시켜 줍니다. OpenAI의 이전 사례에서 알 수 있듯이 이러한 캠페인을 탐지하는 데 가장 적합한 개체는 캠페인을 실행하는 데 자체 도구를 사용하는 플랫폼인 경우가 많습니다.

---

AI보다 앞서 나가세요

최신 AI 뉴스, 분석, 획기적인 소식을 모두 한 곳에서 받아보세요.

AI 뉴스 자세히 보기 →