OpenAI는 목요일에 ChatGPT를 사용하여 여러 미국 매체를 포함하여 전 세계의 실제 출판물에 가짜 서구 언론인의 이름으로 약 100개의 AI 생성 기사를 게재한 이란과 관련된 영향력 작전을 방해했다고 밝혔습니다.

OpenAI가 "거짓 전선" 작전이라고 부르는 이 캠페인은 회사가 10월 8일에 발표한 보고서와 워싱턴 포스트, CNN, NPR 및 Radio Free Europe/Radio Liberty의 후속 보도에 자세히 설명되어 있습니다. 이는 선전 초안 작성뿐만 아니라 이를 합법적인 미디어에 심는 전체 편집 워크플로우를 관리하기 위해 주류 상업용 챗봇을 사용하는 외국 영향력 네트워크에 대해 현재까지 가장 명확하게 문서화된 사례 중 하나입니다. 이 이야기에 대한 자세한 내용은 AI 뉴스를 참조하세요.

존재하지 않았던 저널리스트

그 작전의 중심에는 미국 프리랜스 저널리스트로 활동하는 어빈 B. 호스킨스(Ervin B. Hoskins)라는 인물이 있었다. RFE/RL에 따르면 호스킨스가 쓴 기사에서는 현재 진행 중인 이란과의 갈등에서 미국을 침략자로 묘사하고, 이스라엘을 신뢰할 수 없는 동맹으로 묘사하고, 이란을 반항적인 약자로 모함했습니다. OpenAI가 확인한 Hoskins는 존재한 적이 없습니다.

그는 조작된 언론인 페르소나 7명 중 한 명으로, 모두 서방 국가 출신이라고 주장하며 운영자가 기사를 발표하고 게시하는 데 사용했습니다. OpenAI는 보고서에서 "우리는 전 세계 약 12개 온라인 매장에서 해당 운영의 바이라인에 따라 게시되거나 신디케이트된 거의 100개의 기사를 확인했습니다."라고 밝혔으며, 대상은 일반적으로 국제 문제, 지정학 및 중동에 초점을 맞춘 중소 규모 매장이라고 설명했습니다.

이 캠페인이 미국 언론에 침투했다는 사실을 처음 보도한 워싱턴 포스트(Washington Post)는 플로리다의 작은 주간지가 가짜 사설 중 하나를 게재했다는 사실을 발견했습니다. CNN에 문제의 기사를 삭제했으며 제출 과정을 검토 중이라고 밝힌 Middle East Monitor를 포함한 다른 매체에도 플래그가 지정된 게재위치가 나타났습니다.

ChatGPT가 사용된 방법

OpenAI의 공개에 따르면 운영자는 긴 형식의 기사 초안 편집, 개별 출판물의 편집 요구 사항에 맞게 피치 조정, 편집자에게 홍보 이메일 준비, 독립적인 독자 반응처럼 보이도록 설계된 소셜 미디어 댓글 배치 생성 등 전체 게재 파이프라인에서 페르시아어와 영어로 ChatGPT를 사용했습니다.

연구자들이 추적한 한 가지 예는 Oregon Peace Institute가 운영하는 논평 배포 서비스인 PeaceVoice에서 6월 12일 발행한 "Jared Kushner와 미국 이란 전략의 민영화"라는 제목의 논평입니다. RFE/RL에 따르면 다음 날 동일한 기사가 CounterPunch와 LA Progressive에 의해 재출판되었습니다.

OpenAI는 올해 초 미국과 이란의 갈등이 시작된 이후 출판 활동이 증가했다고 말했습니다. CNN 보도에 따르면 회사는 캠페인과 관련된 ChatGPT 계정을 금지했으며 외부 편집 매체에 콘텐츠를 게재하는 운영 능력을 6점 영향력 운영 척도에서 카테고리 4로 평가했다고 밝혔습니다.

어트리뷰션은 계속 열려있습니다

특히 OpenAI는 캠페인 배후의 특정 행위자를 식별하거나 이란 정부의 지시를 확인할 수 없다고 말했습니다. CNN이 보고한 바와 같이, 그 평가는 직접적으로 국영 운영이 아닌 상업적인 임대 영향력 운영을 가리켰습니다. 이는 귀속을 더 어렵게 만들고 혼란을 덜 결정적으로 만드는 구조입니다. 계정 금지로 인해 OpenAI가 관찰할 수 있는 내용이 중단되었습니다. 더 넓은 네트워크가 해체되었다는 사실은 확인되지 않았습니다.

2023년부터 2025년까지 국가정보국 해외악의영향센터 국장실을 이끌었던 제시카 브랜트는 CNN과의 인터뷰에서 이번 작전을 통해 AI가 외국 행위자들이 자신의 개입을 은폐하고 실제 채널을 통해 메시지를 라우팅하는 데 어떻게 도움이 되는지 보여줬다고 말했습니다.

이란 캠페인은 OpenAI가 신고한 유일한 활동이 아니었습니다. 이 회사의 보고서는 또한 Recorded Future News의 The Record가 보도한 바와 같이 ChatGPT를 사용하는 러시아와 관련된 영향력 행사의 중단을 다루었습니다. 이와 별도로 RFE/RL은 Anthropic이 이전에 반체제 인사의 선전 및 감시를 위해 Claude 모델을 오용하려는 이란의 노력을 방해했다고 지적했습니다.

출판물은 더 이상 저자임을 증명하지 않습니다.

뉴스룸의 경우 이 사건은 불편한 진실에 도달합니다. 즉, 작성자의 이름, 일관된 비트, 그럴듯한 전기 및 세련된 내용이 더 이상 기여자의 존재를 암시하지 않습니다. 프리랜스 투고에 의존하는 편집자, 특히 외부 관점을 게시하도록 설계된 논평 데스크와 해설 데스크는 이제 스팸 필터와 글쓰기 수준의 휴리스틱으로 해결할 수 없는 검증 문제에 직면해 있습니다.

보고서의 적용 범위에 표시된 실제 응답에는 더 강력한 기여자 인증, 문서화된 피치 내역, 짧은 창에서 여러 매체에 표시되는 작성자의 정밀 조사, 제출물을 검증 가능한 신원과 연결하는 출처 도구 등이 포함됩니다.

경제성도 중요합니다. 한때 작가 직원이 필요했던 작업은 이제 번역부터 대상 출판물의 하우스 스타일과 일치하는 톤까지 모든 것을 처리하는 모델을 갖춘 챗봇을 지휘하는 소규모 팀에 의해 운영될 수 있습니다. OpenAI의 보고서에 따르면 다중 개인, 다중 매장 배치 캠페인을 운영하는 데 대한 장벽이 임대 상점에서 상용 서비스로 수행할 수 있는 지점까지 떨어졌습니다.

보도에 언급된 매체 중 주요 주류 뉴스 조직은 없었지만 일부 매체는 실제 청중을 대상으로 했습니다. 연구자들은 이것이 핵심이라고 말합니다. 신뢰할 수 있는 출판물에 게재하면 신디케이션, 집계 및 검색을 통해 메시지가 더 널리 유통되도록 이동합니다. 이것이 바로 캠페인이 중단되기 전에 달성한 것입니다.

---

AI 최신 소식

최신 AI 뉴스, 분석 및 혁신을 한 곳에서 확인하세요.

AI 뉴스 더 보기 →