OpenAI 周四表示，它破坏了一项与伊朗有关的影响力行动，该行动利用 ChatGPT 将近 100 篇人工智能生成的文章放在世界各地的真实出版物上，并以虚假的西方记者署名发表，其中包括几家美国媒体。

该公司 10 月 8 日发布的一份报告以及《华盛顿邮报》、CNN、NPR 和自由欧洲电台/自由电台的后续报道详细介绍了这一被 OpenAI 称为“虚假阵线”行动的活动。这是迄今为止记录最清楚的外国影响力网络案例之一，它不仅使用主流商业聊天机器人来起草宣传品，而且还管理将其植入合法媒体的完整编辑工作流程。 更多相关背景，请参阅我们的AI新闻。

一位从未存在过的记者

此次行动的核心人物是一位名叫欧文·B·霍斯金斯 (Ervin B. Hoskins) 的人物，他以美国自由记者的身份出现。据 RFE/RL 报道，霍斯金斯发表的文章将美国描绘成与伊朗持续冲突中的侵略者，将以色列描绘成不可靠的盟友，并将伊朗描绘成目中无人的弱者。 OpenAI 证实，霍斯金斯根本不存在。

他是七个虚构的记者角色之一，所有这些角色都声称来自西方国家，运营商利用这些角色来推销和发布文章。 OpenAI 在其报告中表示：“我们确定了全球大约 12 个在线媒体以该行动为名发表或联合发布的近 100 篇文章。”他将目标描述为通常关注国际事务、地缘政治和中东的中小型媒体。

《华盛顿邮报》最先报道了该活动对美国媒体的渗透，发现佛罗里达州的一家小周刊发表了一篇虚假专栏文章。其他被标记的位置出现在包括“中东监视器”在内的媒体上，该媒体告诉美国有线电视新闻网，它已经删除了相关文章，并正在审查其提交流程。

ChatGPT 是如何使用的

根据 OpenAI 的披露，运营商在整个投放流程中使用了波斯语和英语的 ChatGPT：编辑长篇文章草稿、根据个别出版物的编辑要求定制推介、准备发给编辑的外展电子邮件，以及生成一批旨在看起来像独立读者反应的社交媒体评论。

研究人员追踪的一个例子是：俄勒冈和平研究所运营的专栏分发服务公司 PeaceVoice 于 6 月 12 日发表了一篇题为“贾里德·库什纳和美国伊朗战略的私有化”的专栏文章。据 RFE/RL 报道，在接下来的几天里，CounterPunch 和 LA Progressive 重新发表了同一篇文章。

OpenAI 表示，今年早些时候美国和伊朗之间的冲突开始后，出版活动有所增加。据 CNN 报道，该公司表示，已禁止参与该活动的 ChatGPT 账户，并在其六分影响力运营等级中将该运营机构在外部编辑媒体上发布内容的能力评为第四类。

归属仍然开放

值得注意的是，OpenAI 表示无法识别该活动背后的具体参与者，也无法确认伊朗政府的指示。据美国有线电视新闻网 (CNN) 报道，其评估指出，这是一种商业性的、受雇的影响力运作，而不是直接由国家运营的运作——这种结构使得归因变得更加困难，破坏也变得不那么确定。禁止这些账户扰乱了 OpenAI 的观察范围；它没有确定更广泛的网络已被拆除。

2023 年至 2025 年领导国家情报总监办公室外国恶意影响中心的杰西卡·布兰特 (Jessica Brandt) 告诉 CNN，这次行动表明人工智能如何帮助外国行为者隐藏其参与并通过真实渠道传递信息。

伊朗活动并不是 OpenAI 标记的唯一活动。据 Recorded Future News 报道，该公司的报告还涉及使用 ChatGPT 的与俄罗斯相关的影响力运作的中断。另外，RFE/RL 指出，Anthropic 此前曾扰乱伊朗滥用其克劳德模型进行宣传和监视持不同政见者的努力。

出版物不再是作者身份的证明

对于新闻编辑室来说，这个案子面临着一个令人不安的事实：署名、连贯的节奏、可信的传记和优美的措辞不再意味着贡献者的存在。依赖自由撰稿的编辑——尤其是专栏文章和评论台，它们在设计上会发布外部观点——现在面临着垃圾邮件过滤器和写作质量启发法无法解决的验证问题。

报告报道中标记的实际应对措施包括更强大的贡献者身份验证、记录的推介历史、在短时间内对多个媒体上出现的署名进行审查，以及将提交内容与可验证身份联系起来的出处工具。

经济也很重要。曾经需要一批作家的操作现在可以由一个指挥聊天机器人的小团队来运行，该模型可以处理从翻译到与目标出版物的风格匹配的语气等所有事务。 OpenAI 的报告表明，开展多角色、多渠道投放活动的障碍已降至出租商店可以将其作为商业服务进行的程度。

报道中提到的媒体都不是主要的主流新闻机构，但有几家拥有真正的受众。研究人员表示，这就是要点：通过联合、聚合和搜索，任何可信出版物上的信息都会使信息得到更广泛的传播——这正是该活动在被破坏之前所取得的成果。

---

掌握AI最新动态

获取最新的AI新闻、分析和突破——尽在一处。

阅读更多AI新闻 →