OpenAI 扰乱了俄罗斯和伊朗的人工智能影响力，影响了真正的新闻编辑室

OpenAI 禁止了俄罗斯“Dark Clark”和伊朗“Bogus Bylines”这两个秘密影响行动背后的 ChatGPT 帐户，这些行动在真实媒体中植入了宣传。

OpenAI 周四表示，它已禁止两项秘密影响行动——一项来自俄罗斯，一项来自伊朗——利用 ChatGPT 运行复杂的“虚假阵线”实体，旨在向真正的媒体机构洗钱地缘政治宣传。该公司表示，源自俄罗斯的活动是自两年半前开始发布威胁报告以来，其破坏的影响最深远的行动。

该披露发布在 OpenAI 网站上，是一系列有关国家相关行为者如何滥用商业人工智能模型的报告中的最新一篇。正如我们在最新的突发人工智能新闻综述中指出的那样，它还强调了 OpenAI 自 2024 年初以来在其曝光的 30 项秘密行动中观察到的一种模式：成功地将其内容发布在真实出版物中的活动比依赖虚假社交媒体帐户的活动所吸引的受众要多得多。

第 5 类：“Dark Clark”行动

俄罗斯的行动被 OpenAI 称为“黑暗克拉克”，以拉丁美洲一个自称为社会研究中心（SRC）的研究组织为中心。据 OpenAI 称，运营商通过一个名为“米娅·克拉克”的捏造人物控制了智囊团，而拉丁美洲的当地员工在不知道自己为俄罗斯集团工作的情况下进行了采访并起草了研究论文。

OpenAI 使用布鲁金斯学会制定的突破等级（按 1 比 6 衡量影响力行动的潜在影响力）对达克克拉克进行了第 5 类评估，这是自报告开始以来它对任何行动给予的最高评级。源自伊朗的活动达到了第 4 类。

OpenAI 表示，运营商对 ChatGPT 的大部分使用情况都进入了向未知处理者提交的内部报告，描述了诋毁乌克兰、破坏乌克兰武装部队招募以及干涉阿根廷和玻利维亚国内政治的活动。运营商大多用俄语进行提示，并依靠 VPN 来访问该服务，这会阻止来自俄罗斯的流量。

OpenAI 的研究人员通过开源证实了该行动声称的多项活动。其中一封涉及假冒来自利马地区教育局的虚假电子邮件，指示秘鲁首都的学校在国家多元化日举办纪念斯捷潘·班德拉（Stepan Bandera）——备受争议的乌克兰民族主义人物——的活动。秘鲁和波兰媒体报道了随后的争议，报道中还引用了欧洲议会的一名波兰议员的话。在厄瓜多尔，运营商使用虚假电子邮件地址欺骗学校宣誓效忠总统丹尼尔·诺博亚和前黑水公司总裁埃里克·普林斯；这一噱头引起了媒体报道和厄瓜多尔教育部长的公开反驳。

该行动还传播了捏造的录音，其中一段来自玻利维亚国有水务公司 EPSAS 的一名工人，声称政府将削减对拉巴斯的供水，另一段则来自乌克兰驻厄瓜多尔领事。两国的事实核查人员都驳斥了这些说法。开源研究人员此前曾将类似活动与“政治学”或“La Compania”联系起来，这些实体被描述为已故叶夫根尼·普里戈任行动的继承者，而运营商自己的报告声称针对阿根廷总统哈维尔·米莱的活动与公开报道相符。

七名假记者：“假署名”行动

伊朗的行动采取了不同的途径进入媒体生态系统。其运营商使用波斯语推出 ChatGPT，利用该模型提炼有关美伊冲突的长篇英文文章，然后使用七位捏造的记者角色将其投放给中小型在线媒体的编辑：Ervin B. Hoskins、Noah Lamington、Sophia Gonzalez、Michael Harrison、Ericka Feusier、Jenny Williams 和 Alice Johnson。

OpenAI 发现了全球大约 12 家媒体发表或联合发表的近 100 篇文章，其中大多数关注国际事务和中东。该行动还产生了一批社交媒体评论，尽管 OpenAI 表示这些评论几乎没有引起真正的参与，并指出运营商在其内部报告中使用了欺骗性的计算来夸大其明显的社交媒体影响力。该公司表示，该活动似乎与商业行为者开展受雇影响力活动相符，并且已与相关当局分享信息。

旧的手艺，新的工具

OpenAI 写道，最让研究人员震惊的是，这两种操作与前人工智能时代的影响力活动非常相似。这些假记者的角色与“爱丽丝·多诺万”（Alice Donovan）非常相似，“爱丽丝·多诺万”是一位代表俄罗斯军事情报部门的虚构记者，其专栏文章于 2016 年和 2017 年出现在西方媒体上。SRC 不知情的当地工作人员呼应了“PeaceData”，这是一个在 2020 年拉拢真实记者的假新闻网站。

人工智能并没有发明这些技术，而是让它们变得更便宜、更快、更流畅。运营商使用模型根据当地词汇和机构风格定制假货，将脚本翻译成西班牙语区域变体，并为编辑制作精美的推介电子邮件。但 OpenAI 认为，假面操作的隐蔽性、个人对人的性质也使它们很容易暴露：Alice Donovan 和 PeaceData 在被公开点名后都被关闭。