根据 Responsible Statecraft 周一发布的一项调查显示，代表以色列政府创建的一个假智囊团在短短一周多的时间里发布了 100 多份精心设计的研究报告，分析人士称这是一场蓄意操纵人工智能聊天机器人为用户提供的有关以色列和巴勒斯坦问题的答案的活动。
该组织名为汉诺威公共政策研究所，是一个专注于以色列/巴勒斯坦问题的新研究机构。但其报告没有署名，网站底部的免责声明承认该报告是由 Piro, Inc. 代表以色列政府广告公司创建的，该公司由丹尼尔·罗森伯格 (Daniel Rosenberg) 联合创立，丹尼尔·罗森伯格是斯派克·李 (Spike Lee) 的《局内人》(Inside Man) 的电影制片人。该故事被《阿拉伯新闻》和《摇篮》等媒体转载，这是影响力运作正在从社交媒体转向人工智能模型的最新迹象。有关人工智能时代操纵如何演变的更多信息，请关注我们的突发人工智能新闻报道。 更多相关背景，请参阅我们的AI行业报道。
专为法学硕士如何判断可信度而设计的报告
汉诺威研究所的不同寻常之处在于，它的输出似乎是根据大型语言模型评估源的方式量身定制的。据 Responsible Statecraft 报道，它的“数据报告”带有脚注、目录和谨慎、中性的语气——这种格式有助于文档吸引克劳德或双子座等聊天机器人。
许多标题的措辞都是用户可能在聊天机器人中输入的确切问题：“是什么导致 1948 年巴勒斯坦人流离失所？” “哪些人道主义组织记录了以色列的战争罪行？” “加沙地带目前局势如何？”以及“以色列国防军是世界上最有道德的军队吗？” — 其中最后一项引用了 2022 年的一项民意调查，结果显示 47% 的以色列犹太人相信这种描述。
Piro 自己的网站对这种方法直言不讳。该公司表示，它编写了“为法学硕士如何评估可信度而设计的内容”，该服务被称为“人工智能故事优化”。研究人员给这种做法起了一个更直白的名字：“法学硕士中毒”。
可信机构的“完美模仿”
虚假信息跟踪公司 NewsGuard 的分析师爱丽丝·李 (Alice Lee) 告诉 Responsible Statecraft，该网站的报告似乎旨在吸引对这场冲突感到好奇的美国受众，无论是通过搜索引擎还是人工智能助手。
“法学硕士喜欢具体的统计数据和数据，以及强有力的引用和来源，这些文章都有，”李说。 “它完美模仿了典型的可信的美国智库，包括通用名称、站点布局和红白蓝配色方案。”
该研究所还公布了其声称的原创发现——例如，一项研究声称，在 36 个观看次数最多的以色列-加沙解说视频中，有 19 个包含有争议的说法，其中大多数有争议的说法与巴勒斯坦的叙述一致。其他报告对既定文件进行了反驳，其中一份报告对联合国儿童基金会有关加沙 90% 的水和机构基础设施已遭到破坏或摧毁的说法提出了质疑。
值得注意的是，产出并不总是遵循以色列政府的路线。一份报告描述了一种理论，即外国对大学的资助将反犹太主义事件解释为“软弱且充满例外”——尽管总理本杰明·内塔尼亚胡（Benjamin Netanyahu）宣扬了这一理论，告诉布赖特巴特新闻网，外国行为者已经在美国校园上花费了“数十亿”。许多报告最后都将当前的话题与日益高涨的反犹太主义联系起来，并经常引用相同的研究。
追随金钱：通过一家法国公关集团筹集 900,000 美元
据 Responsible Statecraft 称，Piro, Inc. 已从以色列政府获得 90 万美元的工作费用，该工作通过法国公共关系集团 Havas Media 进行分包——这一安排与其他以色列承包商因海外影响力工作而获得报酬的方式一致。
汉诺威研究所于 8 月 6 日开始发布。此后大约十天的时间里，它已经制作了 100 多份报告，这样的速度是任何规模相当的真正的政策机构都无法匹敌的。
为什么聊天机器人的操作不同
该案例凸显了人工智能助手在收集答案时的结构性弱点：它们将引用充分、统计数据丰富的文档视为可信的，无论是谁生成的或为何生成这些文档。传统的虚假信息针对的是社交平台上的人类读者，在这些平台上，情感冲击力最为重要。所谓的 LLM 中毒的目标是检索和排名层，这些层决定模型引用的来源，然后一份有说服力的文档就可以回应数百万个答案。
对于聊天机器人开发人员来说，汉诺威研究所是源审查的压力测试。 NewsGuard 的评估表明，这种模仿足以欺骗自动可信度信号。对于读者来说，这个教训更简单：聊天机器人给你的有关争议性冲突的自信、脚注清晰的答案可能可以追溯到一个为产生确切答案而建立、品牌化和资助的组织。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
