研究发现，人工智能建议使人们的准确度降低三倍，但信心却提高一倍

研究人员发现，获得人工智能建议的准确性从 27% 下降到 9%，而置信度从 30% 飙升到 76%。愿意说“我不知道”的比例从 44% 骤降至 3%。

三所欧洲大学研究人员的一项新研究表明，获得人工智能建议会使人们在回答问题方面变得更加糟糕，同时使他们对错误答案更加自信。该研究结果于 2026 年 7 月 19 日发布，为越来越多的证据提供了尖锐的数据点，表明人工智能工具可以抑制而不是增强独立判断。

这项研究调查了人们在获得人工智能帮助时的反应，并通过人工智能突发新闻报道浮出水面，该报道追踪了人们对人类过度依赖自动化系统日益增长的担忧。结果令人震惊：当人工智能可供咨询时，人们的准确度降低了大约三倍，但信心却提高了近两倍。

承认无知的意愿崩溃

这项研究由米兰比可卡大学副教授瓦莱里奥·卡普拉罗（Valerio Capraro）、巴黎高等师范学院的基亚拉·马尔科西亚（Chiara Marcoccia）和罗马萨皮恩扎大学的沃尔特·夸特罗西奥基（Walter Quattrociocchi）共同撰写。研究人员特意围绕人工智能模型通常失败的问题设计了他们的实验——电影中的视觉细节，例如《像贝克汉姆一样弯曲》中球队制服的颜色。

为了确保任何性能下降都不能被解释为对可靠工具的合理委托，团队使用了 Step 3.5 Flash，该模型在这些问题上通常是错误的。该设置不是测试人工智能是否能提供帮助，而是测试它的存在是否会扭曲人类的判断。

结果是明确的。当没有人工智能可用时，44％的参与者愿意说“我不知道”。当人工智能建议出现时，这个数字下降到只有 3%。准确率从 27% 下降到 9%，而置信度从 30% 飙升到 76%。

> 人们变得更加糟糕。准确率只有三分之一，但他们的信心却高了一倍。

卡普拉罗的这句话概括了核心发现：一些本来可以自己回答正确的参与者咨询了人工智能，结果却错了——但他们对自己的答案感觉比以前更好了。

货币激励几乎没有帮助

研究人员希望经济奖励可以抵消这种影响，因此为参与者提供了正确答案的金钱奖励。干预有所帮助，但效果有限。承认无知的意愿从 3% 上升到 8%，准确率从 9% 提高到 16%——两者仍然远低于无人工智能的 44% 和 27% 的基线。

其意义重大。即使人们有具体的财务理由来仔细思考并避免错误，自信的人工智能答案的引力仍然足够强大，足以推翻更好的判断。

“认知投降”现象

这些发现与沃顿商学院研究人员的早期研究相呼应，他们今年创造了“认知投降”一词来描述相同的模式。在他们的研究中，人们在大约 80% 的情况下接受了错误的人工智能答案，同时比没有人工智能帮助的人更有信心。

欧洲的新研究增加了一个更精确的机制。人们不仅仅是在遇到错误的人工智能答案时才相信这些答案。人工智能观点的可用性抑制了认识到自己知识局限性的认知习惯——停下来说“我不知道”的基本能力。

对于人类来说，承认不确定性的能力是学习和决策的基础。卡普拉罗说，他特别关心儿童，他们在发展成熟的批判性思维技能之前就与这些系统一起成长。

对人工智能产品设计的更广泛影响

这项研究正值一场关于人工智能工具如何构建和部署的更广泛争论之中。谷歌对其搜索产品进行了全面改革，用人工智能生成的摘要取代了传统的链接，这些摘要具有一致的权威性，倡导组织 Common Sense Media 本周称这种设计对学生来说是“不可接受的风险”。

研究人员发现的模式在各个产品中都是一致的：人工智能系统旨在回答，几乎从不说“我不知道”。证据表明，使用它们的人类正在学习做同样的事情。

这所产生的后果远远超出了有关电影的琐事。在工作场所、医院和教室中，一种削弱人们标记不确定性的意愿的工具可能会悄悄降低决策质量，尽管它给人一种赋予权力的感觉。在许多情况下，它所灌输的信心与潜在的准确性所保证的恰恰相反。

接下来会发生什么

研究人员认为，这些发现应该重塑人工智能助手的设计方式。如果人工智能的默认行为是无论可靠性如何都给出自信的答案，那么识别不确定性的负担就完全落在用户身上，而数据显示，他们没有能力承担这一负担。构建能够校准和传达自身不确定性的系统——并且在证据薄弱时犹豫而不是断言——可能对于保持人类判断的完整性至关重要。

在那之前，这项研究提供了一个简单但令人不安的教训：听起来确定的人工智能与正确的人工智能并不相同。人类本能地相信自信的声音，即使是错误的声音，可能是该技术迄今为止释放的最强大的力量。