根据本周在语言建模会议 (COLM) 上发表的一项经过同行评审的研究，仅仅花十分钟依赖人工智能工具就会严重损害一个人专注和坚持完成困难任务的能力。
这篇题为《人工智能辅助减少持久性并损害独立绩效》的论文由加州大学伯克利分校人类兼容人工智能中心研究员、作家兼研究员布莱恩·克里斯蒂安（Brian Christian）与卡内基梅隆大学、麻省理工学院、牛津大学和加州大学洛杉矶分校的学者共同撰写。这项工作的早期草稿于春季流传，但经过同行评审的更新版本在本周的会议上发布，加州大学伯克利分校的研究办公室于 10 月 9 日发布了详细的摘要。 更多相关背景，请参阅我们的人工智能资讯。
研究人员发现了什么
为了衡量人们的注意力和毅力下降的速度，该团队对在线招募的 1,222 名参与者进行了一系列随机对照试验。
在第一个实验中，354 名参与者被要求解决 15 个基本分数问题。一组在没有帮助的情况下工作，而第二组则打开了 ChatGPT，可以自由地使用它来寻求帮助，甚至直接询问答案。拥有人工智能访问权限的小组一开始更加准确。然后，在解决了 12 个问题之后，研究人员就把这个工具拿走了。几乎立刻，该组的准确性就崩溃了。
第二组 667 名参与者也重复了同样的模式。当人工智能援助被撤回时，人工智能用户会得到错误的答案或完全放弃，而独立工作的小组则坚持任务并更成功地完成任务。
第三个实验有 201 名参与者，将数学问题改为 SAT 阅读理解提示。结果与早期的试验相呼应：当工具消失时，持久性和准确性也随之消失。
“你几乎找不到比这更清晰的故事了，”克里斯蒂安在加州大学伯克利分校发表的评论中说道。
即时答案的“人力成本”
研究人员认为，问题不在于人工智能本身，而在于它默认提供的帮助类型。当系统在几秒钟内产生答案时，用户就会习惯这种速度，任何较慢的事情都会开始感觉效率低下。依赖该工具还消除了团队所说的“富有成效的斗争”——帮助人们发现自己的优势和兴趣的努力参与。
“我们构建这些系统是为了提供帮助，但它们是否以真正帮助我们的方式为我们提供帮助？”克里斯蒂安说。 “讽刺的是，我们发现他们经常以无益的方式帮助我们。”
Christian 的 2020 年著作《对齐问题》被广泛认为是人工智能安全方面最容易理解的著作之一，他表示这一发现为许多人的直觉提供了证据。 “这是一个惊人的发现，但在某种程度上，它为我们很多人内心深处感受到的故事提供了弹药，”他说。 “我也经历过。”
为什么它比分数更重要
这项研究是在人们日益关注教育中的认知卸载之际进行的。根据伯克利分校的报告，前沿人工智能公司自己也承认，将任务转移给聊天机器人可能会降低用户对某个主题的基本理解。克里斯蒂安提出了一个可能的解决方案：人工智能的反应可以默认为更具指导性——表现得像一个指导性的导师，而不是一个替代的答题机。
“我们需要努力实现一个人类能力尽可能增强而不是被取代的未来，”他说。
他的关注延伸到专业研究。克里斯蒂安担心，科学领域对人工智能工具的过度依赖可能会侵蚀成为一名优秀科学家的习惯：密切关注数据、沉浸在材料中以及与团队密切合作。他指出，一个由十人组成的研究小组，产生突破性的想法，可能会缩小到两到三名研究人员和一个聊天机器人。
“这不是一个关于分数和 SAT 问题的故事，”克里斯蒂安说。 “从上到下，从小学生一直到世界领先的专家，人类知识和专业知识正在发生这种情况。”
一项进入主流的研究
据加州大学伯克利分校称，初稿于春季发表时，早期发现引起了《连线》和《今日心理学》的报道，《纽约时报》上周发表了一篇关于这篇论文和类似研究的报道。 COLM（该领域语言建模研究的主要场所之一）上经过同行评审的演示文稿现在给该结果打上了正式的印记。
对于教育工作者和雇主来说，这个信息虽然令人不安，但却很具体：即使是短暂接触即时人工智能答案，也会显着改变人们在无法获得答案时的行为方式。对于人工智能公司来说，这项研究增加了设计系统的压力，这些系统的教学次数和解决次数一样多。
克里斯蒂安则在他的桌子上放了一个笔记本，每天都在上面写字。他告诉伯克利，这种做法让他脚踏实地，并防止自己的学术优势变得迟钝。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
