苹果发起了一项大规模研究工作,以了解人们如何实际使用对话式人工智能来维护健康。苹果健康人工智能使用研究周一在美国宣布,是一项虚拟研究和配套应用程序,旨在检查用户信任的驱动力、人们对人工智能生成的健康答案的理解程度,以及这些答案是否转化为日常健康行动。
据 Fierce Healthcare 称,这项研究在 HLTH26 医疗保健会议上公布,将在美国招募多达 200,000 名符合条件的参与者。它到来之际,数百万人已经将症状粘贴到通用聊天机器人中,并且临床医生越来越多地转向自己的人工智能工具——医疗和消费技术行业的最新人工智能发展密切关注这一转变。
研究将衡量什么
根据苹果公司的公告,该研究旨在通过检查几个维度来加深对人们如何与对话式健康人工智能工具互动的理解:用户信任的驱动因素、人们收到的响应的质量、参与者对信息的理解程度以及由此产生的日常健康行为。
既定目标是为苹果和更广泛的行业提供负责任的健康人工智能体验设计。该研究不仅仅衡量模型是否产生医学上准确的输出,而是着眼于问题、答案和现实世界行为之间的完整循环——这是消费者健康人工智能受到最多批评的领域。
与 OpenEvidence 的合作
该研究是与 OpenEvidence 合作进行的,OpenEvidence 是一个临床人工智能平台,被医疗保健专业人员广泛使用,并根据现有医学文献生成答案,包括《新英格兰医学杂志》、《美国医学会杂志》和《自然》。
这种配对是经过深思熟虑的。研究参与者将能够向研究应用程序提出日常健康问题,并获得由 OpenEvidence 开发的基于医学的人工智能技术生成的答案,并通过 Apple 设计的研究体验提供。 STAT 报道了此次发布,并将这一结果描述为专为该研究构建的实验性健康聊天应用程序。
加州大学旧金山分校医学系教授兼系主任 Robert M. Wachter 在苹果公司的声明中表示:“患者和临床医生都在转向人工智能,但他们使用的工具是在不同的世界中构建和测试的。” “当患者和医生使用相同的值得信赖的工具版本时,患者就会做好准备,对话会得到改善,后续步骤也会无缝进行。连接这些工具并严格研究哪些工具有效,这就是我们实现这一目标的方法。”
谁可以加入,数据会发生什么
该研究向全美 200,000 名 21 岁及以上的合格参与者开放。要注册,参与者必须拥有支持 Apple Intelligence 的 iPhone(iPhone 15 Pro 或更高版本),运行 iOS 26 或更高版本,并且可以通过研究应用程序加入。
苹果表示,这项研究的设计从一开始就考虑到了隐私保护、透明度和临床护栏。该公司表示,研究数据不会用于训练人工智能模型。参与者保留对是否共享 HealthKit 指标或调查回复的控制权,苹果公司表示,它已经实施了安全措施来保护其维护的研究数据。
该研究应用程序还包括安全护栏,旨在检测某些相关问题并提供适当的资源——这是对通用聊天机器人在用户描述医疗危机或自残时反复处理不佳的边缘情况的认可。
为什么苹果要从信任开始
苹果公司健康与健身副总裁 Sumbul Desai 在声明中表示:“在苹果公司,我们相信负责任的创新始于科学严谨性和临床基础。健康是非常个性化的,进行专门的研究是了解人们如何在日常生活中参与、理解和评估健康人工智能的最深思熟虑的方式。”
这一框架是苹果健康战略的特点,该战略一贯倾向于谨慎、有研究支持的推出,而不是快速推出功能。通过直接研究信任和理解——而不是发布医疗聊天机器人并在公开场合进行迭代——苹果将严谨性本身定位为消费者健康人工智能市场的差异化因素,该市场的增长速度快于其证据基础。
这对健康人工智能竞赛意味着什么
此次发布对更广泛的行业来说意味着两件事。首先,苹果选择与一家成熟的临床人工智能提供商合作,而不是为这项研究构建自己的医疗答案引擎,这承认将医疗人工智能植根于同行评审文献是一门专业学科。其次,参与者规模高达 20 万人,这将使其成为有史以来最大规模的消费者与健康人工智能互动的研究之一,其研究结果可能会影响监管机构、临床医生和平台公司如何判断“负责任”的健康人工智能。
竞争对手正在密切关注。随着对话式人工智能进入医学等高风险领域,那些能够通过已发布的证据(而不仅仅是基准)来证明信任、理解和安全的公司可能会在用户和卫生系统方面拥有最有力的案例。
保持人工智能领先地位
不要错过人工智能改变医疗保健、工作和日常生活的任何一个环节。 阅读更多人工智能新闻 →
