犹他州已成为美国第一个人工智能系统可以检查患者并开药的州,而无需医生直接批准每项决定。该项目围绕皮肤科初创公司 Nolla Health 建立,于本周上线并立即引起全国关注,《西雅图时报》直言不讳地总结了这一里程碑:人工智能首次取代了处方医生——治疗痤疮。
试点范围被刻意缩小,但其监管意义却并非如此。多年来,人工智能在医学领域一直被定位为一个助手,可以起草笔记或标记结果供人类临床医生签字。犹他州的安排取消了对特定类别患者的签字,使其成为迄今为止监管机构、医生和患者是否会接受算法作为处方方的最明确测试。 更多相关背景,请参阅我们的AI行业报道。
Nolla 健康试点项目如何运作
该计划通过 Nolla Health 的应用程序运行,每月费用为 4.99 美元,仅限于轻度至中度痤疮患者。治疗窗口期为一年。
患者首先使用该应用程序扫描面部并填写病史和个人信息表。根据 TechSpot 的发布报告,人工智能随后会分析皮肤图像,对油性进行评级,并生成痤疮严重程度评分,范围从透明皮肤到严重痤疮。
该分数与患者的医疗信息相结合,从八种批准的治疗方法列表中得出处方推荐。这八种药物都是外用药物,而不是药丸,这一限制使得最危险的副作用类别被排除在外。
Noll Health 首席执行官 Luis Wenus 表示,与八种批准药物相关的不良反应仅限于局部皮肤刺激或干燥——其风险比全身药物低得多,这也是监管机构愿意让人工智能在减少监管的情况下运行的原因之一。
人工审核的三阶段淘汰
犹他州计划引人注目的不是人工智能的诊断任务,它是有界和可视化的,而是医生有计划地从循环中撤退。
在第一阶段,前100张处方在提交给药房之前仍须经过实际医生的审核。在第二阶段,接下来的 400 名患者的处方由人工智能本身提交给药房,由医生每周回顾性审查。在最后阶段,医生会审核至少 10% 的处方,每月检查一次。
试点结束时,处方可以从智能手机摄像头传输到药房,根本不需要任何前瞻性的人工审查——只有事后统计抽样。犹他州的方法有效地将处方视为质量控制过程中的输出,而不是个人临床决策,医学评论员长期以来警告说,这种结构性转变将比许多人预期的更快到来。
为什么选择痤疮,为什么选择犹他州
从很多方面来说,痤疮都是自主处方的理想试验场。它是肉眼可诊断的,是慢性的而不是危及生命的,并且可以通过小型、特征明确的处方进行治疗。在批准的清单中做出错误选择的下行风险很低,而且基本上是可逆的,这正是监管机构在设计有界实验时所需要的。
与此同时,犹他州近年来一直将自己定位为美国人工智能最先进的州政府之一。彭博社法律此前曾报道称,该州正在权衡其“人工智能医生”处方试点与监督问题,而包括 TechBuzz News 在内的当地媒体描述了一项有利于人类的人工智能计划,该计划最近增加了一个由指定独立评估员组成的医疗保健支柱。贸易出版物 STAT 报道称,犹他州正在推进更多涵盖处方和女性健康的健康人工智能试点项目,而 MobiHealthNews 则证实了 Nolla Health 本周在犹他州启动。
换句话说,痤疮飞行员并不是一个孤立的噱头。这是一项深思熟虑的国家级战略中最明显的部分,即首先推进自主医疗人工智能并围绕其建立评估基础设施。
监督争论
患者安全倡导者提出了常见的担忧。处方的回顾性审查意味着错误是在患者接受药物之后而不是之前发现的。每周和每月的采样窗口为系统错误(影响所有类别患者的类型)留下了空间,可以在人类注意到之前重复出现。
还有一个先例问题。如果痤疮的自主处方被接受,那么将其扩展到其他可通过视觉诊断、受处方限制的疾病(结膜炎、某些皮疹、抗真菌治疗)的争论就不言而喻了。每个扩展都可以单独防御,同时将医学共同推向一个模型,其中算法是默认处方者,医生是审核员。
越来越多的消费者依赖通用聊天机器人提供医疗建议,但结果却带来了有害结果,这加剧了医学界的不安,而人工智能公司本身也竞相限制这种情况。具有固定处方和定义评分标准的专用系统与开放式聊天机器人是非常不同的工件,但公众倾向于将两者归为同一心理类别。
接下来会发生什么
试点的一年窗口意味着犹他州将在大多数州就该问题起草立场之前就获得有关自主处方的真实数据。重要的数字是每个阶段的错误率、大约 500 个监督处方的患者结果,以及回顾性审查系统是否真正发现了它旨在发现的错误。
目前,该项目仍然是其设计者的初衷:一个小型的、精心围护的实验。但前进的方向是明确无误的,犹他州刚刚成为美国第一个了解当处方簿是一种算法时会发生什么的司法管辖区。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →