世界卫生组织周一发布了一份新报告，呼吁在健康研究中加强对人工智能的道德保障和监督，并警告说，现有的审查机制并不总是能够应对人工智能给医学科学带来的新风险。
该报告题为“人工智能相关的健康研究：伦理审查和监督”，为研究人员、伦理委员会、监管机构、资助者和政策制定者提供了如何确保人工智能支持的健康研究负责任地进行的建议。它是由世卫组织研究伦理、科学、数字健康和人工智能领域的专家联合开发的，并于周一举行的一场虚拟活动同时推出。 更多相关背景，请参阅我们的AI行业报道。
世界卫生组织表示，人工智能正在迅速重塑健康研究的进行方式——改变健康数据的分析方式、研究的设计方式以及新技术的开发和评估方式。但该组织警告说，如果没有强有力的保障措施，人工智能相关研究可能会带来损害人权、公平和公众信任的风险。
世界卫生组织新报告涵盖的内容
该报告确定了人工智能相关健康研究的三大类：使用人工智能分析数据的健康相关研究、使用人工智能工具和技术的研究以及利用人工智能工具和技术本身进行的健康相关研究。
对于每个类别，该出版物都研究了如何在整个研究生命周期中加强道德监督——从研究设计和道德审查到出版、监管和现实世界的实施。
世界卫生组织警告说，现有的道德监督机制“可能并不总是能够”解决人工智能给研究过程带来的特定风险，包括与透明度、偏见、公平、问责制、隐私以及快速部署人工智能工具所产生的潜在危害相关的问题。
为什么现有的审查结构面临压力
世卫组织健康科学司司长梅格·多尔蒂博士在声明中表示：“人工智能正在创造前所未有的机会，加速健康研究并改善人们的生活。” “与此同时，创新必须以强有力的道德保障为指导，以保护人类尊严、权利和公平。”
多尔蒂称该报告提供了“实际考虑”，以帮助研究人员、伦理委员会和政策制定者把握与人工智能相关的健康研究相关的机遇和风险。
该报告将研究伦理委员会（审查涉及人类参与者的研究的机构）置于监督框架的中心。但它承认，这些委员会可能需要额外的专业知识、培训和资源来有效审查日益复杂的人工智能相关研究，这些研究通常涉及不透明的模型、大型数据集和技术，超出了伦理审查员的传统培训范围。
道德委员会之外的责任
该出版物还强调，责任不仅仅限于道德委员会。世界卫生组织表示，研究人员本身有责任尽早识别和减轻道德风险，透明地沟通，并考虑他们构建和部署的人工智能技术的更广泛的社会影响。
除了个别研究人员和委员会之外，该报告还强调了资助者、科学期刊、数据治理机构、专业协会和监管机构在促进负责任的人工智能相关健康研究方面的作用。值得注意的是，它认为一些系统性挑战根本无法仅通过逐个项目的审查来应对——认识到人工智能对研究生态系统的影响需要结构性的、机构层面的应对措施。
世卫组织数据、数字健康分析和人工智能司司长阿兰·拉布里克博士表示：“健康研究中人工智能的有效治理需要跨学科、部门和机构的合作。” “随着人工智能技术不断快速发展，我们需要灵活、基于证据并能够确保创新安全、值得信赖并造福所有人的监督机制。”
股权维度
报告的很大一部分讨论了低收入和中等收入国家的挑战和机遇。尽管人工智能在帮助解决这些环境中持续存在的健康挑战方面具有巨大潜力，但世界卫生组织指出，当今的大部分人工智能研究和技术开发仍然集中在高收入国家。
因此，该组织认为，加强当地在人工智能相关健康研究中的领导力、能力和参与至关重要——既要确保人工智能的好处得到公平分配，又要避免在全球健康科学中造成新形式的排斥或不平等。
起点，而非终点
世卫组织认识到该技术的发展速度有多快，因此将该报告描述为在人工智能相关健康研究时代加强道德监督的起点，并作为制定未来标准、指南和治理方法的基础。
该报告发布之际，世界各地的卫生系统越来越多地尝试利用人工智能进行诊断、药物发现和临床记录，这给研究机构带来了调整其审查流程的压力。世界卫生组织向各机构传达的信息是，在人工智能生成的发现、人工智能设计的试验和人工智能分析的数据集成为常态而不是例外之前，现在是建立有效监督的窗口。
周一虚拟启动活动的完整报告和详细信息可通过世界卫生组织的官方渠道获取。
---
掌握AI最新动态获取最新的AI新闻、分析和突破——尽在一处。
阅读更多AI新闻 →
