Всемирная организация здравоохранения в понедельник опубликовала новый отчет, призывающий к усилению этических гарантий и надзора за использованием искусственного интеллекта в медицинских исследованиях, предупреждая, что существующие механизмы проверки не всегда способны справиться с новыми рисками, которые ИИ привносит в медицинскую науку.
В докладе, озаглавленном «Исследования в области здравоохранения, связанные с искусственным интеллектом: этический обзор и надзор», предлагаются рекомендации для исследователей, комитетов по этике, регулирующих органов, спонсоров и политиков о том, как обеспечить ответственное проведение исследований в области здравоохранения с использованием ИИ. Он был совместно разработан экспертами ВОЗ, работающими в области исследовательской этики, науки, цифрового здравоохранения и искусственного интеллекта, и был запущен одновременно с виртуальным мероприятием в понедельник. Подробнее об этой истории — в нашем тенденции ИИ.
По данным ВОЗ, искусственный интеллект быстро меняет методы проведения исследований в области здравоохранения — меняя способы анализа данных о здоровье, способы разработки исследований и способы разработки и оценки новых технологий. Но организация предупреждает, что без надежных мер безопасности исследования, связанные с ИИ, могут создать риски, которые подрывают права человека, справедливость и общественное доверие.
О чем говорится в новом докладе ВОЗ
В отчете выделяются три широкие категории медицинских исследований, связанных с ИИ: исследования в области здравоохранения, в которых используется ИИ для анализа данных, исследования, в которых используются инструменты и технологии ИИ, и исследования в области здравоохранения, проводимые с использованием самих инструментов и технологий ИИ.
По каждой категории в публикации рассматривается, как можно усилить этический надзор на протяжении всего жизненного цикла исследования — от дизайна исследования и этической экспертизы до публикации, регулирования и практической реализации.
ВОЗ предупреждает, что существующие механизмы этического надзора «не всегда могут быть оснащены» для устранения конкретных рисков, которые ИИ привносит в исследовательский процесс, включая проблемы, связанные с прозрачностью, предвзятостью, справедливостью, подотчетностью, конфиденциальностью и потенциальным вредом, возникающим в результате быстрого развертывания инструментов с поддержкой ИИ.
Почему существующие структуры проверки испытывают трудности
«Искусственный интеллект создает беспрецедентные возможности для ускорения медицинских исследований и улучшения жизни людей», — заявила в своем заявлении доктор Мэг Доэрти, директор Департамента науки здравоохранения ВОЗ. «В то же время инновации должны основываться на строгих этических гарантиях, защищающих человеческое достоинство, права и равенство».
Доэрти описал отчет как содержащий «практические соображения», которые помогут исследователям, комитетам по этике и политикам ориентироваться как в возможностях, так и в рисках, связанных с исследованиями в области здравоохранения, связанными с ИИ.
В докладе комитеты по этике исследований — институциональные органы, которые рассматривают исследования с участием людей — находятся в центре системы надзора. Но он признает, что этим комитетам могут потребоваться дополнительные знания, обучение и ресурсы для эффективного рассмотрения все более сложных исследований, связанных с ИИ, которые часто включают непрозрачные модели, большие наборы данных и методы, выходящие за рамки традиционной подготовки экспертов по этике.
Ответственность, выходящая за рамки комитета по этике
Издание также подчеркивает, что ответственность не ограничивается комитетом по этике. По словам ВОЗ, сами исследователи несут ответственность за раннее выявление и смягчение этических рисков, прозрачное общение и рассмотрение более широких социальных последствий технологий искусственного интеллекта, которые они создают и внедряют.
Помимо отдельных исследователей и комитетов, в докладе подчеркивается роль спонсоров, научных журналов, органов управления данными, профессиональных обществ и регулирующих органов в продвижении ответственных медицинских исследований, связанных с ИИ. Примечательно, что в нем утверждается, что с некоторыми системными проблемами просто невозможно справиться только посредством анализа каждого проекта — признание того, что влияние ИИ на исследовательскую экосистему требует структурных мер реагирования на институциональном уровне.
«Эффективное управление использованием ИИ в медицинских исследованиях требует сотрудничества между дисциплинами, секторами и учреждениями», — сказал д-р Ален Лабрик, директор Департамента данных, цифровой медицинской аналитики и искусственного интеллекта ВОЗ. «Поскольку технологии искусственного интеллекта продолжают быстро развиваться, нам нужны механизмы надзора, которые были бы гибкими, основанными на фактических данных и способными гарантировать, что инновации остаются безопасными, заслуживающими доверия и полезными для всех».
Измерение собственного капитала
Значительная часть доклада посвящена проблемам и возможностям в странах с низким и средним уровнем дохода. Хотя ИИ обладает значительным потенциалом для решения постоянных проблем со здоровьем в этих условиях, ВОЗ отмечает, что большая часть сегодняшних исследований и разработок технологий в области ИИ по-прежнему сосредоточена в странах с более высоким уровнем дохода.
Поэтому укрепление местного лидерства, потенциала и участия в медицинских исследованиях, связанных с ИИ, будет иметь решающее значение, утверждает организация — как для обеспечения справедливого распределения преимуществ ИИ, так и для предотвращения создания новых форм изоляции или неравенства в глобальной науке о здравоохранении.
Отправная точка, а не последнее слово
Признавая, насколько быстро развиваются технологии, ВОЗ описывает этот отчет как отправную точку для усиления этического надзора в эпоху медицинских исследований, связанных с ИИ, а также как основу для разработки будущих стандартов, руководств и подходов к управлению.
Отчет появился на фоне того, что системы здравоохранения во всем мире все чаще экспериментируют с искусственным интеллектом для диагностики, открытия лекарств и клинической документации, что оказывает давление на исследовательские учреждения, чтобы те адаптировали свои процессы проверки. Послание ВОЗ учреждениям заключается в том, что сейчас есть возможность создать компетентный надзор — до того, как результаты, полученные с помощью ИИ, исследования, разработанные с помощью ИИ, и наборы данных, проанализированные с помощью ИИ, станут нормой, а не исключением.
Полный отчет и подробности виртуального мероприятия, посвященного запуску в понедельник, доступны по официальным каналам Всемирной организации здравоохранения.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
