У понеділок Всесвітня організація охорони здоров’я опублікувала новий звіт, у якому закликає до посилення етичних гарантій і нагляду за штучним інтелектом у дослідженнях у сфері охорони здоров’я, попереджаючи, що існуючі механізми перевірки не завжди здатні впоратися з новими ризиками, які штучний інтелект привносить у медичну науку.
У звіті під назвою «Дослідження охорони здоров’я, пов’язані зі штучним інтелектом: етичний огляд і нагляд» пропонуються рекомендації для дослідників, комітетів з етики, регуляторів, спонсорів і політиків щодо того, як забезпечити відповідальне проведення досліджень охорони здоров’я за допомогою ШІ. Він був спільно розроблений експертами ВООЗ, які працюють у сфері дослідницької етики, науки, цифрового здоров’я та штучного інтелекту, і був запущений разом із віртуальним заходом у понеділок. For more context on this story, see our ongoing breaking AI news.
За даними ВООЗ, штучний інтелект швидко змінює спосіб проведення досліджень у сфері охорони здоров’я — змінює спосіб аналізу даних про здоров’я, планування досліджень, розробку та оцінку нових технологій. Але організація попереджає, що без надійних гарантій дослідження, пов’язані зі штучним інтелектом, можуть створювати ризики, які підривають права людини, справедливість і громадську довіру.
Що охоплює новий звіт ВООЗ
У звіті визначено три широкі категорії досліджень охорони здоров’я, пов’язаних зі штучним інтелектом: дослідження, пов’язані зі здоров’ям, які використовують штучний інтелект для аналізу даних, дослідження, які використовують інструменти та технології штучного інтелекту, і дослідження, пов’язані зі здоров’ям, які проводяться на самих інструментах і технологіях штучного інтелекту.
Для кожної категорії в публікації розглядається, як можна посилити етичний нагляд протягом усього життєвого циклу дослідження — від дизайну дослідження та етичної перевірки до публікації, регулювання та реального впровадження.
ВООЗ попереджає, що існуючі механізми нагляду за дотриманням етики «не завжди можуть бути оснащені» для вирішення конкретних ризиків, які штучний інтелект привносить у процес дослідження, включаючи проблеми, пов’язані з прозорістю, упередженістю, справедливістю, підзвітністю, конфіденційністю та потенційною шкодою, що виникає внаслідок швидкого розгортання інструментів із підтримкою штучного інтелекту.
Чому існуючі структури перегляду знаходяться під напругою
«Штучний інтелект створює безпрецедентні можливості для прискорення досліджень у сфері охорони здоров’я та покращення життя людей», — сказала в повідомленні доктор Мег Доерті, директор Департаменту науки для охорони здоров’я ВООЗ. «У той же час, інновації повинні керуватися сильними етичними гарантіями, які захищають людську гідність, права та справедливість».
Доерті описав звіт як такий, що містить «практичні міркування», які допоможуть дослідникам, етичним комітетам і політикам орієнтуватися як у можливостях, так і в ризиках, пов’язаних із дослідженнями охорони здоров’я, пов’язаними зі штучним інтелектом.
У звіті комітети з етики досліджень — інституційні органи, які перевіряють дослідження за участю людей — знаходяться в центрі системи нагляду. Але він визнає, що цим комітетам може знадобитися додатковий досвід, підготовка та ресурси для ефективного аналізу дедалі складніших досліджень, пов’язаних зі штучним інтелектом, які часто включають непрозорі моделі, великі набори даних і методи, які виходять за рамки традиційного навчання експертів з питань етики.
Відповідальність поза комітетом з етики
Видання також наголошує, що відповідальність не зупиняється біля дверей комітету з етики. За словами ВООЗ, самі дослідники несуть обов’язок завчасно виявляти та пом’якшувати етичні ризики, прозоро спілкуватися та враховувати ширші суспільні наслідки технологій штучного інтелекту, які вони створюють і розгортають.
Крім окремих дослідників і комітетів, у звіті висвітлюється роль спонсорів, наукових журналів, органів управління даними, професійних товариств і регуляторних органів у сприянні відповідальним дослідженням охорони здоров’я, пов’язаним із ШІ. Зокрема, в ньому стверджується, що деякими системними викликами просто не можна керувати лише за допомогою аналізу кожного проекту — визнання того, що вплив штучного інтелекту на дослідницьку екосистему потребує структурної відповіді на рівні установи.
«Ефективне управління штучним інтелектом у дослідженнях охорони здоров’я потребує співпраці між дисциплінами, секторами та установами», — сказав д-р Ален Лабрік, директор Департаменту даних, цифрової аналітики охорони здоров’я та штучного інтелекту ВООЗ. «Оскільки технології штучного інтелекту продовжують швидко розвиватися, нам потрібні механізми нагляду, які є гнучкими, базуються на фактах і здатні гарантувати, що інновації залишаються безпечними, надійними та корисними для всіх».
Вимір власного капіталу
Значна частина звіту присвячена проблемам і можливостям у країнах із низьким і середнім рівнем доходу. Незважаючи на те, що штучний інтелект має значний потенціал для вирішення постійних проблем зі здоров’ям у таких умовах, ВООЗ зазначає, що значна частина сучасних досліджень і розробок технологій штучного інтелекту залишається зосередженою в країнах з високим рівнем доходу.
Організація стверджує, що зміцнення місцевого лідерства, спроможності та участі в дослідженнях охорони здоров’я, пов’язаних із штучним інтелектом, буде надзвичайно важливим — як для того, щоб переваги ШІ розподілялися рівномірно, так і для того, щоб уникнути створення нових форм відчуження чи несправедливості в глобальній науці про здоров’я.
Відправна точка, а не остаточне слово
Усвідомлюючи, наскільки швидко розвивається технологія, ВООЗ описує звіт як відправну точку для посилення контролю за дотриманням етики в епоху досліджень охорони здоров’я, пов’язаних зі штучним інтелектом, і як основу для розробки майбутніх стандартів, рекомендацій і підходів до управління.
Звіт надійшов у зв’язку з тим, що системи охорони здоров’я в усьому світі все частіше експериментують із штучним інтелектом для діагностики, відкриття ліків і клінічної документації, що змушує дослідницькі установи адаптувати свої процеси перевірки. Повідомлення ВООЗ установам полягає в тому, що вікно для створення компетентного нагляду є зараз — до того, як отримані за допомогою штучного інтелекту результати, дослідження, розроблені штучним інтелектом, і проаналізовані набори даних стануть нормою, а не винятком.
Повний звіт і подробиці віртуальної презентації в понеділок доступні через офіційні канали Всесвітньої організації охорони здоров’я.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
