Юта стала першим штатом США, де система штучного інтелекту може оглядати пацієнтів і призначати ліки без прямого схвалення лікаря кожне рішення. Програма, побудована навколо дерматологічного стартапу Nolla Health, була запущена цього тижня та одразу привернула увагу країни, а газета Seattle Times відверто резюмувала цю віху: штучний інтелект вперше замінив лікаря, який призначає рецепти, — для лікування акне.
Пілот навмисне вузький, але його нормативне значення не має. Протягом багатьох років штучний інтелект у медицині позиціонувався як помічник, який пише нотатки або позначає висновки для підпису лікаря-людини. Угода штату Юта скасовує цей підпис для певної категорії пацієнтів, що робить його найчіткішим тестом того, чи приймуть регулятори, лікарі та пацієнти алгоритм як сторону, яка призначає рецепти. For more context on this story, see our ongoing AI news.
Як працює пілот Nolla Health
Програма працює через програму Nolla Health, яка коштує 4,99 доларів США на місяць і призначена лише для пацієнтів із акне легкого та середнього ступеня тяжкості. Вікно лікування становить один рік.
Пацієнт починає зі сканування свого обличчя за допомогою програми та заповнення форми історії хвороби та особистої інформації. Потім штучний інтелект аналізує зображення шкіри, оцінює жирність і генерує числову оцінку тяжкості акне, яка варіюється від чистої шкіри до серйозних акне, згідно зі звітом TechSpot про запуск.
Ця оцінка поєднується з медичною інформацією пацієнта для отримання рекомендацій щодо рецепта, складених зі списку з восьми схвалених методів лікування. Усі вісім препаратів є актуальними ліками, а не таблетками, що є обмеженням, яке утримує найнебезпечніші класи побічних ефектів.
Генеральний директор Nolla Health Луїс Венус сказав, що несприятливі ефекти, пов’язані з вісьмома схваленими препаратами, обмежуються локальним подразненням або сухістю шкіри — це значно нижчий профіль ризику, ніж системні препарати, і одна з причин, чому регулятори, очевидно, хотіли дозволити штучному інтелекту працювати з меншим наглядом.
Триетапне припинення перевірки персоналом
Що робить програму штату Юта помітною, так це не діагностичне завдання штучного інтелекту, яке є обмеженим і візуальним, а запланований відхід лікаря з циклу.
На першому етапі перші 100 рецептів ще повинні бути перевірені справжніми лікарями, перш ніж вони будуть подані в аптеку. На другому етапі наступним 400 пацієнтам рецепти надсилаються в аптеки самим ШІ, а лікар переглядає їх ретроспективно щотижня. На завершальному етапі лікар перевіряє щонайменше 10 відсотків усіх виписаних рецептів, які перевіряються раз на місяць.
Наприкінці пілотної програми рецепт може переміщатися від камери смартфона до аптеки без будь-якої перспективної перевірки людьми — лише статистична вибірка після факту. Підхід штату Юта ефективно розглядає рецепти як результати процесу контролю якості, а не як індивідуальні клінічні рішення, структурний зрушення, про яке медичні коментатори давно попереджали, відбудеться швидше, ніж багато хто очікував.
Чому Acne і чому Юта
Багато в чому акне є ідеальним випробувальним майданчиком для автономного призначення. Його можна діагностувати візуально, він є хронічним, а не небезпечним для життя, і лікується за допомогою невеликого, добре охарактеризованого формуляра. Ризик негативного впливу неправильного вибору в межах затвердженого списку є низьким і значною мірою оборотним, що є саме тим, що потрібно регулятору при розробці обмеженого експерименту.
Тим часом штат Юта протягом останніх років позиціонує себе як один із найбільш передових штатів у країні, що розвивають штучний інтелект. Раніше Bloomberg Law повідомляв, що держава зважує свій пілотний рецепт «лікаря штучного інтелекту» з проблемами нагляду, а місцеві видання, включаючи TechBuzz News, описали ініціативу про людський штучний інтелект, яка нещодавно додала основу охорони здоров’я з іменованими незалежними оцінювачами. Торгове видання STAT повідомило, що штат Юта продовжує розробку додаткових пілотних проектів штучного інтелекту в галузі охорони здоров’я, які охоплюють рецепти та здоров’я жінок, а MobiHealthNews підтвердив запуск Nolla Health у штаті Юта цього тижня.
Іншими словами, акне-пілот не є ізольованим трюком. Це найпомітніша частина навмисної стратегії на державному рівні, яка полягає в тому, щоб спочатку перейти до автономного медичного штучного інтелекту та побудувати навколо нього інфраструктуру оцінки.
Дебати щодо контролю
Прихильники безпеки пацієнтів висловили занепокоєння. Ретроспективний перегляд рецептів означає, що помилки виявляються після того, як пацієнт уже отримав ліки, а не раніше. Щотижневі та щомісячні вікна вибірки залишають місце для повторення систематичних помилок — тих, які впливають на цілі категорії пацієнтів — до того, як це помітить людина.
Є також питання прецеденту. Якщо прийнято самостійне призначення ліків від прищів, аргументи для поширення його на інші захворювання, які можна візуально діагностувати, пов’язані з формулярами — кон’юнктивіт, певні висипання, протигрибкові препарати — наводяться самі собою. Кожне розширення було б індивідуально обґрунтованим, тоді як разом медицина рухалася б до моделі, де алгоритм є тим, хто призначає ліки за замовчуванням, а лікар є аудитором.
Занепокоєння медичного співтовариства посилюється більшою кількістю споживачів, які покладаються на чат-боти загального призначення для отримання медичних порад із шкідливими результатами, випадки, які компанії, що займаються штучним інтелектом, намагаються обмежити. Спеціально створена система з фіксованим формуляром і визначеною рубрикою оцінки є артефактом, який дуже відрізняється від відкритого чат-бота, але громадськість схильна класифікувати обидва під однією ментальною категорією.
Що буде далі
Однорічне вікно пілотної програми означає, що штат Юта матиме реальні дані про автономне призначення ліків задовго до того, як більшість штатів навіть виробить свою позицію з цього питання. Цифри, які мають значення, — це рівень помилок на кожній фазі, результати пацієнтів за приблизно 500 рецептами під наглядом і те, чи система ретроспективного огляду справді вловлює помилки, для виявлення яких вона розроблена.
Наразі програма залишається такою, якою її задумали розробники: невеликим, ретельно огородженим експериментом. Але напрямок руху є безпомилковим, і Юта щойно стала першою юрисдикцією в Сполучених Штатах, яка з’ясувала, що відбувається, коли блокнот для рецептів є алгоритмом.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
