Юта стала первым штатом США, где система искусственного интеллекта может обследовать пациентов и назначать лекарства без прямого одобрения каждого решения врачом. Программа, созданная вокруг дерматологического стартапа Nolla Health, была запущена на этой неделе и сразу же привлекла внимание всей страны, а газета Seattle Times прямо резюмировала эту веху: ИИ впервые заменил врача, назначающего лекарства, для лечения прыщей.
Пилотный проект намеренно узок, но его нормативное значение таковым не является. В течение многих лет ИИ в медицине позиционировался как помощник, который составляет заметки или отмечает результаты, которые врач-человек может подписать. Соглашение штата Юта устраняет это утверждение для определенного класса пациентов, что делает его самым четким тестом того, примут ли регулирующие органы, врачи и пациенты алгоритм в качестве стороны, назначающей лекарство. Подробнее об этой истории — в нашем больше статей об ИИ.
Как работает пилотный проект Nolla Health
Программа осуществляется через приложение Nolla Health, которое стоит 4,99 доллара в месяц и предназначено только для пациентов с акне легкой и средней степени тяжести. Окно лечения составляет один год.
Пациент начинает со сканирования своего лица с помощью приложения и заполнения формы истории болезни и личной информации. Затем ИИ анализирует изображения кожи, оценивает жирность и генерирует числовую оценку степени тяжести прыщей, которая варьируется от чистой кожи до тяжелых прыщей, согласно отчету TechSpot о запуске.
Этот балл объединяется с медицинской информацией пациента для получения рекомендации по рецепту, составленной из списка восьми одобренных методов лечения. Все восемь являются лекарствами для местного применения, а не таблетками, и это ограничение исключает наиболее опасные классы побочных эффектов.
Генеральный директор Nolla Health Луис Венус заявил, что побочные эффекты, связанные с восемью одобренными лекарствами, ограничиваются локальным раздражением или сухостью кожи — профиль риска существенно ниже, чем у системных препаратов, и это одна из причин, по которой регулирующие органы, очевидно, были готовы позволить ИИ работать с меньшим надзором.
Трехэтапный отказ от человеческого контроля
Что делает программу Юты примечательной, так это не диагностическая задача ИИ, которая ограничена и визуальна, а запланированное отступление врача от цикла.
На первом этапе первые 100 рецептов должны быть проверены реальными врачами, прежде чем они будут отправлены в аптеку. На втором этапе рецепты следующих 400 пациентов отправляются в аптеки самим AI, а врач еженедельно ретроспективно проверяет их. На заключительном этапе врач проверяет не менее 10 процентов всех выписанных рецептов, проверяя один раз в месяц.
К концу пилотного проекта рецепт может попасть с камеры смартфона в аптеку вообще без какой-либо предварительной проверки человеком — только статистическая выборка постфактум. Подход Юты фактически рассматривает рецепты как результаты процесса контроля качества, а не как отдельные клинические решения. Структурный сдвиг, который, как давно предупреждали медицинские комментаторы, произойдет быстрее, чем многие ожидали.
Почему прыщи и почему Юта
Акне во многих отношениях являются идеальным испытательным полигоном для самостоятельного назначения лекарств. Это заболевание диагностируется визуально, является скорее хроническим, чем опасным для жизни, и лечится с помощью небольшого, хорошо охарактеризованного формуляра. Риск неправильного выбора в рамках утвержденного списка невелик и в значительной степени обратим, а это именно то, что нужно регулирующему органу при планировании ограниченного эксперимента.
Тем временем Юта в последние годы позиционирует себя как один из наиболее продвинутых в сфере искусственного интеллекта правительств штатов в стране. Ранее агентство Bloomberg Law сообщало, что штат рассматривает свой пилотный проект по рецептам «ИИ-докторов» с учетом проблем с надзором, а местные СМИ, включая TechBuzz News, описали инициативу в области искусственного интеллекта, которая недавно добавила компонент здравоохранения с назначенными независимыми оценщиками. Торговое издание STAT сообщило, что в Юте продвигаются дополнительные пилотные проекты в области искусственного интеллекта в сфере здравоохранения, охватывающие рецепты и здоровье женщин, а MobiHealthNews подтвердил запуск Nolla Health в Юте на этой неделе.
Другими словами, пилотный проект по борьбе с прыщами – это не изолированный трюк. Это наиболее заметная часть продуманной стратегии на государственном уровне, направленной на то, чтобы сначала перейти к автономному медицинскому ИИ и построить вокруг него инфраструктуру оценки.
Дебаты о надзоре
Защитники безопасности пациентов выразили знакомую обеспокоенность. Ретроспективный анализ рецептов означает, что ошибки выявляются после того, как пациент уже получил лекарство, а не раньше. Еженедельные и ежемесячные окна отбора проб оставляют место для систематических ошибок, которые затрагивают целые категории пациентов, которые могут повторяться до того, как человек это заметит.
Существует также вопрос о прецеденте. Если автономное назначение препаратов принято при акне, то аргумент в пользу его распространения на другие визуально диагностируемые состояния, связанные с формуляром, — конъюнктивит, некоторые виды сыпи, противогрибковые препараты — пишется сам собой. Каждое расширение будет индивидуально оправдано, в то же время коллективно продвигая медицину к модели, в которой алгоритм является назначающим по умолчанию специалистом, а врач — аудитором.
Беспокойство медицинского сообщества усугубляется ростом числа потребителей, которые полагаются на чат-боты общего назначения для получения медицинских консультаций с вредными результатами, и эти случаи сами компании, занимающиеся искусственным интеллектом, изо всех сил пытаются ограничить. Специально созданная система с фиксированным формуляром и определенными критериями оценки сильно отличается от открытого чат-бота, но общественность склонна относить и то, и другое к одной и той же ментальной категории.
Что будет дальше
Годовое окно пилотного проекта означает, что Юта будет иметь реальные данные об автономном назначении лекарств задолго до того, как большинство штатов даже сформируют свою позицию по этому вопросу. Важными показателями являются частота ошибок на каждом этапе, результаты лечения пациентов при выполнении примерно 500 контролируемых назначений, а также то, действительно ли система ретроспективного анализа выявляет ошибки, для выявления которых она предназначена.
На данный момент программа остается тем, что задумали ее создатели: небольшим, тщательно огороженным экспериментом. Но направление движения безошибочно узнать, и Юта только что стала первой юрисдикцией в Соединенных Штатах, которая выяснила, что происходит, когда блокнот с рецептами представляет собой алгоритм.
---
Будьте в курсе ИИПоследние новости, аналитика и прорывы в сфере ИИ — всё в одном месте.
Читать больше новостей об ИИ →
