L'Utah est devenu le premier État américain où un système d'intelligence artificielle peut examiner les patients et prescrire des médicaments sans qu'un médecin approuve directement chaque décision. Le programme, construit autour de la start-up de dermatologie Nolla Health, a été lancé cette semaine et a immédiatement attiré l'attention nationale, le Seattle Times résumant sans détour cette étape importante : l'IA a remplacé un médecin prescripteur pour la première fois – pour traiter l'acné.
Le projet pilote est délibérément restreint, mais sa portée réglementaire ne l'est pas. Pendant des années, l’IA en médecine a été positionnée comme une aide qui rédige des notes ou signale des résultats qu’un clinicien humain doit approuver. L'accord de l'Utah supprime cette approbation pour une classe définie de patients, ce qui en fait le test le plus clair à ce jour pour savoir si les régulateurs, les médecins et les patients accepteront un algorithme en tant que partie prescriptrice. Pour plus de contexte sur cette histoire, consultez notre couverture de l'industrie de l'IA.
Comment fonctionne le projet pilote Nolla Health
Le programme fonctionne via l'application Nolla Health, qui coûte 4,99 $ par mois et est limitée aux patients souffrant d'acné légère à modérée. La fenêtre de traitement est d'un an.
Un patient commence par scanner son visage avec l’application et remplit un formulaire d’antécédents médicaux et d’informations personnelles. L'IA analyse ensuite les images de peau, évalue le caractère gras et génère un score numérique de gravité de l'acné allant de la peau claire à l'acné sévère, selon le rapport de TechSpot sur le lancement.
Ce score est combiné aux informations médicales du patient pour produire une recommandation de prescription tirée d'une liste de huit traitements approuvés. Tous les huit sont des médicaments topiques plutôt que des pilules, une contrainte qui exclut les classes d’effets secondaires les plus dangereux.
Luis Wenus, PDG de Nolla Health, a déclaré que les effets indésirables associés aux huit médicaments approuvés se limitent à une irritation ou à une sécheresse cutanée localisée – un profil de risque sensiblement plus faible que les médicaments systémiques, et l'une des raisons pour lesquelles les régulateurs étaient apparemment disposés à laisser l'IA fonctionner avec une surveillance réduite.
Une suppression progressive en trois phases de l'examen humain
Ce qui rend le programme de l'Utah remarquable, ce n'est pas la tâche de diagnostic de l'IA, qui est limitée et visuelle, mais le retrait programmé du médecin de la boucle.
Dans un premier temps, les 100 premières ordonnances doivent encore être examinées par de vrais médecins avant d'être soumises à la pharmacie. Dans la deuxième phase, les 400 patients suivants voient leurs ordonnances soumises aux pharmacies par l'IA elle-même, un médecin les examinant rétrospectivement sur une base hebdomadaire. Dans la phase finale, un médecin examine au moins 10 pour cent de toutes les ordonnances délivrées, vérifiées une fois par mois.
À la fin du projet pilote, une ordonnance peut passer de l’appareil photo d’un smartphone à une pharmacie sans aucun examen humain prospectif – seulement un échantillonnage statistique après coup. L'approche de l'Utah traite efficacement les prescriptions comme des résultats dans un processus de contrôle de qualité plutôt que comme des décisions cliniques individuelles, un changement structurel dont les commentateurs médicaux préviennent depuis longtemps qu'il se produirait plus rapidement que prévu.
Pourquoi l'acné et pourquoi l'Utah
L’acné constitue à bien des égards le terrain d’essai idéal pour la prescription autonome. Elle est visuellement diagnostiquable, chronique plutôt que mortelle et traitée avec un petit formulaire bien caractérisé. Le risque de baisse d’un mauvais choix au sein de la liste approuvée est faible et largement réversible, ce qui est précisément ce dont un régulateur a besoin lorsqu’il conçoit une expérience limitée.
L’Utah, quant à lui, a passé ces dernières années à se positionner comme l’un des gouvernements d’État les plus avant-gardistes du pays en matière d’IA. Bloomberg Law avait précédemment rapporté que l'État évaluait son projet pilote de prescription de « médecin IA » par rapport aux problèmes de surveillance, et des médias locaux, dont TechBuzz News, ont décrit une initiative pro-humaine en matière d'IA qui a récemment ajouté un pilier de soins de santé avec des évaluateurs indépendants nommés. La publication commerciale STAT a rapporté que l'Utah poursuivait ses projets pilotes supplémentaires d'IA en matière de santé couvrant les prescriptions et la santé des femmes, tandis que MobiHealthNews a confirmé le lancement de Nolla Health dans l'Utah cette semaine.
En d’autres termes, le projet pilote sur l’acné n’est pas un coup isolé. Il s’agit de l’élément le plus visible d’une stratégie délibérée au niveau de l’État visant à passer d’abord à l’IA médicale autonome et à construire l’infrastructure d’évaluation autour d’elle.
Le débat sur la surveillance
Les défenseurs de la sécurité des patients ont soulevé des préoccupations familières. L'examen rétrospectif des ordonnances signifie que les erreurs sont détectées après que le patient a déjà reçu le médicament, et non avant. Les fenêtres d’échantillonnage hebdomadaires et mensuelles laissent place à des erreurs systématiques – celles qui affectent des catégories entières de patients – qui se répètent avant qu’un être humain ne s’en aperçoive.
Il y a aussi la question du précédent. Si la prescription autonome est acceptée pour l’acné, l’argument en faveur de son extension à d’autres affections visuellement diagnostiquables et liées au formulaire – conjonctivite, certaines éruptions cutanées, traitements antifongiques – s’écrit tout seul. Chaque extension serait défendable individuellement tout en faisant évoluer collectivement la médecine vers un modèle dans lequel l’algorithme est le prescripteur par défaut et le médecin est l’auditeur.
Le malaise de la communauté médicale est aggravé par un nombre plus large de consommateurs qui s'appuient sur des chatbots à usage général pour obtenir des conseils médicaux aux résultats préjudiciables, des cas que les sociétés d'IA elles-mêmes se sont efforcées de limiter. Un système spécialement conçu avec un formulaire fixe et une grille de notation définie est un artefact très différent d'un chatbot ouvert, mais le public a tendance à classer les deux dans la même catégorie mentale.
Ce qui vient ensuite
La fenêtre d'un an du projet pilote signifie que l'Utah disposera de données réelles sur la prescription autonome bien avant que la plupart des États n'aient même rédigé une position sur la question. Les chiffres qui comptent sont les taux d'erreur dans chaque phase, les résultats pour les patients sur les quelque 500 prescriptions supervisées et la question de savoir si le système d'examen rétrospectif détecte réellement les erreurs pour lesquelles il est conçu.
Pour l’instant, le programme reste ce que ses concepteurs voulaient : une petite expérience soigneusement clôturée. Mais la direction du voyage est indubitable, et l’Utah vient de devenir la première juridiction aux États-Unis à découvrir ce qui se passe lorsque le carnet d’ordonnances est un algorithme.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
