Plus d'une centaine d'infirmières diplômées en T-shirts rouges ont bloqué la circulation et scandé jeudi devant l'ancien siège de Palantir à Palo Alto, appelant les dirigeants des hôpitaux et les élus à rompre les liens avec le géant des logiciels d'IA et d'analyse de données.
La manifestation faisait partie d'une journée d'action coordonnée par National Nurses United, qui a organisé des manifestations similaires à Los Angeles, Chicago, Washington, D.C. et dans quatre autres villes. Le syndicat a déclaré que les événements étaient les plus importants à ce jour contre Palantir, désormais basé dans la région de Miami, reflétant l'inquiétude croissante des infirmières de chevet face à l'expansion rapide de l'entreprise dans les hôpitaux américains. Pour plus de contexte sur cette histoire, consultez notre dernières avancées en IA.
Pourquoi les infirmières ciblent Palantir
Les infirmières craignent que l’entreprise – qui a remporté des contrats lucratifs mais controversés avec les agences fédérales de défense et d’immigration – étende sa portée au secteur de la santé, où ses outils commencent à façonner les décisions en matière de personnel et de soins aux patients.
Les dirigeants d'hôpitaux de HCA Healthcare, l'un des plus grands exploitants d'hôpitaux à but lucratif aux États-Unis, ont introduit les outils basés sur l'IA de Palantir pour le recrutement et la planification du personnel infirmier. Le système de santé Mount Sinai de New York utilise les produits de la société pour évaluer les dossiers des patients et déterminer quels patients sont éligibles aux soins à domicile, selon le site Web de Palantir.
Craig Cedotal, infirmier pédiatrique à Kaiser Oakland qui travaillait auparavant dans un hôpital HCA à la Nouvelle-Orléans, a déclaré que les infirmières souhaitent plus de transparence et avoir davantage leur mot à dire sur la manière dont l'IA est déployée dans les hôpitaux.
"Cela affecte les décisions en matière de personnel et de soins d'une manière qui n'est pas conforme à ce que devraient être les soins de santé", a déclaré Cedotal, l'un des manifestants à Palo Alto. "Une machine ne devrait pas prendre de décisions sur la manière dont nous prenons soin les uns des autres. Cela ne constitue pas de bons soins de santé."
L'action de Palo Alto s'est appuyée sur des manifestations plus modestes et antérieures – les infirmières du MaineHealth du Maine ont protesté contre les liens du système avec Palantir ces dernières semaines, selon les médias locaux – mais la participation dans huit villes de jeudi a marqué une escalade significative pour le syndicat.
Les principales objections portent sur la responsabilité et le contrôle : qui décide de la manière dont les recommandations de l'IA sont pondérées, si les infirmières peuvent outrepasser les objectifs algorithmiques en matière de personnel et qu'arrive-t-il aux données des patients circulant via des plateformes construites par une entreprise surtout connue pour la surveillance gouvernementale et l'analyse militaire.
La dotation algorithmique est un point chaud particulier. Les hôpitaux confrontés à des pénuries chroniques de personnel infirmier se tournent de plus en plus vers des logiciels qui prévoient le volume de patients et calculent le nombre de personnel requis par chaque quart de travail. Les syndicats affirment que ces calculs se traduisent trop souvent par des tâches plus légères et des charges de travail plus lourdes, les infirmières étant obligées de traiter les résultats algorithmiques comme une référence d'efficacité plutôt que comme une suggestion.
L'effort de santé de Palantir s'inscrit dans un contexte de croissance record
L'expansion des soins de santé de Palantir se déroule dans un contexte de dynamique financière extraordinaire. Dans une lettre aux actionnaires ce mois-ci, le PDG Alex Karp a déclaré que l'activité de l'entreprise avait presque doublé en l'espace de 12 mois. Palantir a gagné près de 2 milliards de dollars de bénéfice net au cours du premier semestre de cette année.
"Le cœur de notre activité, aux États-Unis, continue de croître à un rythme effréné et incessant", a écrit Karp.
Cette croissance a fait de Palantir l’un des gagnants de l’IA les plus célèbres du marché – et un aimant à critiques. Les groupes de défense des libertés civiles s’opposent depuis longtemps à son travail avec l’Immigration and Customs Enforcement et le Pentagone. Les protestations des infirmières étendent cet examen à un nouveau domaine, arguant que les mêmes plates-formes d'intégration de données utilisées pour le travail militaire et répressif n'ont pas leur place pour prendre des décisions au chevet des patients.
Les systèmes hospitaliers, pour leur part, ont défendu ces outils comme moyen de gérer les pénuries de personnel et le fardeau administratif. Les produits de santé de Palantir s'ajoutent aux données hospitalières existantes et font apparaître des recommandations sur la planification, l'allocation des ressources et les parcours de soins. L'entreprise n'a pas immédiatement répondu aux demandes de commentaires sur les manifestations.
La Californie décide de mettre en place des garde-fous
Les manifestations ont eu lieu un jour consécutif à la réglementation de l'IA dans le domaine des soins de santé dans l'État d'origine du syndicat. Jeudi, les législateurs californiens ont approuvé un projet de loi parrainé par la California Nurses Association qui établirait des garde-fous sur le déploiement de l'IA dans les soins aux patients.
Cette mesure constitue l’une des réponses législatives les plus concrètes à ce jour aux préoccupations selon lesquelles les outils algorithmiques prennent ou influencent des décisions cliniques et opérationnelles sans surveillance adéquate. S’il est signé, il offrirait aux infirmières et aux patients de nouvelles protections à mesure que les hôpitaux accélèrent l’adoption de l’IA – et pourrait devenir un modèle pour d’autres États.
National Nurses United a signalé que la journée d’action était un début plutôt qu’un point culminant. Le syndicat fait pression sur les hôpitaux pour qu’ils divulguent où l’IA est utilisée, impliquent les infirmières de première ligne dans les décisions d’approvisionnement et de déploiement et garantissent la priorité humaine sur les recommandations algorithmiques.
Cette impasse reflète une question plus large à laquelle sera confronté le secteur de la santé en 2026 : alors que les fournisseurs d’IA promettent des gains d’efficacité dans un contexte de pénurie chronique de personnel, qui décide du degré d’autorité accordé à ces systèmes : les dirigeants d’hôpitaux, les éditeurs de logiciels, les régulateurs ou les infirmières qui vivent avec les conséquences au chevet du patient ?
Pour l’instant, les infirmières indiquent clairement qu’elles ont l’intention de faire partie de cette réponse. "Nous voulons avoir notre mot à dire sur la technologie qui touche nos patients", résumait le message de Cedotal aux dirigeants des hôpitaux. Le taux de participation dans huit villes suggère que le message continuera à circuler.
---
Restez à la Pointe de l'IALes dernières actualités, analyses et percées en IA — au même endroit.
Lire plus d'actualités IA →
