Η Γιούτα έγινε η πρώτη πολιτεία των ΗΠΑ όπου ένα σύστημα τεχνητής νοημοσύνης μπορεί να εξετάσει ασθενείς και να συνταγογραφήσει φάρμακα χωρίς ο γιατρός να εγκρίνει άμεσα κάθε απόφαση. Το πρόγραμμα, που δημιουργήθηκε γύρω από τη νεοφυή εταιρεία δερματολογίας Nolla Health, κυκλοφόρησε αυτή την εβδομάδα και τράβηξε αμέσως την προσοχή της χώρας, με τους Seattle Times να συνοψίζουν ωμά το ορόσημο: η τεχνητή νοημοσύνη αντικατέστησε για πρώτη φορά έναν γιατρό που συνταγογραφούσε — για τη θεραπεία της ακμής.
Ο πιλότος είναι σκόπιμα στενός, αλλά η ρυθμιστική του σημασία δεν είναι. Για χρόνια, η τεχνητή νοημοσύνη στην ιατρική έχει τοποθετηθεί ως βοηθός που συντάσσει σημειώσεις ή επισημαίνει ευρήματα για να υπογράψει ένας κλινικός γιατρός. Η ρύθμιση της Γιούτα καταργεί αυτήν την ένδειξη για μια καθορισμένη κατηγορία ασθενών, καθιστώντας την το πιο σαφές τεστ μέχρι τώρα για το εάν οι ρυθμιστές, οι γιατροί και οι ασθενείς θα αποδεχτούν έναν αλγόριθμο ως συνταγογραφούντα μέρη. For more context on this story, see our ongoing breaking AI news.
Πώς λειτουργεί το Nolla Health Pilot
Το πρόγραμμα εκτελείται μέσω της εφαρμογής Nolla Health, η οποία κοστίζει 4,99 $ το μήνα και περιορίζεται σε ασθενείς με ήπια έως μέτρια ακμή. Το παράθυρο θεραπείας είναι ένα έτος.
Ένας ασθενής ξεκινά σαρώνοντας το πρόσωπό του με την εφαρμογή και συμπληρώνοντας ένα ιατρικό ιστορικό και φόρμα προσωπικών πληροφοριών. Στη συνέχεια, το AI αναλύει τις εικόνες του δέρματος, αξιολογεί τη λιπαρότητα και δημιουργεί μια αριθμητική βαθμολογία σοβαρότητας ακμής που κυμαίνεται από καθαρό δέρμα έως σοβαρή ακμή, σύμφωνα με την έκθεση του TechSpot για την κυκλοφορία.
Αυτή η βαθμολογία συνδυάζεται με τις ιατρικές πληροφορίες του ασθενούς για την παραγωγή μιας σύστασης συνταγογράφησης που προέρχεται από μια λίστα οκτώ εγκεκριμένων θεραπειών. Και τα οκτώ είναι τοπικά φάρμακα και όχι χάπια, ένας περιορισμός που κρατά τις πιο επικίνδυνες κατηγορίες ανεπιθύμητων ενεργειών μακριά από το τραπέζι.
Ο Διευθύνων Σύμβουλος της Nolla Health, Luis Wenus, δήλωσε ότι οι ανεπιθύμητες ενέργειες που σχετίζονται με τα οκτώ εγκεκριμένα φάρμακα περιορίζονται στον τοπικό ερεθισμό ή ξηρότητα του δέρματος - ένα προφίλ ουσιωδώς χαμηλότερου κινδύνου από τα συστηματικά φάρμακα και ένας από τους λόγους που οι ρυθμιστικές αρχές ήταν προφανώς πρόθυμες να αφήσουν το AI να λειτουργεί με μειωμένη επίβλεψη.
Μια ανασκόπηση τριών φάσεων σταδιακής εξόδου από τον άνθρωπο
Αυτό που κάνει το πρόγραμμα της Γιούτα αξιοσημείωτο δεν είναι η διαγνωστική εργασία της τεχνητής νοημοσύνης, η οποία είναι περιορισμένη και οπτική, αλλά η προγραμματισμένη απομάκρυνση του γιατρού από τον βρόχο.
Σε πρώτη φάση, οι πρώτες 100 συνταγές πρέπει να επανεξεταστούν από πραγματικούς γιατρούς πριν υποβληθούν στο φαρμακείο. Στη δεύτερη φάση, οι επόμενοι 400 ασθενείς υποβάλλουν τις συνταγές τους στα φαρμακεία από την ίδια την ΑΙ, με έναν γιατρό να τις εξετάζει αναδρομικά σε εβδομαδιαία βάση. Στην τελική φάση, ένας γιατρός εξετάζει τουλάχιστον το 10 τοις εκατό όλων των συνταγών που εκδίδονται, ελέγχονται μία φορά το μήνα.
Μέχρι το τέλος του πιλοτικού προγράμματος, μια συνταγή μπορεί να ταξιδέψει από μια κάμερα smartphone σε ένα φαρμακείο χωρίς καμία προοπτική ανθρώπινης εξέτασης — μόνο στατιστική δειγματοληψία εκ των υστέρων. Η προσέγγιση της Γιούτα αντιμετωπίζει αποτελεσματικά τις συνταγές σαν αποτελέσματα σε μια διαδικασία ποιοτικού ελέγχου και όχι μεμονωμένες κλινικές αποφάσεις, μια δομική αλλαγή που οι ιατρικοί σχολιαστές έχουν προειδοποιήσει εδώ και καιρό ότι θα φτάσει πιο γρήγορα από ό,τι περίμεναν πολλοί.
Γιατί ακμή και γιατί Γιούτα
Η ακμή είναι από πολλές απόψεις το ιδανικό έδαφος για την αυτόνομη συνταγογράφηση. Είναι οπτικά διαγνώσιμο, χρόνια και όχι απειλητικό για τη ζωή και αντιμετωπίζεται με ένα μικρό, καλά χαρακτηρισμένο σκεύασμα. Ο αρνητικός κίνδυνος μιας λανθασμένης επιλογής εντός της εγκεκριμένης λίστας είναι χαμηλός και σε μεγάλο βαθμό αναστρέψιμος, κάτι που ακριβώς χρειάζεται ένας ρυθμιστής όταν σχεδιάζει ένα περιορισμένο πείραμα.
Η Γιούτα, εν τω μεταξύ, έχει περάσει τα τελευταία χρόνια τοποθετώντας τον εαυτό της ως μία από τις κυβερνήσεις των πολιτειών με την τεχνητή νοημοσύνη με τη μεγαλύτερη τεχνητή νοημοσύνη στη χώρα. Η πολιτεία είχε αναφερθεί προηγουμένως από τον νόμο του Bloomberg ότι ζυγίζει το πιλότο συνταγογράφησης «γιατρού τεχνητής νοημοσύνης» έναντι των ανησυχιών επίβλεψης και τοπικά μέσα, συμπεριλαμβανομένου του TechBuzz News, περιέγραψαν μια πρωτοβουλία υπέρ του ανθρώπου για την τεχνητή νοημοσύνη που πρόσφατα πρόσθεσε έναν πυλώνα υγειονομικής περίθαλψης με επώνυμους ανεξάρτητους αξιολογητές. Η εμπορική δημοσίευση STAT ανέφερε ότι η Γιούτα προχωρά με πρόσθετους πιλότους τεχνητής νοημοσύνης υγείας που καλύπτουν συνταγές και την υγεία των γυναικών, ενώ το MobiHealthNews επιβεβαίωσε την κυκλοφορία της Nolla Health στη Γιούτα αυτή την εβδομάδα.
Με άλλα λόγια, ο πιλότος ακμής δεν είναι ένα μεμονωμένο κόλπο. Είναι το πιο ορατό κομμάτι μιας σκόπιμης στρατηγικής σε κρατικό επίπεδο για να προχωρήσουμε πρώτα στην αυτόνομη ιατρική τεχνητή νοημοσύνη και να χτίσουμε την υποδομή αξιολόγησης γύρω από αυτήν.
Η συζήτηση επίβλεψης
Οι υποστηρικτές της ασφάλειας των ασθενών έχουν εκφράσει γνωστές ανησυχίες. Η αναδρομική ανασκόπηση των συνταγών σημαίνει ότι τα σφάλματα εντοπίζονται αφού ο ασθενής έχει ήδη λάβει το φάρμακο, όχι πριν. Τα εβδομαδιαία και μηνιαία παράθυρα δειγματοληψίας αφήνουν περιθώριο για συστηματικά λάθη - του είδους που επηρεάζουν ολόκληρες κατηγορίες ασθενών - να επαναλαμβάνονται πριν τα αντιληφθεί ο άνθρωπος.
Υπάρχει επίσης το ζήτημα του προηγούμενου. Εάν η αυτόνομη συνταγογράφηση είναι αποδεκτή για την ακμή, το επιχείρημα για την επέκτασή της σε άλλες οπτικά διαγνώσιμες παθήσεις που συνδέονται με τη συνταγή —επιπεφυκίτιδα, ορισμένα εξανθήματα, αντιμυκητιακές θεραπείες — γράφει από μόνο του. Κάθε επέκταση θα μπορούσε να υπερασπιστεί μεμονωμένα, ενώ συλλογικά κινείται η ιατρική προς ένα μοντέλο όπου ο αλγόριθμος είναι ο προεπιλεγμένος συνταγογραφητής και ο γιατρός ο ελεγκτής.
Η ανησυχία της ιατρικής κοινότητας επιδεινώνεται από ένα ευρύτερο αρχείο καταναλωτών που βασίζονται σε chatbot γενικής χρήσης για ιατρικές συμβουλές με επιβλαβή αποτελέσματα, περιπτώσεις που οι ίδιες οι εταιρείες τεχνητής νοημοσύνης προσπάθησαν να περιορίσουν. Ένα ειδικά κατασκευασμένο σύστημα με μια σταθερή φόρμουλα και μια καθορισμένη ρουμπρίκα βαθμολόγησης είναι ένα πολύ διαφορετικό τεχνούργημα από ένα ανοιχτού τύπου chatbot, αλλά το κοινό τείνει να καταθέτει και τα δύο στην ίδια νοητική κατηγορία.
Τι ακολουθεί
Το παράθυρο ενός έτους του πιλότου σημαίνει ότι η Γιούτα θα έχει δεδομένα από τον πραγματικό κόσμο για την αυτόνομη συνταγογράφηση πολύ πριν καν οι περισσότερες πολιτείες συντάξουν μια θέση για το ζήτημα. Οι αριθμοί που έχουν σημασία είναι τα ποσοστά σφαλμάτων σε κάθε φάση, τα αποτελέσματα των ασθενών στις 500 περίπου εποπτευόμενες συνταγές και αν το σύστημα αναδρομικής ανασκόπησης καταγράφει πραγματικά τα λάθη που έχει σχεδιαστεί να συλλαμβάνει.
Προς το παρόν, το πρόγραμμα παραμένει αυτό που σκόπευαν οι σχεδιαστές του: ένα μικρό, προσεκτικά περιφραγμένο πείραμα. Αλλά η κατεύθυνση του ταξιδιού είναι αναμφισβήτητη και η Γιούτα μόλις έγινε η πρώτη δικαιοδοσία στις Ηνωμένες Πολιτείες που ανακάλυψε τι συμβαίνει όταν το μαξιλάρι συνταγών είναι αλγόριθμος.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
