Utah telah menjadi negara bagian AS pertama di mana sistem kecerdasan buatan dapat memeriksa pasien dan meresepkan obat tanpa dokter menyetujui setiap keputusan secara langsung. Program ini, yang dikembangkan oleh startup dermatologi Nolla Health, diluncurkan minggu ini dan segera menarik perhatian nasional, dan Seattle Times merangkum pencapaian tersebut secara blak-blakan: AI telah menggantikan dokter yang meresepkan obat untuk pertama kalinya – untuk mengobati jerawat.
Percontohan ini sengaja dibuat sempit, namun tidak memiliki signifikansi regulasi. Selama bertahun-tahun, AI dalam bidang kedokteran telah diposisikan sebagai alat bantu yang menyusun catatan atau menandai temuan untuk disetujui oleh dokter manusia. Pengaturan yang dilakukan Utah menghilangkan tandatangan tersebut untuk kelompok pasien tertentu, menjadikannya ujian yang paling jelas mengenai apakah regulator, dokter, dan pasien akan menerima suatu algoritma sebagai pihak yang memberikan resep. For more context on this story, see our ongoing artificial intelligence updates.
Cara Kerja Percontohan Kesehatan Nolla
Program ini dijalankan melalui aplikasi Nolla Health, dengan biaya $4,99 per bulan dan terbatas pada pasien dengan jerawat ringan hingga sedang. Jangka waktu pengobatan adalah satu tahun.
Seorang pasien memulai dengan memindai wajahnya dengan aplikasi dan mengisi formulir riwayat kesehatan dan informasi pribadi. AI kemudian menganalisis gambar kulit, menilai sifat berminyak, dan menghasilkan skor keparahan jerawat numerik yang berkisar dari kulit bersih hingga jerawat parah, menurut laporan peluncuran TechSpot.
Skor tersebut digabungkan dengan informasi medis pasien untuk menghasilkan rekomendasi resep yang diambil dari daftar delapan perawatan yang disetujui. Kedelapan obat tersebut merupakan obat topikal dan bukan pil, sehingga membatasi efek samping yang paling berbahaya.
CEO Nolla Health Luis Wenus mengatakan efek buruk yang terkait dengan delapan obat yang disetujui terbatas pada iritasi atau kekeringan kulit lokal – profil risiko yang jauh lebih rendah dibandingkan obat sistemik, dan salah satu alasan regulator tampaknya bersedia membiarkan AI beroperasi dengan pengurangan pengawasan.
Penghentian Tinjauan Manusia dalam Tiga Fase
Apa yang membuat program Utah penting bukanlah tugas diagnostik AI, yang bersifat terbatas dan visual, namun jadwal mundurnya dokter dari lingkaran tersebut.
Pada tahap pertama, 100 resep pertama masih harus ditinjau oleh dokter sebenarnya sebelum diserahkan ke apotek. Pada tahap kedua, 400 pasien berikutnya akan menerima resep yang diserahkan ke apotek oleh AI sendiri, dan dokter akan meninjau resep tersebut secara retrospektif setiap minggunya. Pada tahap akhir, dokter meninjau setidaknya 10 persen dari seluruh resep yang dikeluarkan, diperiksa sebulan sekali.
Pada akhir masa uji coba, sebuah resep dapat berpindah dari kamera ponsel pintar ke apotek tanpa adanya tinjauan prospektif terhadap manusia sama sekali — hanya pengambilan sampel statistik setelah kejadian tersebut. Pendekatan Utah secara efektif memperlakukan resep seperti keluaran dalam proses kendali mutu dibandingkan keputusan klinis individual, sebuah perubahan struktural yang telah lama diperingatkan oleh para komentator medis akan terjadi lebih cepat dari perkiraan banyak orang.
Mengapa Jerawat, dan Mengapa Utah
Jerawat dalam banyak hal merupakan tempat pembuktian yang ideal untuk peresepan mandiri. Penyakit ini dapat didiagnosis secara visual, bersifat kronis dan tidak mengancam jiwa, dan diobati dengan formularium yang kecil dan berkarakteristik baik. Risiko buruk dari pilihan yang salah dalam daftar yang disetujui adalah rendah dan sebagian besar dapat dibalik, dan hal ini merupakan hal yang dibutuhkan oleh regulator ketika merancang eksperimen terbatas.
Sementara itu, Utah telah menghabiskan beberapa tahun terakhir untuk memposisikan dirinya sebagai salah satu negara bagian yang paling mengutamakan AI di negaranya. Negara bagian tersebut sebelumnya dilaporkan oleh Bloomberg Law untuk mempertimbangkan uji coba resep "dokter AI" terhadap masalah pengawasan, dan outlet lokal termasuk TechBuzz News telah menggambarkan inisiatif AI yang pro-manusia yang baru-baru ini menambahkan pilar perawatan kesehatan dengan evaluator independen yang ditunjuk. Publikasi perdagangan STAT melaporkan bahwa Utah terus maju dengan tambahan uji coba AI kesehatan yang mencakup resep dan kesehatan wanita, sementara MobiHealthNews mengonfirmasi peluncuran Nolla Health di Utah minggu ini.
Dengan kata lain, acne pilot bukanlah aksi yang terisolasi. Ini adalah bagian yang paling terlihat dari strategi tingkat negara bagian untuk pertama-tama menggunakan AI medis otonom dan membangun infrastruktur evaluasi di sekitarnya.
Debat Pengawasan
Para pendukung keselamatan pasien telah menyuarakan kekhawatiran mereka. Tinjauan retrospektif terhadap resep berarti kesalahan diketahui setelah pasien menerima obatnya, bukan sebelumnya. Jendela pengambilan sampel mingguan dan bulanan memberikan ruang bagi kesalahan sistematis – jenis yang mempengaruhi seluruh kategori pasien – untuk terulang kembali sebelum manusia menyadarinya.
Ada juga pertanyaan tentang preseden. Jika resep otonom diterima untuk jerawat, argumen untuk memperluasnya ke kondisi lain yang dapat didiagnosis secara visual dan terikat formularium – konjungtivitis, ruam tertentu, perawatan antijamur – akan muncul dengan sendirinya. Setiap perluasan akan dapat dipertahankan secara individual sambil secara kolektif menggerakkan pengobatan menuju model di mana algoritme adalah pemberi resep default dan dokter adalah auditornya.
Kegelisahan komunitas medis diperburuk oleh banyaknya konsumen yang mengandalkan chatbots untuk tujuan umum untuk mendapatkan nasihat medis dengan hasil yang berbahaya, kasus-kasus yang dengan susah payah dibatasi oleh perusahaan AI sendiri. Sistem yang dibangun khusus dengan formularium tetap dan rubrik penilaian yang ditentukan adalah artefak yang sangat berbeda dari chatbot terbuka, namun masyarakat cenderung memasukkan keduanya dalam kategori mental yang sama.
Apa yang Terjadi Selanjutnya
Jangka waktu satu tahun dari uji coba ini berarti Utah akan memiliki data nyata mengenai peresepan otonom jauh sebelum sebagian besar negara bagian menyusun sikap mengenai pertanyaan tersebut. Angka-angka yang penting adalah tingkat kesalahan di setiap fase, hasil akhir pasien dari 500 atau lebih resep yang diawasi, dan apakah sistem tinjauan retrospektif benar-benar mendeteksi kesalahan yang dirancang untuk mendeteksinya.
Untuk saat ini, program tersebut tetap sesuai dengan keinginan para perancangnya: sebuah eksperimen kecil yang dipagari dengan cermat. Namun arah perjalanannya tidak dapat dipungkiri lagi, dan Utah baru saja menjadi yurisdiksi pertama di Amerika Serikat yang mengetahui apa yang terjadi jika buku resep menjadi sebuah algoritma.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
