Utah, bir yapay zeka sisteminin, doktorların her kararı doğrudan onaylaması gerekmeden hastaları muayene edebildiği ve ilaç yazabildiği ilk ABD eyaleti oldu. Dermatoloji girişimi Nolla Health etrafında oluşturulan program, bu hafta yayına girdi ve Seattle Times'ın dönüm noktasını açık bir şekilde özetlemesiyle hemen ulusal dikkatleri üzerine çekti: Yapay zeka ilk kez sivilce tedavisi için reçete yazan bir doktorun yerini aldı.
Pilot bölüm kasıtlı olarak daraltılmıştır ancak düzenleyici önemi yoktur. Yıllardır tıpta yapay zeka, bir insan klinisyenin imza atması için notlar hazırlayan veya bulguları işaretleyen bir yardımcı olarak konumlandırıldı. Utah'ın düzenlemesi, belirli bir hasta sınıfı için bu onayı ortadan kaldırarak düzenleyicilerin, doktorların ve hastaların reçeteyi yazan taraf olarak bir algoritmayı kabul edip etmeyeceklerine dair şimdiye kadarki en net test haline geliyor. For more context on this story, see our ongoing AI trends.
Nolla Sağlık Pilotu Nasıl Çalışır?
Program, Nolla Health'in uygulaması aracılığıyla yürütülüyor; bu uygulama ayda 4,99 dolara mal oluyor ve hafif ila orta şiddette sivilcesi olan hastalarla sınırlı. Tedavi penceresi bir yıldır.
Hasta, uygulamayı kullanarak yüzünü tarayıp tıbbi geçmişini ve kişisel bilgi formunu doldurarak başlıyor. TechSpot'un lansmanla ilgili raporuna göre yapay zeka daha sonra cilt görüntülerini analiz ediyor, yağlılığı derecelendiriyor ve temiz ciltten şiddetli sivilceye kadar değişen sayısal bir sivilce ciddiyet puanı oluşturuyor.
Bu puan, onaylanmış sekiz tedavi listesinden alınan bir reçete önerisi oluşturmak için hastanın tıbbi bilgileriyle birleştirilir. Sekizinin tamamı haplardan ziyade topikal ilaçlardır; bu, en tehlikeli yan etki sınıflarını masanın dışında tutan bir kısıtlamadır.
Nolla Health CEO'su Luis Wenus, onaylanmış sekiz ilaçla ilişkili olumsuz etkilerin lokal cilt tahrişi veya kurulukla sınırlı olduğunu söyledi; bu, sistemik ilaçlara göre maddi olarak daha düşük bir risk profili ve düzenleyicilerin yapay zekanın daha az gözetimle çalışmasına izin vermeye istekli olmasının nedenlerinden biri.
İnsan İncelemesinin Üç Aşamalı Aşamadan Kaldırılması
Utah programını dikkate değer kılan, yapay zekanın sınırlı ve görsel olan teşhis görevi değil, doktorun döngüden programlı bir şekilde çekilmesidir.
İlk aşamada, ilk 100 reçetenin eczaneye gönderilmeden önce yine de gerçek doktorlar tarafından incelenmesi gerekiyor. İkinci aşamada, sonraki 400 hastanın reçeteleri AI tarafından eczanelere gönderilecek ve bir doktor bunları haftalık olarak geriye dönük olarak inceleyecek. Son aşamada, bir doktor verilen tüm reçetelerin en az yüzde 10'unu inceliyor ve ayda bir kontrol ediliyor.
Pilot çalışmanın sonunda, bir reçete akıllı telefon kamerasından eczaneye, hiçbir olası insan incelemesine gerek kalmadan gidebilir; yalnızca olaydan sonra istatistiksel örnekleme yapılabilir. Utah'ın yaklaşımı, reçeteleri bireysel klinik kararlardan ziyade kalite kontrol sürecindeki çıktılar gibi etkili bir şekilde ele alıyor; tıbbi yorumcuların uzun süredir uyardığı yapısal değişimin beklenenden daha hızlı gerçekleşeceği.
Neden Akne ve Neden Utah
Akne birçok açıdan bağımsız reçete yazmanın ideal deneme alanıdır. Görsel olarak teşhis edilebilir, yaşamı tehdit etmekten çok kroniktir ve küçük, iyi tanımlanmış bir formülle tedavi edilir. Onaylanan listede yanlış bir seçim yapılmasının olumsuz riski düşüktür ve büyük ölçüde geri döndürülebilir; bu da bir düzenleyicinin sınırlı bir deney tasarlarken tam olarak ihtiyaç duyduğu şeydir.
Bu arada Utah, son yıllarını kendisini ülkedeki en ileri yapay zeka eyalet hükümetlerinden biri olarak konumlandırarak geçirdi. Eyaletin daha önce Bloomberg Hukuk tarafından gözetim kaygılarına karşı "AI doktor" reçete pilotunu tarttığı bildirilmişti ve TechBuzz News dahil yerel yayın organları, yakın zamanda adı geçen bağımsız değerlendiricilerle bir sağlık sütunu ekleyen insan yanlısı bir AI girişimini anlattı. Ticari yayın STAT, Utah'ın reçeteler ve kadın sağlığını kapsayan ek sağlık AI pilotları ile ilerlemeye devam ettiğini bildirdi; MobiHealthNews ise Nolla Health'in Utah'taki lansmanını bu hafta doğruladı.
Başka bir deyişle, sivilce pilotu izole edilmiş bir gösteri değil. İlk olarak otonom tıbbi yapay zekaya geçmek ve değerlendirme altyapısını onun etrafında inşa etmek, devlet düzeyindeki kasıtlı bir stratejinin en görünür parçasıdır.
Gözetim Tartışması
Hasta güvenliği savunucuları tanıdık endişeleri dile getirdi. Reçetelerin geriye dönük olarak incelenmesi, hataların daha önce değil, hasta ilacı aldıktan sonra yakalandığı anlamına gelir. Haftalık ve aylık numune alma aralıkları, insan fark etmeden önce tekrarlanacak sistematik hatalara (hasta kategorilerinin tamamını etkileyen türden) yer bırakır.
Bir de emsal sorunu var. Sivilce için bağımsız reçeteleme kabul edilirse, bunu diğer görsel olarak teşhis edilebilen, formüle bağlı durumlara (konjonktivit, bazı döküntüler, antifungal tedaviler) genişletme argümanı kendiliğinden ortaya çıkar. Her bir uzantı bireysel olarak savunulabilirken, kolektif olarak ilaç, algoritmanın varsayılan reçete yazan ve doktorun da denetçi olduğu bir modele doğru hareket ettirilecektir.
Tıp camiasının rahatsızlığı, zararlı sonuçlar doğuran tıbbi tavsiyeler için genel amaçlı sohbet robotlarına güvenen daha geniş bir tüketici profiliyle daha da artıyor; bu vakalar, yapay zeka şirketlerinin bizzat kısıtlamaya çalıştığı vakalar. Sabit bir formüle ve tanımlanmış bir puanlama tablosuna sahip amaca yönelik oluşturulmuş bir sistem, açık uçlu bir sohbet robotundan çok farklı bir yapıdır, ancak halk her ikisini de aynı zihinsel kategori altında dosyalama eğilimindedir.
Sırada Ne Var?
Pilotun bir yıllık penceresi, Utah'ın, çoğu eyaletin soruyla ilgili bir pozisyon taslağı hazırlamasından çok önce, özerk reçete yazmaya ilişkin gerçek dünya verilerine sahip olacağı anlamına geliyor. Önemli olan rakamlar, her aşamadaki hata oranları, denetlenen 500 kadar reçetedeki hasta sonuçları ve geriye dönük inceleme sisteminin, yakalamak üzere tasarlandığı hataları gerçekten yakalayıp yakalayamadığıdır.
Şimdilik program, tasarımcılarının amaçladığı şey olarak kalıyor: küçük, dikkatle çevrelenmiş bir deney. Ancak seyahatin yönü açık ve Utah, Amerika Birleşik Devletleri'nde reçete defterinin bir algoritma olması durumunda ne olacağını bulan ilk yargı bölgesi oldu.
---
Stay Ahead of AIGet the latest AI news, analysis, and breakthroughs — all in one place.
Read more AI news →
