ABD genelindeki kamu sağlığı kurumları, üretken yapay zekâ araçlarını yeni bir program kapsamında sahada test etmeye hazırlanıyor. Coalition for Health AI, OpenAI, Anthropic ve Accenture iş birliğiyle yürütülecek Public Health Use Case and Learning Scaling Engine, yani PULSE, eyalet, yerel, kabilesel veya bölgesel düzeyde 10 farklı yargı alanında pilot uygulamalara destek verecek. Programın temel amacı, benzer AI dağıtımlarını değerlendiren kamu sağlığı kurumları için uygulanabilir rehberler ve kullanım kılavuzları oluşturmak.
OpenAI ve Anthropic, program için toplam 10 kurumsal lisans bağışladı. Bu lisansların en fazla 2.000 kamu sağlığı çalışanına erişim sağlayabileceği belirtiliyor. Accenture ise katılımcıların sisteme alınma sürecini yönetecek ve pilotlardan çıkan sonuçlara göre uygulama kılavuzlarının hazırlanmasına katkı verecek. Buna karşın hangi ürünlerin kullanılacağı, model sürümlerinin ne olacağı veya yapılandırmaların nasıl belirleneceği henüz açıklanmış değil. İki sağlayıcının pilotlara nasıl dağıtılacağı da netleştirilmedi.
PULSE kapsamında kamu sağlığı ekipleri beş ana kullanım alanına odaklanacak. Bunlar biyogözetim ve uyuşturucu dalgası tahmini, sağlıkta sosyal belirleyiciler ve SDoH haritalama, operasyon ve verimlilik ile topluluk geri bildirimi analizi, kamuya yönelik iletişim ve çok dilli çeviri merkezi, ayrıca otomatik klinik veri çekme ve bir FHIR sorgu motoru olarak sıralanıyor. Katılımcı kurumların seçimi ve uygulayıcıların bu başlıklara göre topluluklara atanması, Coalition for Health AI liderlik konseyi tarafından yapılacak.
Bu tablo, kamu sağlığında AI için geniş bir deney alanı açsa da, uygulamaların nasıl denetleneceğine dair birçok ayrıntı şimdilik belirsiz. NIST’in AI Risk Management Framework yaklaşımı, AI sistemlerinin amaçlanan kullanımına, çalıştığı ortama, etkilenen taraflara ve olası sonuçlara göre değerlendirilmesini öneriyor. Ancak CHAI, PULSE kapsamındaki beş kullanım senaryosu için ayrı değerlendirme, gizlilik, güvenlik veya insan denetimi gereksinimleri yayımlamadı.
Özellikle klinik veri çekme ve FHIR sorgu motoru tarafında üretken AI’nin rolü açık biçimde tanımlanmış değil. FHIR, uyumlu sistemler arasında sağlık bilgilerinin elektronik olarak değişimini sağlayan bir HL7 standardı. Fakat bu iş akışında modelin tam olarak ne yapacağı belirtilmiyor: sorgu mu üretecek, kayıt mı çekecek, dönen bilgileri mi özetleyecek, yoksa bu işlevleri birleştiren bir yapı mı kurulacak, belli değil. Yanlış sorguların, eksik veri çekiminin veya desteklenmeyen özetlerin kullanım öncesinde personel tarafından kontrol edilip edilmeyeceği de açıklanmadı.
Veri tarafında da benzer soru işaretleri var. Önerilen bazı kullanım alanları; demografik, coğrafi, klinik veya nüfus sağlığına ilişkin bilgileri içerebilir. Buna rağmen pilotlarda tanımlanabilir kayıtların mı, kimliksizleştirilmiş verilerin mi, sentetik verilerin mi yoksa toplulaştırılmış veri setlerinin mi kullanılacağı duyurulmadı. Bu ayrım, özellikle hassas sağlık verilerinin korunması açısından kritik önem taşıyor.
ABD Sağlık ve İnsan Hizmetleri Bakanlığı, HIPAA kapsamındaki kuruluşların belirli elektronik sağlık bilgilerini korumasını şart koşuyor. Bulut bilişim rehberlerinde de, düzenlemeye tabi kurumlar ile hizmet sağlayıcıların; bulut sistemleri elektronik korunan sağlık bilgilerini oluşturduğunda, aldığında, tuttuğunda veya aktardığında HIPAA yükümlülüklerini yerine getirmesi gerektiği belirtiliyor. Ancak HIPAA her katılımcı kurum veya her iş akışı için otomatik olarak geçerli değil; bunun kapsamı kurumun niteliğine, kullanılan veriye ve yürütülen işleve göre değişiyor.
OpenAI, ChatGPT Enterprise ve API dahil iş hizmetlerindeki giriş ve çıkışların varsayılan olarak model eğitimi veya iyileştirmesi için kullanılmadığını söylüyor. Anthropic de ticari ürünlerindeki giriş ve çıkışları varsayılan olarak model eğitimi için kullanmadığını belirtiyor. Yine de bu genel sağlayıcı politikaları, PULSE dağıtımlarının tam olarak nasıl yapılandırılacağını göstermiyor. Duyuruda veri saklama süreleri, erişim kontrolleri, denetim düzenekleri, veri depolama gereksinimleri veya korunan sağlık bilgilerinin sisteme girilmesine ilişkin kurallar yer almıyor.
Pilotların 2026 sonbaharında başlaması planlanıyor. Ortaya çıkacak uygulama kılavuzlarının ise 2027’de yayımlanması ve diğer kamu sağlığı kurumları için başvuru materyali olarak kullanılması bekleniyor. Fakat CHAI, pilotların hangi ölçütlere göre değerlendirileceğini açıklamadı. Her kullanım alanının ayrı teknik, operasyonel, gizlilik ve güvenlik kriterleriyle mi ele alınacağı da belirsizliğini koruyor.
İnsan denetimi konusu da açıklanmayan başlıklardan biri. Üretilen kamu iletişimlerinin personel onayına tabi olup olmayacağı, çevirilerin doğrulanıp doğrulanmayacağı, çekilen klinik bilgilerin teyit edilip edilmeyeceği veya biyogözetim ve uyuşturucu dalgası tahmini çıktılarının kullanılmadan önce gözden geçirilip geçirilmeyeceği belirtilmedi. NIST rehberleri, hangi AI işlevlerinin insan gözetimi gerektirdiğinin tanımlanmasını ve kullanıcıların sistem performansı ile sınırlamaları konusunda eğitilmesini öneriyor. Üretken AI rehberliği de test, doğrulama, izleme, dokümantasyon, gizlilik ve yönetim gözetimi gibi alanlara odaklanıyor.
Programın gerekçesi tarafında ise kamu sağlığı kurumlarının sınırlı kaynaklarla daha fazla iş yükü taşıması öne çıkıyor. CHAI’nin dayanak gösterdiği National Association of County and City Health Officials verilerine göre yerel sağlık departmanlarının yaklaşık %40’ı AI kullanmıyor. Bazı kurumların iş akışlarını yenilemek ve operasyonel verimliliği artırmak istediği ifade ediliyor. PULSE bu çerçevede kurumsal lisanslar, sisteme alma desteği, meslektaş toplulukları ve uygulama kılavuzları sunacak; ancak katılımcı kurumlar için asgari personel, altyapı, birlikte çalışabilirlik veya siber güvenlik gereksinimleri de henüz tanımlanmış değil.
Programa eyalet ve bölgesel sağlık departmanları, ilçe ve belediye kurumları, kabilesel otoriteler, Indian health organisation yapıları ve büyük şehir sağlık departmanları katılabilecek. PULSE, 10 farklı yargı alanından elde edilen bulguları daha geniş kullanım için rehbere dönüştürmeyi hedefliyor. Ancak bu rehberlerin; kurum ölçeği, teknik sistemler, hukuki sorumluluklar, personel kapasitesi veya tedarik süreçleri arasındaki farkları nasıl ele alacağı açıklanmadı. Benzer şekilde biyogözetim, uyuşturucu dalgası tahmini veya klinik veri çekme çıktılarının yalnızca test amaçlı mı kullanılacağı, personele inceleme için mi sunulacağı, yoksa operasyonel iş akışlarına mı dahil edileceği de net değil.
PULSE, Coalition for Health AI’nin sağlıkta AI yönetişimine yönelik daha geniş çalışmasının bir parçası konumunda. Kurum, mayıs ayında 150’den fazla sağlık AI temsilcisinin katıldığı atölye ve çalışma gruplarıyla sekiz yönetişim alanını kapsayan rehberler geliştirmeyi planladığını duyurmuştu. Sonrasında kurumsal AI politikaları, yönetişim yapıları ve iç kaynaklara ilişkin bazı playbook’lar yayımlanmaya başladı. PULSE duyurusu, katılımcı kamu sağlığı kurumlarının Joint Commission ile ilişkili gönüllü Responsible Use of AI in Healthcare sertifikasyonu kapsamında değerlendirileceğini ise söylemiyor.
Genel çerçevede PULSE, kamu sağlığı tarafında üretken AI’nin gerçek ortamlarda nasıl kullanılabileceğini görmek için önemli bir pilot girişim niteliği taşıyor. Bununla birlikte açıklanan yapı, teknolojik erişim kadar yönetişim, veri koruma, denetim ve değerlendirme başlıklarının da belirleyici olacağını gösteriyor. Program, kamu sağlığı ekiplerine geniş çaplı uygulamadan önce pratik deneyim sunmayı hedefliyor; fakat bu deneyimin güvenilir ve ölçeklenebilir sonuçlara dönüşmesi, henüz tanımlanmamış operasyonel ayrıntıların nasıl netleştirileceğine bağlı olacak.
