Sağlık kuruluşları, yapay zeka (YZ) patlamasının ilk aşamasında teknolojinin işe yarayıp yaramadığını sorguladı. Sıradaki aşama ise çok daha zor bir soruyla şekillenecek: Sistem işe yaramadığında sorumluluk kime ait?
YZ, klinik kararlara, hasta iletişimine, sigorta işlemlerine ve sağlık verisi paylaşımına giderek daha fazla entegre olurken, düzenleyici ortam parçalı bir görünüm sergiliyor. Federal kurumlar denetim mekanizmalarını yeniden değerlendirirken, eyaletler kendi yaklaşımlarını geliştiriyor; mevcut sağlık, gizlilik ve tüketici koruma yasaları ise hiçbir zaman yönetmek üzere tasarlanmadıkları sistemlere uygulanmaya çalışılıyor.
Bu durum bir düzenleme boşluğu yaratmıyor. Aksine, çok daha karmaşık bir risk alanı oluşturuyor.
Epstein Becker Green hukuk bürosunun ortağı Alaap Shah, PYMNTS bünyesindeki Competition Policy International'a (CPI) verdiği röportajda, "Öz-denetim önemlidir çünkü savunulabilirlik önemlidir. Sağlık sektöründe YZ teknolojisi kullanımına bağlı olarak riskin kendini göstermeye başladığını zaten görüyoruz" dedi.
Bu nedenle, YZ'ye özgü yönetişim yetenekleri, sağlık sektöründe hem yasal bir koruma hem de ticari bir altyapı haline geliyor.
Mevcut Yasalar Sağlık Alanındaki YZ İçin de Geçerli
Kurumsal YZ'deki en tehlikeli varsayımlardan biri, kuruluşların yasa koyucuların net bir kural kitabı hazırlamasını bekleyebileceğidir. Sağlık şirketlerinin böyle bir lüksü yok. Gizlilik, ayrımcılık, tüketicinin korunması, sözleşmeler ve mesleki yükümlülüklerle ilgili yasalar, yapay zekadan doğrudan bahsetmeseler bile, YZ destekli faaliyetler için halihazırda geçerlidir.
Shah, "YZ için çıkarılmamış veya yayımlanmamış olsa da, YZ çözümlerine uygulanabilen mevcut hukuk alanları var" diyerek sağlık firmaları için sorunun sadece YZ'ye özgü bir yasanın uygulanıp uygulanmadığı değil, sistemin eski yasal yükümlülükler kapsamındaki riskleri yaratıp yaratmadığı olduğunu belirtti.
Demografik gruplar arasında farklı öneriler üreten bir hasta odaklı model, ayrımcılık riski doğurabilir. Bir doktorun kararını etkileyen klinik bir araç, tıbbi uygulama hatası davasında delil olarak kullanılabilir. YZ, sağlık hizmetlerinin mevcut sorumluluk yapısının yerini almıyor; onun içine giriyor.
Gıda ve İlaç Dairesi (FDA), belirli yazılımları tıbbi cihaz olarak düzenlemeye devam ediyor ancak yaklaşımı yoruma açık alanlar bırakıyor. Shah bu sınırı "hâlâ biraz bulanık" olarak nitelendirdi.
Shah, "Hâlâ bir şirketin o çizgiye kadar dayanıp FDA'nın 'Aslında bunu düzenlemek isteriz' dediği durumlar olacaktır" diyerek eyalet tıp kurullarının da işin içine girdiğini belirtti.
Bir geliştirici ürününü karar destek sistemi olarak tanımlayabilir. Ancak bir tıp kurulu, sistemi ruhsatsız bir klinik operatör gibi davranıyor olarak görebilir.
Shah, "Sanırım bir süre daha parçalı bir yapı olacak" dedi.
Sağlıkta YZ Yönetişimi Savunulabilir Bir Kayıt Haline Gelmeli
Sağlıkta YZ makinesinde bir başka pürüz daha var. Sağlık kuruluşları genellikle kullandıkları modelleri kontrol etmiyor. Tedarikçiler sistem günlüklerine, eğitim sürecine ve performans verilerine sahip olabilir; ancak bir araç hastane içinde başarısız olduğunda, hastaneden yine de ne olduğunu açıklaması beklenebilir. Bu da sözleşmeleri YZ yönetişiminin merkezine yerleştiriyor.
Hastanelerin güvenlik ve uyumlulukla ilgili standart taahhütlerden daha fazlasına ihtiyacı var. Günlük kaydı gereksinimleri, veri saklama yükümlülükleri, denetim hakları ve modelin ürettiği kanıtlara erişimi düzenleyen net kurallara ihtiyaçları var.
Shah, "YZ işlemesi sırasında herhangi bir olay kaydedilebiliyorsa, YZ'nin nasıl çalıştığını ve girdinin neden bu çıktıya yol açtığını anlayabilmemiz için bunun yapılması gerekiyor" dedi.
Bir klinisyen, işleyişi yeniden yapılandırılamayan bir sistemden etkilenen bir kararı savunamaz. Bir hastane de, ilgili kayıtları tedarikçi kontrol ediyorsa olumsuz bir olayı araştıramaz. Kara kutu artık sözleşmeye dayalı bir sorun haline geliyor.
YZ ayrıca sağlık sektörünün en bilinen gizlilik önlemlerinden birine de meydan okuyor: kimliksizleştirme (de-identification).
Doğrudan tanımlayıcıları kaldırmak riski azaltabilir, ancak YZ sistemleri veri kümelerini birleştirebilir, nitelikler çıkarabilir ve tek başına anonim görünen bilgileri yeniden ilişkilendirebilir.
Shah, "Yeterli veri girilirse, ilk etapta kimliksizleştirilmiş olsa bile YZ algoritmalarının bireyleri yeniden tanımlaması gerçek bir olasılık" diyerek önyargının da benzer bir sorun oluşturduğunu ekledi.
YZ, tedaviyi, ön onayı, sigorta kapsamını ve hasta iletişimini etkileyebilir. Bu sistemler korunan gruplar için farklı sonuçlar ürettiğinde, kuruluşlar federal uygulama önceliklerine bakılmaksızın dava, düzenleyici inceleme veya kamuoyu tepkisiyle karşılaşabilir.
Bu da iç yönetişimi daha da önemli hale getiriyor. Kuruluşların YZ sistemlerini envantere alması, risklerine göre sınıflandırması, sorumlu sahipler ataması, çalışanları eğitmesi, kontrolleri belgelemesi ve sorumluluğu tedarikçiler arasında dağıtması gerekiyor. Amaç, hatanın imkansız olduğunu kanıtlamak değil; kuruluşun ihmalkar davranmadığını kanıtlamak.
