Sigorta regülatörleri, yapay zeka yönetişimini politika kılavuzlarından çıkarıp doğrudan denetim dosyalarına taşıyor.
Ulusal Sigorta Komiserleri Birliği (NAIC), Perşembe günü (13 Ağustos) düzenlenen Yaz Ulusal Toplantısı'nda, eyalet regülatörlerinin sigorta şirketlerinin yapay zekayı nasıl kullandığını ve denetlediğini incelemelerine yardımcı olmak amacıyla hazırlanan yapılandırılmış bir soru seti olan Yapay Zeka Risk Değerlendirme Eki hakkında güncel bir bilgilendirme yaptı.
Çalışma grubu, belgenin amacına yönelik kafa karışıklığını gidermek için adını "Yapay Zeka Sistemleri Değerlendirme Aracı"ndan değiştirdi. Bu ek bir sertifika programı, bir derecelendirme sistemi veya yeni bir sigorta yasası değil. Regülatörlere, piyasa davranışı incelemeleri, mali denetimler, mali analizler veya bağımsız soruşturmalar sırasında yapay zeka kullanımıyla ilgili kanıt toplamaları için ortak bir yöntem sunuyor.
Bu ayrım önemli olsa da, asıl önemli olan bunun pratikte yaratacağı etki. NAIC’nin yapay zeka ilkeleri ve 2023 model bülteni, sorumlu yapay zeka kullanımı için beklentileri ortaya koymuştu. Yeni ek, bu ilkeleri somut bilgi taleplerine dönüştürmeye başlıyor.
Başka bir deyişle, sigorta şirketlerinin yapay zekayı sorumlu bir şekilde yönettiklerini söylemelerinden fazlasını yapmaları gerekecek. Bunu nasıl yaptıklarını da göstermek zorunda kalacaklar.
Pilot uygulama California, Colorado, Connecticut, Florida, Iowa, Louisiana, Maryland, Pennsylvania, Rhode Island, Vermont, Virginia ve Wisconsin eyaletlerini kapsıyor. Katılımcı eyaletler tek bir süreci takip etmedi. Bazıları eki planlı denetimlere dahil ederken, diğerleri bunu geçici bir anket olarak kullandı.
Pilot uygulama Eylül ayı boyunca devam edecek, ancak NAIC her eyaletin 30 Eylül'e kadar işlemleri bitiremeyebileceği konusunda uyarıda bulundu. Eyaletlerden gelen geri bildirimler ve şirketlerin ilk yanıtları, Eylül ayında 30 günlük bir kamuoyu değerlendirme sürecine girmesi beklenen 5.0 versiyonuna yön verecek. 6.0 versiyonu için ise regülatörlerin sonbahardaki ulusal toplantıda 7.0 versiyonunu kabul etmeden önce 14 günlük ikinci bir değerlendirme süreci planlanıyor.
Ekin genişleyen kapsamı, sigorta şirketlerinin en çok hangi alanlarda denetime maruz kalabileceğini gösteriyor. Regülatörler bir yapay zeka sisteminin amacını, veri kaynaklarını, eğitim verilerini, doğrulama prosedürlerini ve risk sınıflandırmasını anlamak istiyor. Ayrıca belgelendirme, performans izleme, değişiklik geçmişleri ve bir şirketin yapay zeka tarafından üretilen bir sonucu denetleyip açıklayıp açıklayamayacağı konularını da inceliyorlar.
İnsan denetimi de bu incelemenin bir parçası. Regülatörler, bir modeli kimin onaylayabileceğini, çıktısına itiraz edebileceğini, performans düştüğünde müdahale edebileceğini ve bir sistem veya tedarikçi değişikliğinden sonra neler olduğunu belgeleyebileceğini inceliyor.
Sigorta şirketleri için bu durum, mevcut bir yapay zeka envanterinin değerini artırıyor. Bir şirket her sistemi tanımlayabilmeli, ne işe yaradığını açıklayabilmeli, kullandığı verileri isimlendirebilmeli ve iç ve dış bağımlılıklarını haritalandırabilmeli. Ayrıca test sonuçlarını, izleme kayıtlarını ve kontrollerin pratikte işe yaradığına dair kanıtları da sunabilmeli.
Tedarikçiler üzerindeki etkiler de paralel bir çizgide gelişiyor. Çarşamba günü (12 Ağustos), NAIC'nin Üçüncü Taraf Veri ve Modeller Çalışma Grubu, mülk ve kaza sigortası fiyatlandırması ve hasar tespiti süreçlerinde kullanılan harici verileri ve tahmin modellerini kapsayan önerilen bir çerçeveye ilişkin geri bildirimleri inceledi.
Teklif, tedarikçilerden modelin amacı, varsayımları, girdileri, sınırlamaları, doğrulaması ve performansını kapsayan belgeler sunmalarını isteyebilir. Regülatörler ayrıca veri soyu kayıtları, adil kullanım testleri, değişiklik günlükleri ve denetim izleri de talep edebilir. Toplantı materyalleri, sigorta şirketlerinin üçüncü taraf ürünlerini doğrulama, test etme ve izleme sorumluluğunu koruyacağını belirtti.
Bu durum, sigorta teknolojisi sağlayıcıları için yeni bir ticari ayrım çizgisi yaratabilir. Denetime hazır belgeler sunabilen platformlar, regüle edilen şirketler tarafından daha kolay benimsenebilir. Model detaylarını erişilmez kılan tedarikçiler ise müşterileri için uyum sorunları yaratabilir.
Regülatörlerden gelen mesaj giderek daha net hale geliyor. Bir sigorta şirketi bir yapay zeka modelini dışarıdan yaptırabilir, ancak sorumluluğu dışarıya devredemez.
