Bir şirketin kredi talebi bir avuç bankacının bulunduğu odaya ulaşmadan önce bilgisayarın onu zaten değerlendirmiş olması mümkün.
Yapay zeka araçları artık borçluları puanlıyor, finansal tabloları tarıyor ve kredi onay zaptının ilk taslağını yazıyor. Birçok durumda bankada bu değişikliği resmen onaylayan kimse olmuyor. Bu durum, bir kredi kararının nasıl alındığı sorulduğunda büyük bir sorun haline gelebilir.
Bu uyarı, şirketlere dış hukuk danışmanlığı sağlayan bir firma olan Outside GC'den geliyor; yazı Ortak Kristin Kreuder tarafından kaleme alındı. Yapay zeka çoğu zaman kredi sürecine arka kapıdan sızıyor. Bir banka borçlunun finansal verilerini düzenlemek için bir araç satın alabilir. Zamanla araç kredi şartlarıyla ilgili sorunları işaretlemeye başlıyor. Sonra onay zaptını yazmaya yardım ediyor. Kısa sürede bankanın risk notları aracın söylediğiyle hareket etmeye başlıyor. Kimse bankanın kredi kurallarını buna göre güncellemiyor.
Bu kayma gerçek bir hukuki risk yaratıyor. Yazıya göre bankalar kredi kararlarını düzenleyicilere, borçlulara ve diğer kredi verenlere açıklayabilmek zorunda. Kredi bozulursa, yapay zekanın neyi incelediği, neyi kaçırdığı ve bir insanın nerede devreye girdiği sorulacak. Bilgisayar özeti gibi okunan bir tutanak bu tür bir incelemede ayakta kalmayabilir.
Kurallar da basit değil. Yazıya göre federal bankacılık düzenleyicileri nisan ayında bankaların risk modellerini nasıl yönettiğine dair rehberliğini güncelledi. Rehber, metin yazan ya da kendi başına hareket eden yapay zeka araçlarını kapsamıyor. Bu bankalara serbest geçiş vermiyor. Güvenlik, gizlilik ve dış tedarikçilerle ilgili diğer kurallar hâlâ uygulanabilir. Federal adil kredi yasası da kredi verenlerin ticari başvuru sahibini reddederken belirli nedenler göstermesini gerektiriyor. Kendini açıklayamayan bir araç bunu zorlaştırıyor.
Yazıya göre eyalet yasaları da devreye girebilir. Colorado'da yeni bir yasa 1 Ocak 2027'de yürürlüğe giriyor ve bireylere yönelik otomatik kararları, kredi de dahil olmak üzere kapsıyor. Bu kurumsal krediyi tüketici kredisine çevirmeyecek ama iş sahibi kişisel olarak krediyi garantiliyorsa uygulanabilir.
Yapay zeka izleme de kendi baş ağrılarını getiriyor. Sürekli borçluları sorun açısından tarayan bir araç, bankanın neyi ne zaman bildiğiyle ilgili tarihli bir kayıt oluşturuyor. Uyarılar birikip yanıt verilmezse bu kayıt bir davada ya da iflas mücadelesinde ortaya çıkabilir. Çok fazla uyarı da ters tepebilir. Personel ciddi uyarıları arka plan gürültüsü gibi görmeye başlayabilir.
Yazıya göre banka avukatlarının işi genellikle yapay zeka benimsemesini yavaşlatmak değil, sonradan yapay zeka kullanımını hesaba katabilmek.
“Algoritma analizde yardımcı olabilir. Yargı hâlâ kurumun kendisine aittir.”
Yazıya göre bankalar yapay zekanın kredi sürecinde nerede göründüğüne dair güncel bir harita tutmalı. Kredi dosyaları gerçek insan incelemesini göstermeli. Bir kişi aracın kararını geçersiz kılarsa banka bunu kaydetmeli ve nedenini açıklamalı. Uyarıların nasıl ele alınacağına dair kurallar ilk uyarı gelmeden önce yazılmalı.
Yazıya göre kendi başına eylem alabilen yapay zeka araçları sıkı sınırlar ve ayrıntılı kayıtlar gerektiriyor. Bir grup banka tarafından paylaşılan kredilerde krediyi yöneten banka yapay zekayı borçlunun şartlara uyup uymadığını kontrol etmek için kullanabilir. Diğer kredi verenler nasıl üretildiğini bilmeden bu sonuçlara güvenebilir. İnsan incelemesi için yazılmış kredi sözleşmelerinin yeniden gözden geçirilmesi gerekebilir.
Son olarak yazıya göre bankalar yapay zeka denetimini yönetim kurullarına düz bir dille raporlamalı. Kazananlar yapay zekayı en hızlı benimseyen bankalar olmayacak. Onu kullanabilen, açıklayabilen ve savunabilenler olacak.
