ABD Para Denetçisi Ofisi (OCC), bankaların yapay zekâ kullanımını değerlendiren denetçiler için ilk çerçevesini yayımladı; odak noktası modelin karmaşıklığı değil, sonuçlar ve özerklik.
Rehber özellikle dış yapay zekâ ajanlarını ele alıyor ve büyük bankaların dile getirdiği endişeleri yansıtıyor.
Çerçeve bağlayıcı olmayan ancak özerk ödemeler, üçüncü taraf erişimi ve insan denetimi için koruma örnekleri sunuyor.
ABD Para Denetçisi Ofisi, bugün bankacılıkta yapay zekâ için ilk denetim çerçevesini yayımladı ve denetçilere yapay zekâ sisteminin ne kadar güçlü olduğuna değil, hata yaptığında ne olduğuna odaklanmalarını söyledi.
OCC'nin çerçevesi bu endişeyi ele alıyor; ancak düzenleyici yayımlamayı bu özel olaylara bağlamadı.
Operasyonel dayanıklılık bölümünde kurum, müşteriler, fintech'ler veya diğer şirketler tarafından işletilen dış ajanların bankaların kontrol etmediği sistemlerde bile risk yaratabileceği konusunda uyarıyor.
Kurum, denetçilerin kimlik doğrulama, devredilmiş izinler, işlem limitleri, izleme ve erişimi askıya alma ya da iptal etme yeteneği gibi önlemleri değerlendirmesini öneriyor.
Yönergeler, müşterilerin yapay zekâ asistanlarını finanslarını yönetmek için kullanmasına izin verme ikilemini ele almayı amaçlıyor; aynı zamanda özerk yazılıma hesaplara sınırsız erişim verilmemesini sağlıyor.
Yeni OCC rehberi, büyük bankaların müşterilerin hesaplarında yetkisiz üçüncü taraf yapay zekâ ajanları keşfettiği ve bazen kullanıcı talimatlarının ötesinde görünen eylemler aldığı yönündeki raporların gelmesinden iki haftadan az bir süre sonra geldi.
Axi os'un 22 Ekim tarihli haberine göre Morgan Stanley dış ajanları engelliyor, JPMorgan, Bank of America ve Citi ise erişimi kısıtlıyordu. Banka yöneticileri durumu "dehşet verici" olarak tanımladı ve özerk bir ajanın birinin parasına erişimi olduğunda kontrolün kimin elinde olduğu sorusunu gündeme getirdi.
Para transferi yapan yapay zeka, e-posta yazandan daha riskli
OCC'nin çerçevesi, bir yapay zekâ sisteminin teknik karmaşıklığı ile yaratabileceği zarar arasında ayrım yapıyor.
Düzenleyiciye göre finansal işlem başlatmak için yetkilendirilmiş basit bir ajan, iç doküman yazmakla sınırlı daha gelişmiş bir modelden daha büyük risk oluşturabilir.
22 sayfalık çerçeve kapsamında denetçiler, başarısızlığın sonuçlarını, bir eylemin geri çevrilebilir olup olmadığını ve insanların sistem üzerinde ne kadar kontrolü koruduğunu göz önünde bulundurabilir.
Kurum dört örnek risk katmanı özetliyor. Tamamen özerk ödeme ajanları ve gerçek zamanlı kredi karar sistemleri en yüksek kategoriye girerken, temel iç verimlilik araçları en düşük kategoride yer alıyor.
Daha yüksek riskli sistemler, özerklik üzerinde daha sıkı kısıtlamalar, bağımsız testler ve sonuç doğuran eylemler ilerlemeden önce insan onayı gerektirebilir.
Çerçeve, zararlı kararlar almaya devam eden yapay zekâ sistemlerini de ele alıyor. Önerilen koruma önlemleri arasında devre kesiciler, hız limitleri, kısıtlı izinler ve acil durum kapatma kontrolleri bulunuyor.
Bu hususlar, bankaların meşru müşteri onaylı yazılımı, amaçlanan izinlerin ötesinde çalışan sistemlerden ayırt etmekte zorlandığı Axios'un daha önceki haberinde anlatılan dış ajanlar için özellikle ilgili.
Rehberlik, yeni bankacılık kuralı değil
OCC, belgenin bankalar için yeni düzenleyici gereklilikler veya uygulanabilir standartlar oluşturmadığını vurguladı.
Bunun yerine, denetçilere yapay zekâyı mevcut operasyonel, uyum ve siber güvenlik risk kategorileri içinde değerlendirme yolu sunuyor. Bankaların ayrı bir yapay zekâ risk kategorisi oluşturması gerekmiyor.
Belgede Donald Trump yönetimi tarafından "yapay zekâ" yerine kullanılması ısrar edilen zorunlu terim "Super Intelligence" kullanılıyor; ancak kapsamı geleneksel yapay zekâ ve "özerk ajanları" kapsıyor, yalnızca insan yeteneklerinin ötesindeki hipotetik sistemleri değil.
Çerçeve, ödemeler, dolandırıcılık tespiti, müşteri hizmetleri ve diğer bankacılık operasyonlarında kullanılan yapay zekâyı kapsıyor. Ayrıca bankacılık kanalları üzerinden bağlanan dış yapay zekâ ajanlarına yönelik risk değerlendirmelerini de genişletiyor.
OCC, teknolojinin gelişmesiyle rehberi güncelleyeceğini söyledi. Şimdilik örnek risk ölçeği, testlerde ne kadar iyi performans gösterirlerse göstersinler özerk ödeme ajanlarını en yüksek risk kategorisine yerleştiriyor.
