Bankacılık gözetim kurumları yapay zekadan kaynaklanan artan riskleri kontrol etmek için çabalarını artırıyormuş.
Reuters’ın 13 Ekim Salı günü konuya yakın kaynaklara dayandırdığı haberine göre, bu sıkı denetim kısmen bankalara yönelik siber saldırı tehdidi ve finansal istikrarı bozabilecek kötü niyetli yapay zeka ajanları endişesiyle besleniyor.
Kaynaklar, bu denetimin yapay zekadaki ilerlemenin siber toparlanma için daha fazla yatırım, dış teknoloji sağlayıcılarına bağımlılığa daha fazla odaklanma ve bazı yargı bölgelerinde düzenleyicilerden daha resmi rehberlik anlamına gelebileceğinin giderek daha fazla fark edildiğinin işareti olduğunu söylüyor.
Reuters’a konuşan iki kaynağa göre, Federal Reserve’in de aralarında bulunduğu ABD’nin en üst düzey üç düzenleyicisi, bankaların gelişmiş yapay zeka modellerini kullanımlarını sorguluyor ve önceki denetime ekliyor.
Kaynaklara göre bu sorular bankaların Çin’de geliştirilen teknolojiyi kullanıp kullanmadığını, siber güvenlik için yapay zeka ajanları kullanıp kullanmadığını ve otonom sistemleri dizginleyip dizginleyemeyeceğini kapsıyor.
Bu arada İngiltere Merkez Bankası ve Avrupa Merkez Bankası, hızlı yapay zeka ilerlemesinin finansal piyasalarda daha önce düşünülenden erken bozulma getirebileceği endişesiyle bankaları kurtarma planlarını güçlendirmeye çağırıyor, üç kaynak ekledi.
Reuters’ın belirttiğine göre yapay zeka denetimi tartışması, sektörden gelen güvenlik endişesi uyarılarının ardından hız kazandı. J.P. Morgan CEO’su Jamie Dimon, şirket liderlerini yapay zeka riskleriyle mücadele etmek için ABD odaklı bir endüstri grubuna katılmaya çağırdı.
Siber güvenlik şirketi CrowdStrike yakın zamanda Çin’de bir kişinin Çin yapımı bir yapay zeka ajanı ve Anthropic’in Claude Code’unu kullanarak Güney Kore’deki bankaları hacklediğini söyledi. Yaz aylarında OpenAI’den gelen kötü niyetli yapay zeka ajanları ise yapay zeka platformu Hugging Face’i ihlal etti.
PYMNTS geçen ay bildirdi ki federal bankacılık düzenleyicileri nisanda ortak model riski rehberliğini güncellemesine rağmen, bu düzenlemelerin kapsamı üretken ve ajansal yapay zekayı içermiyordu.
Kurumlar bu teknolojileri yeni ve hızla gelişen olarak nitelendirdi ve bankaların yapay zeka kullanımına ilişkin ayrı bir bilgi talebi planladıklarını söyledi. Bu durum eyalet düzenleyicilerini tüm yapay zeka sisteminin daha geniş bir incelemesini öneren yeni bir çerçeve oluşturmaya itti.
“Bir denetçi, bir uygulamanın kimin sahibi olduğunu, nerede çalıştığını, hangi verilere erişebileceğini, hangi satıcının sağladığını ve hangi iş ya da tüketici kararlarını etkileyebileceğini bilmek isteyebilir,” dedi rapor.
“Bankalar için yapay zeka envanteri tutmak artık yeterli olmayabilir. Kurumlar her girişi sorumlu bir sahibe, belgelenmiş amaca, risk sınıflandırmasına, satıcı ilişkisine ve bir dizi kontrole bağlamak zorunda kalacak. Ayrıca bu kontrollerin işe yaradığını gösteren kanıtlara da ihtiyaç duyabilirler.”
