ISO 42001, yapay zeka yönetim sistemleri için Aralık 2023’te yayımlanan bir standart olarak ödemeler sektöründe yönetişim ve tedarik kriteri olma yolunda ilerliyor. FSS ve Axis Bank gibi kurumların sertifikasyonu, özellikle üçüncü taraf yapay zekâ kullanımında sorumluluk ve izleme ihtiyacını gündeme getiriyor.
EY'nin yeni anketi, şirketlerin yapay zekayı ve otonom ajanları hızla devreye aldığını ancak yönetişim süreçlerinin aynı hızda ilerlemediğini ortaya koyuyor. Katılımcıların yarısı acil durumlarda yönetişim sürecini uygulamadığını belirtirken her üç şirketten biri maddi zarara yol açan bir yapay zeka olayı yaşadı. Agentic AI kullanımında görünürlük eksikliği ve yetkisiz ajanların tespit edilememesi riski öne çıkıyor.
Finans sektöründe yapay zeka ajanlarının hatalı kararları sonrası denetçilerin sorduğu 'Sistem tam olarak ne yaptı?' sorusu, sistem loglarıyla yanıtlanamaz. Sıradan uygulama logları bağımsız bir kanıt niteliği taşımazken, gerçek bir denetim için mimari düzeyde tasarlanmış, yeniden hesaplanabilir ve bağlayıcı kanıtlara ihtiyaç duyuluyor.
Anthropic ve OpenAI gibi yapay zeka devleri, geleneksel yönetim yapılarından uzaklaşarak kendi 'koruyucularını' atadıkları sıra dışı şirket yapıları kurdu. Anthropic'in 2 trilyon dolarlık halka arzı, bu güçlü dış mütevelli heyetinin rolünü ve şirketin kâr baskısı altındaki geleceğini yeniden merceğe yatırdı.
Ulusal Sigorta Komiserleri Birliği (NAIC), sigorta şirketlerinin yapay zeka kullanımını denetlemek için yeni bir risk değerlendirme eklentisi üzerinde çalışıyor. Pilot uygulamalar devam ederken, şirketlerden yapay zeka sistemlerinin nasıl yönetildiğine dair somut kanıtlar sunmaları bekleniyor.
McKinsey'in State of AI raporuna göre çalışanların %76'sı iş yerinde yapay zeka kullanıyor. Ancak bu araçların çoğu güvenlik ekipleri tarafından hiç incelenmiyor. Geleneksel yasaklama yaklaşımının başarısız olduğunu savunan uzmanlar, güvenlik ekiplerinin hızlı onay yolları oluşturarak hem çalışan memnuniyetini artırabileceğini hem de gölge yapay zekayı kontrol altına alabileceğini belirtiyor. Doğru yapay zeka yönetişimi, CISO'ların kurum içindeki stratejik rolünü güçlendiriyor.