BIS'e ait bir çalışma, yapay zekanın bankaların yazılım açıklarını onarmak için sahip olduğu süreyi kısalttığı uyarısında bulunuyor.
Yazarlar, rutin yama takvimlerinin giderek yetersiz kaldığını söylüyor.
Denetleyiciler, ihlalleri sınırlamak ve hizmetleri yeniden sağlamak için daha hızlı düzeltme ve daha iyi hazırlık çağrısı yapıyor.
Uluslararası Bankacılık Uzlaşma Odası tarafından yayımlanan yeni bir çalışmaya göre, gelişmiş yapay zeka bankaların saldırganların istismar etmesinden önce yazılım hatalarını düzeltmek için daha az zaman bırakıyor.
Çarşamba günü yayımlanan Finansal İstikrar Enstitüsü raporu, yapay zeka geliştiricileri ve finansal düzenleyicilerin artan yetenekli modellerin siber saldırıları hızlandırdığı yönündeki son uyarılarına ekleniyor. Yeni raporun odağı bankaların tepki verme yeteneği üzerinde; yazarlar kurumların hem yazılım onarımlarını hem de bunları yetkilendirmek için gereken kararları hızlandırması gerektiğini savunuyor.
Yazarlar, "Sınır yapay zekasının getirdiği en önemli gelişme otonom açık keşfi ve istismarıdır" diye yazdı ve periyodik güvenlik değerlendirmeleri ile planlı yamalamanın giderek yetersiz kaldığı konusunda uyardı. "Açık keşfi ile istismar arasındaki pencere haftalardan dakikalara daraldı."
Rapor, Birleşik Krallık Mali Davranış Otoritesi'nin açık keşfinin firmaların tepki verme kapasitesini aşması yönündeki incelemesine atıfta bulunuyor. Ayrıca Enstitü of International Finance'in, planlı bakım pencereleri dışında bile daha hızlı yama yapılmasını ve planlı kesintilerin daha fazla kabul edilmesini isteyen rehberliğine de yer veriyor.
Rapora göre, Birleşik Krallık'ın Cross Market Operational Resilience Group'undan gelen ayrı gönüllü rehberlik, onarım sürelerinin haftalardan günlere ve bazı durumlarda saatlere ineceğini öngörüyor.
Raporun bahsettiği süreler gönüllü olsa da düzenleyiciler bankaların daha hızlı hareket etmesi için baskı yapıyor: Almanya'nın BaFin'i daha hızlı yama çağrısı yaparken, Hong Kong'un para otoritesi daha güçlü ihlal tepki ve toparlanma çağrısında bulundu.
Rapor şöyle diyor: "Örneğin Hong Kong Para Otoritesi, kurumların operasyonel dayanıklılık programlarına yapay zeka destekli siber senaryoları entegre etmesini ve olay müdahale ile toparlanma kapasitesini artırmasını teşvik etti; siber tehdit ortamı gelişmeye devam ettikçe 'ihlal' senaryolarının daha olası hale gelebileceğini kabul ederek." "Benzer şekilde Avrupa Merkez Bankası'nın siber dayanıklılık stres testi programı ve Dijital Operasyonel Dayanıklılık Yasası'nın uygulanması, kurumların yalnızca siber saldırılara dayanma değil, ciddi operasyonel kesintiler boyunca kritik hizmetleri sunmaya devam etme yeteneğini vurgular."
Uyarı, OpenAI, Anthropic ve 100'den fazla kuruluşun desteklediği ağustos ayındaki daha güçlü siber savunma çağrısının ardından geldi. İmza sahipleri daha sıkı erişim kontrolleri, tehdit paylaşımı ve yapay zeka ajanlarının daha yakın denetimini önerdi.
BIS çalışması, Hugging Face'e yönelik OpenAI modellerini içeren saldırıyı, testlerde gösterilen yeteneklerin gerçek sistemlere yönelik saldırıya dönüşebileceğinin ön kanıtı olarak inceliyor. OpenAI daha sonra ajanlarının operasyonda nasıl koordine olduğunu açıkladı.
Yazarlar normal güvenlik önlemlerinin gevşetildiğini ve önemli ölçüde hesaplama kaynağı sağlandığını vurgulasa da, olayın kamuya açık yapay zeka araçlarının oluşturduğu riskleri doğrudan yansıtmadığını söylüyor.
Yazarlar şöyle yazdı: "OpenAI olayı, sınır yapay zeka modellerinin kendi başına kötü niyetli hedefler geliştirebileceğinin bir göstergesi değildir. Bununla birlikte, dar tanımlı bir görevi istenmeyen ve zararlı sonuçlarla yürütebilirler." "Bu gelişmenin siber dayanıklılık açısından önemi, yetenekli bir modelin plan yapmasını, araç kullanmasını ve özerk hareket etmesini sağlayan çevredeki bir yazılım sistemi ile birleştirilmesinde yatıyor."
