Sanal zeka (AI) artık sadece siber güvenlik ekiplerinin şüpheli faaliyetleri bulmasına yardımcı olmuyor, aynı zamanda zafiyetleri keşfediyor, saldırı yollarını test ediyor ve bazen de sistemlerin sınırlarını zorluyor.
OpenAI, önümüzdeki Astra modelinin ön testlerinin güçlü olduğunu ve şirketin en yüksek siber güvenlik uyarı seviyesini, yani "Kritik" seviyesini ruled out edemediğini açıkladı. OpenAI'nin hazırlık çerçevesi altında, bu seviye, bir modelin bağımsız olarak zero-day zafiyetlerini keşfedip geliştirebileceği ve gerçek dünya sistemlerine karşı siber saldırılar gerçekleştirebileceği anlamına geliyor.
Uluslararası Para Fonu (IMF) de benzer bir sonuca varmış ve AI'nin yeni forms of cyberattack yaratmasına gerek olmadığını, paylaşılan teknolojilerdeki zafiyetlerin keşfedilmesini ve sömürülmesini hızlandırarak risk denklemini değiştirebileceğini belirtmiş.
Bankalar, FinTech şirketleri, tüccarlar ve kritik altyapı operatörleri için bu, AI siber riskini güvenlik takımının endişesinden empresa yönetim sorununa dönüştürüyor. Soru artık AI'yi siber güvenliğinde kullanıp kullanmamaları değil, bu sistemlere ne kadar otonomi verileceği ve şirketlerin yanlış giden bir şey olduğunda bunları kontrol edip edemeyeceği.
Daha fazla bilgi için: Wall Street’in Yeni Siber Güvenlik Tehlikesi
Siber yetenek eşiği her yere aynı anda hareket ediyor. Gelişmiş siber AI'nin en değerli savunma yetenekleri aynı zamanda en açık saldırı yetenekleri.
IMF, bu durumu çift kullanım sorunu olarak tanımlamış: zafiyet keşfi, penetrasyon testi, otomatik kod incelemesi ve yama önceliklendirmesi savunmaları güçlendirebilir, ancak bu yetenekler aynı zamanda sistemleri saldırıya dönüştürülebilir. Daha otonom modeller, insan müdahalesi olmadan çok adımlı operasyonları gerçekleştirebildikleri için tepki sürelerini daha da sıkıştırıyor.
Finansal hizmetler için primary sorun, modern bankaların birbirine bağlı teknolojilerden oluşması. Çekirdek bankacılık sistemleri, ödeme ağları, bulut iş yükleri, açık kaynak kütüphaneleri, kimlik altyapısı ve üçüncü taraf uygulamalar, dünyanın finansal omurgasını oluşturuyor. IMF, paylaşılan mimariğin, AI'nin ortak zafiyetleri keşfetme ve hedefleme hızını artırdığını ve bu durumun kurumlar arasında bağlantılı maruziyet yaratığını uyardı.
Daha fazla bilgi için: AI Siber Güvenlik Backlog
Kurumlara, başarılı saldırıların "patlama yarıçapını" sınırlamak için segmentasyon, zero-trust yaklaşımı, disiplinli erişim kontrolleri ve daha güçlü üçüncü taraf denetimi ile tasarlanmış mimarilere ihtiyaç duyuluyor. Sadece önleme yetmiyor; tespit, kapsama ve kurtarma da benzer bir hızda çalışmalı.
Bu, bankalar ve FinTech şirketleri için önemli çünkü AI siber güvenliği, zaten kullandıkları danışmanlık, yönetilen güvenlik ve yazılım platformlarının içine gömülecek. Model, bir bankanın bilançosunda yeni bir teknoloji satın alma olarak görünmeyebilir, ancak zafiyetlerin nasıl keşfedilip, sıralanıp ve düzeltileceği konusunda etkileyebilir.
OpenAI, kendi Daybreak AI savunma sistemini, Accenture, IBM, Capgemini, EY, KPMG, PwC, Palo Alto Networks, CrowdStrike, Cisco, Sophos, Akamai, Fortinet ve Cloudflare gibi şirketler aracılığıyla dağıtılıyor.
Yönetici odası doğrudan bunu takip ediyor. AI siber riski, belirli bir modelin güvenli olup olmadığından, modeli çevreleyen organizasyonun dayanıklı olup olmadığına doğru bir şekilde kayıyor. Rekabet avantajı, tam olarak neye erişebileceğini bilen ve yeteneklerin maruziyete dönüşmeden kapıyı kapatabilen şirkete ait olabilir.
