Google, tehdit aktörlerinin API anahtarlarını ele geçirerek kurumsal Büyük Dil Modelleri kaynaklarını kötüye kullandığı LLMjacking saldırılarına dikkat çekti. Saldırılar saatler içinde yüz binlerce dolarlık hileli bulut faturası oluşturabiliyor. Raporda UNC6993 gibi aktörler ve yasa dışı LLM yönlendirme hizmetleri de anlatılıyor.
Eylülde Çin dili konuşan bir saldırgan yapay zeka destekli sistemlerle 105 e-ticaret sitesini hedef aldı ve 27 şirketi kısa sürede ele geçirdi. Silverfort laboratuvar testinde kamuya açık bir modelle 8 dakikada tam alan kontrolü 12 dolara sağlandı. Uzmanlar saldırganların maliyetinin düşmesiyle savunma stratejilerinin de ucuzlaması gerektiğini vurguluyor.
Fiziksel yapay zekâ sistemlerinde güvenlik artık sadece arıza durumlarına değil, saldırganın algı ve karar sürecini değiştirmesine karşı dayanıklılığa odaklanıyor. Araştırmalar eğitim aşamasından çalışma zamanına kadar uzanan çok katmanlı saldırı yüzeylerini ve robot davranışını manipüle eden geri kapı saldırılarını ortaya koyuyor. Uzmanlar, fonksiyonel güvenliğin yanına yaşam döngüsü boyunca siber güvenlik güvencesinin eklenmesi gerektiğini vurguluyor.
Bitcoin swap hizmeti Boltz, yapay zeka destekli saldırıların artması ve ekibin bu saldırılara yetişememesi nedeniyle tüm swap işlemlerini süresiz olarak durdurdu. Kullanıcı fonlarının güvende olduğunu belirten şirket, saldırganların açık kaynak kodlarındaki zafiyetleri bulma ve yama yapma hızını geçtiğini ifade etti. Bull Bitcoin ve Aqua gibi cüzdanlar etkilenirken, sektör temsilcileri açık kaynak altyapısına daha fazla fon sağlanması gerektiğini vurguladı.
Linux Foundation, 19 kurucu üye ile birlikte Akrites adlı yeni bir girişimi duyurdu. Bu girişim, kritik açık kaynak yazılımlardaki güvenlik açıklarının, yapay zeka destekli saldırganlar tarafından kullanılmadan önce kapatılmasını koordine etmeyi hedefliyor. Yapay zeka modellerinin güvenlik açıklarını keşfetme hızı, mevcut süreçleri yetersiz bırakırken Akrites bu boşluğu doldurmayı amaçlıyor.