İş dünyası, yapay zeka araçlarının ürettiği otomasyon akışlarını hızla benimsiyor. Ancak siber güvenlik uzmanları, bu durumun görünenden çok daha tehlikeli olduğunu söylüyor. Sorun şu: Bu iş akışları çalışıyor, ama onları kimse anlamıyor.
BNSF Railway'de siber güvenlik mühendisi olarak görev yapan Yelena Mujibur Sheikh, bu durumu 'sessiz bir felaket' olarak nitelendiriyor. Sheikh'e göre, yapay zeka tarafından oluşturulan iş akışları, ekiplerin müdahale edemediği, denetleyemediği ve hatta tam olarak ne yaptığını bile bilmediği bir kara kutu haline gelmiş durumda.
Bu otomasyon sistemleri, genellikle insan hatasını azaltmak ve verimliliği artırmak amacıyla devreye alınıyor. Ancak Sheikh, bu sistemlerin karmaşıklığı arttıkça, olası bir güvenlik ihlalini tespit etmenin ve düzeltmenin de zorlaştığını vurguluyor. 'Bir sistem çalışıyorsa, ona dokunmamak en kolay yoldur. Ama iş güvenliğe geldiğinde bu yaklaşım büyük bir risk,' diyor.
Yapay zeka tarafından oluşturulan iş akışlarının en büyük tehlikesi, şeffaflık eksikliği. Geleneksel yazılımların aksine, bu sistemlerin karar mekanizmaları genellikle anlaşılmaz. Bir hata meydana geldiğinde, hatanın kaynağını bulmak ve düzeltmek haftalar sürebiliyor. Bu süre zarfında, hassas veriler sızdırılmış veya sistemler tamamen ele geçirilmiş olabiliyor.
Uzmanlar, şirketlerin yapay zeka araçlarını kullanırken çok daha dikkatli olmaları gerektiğini belirtiyor. Özellikle kritik altyapılarda ve finansal sistemlerde kullanılan yapay zeka akışlarının, insan denetiminden tamamen geçirilmeden devreye alınmaması tavsiye ediliyor.
Sheikh, 'Yapay zeka harika bir araç, ama bir kara kutu olarak kullanılamaz. Onu anlamalı, test etmeli ve sürekli izlemeliyiz. Aksi takdirde, otomasyonun faydaları, güvenlik risklerinin gölgesinde kalacak,' ifadelerini kullanıyor.
