GÖRÜŞ
Yapay zeka modellerinin hem komutları yorumlayıp hem de uygulaması, siber güvenlikte kritik bir denetim açığı yaratıyor. Uzmanlar, bu durumun körü körüne güvenin yol açtığı büyük bir risk olduğu konusunda uyarıyor.
Wake Forest Üniversitesi'nde Doçent Öğretim Üyesi olan R. Justin Martin, konuya ilişkin değerlendirmesinde, yapay zeka sistemlerine duyulan aşırı güvenin ciddi güvenlik zafiyetlerine yol açabileceğini belirtiyor. Martin'e göre, yapay zeka modelleri kendilerine verilen görevleri yerine getirirken, bu süreçte insan denetiminin eksik olması büyük bir tehlike oluşturuyor.
Yapay zeka sistemlerinin karar alma mekanizmalarının şeffaf olmaması, kurumların bu sistemlere körü körüne güvenmesine neden oluyor. Oysa uzmanlar, yapay zeka çıktılarının her zaman doğru veya güvenli olmayabileceğini, bu nedenle insan denetiminin mutlaka sürece dahil edilmesi gerektiğini vurguluyor.
Özellikle siber güvenlik alanında kullanılan yapay zeka araçlarının, saldırı tespiti ve yanıt verme süreçlerinde kritik roller üstlendiği düşünüldüğünde, bu araçlara duyulan güvenin sorgulanması gerekiyor. Martin, yapay zeka modellerinin yanlış pozitif veya yanlış negatif sonuçlar üretebileceğini ve bu durumun güvenlik ekiplerini yanlış yönlendirebileceğini ifade ediyor.
Sonuç olarak, yapay zeka teknolojilerinin sunduğu avantajların yanı sıra, beraberinde getirdiği risklerin de farkında olunması gerekiyor. Kör güven yerine, yapay zeka sistemlerinin çıktılarının sürekli olarak doğrulanması ve insan denetimine tabi tutulması, güvenli bir dijital dönüşüm için hayati önem taşıyor.
