Cognition güvenlik şefi ve uzun süredir siber güvenlik uzmanı olan Alex Stamos, siber güvenliğin şu an ne kadar karmaşık bir halde olduğu üzerine bir değerlendirmede bulundu. Bu görüşme, yapay zekânın gerçek hayattaki etkilerini inceleyen özel bir serinin ilk bölümünü oluşturuyor.
Stamos, bildiğimiz anlamdaki milyarlarca dolarlık siber güvenlik endüstrisinin; yapay zekâ destekli durmak bilmeyen hackleme, veri sızıntısı ve saldırı dalgaları karşısında artık yetersiz kaldığını savunuyor. Ona göre yapay zekânın güvenliği değiştirme süreci henüz başlangıç aşamasında.
Yapay zekâ sayesinde hem özel şahıslar hem de Rusya ve Kuzey Kore gibi devlet destekli aktörler, sistemlerdeki açıkları aynı anda hem tespit edip hem de istismar ederek her yere sızabiliyor. Stamos, bu durumun tıpkı her an çevrimiçi olma fikrinin çok yeni olduğu 90'lı yıllardaki gibi bir 'sınır boyu' hissi verdiğini kaydediyor.
Bu denli büyük bir altüst oluş, kötü niyetli kişilerin içeri girebileceği pek çok açık yaratırken, diğer herkesin panik içinde çözüm aramasına neden oluyor. Stamos uzun vadede karamsar olmasa da, yeni döneme nasıl uyum sağlanacağının çözülmeye çalışıldığı bir "karanlık çağ" yaşanacağını düşünüyor. Konu kapsamında, yapay zekâ destekli dezenformasyonun ve niteliksiz içeriklerin sosyal ağlarda nasıl yönetilebileceği de tartışıldı.
Stamos, Stanford Üniversitesi Siber Politika Merkezi'nde dersler verdiğini ve Cognition'da güvenlik şefi olarak görev yaptığını belirtti. İnternet politikaları tartışmalarının "içerik denetimi dönemi"nden, özellikle siber savunma ve güvenlik odaklı yeni bir sorunlar dönemine geçildiğini vurguladı.
Ekim ayının geleneksel olarak siber güvenlik farkındalık ayı olduğunu hatırlatan Stamos, şirketlerin genellikle şifre değiştirme ve şifre yöneticisi kullanma gibi tavsiyeler verdiğini söyledi. Ancak geçtiğimiz ay PHP ve Node gibi sistemlerde büyük hatalar ortaya çıkarken, asıl konuşulmayan konunun çok sayıda şirketin siber saldırıya uğramış olması olduğunu belirtti.
Stamos, bir dizi yapay zekâ şirketinin ve yeni nesil bulut servislerinin (neoclouds) ardı ardına sızdırıldığını anlattı. İnsanlık tarihinin en büyük soygunu olan Binance hack olayının yanı sıra Cursor olayına da değindi. Bu saldırıların birbirine zincirlendiğini belirten Stamos, birçok şirkete yapay zekâ hizmetleri sunan Fireworks şirketine sızıldığını, buradan çalınan API anahtarlarıyla Cursor'a girildiğini ve ardından 5 bin şirkete yayılan kötü amaçlı bir eklentiyle potansiyel olarak 5 bin yeni sızıntının yaşandığını söyledi. Teknoloji endüstrisinde artık kalıcı ve sürekli bir sızıntı hali olduğunu ifade etti.
Bir CISO (Bilgi Güvenliği Başkanı) arkadaşının "Başka yorulan var mı?" diye sorduğunu ve herkesin "evet" dediğini aktaran Stamos, Ekim ayından Kasım ayına girerken etkili olarak DEFCON 2 (yüksek alarm durumu) seviyesinde olduklarını söyledi.
Saldırıların arkasında tek bir gücün değil, farklı grupların olduğunu belirten Stamos, yapay zekâ sayesinde saldırgan kapasitesinin yükselişe geçtiğini savundu. Açık ağırlıklı modellerin, saldırı zincirinin (kill chain) çoğunu otomatikleştirme noktasına geldiğini belirtti. Askeri bir terim olan "saldırı zinciri", siber dünyada bilgi çalmak, sistemleri kapatmak veya Bitcoin çalmak gibi hedeflere ulaşmak için atılan adımları ifade ediyor.
Geleneksel yöntemde araştırmanın önceden yapıldığını, yazılımdaki açığın bulunup istismar kodlarının yazıldığını ve ardından bir insanın bunu hedeflere karşı uyguladığını anlatan Stamos, yapay zekâ ile bu sürecin tersine döndüğünü söyledi. Artık yapay zekâ sistemleri hedefleri gerçek zamanlı tarayıp, hataları bulup, istismar kodlarını anında yazarak şirketlere sızabiliyor.
Stamos, herkesin bahsettiği tek sistem olmadığını ancak Çin menşeli açık kaynaklı bir araç olan ARTEX'in dikkat çekici olduğunu söyledi. GitHub'da İngilizce çevirisi bulunan bu aracın, arka planda modifiye edilmiş bir GLM-5.3 ile desteklendiğinde şaşırtıcı sayıda kuruluşa sızabildiğini belirtti. Sürecin üç Güney Kore bankasıyla başladığını, bu hafta ise 200'den fazla şirketin vurulduğunu ekledi. Cognition'ın bir olay müdahale şirketi olmadığını ancak araçlarıyla şirketlerin hatalarını düzeltmelerine yardımcı olduklarını söyleyen Stamos, milyarlarca dolarlık şirketlerin sadece indirilebilen bir araçla hacklenmesinin 90'lı yıllardaki gibi şok edici olduğunu vurguladı.
Bu durumun 90'ların sonu ve 2000'lerin başındaki Windows güvenlik felaketlerini anımsattığını söyleyen Stamos, bu dönemin hem heyecan verici hem de korkutucu olduğunu belirtti. Eskiden DEFCON etkinliklerinin birkaç yüz kişiyle sınırlı olduğunu ve dünyanın tamamının internet üzerinden çalışmadığını, bu yüzden saldırıların dünyayı yıkacak boyuta ulaşmadığını ve otomatikleştirilemediğini hatırlattı.
Günümüzde ise basit araçlarla çılgınca şeyler yapılabildiği "Vahşi Batı" günlerine geri dönüldüğünü savunan Stamos, eskiden bu yeteneklere sahip az sayıda kişinin olduğunu ve çoğunun suçlu olmak istemeyen "iyi adamlar" olduğunu söyledi. Şimdi ise kolluk kuvvetlerinin ulaşamadığı yerlerde yaşayan, büyük ekonomik motivasyonları olan ve bu araçlara erişimi olan çok daha geniş bir ekosistem olduğunu belirtti. Ayrıca saldırganların artık kolluk kuvvetleri tarafından takip edilebilen korumalı modeller yerine, kendi donanımlarında (örneğin Mac Studio) çalıştırabildikleri modifiye edilmiş modelleri kullandıklarını ekledi.
Siber güvenliğin ekonomisinin yıllar içinde geliştiğini, savunmacıların saldırganlardan daha fazla kazanmasının sistemleri güvenli kıldığını belirten Stamos, sektörde hataların gizlenmesi ile açık kaynaklı şeffaflık arasında bir denge kurulduğunu, hata bildirimleri ve ödül avcılığı (bug bounty) kültürünün geliştiğini anlattı. Ancak yapay zekânın bu ekonomiyi tamamen değiştirdiğini, artık bir Mac Studio ve açık ağırlıklı bir modelle, herhangi bir sektörel kültüre veya etik kurala bağlı kalmadan saldırı başlatılabildiğini söyledi.
Güvenlik döneminin 2000'lerin başında Bill Gates'in "güvenilir bilişim" notuyla başladığını belirten Stamos, o dönemde Microsoft, Oracle, Amazon ve Salesforce gibi devlerin eski hackerları işe almaya başladığını anlattı. Kendisinin de bu neslin bir parçası olduğunu, sorumlu ifşa ve danışmanlık şirketlerinin (Mandiant, CrowdStrike gibi) bu şekilde büyüdüğünü ve milyarlarca dolarlık bir endüstri oluştuğunu kaydetti.
Stamos'a göre bu dönem sona erdi çünkü iki temel varsayıma dayanıyordu: Birincisi, yetenek hiyerarşisinin olmasıydı; basit araç kullananlar, araç yazanlar, açık araştırmacıları ve en üstte "tanrı seviyesindeki" birkaç yüz uzman vardı. İkincisi ise saldırı operasyonlarını yürütecek insan sayısının sınırlı olmasıydı. Profesyonel ekiplerin (ABD Siber Komutanlığı, Rus SVR veya Çin MSS gibi) seçkin bir Ar-Ge ekibi ve daha geniş bir operasyonel ekip kurması gerekiyordu. Bitcoin'in ortaya çıkışı ise para aklama sürecini kolaylaştırarak ekonomiyi değiştirmeye başlamıştı.
Yapay zekâ tüm bu yapıyı yıkıyor çünkü artık düşük yetkinlikteki kişiler bile en üst seviyedeki uzmanların yeteneklerine sahip olabiliyor. Stamos, masaüstündeki bir Mac ile Microsoft yamalarını tersine mühendislikle inceleyip istismar kodları yazabildiğini, sürecin henüz tam otomatik olmadığını ancak buna çok yaklaştıklarını belirtti.
En endişe verici kısmın ise operasyonel tarafın serbest kalması olduğunu söyleyen Stamos, aslında hiçbir zaman güvende olmadıklarını ve güvenliğin bir fantezi olduğunu savundu. Son on yılda Rus fidye yazılımı gruplarının, pek bilinmeyen ama kritik öneme sahip orta ölçekli şirketleri vurduğunu anlattı. Bir örneğinde, ülkenin en büyük tıbbi ve diş malzemeleri distribütörünün saldırıya uğradığını, bunun sonucunda diş kliniklerinin eldiven ve malzeme tedarik edemediği için randevuları iptal ettiğini ancak olayın haber bile olmadığını belirtti. Bu tür şirketlerin bir güvenlik görevlisi ve küçük bir BT ekibiyle, 20 kişilik profesyonel Rus ekiplerine karşı şansı olmadığını vurguladı.
Stamos, eskiden bu saldırıları yapabilecek sadece birkaç Rus ekibi varken, şimdi iki üç Rus gencin bir dizi Mac veya Nvidia H-100 ekran kartı kullanarak gün boyu çalışan yapay zekâ ajanları yönetebildiğini ve asıl değişimin burada olduğunu söyleyerek sözlerini tamamladı.
