Siber Saldırılar ve Veri İhlalleri
Zafiyetler ve Tehditler
Son açık mektup “pencere” konusunda haklı, ancak kimden geçeceğini ya da kritik olanı, pencereyi kim kapatacağını belirtmiyor.
James Lyne, SANS Institute Baş Yöneticisi
Son dönemde 100'den fazla teknoloji şirketi — aralarında OpenAI, Anthropic, Microsoft ve Google’ın da bulunduğu — yapay zekanın sofistike siber saldırıları çok daha ucuz ve çok daha yaygın hale getireceği uyarısında bulunan bir açık mektup yayımladı ve “siber savunmayı güçlendirmek için sınırlı bir penceremiz var” dedi.
Bu mektubu iki kez okudum. Birincisinde bir güvenlik kuruluşunun başı olarak neredeyse her satırına başımı sallayarak baktım. İkincisinde ise işi gerçekten kimin yapacağı kısmını aradım. Bulamadım.
Eleştiriye geçmeden önce mektubun haklı olduğu çok şey olduğunu kabul etmeliyim. Tehdit varsayımsal değil. 19 Ağustos’ta beş ABD federal kurumu, su arıtma tesisleri, enerji santralleri ve kimya tesisleri gibi yerleri çalıştıran açık Siemens S7 denetleyicilerine karşı meşru izleme araçları kılığına girmiş yapay zeka üretimi sömürü komut dosyaları kullanan tehdit aktörlerini belgeledi. Böyle bir aracın eskiden uzman protokol bilgisi gerektirmesi gerekiyordu. Bu bilgi, pratikte pek çok küçük kamu hizmetinin çevresindeki hendekti — ve İnternet’ten izolasyon umudu da öyle. Hendek sularını çekti ve karşıdan yürüyenler bunu biliyor.
Ancak önermeye dair bir şüpheci yaklaşımı itiraf ediyorum ve yalnız değilim. Mektubun yayımlandığı aynı gün, İngiltere’nin en eski savunma düşünce kuruluşu RUSI, yapay zeka ve siber suçlar hakkında okunmaya değer bir değerlendirme yayımladı. Argümanları şöyle: “Suçlu yenilik, yeni bir teknolojinin açtığı bir pencereye değil, kapanan bir gelir akışına tepki olarak ortaya çıkar.” Düşmanlar etkileyici olandan çok para kazandırana odaklanır. Kimlik avı, çalınmış kimlik bilgileri ve asla İnternet’e bakmaması gereken makineler hâlâ büyük ölçekte iyi para kazandırıyor. Tehdit aktörleri meraklı değil; parayla ilgili meraklılar, sektörümüzün uyguladığı o disiplinli merakın çok daha disiplinli bir versiyonuyla.
Bu, son su sektörü kampanyasının tam olarak buydu: kurumların kendi değerlendirmesine göre keşif ve ön konumlandırma. Sabırlı hazırlık, girip çıkma değil. Dikkat çekici olan, bu yaz programlanabilir mantık denetleyici saldırılarından oluşan paralel bir dalgayı İran’a doğrudan bağlayan bir kardeş uyarı varken, arkasında kim olduğunu isim vermekten kaçınmaları. Kim olursa olsun, açık bırakılmış bir kapıdan yürümek için öncü bir modele ihtiyaç duymadı. Siemens’in yanıtında da itiraf ettiği gibi: denetleyicilerde yeni bir kusur yok, yalnızca eski yanlış yapılandırmalara yönelik yeni teknikler var. Yapay zeka sömürüyü kim yazabilir değiştirdi. Onları kim durdurur, değiştirmedi.
Kanıtlar her iki yönü de gösteriyor; açık ağırlıklı modeller geliştikçe suçlu benimsemenin hızlandığı da bildiriliyor. Önümüzdeki 12 ayın hangi yöne kırılacağını söyleyemem. Aslında söylemem de gerekmiyor. Nasıl kırılırsa kırılsın görev değişmiyor.
Planı dikkatle okuyun. En yüksek riskli zayıflıklarınızı düzeltin. Aldığınız, inşa ettiğiniz ve dağıttığınız şeylerde barı yükseltin. Yapay zeka üretimi kodu titizlikle inceleyin. Yapay zeka destekli savunma dağıtın. İstihbaratı paylaşın.
Her öneri bir fiil ve güvenlikteki her fiili bir kişi gerçekleştirir. Bu, öznesi olmayan tamamen fiillerden yazılmış bir plan. Düşman pencereden gelirse plan eğitimli operatörlerden yoksun kalır. Gelmezse bile üzerimizdeki saldırıları savunmak aynı operatörlerin aynı fiilleri yapmasını ister. Plan her iki gelecekte de aynı. Eksik olan tek şey insanlar.
Yapay Zeka Savunma Açığı İnsanlarla Ölçülüyor
Mektubun kendisinin en savunmasız olarak adlandırdığı savunmacıları düşünün: hastaneler, su idareleri, kritik altyapının küçük operatörleri. En etkili hafifletmesi son derece sıradan ve öncü yapay zekayla hiçbir ilgisi yok: İnternet’e bakan denetleyicileri İnternet’ten alın. İyi donanımlı bir güvenlik ekibi için bu bir salı öğleden sonrası. Tüm BT işlevi beş şapka takan tükenmiş bir mühendisten ibaret olan kırsal bir su idaresi için bu Aramice yazılmış gibi. Bu iki durum arasındaki uçurum ürünlerle değil insanlarla ölçülüyor ve hiçbir model aboneliği bunu kapatmıyor. Düşman kârlı olanı korur, zarif olanı atar; biz tam tersini yapıp buna ilerleme diyoruz.
Derin bir tutarsızlık da var. Bir yandan bu modellerin kontrol edilemez olduğu, yasa dışı işlendiğinde kimin sorumlu tutulabileceğinin bilinmediği söyleniyor, diğer yandan kritik altyapımızı savunmak için güvenilmesi gerektiği belirtiliyor. İkisi birden doğru olamaz. Bu iki düşünceyi sağlıklı tutmanın tek yolu, doğru yetenekli insanlar tarafından ölçülü kullanımdır.
Bu, mektupta çok isterdim ve hâlâ imzacılardan görmek istediğim üç şeye işaret ediyor.
Birincisi, zaten orada olan operatörlere yatırım yapmak. Bir tesisin kontrollerini 15 yıldır işleten tesis mühendisi, o ortamı her yeni işe alınandan daha iyi bilir. Onu güçlendirmeyi öğretmek haftalar alır. Açık itiraz, onların harcayacak saati olmadığıdır; bu da bunun bir dönem yerine bir vardiya içine sığan uygulamalı iş anlamına gelmesi ve bunun tek başına bırakılmaması gerektiği anlamına gelir. Bu anın talep ettiği uygulayıcı iki dilli, bir temel disiplinde akıcı ve yapay zekada akıcıdır. Bunu sadece ikinci dili konuşan biri işe alarak ya da daha kötüsü hiç konuşmayan biri işe alarak yaratmazsınız.
İkincisi, “uygulamalı destek” ifadesini ellerle anlamlandırmak ve bunu finanse etmek. Mektup öncü yapay zeka şirketlerinden kaynak yetersizliği çeken savunmacılara fon, eğitim ve uygulamalı destek sağlamalarını istiyor. Tamamen doğru. Yine de mektubu birkaç kez okudum ve içinde bir sayı bulamadım: ne bir rakam, ne bir tarih, ne de tek bir imzacının isimli bir taahhüdü. İyi niyet bir sonraki finansman turundan uzun sürmez ve bu firmaların ekonomisi, yardımsız olarak bu emeği ödüllendirmez; bu yüzden söz somutlaştırılmalıdır. Model erişimi, su idaresindeki hiç kimsenin çıktı ile ne yapacağını bilmediği sürece destek değildir. Deneyimli uygulayıcılardan isimleri ve tarihleri olan taahhüt edilmiş saatler destek olur.
Üçüncüsü, savunma yapay zeka araçlarını gerçekten kim çalıştırabiliyor diye yargılamak. Bir aracın dünya sınıfı bir güvenlik operasyon merkezi SOC’yi yüzde 5 daha keskin hale getirmesi hoş bir şey. Bir aracın hastanede iki kişinin 10 kişinin işini yapmasını sağlaması, mektubun mantığının talep ettiği şeydir. Bunu en çok ihtiyaç duyulduğunda çalışıp çalışmadığına göre ölçeriz; bir olayın yoğunluğunda barındırılmış bir modelin Hugging Face’in müdahale ekiplerine ne kadar verdiğini sorun. Satıcılar, yapay zeka imzacıları da dahil, bu çıtaya göre tutulmalıdır. Ben de kendimi buna tutmaya razıyım.
Bu mektubun kolay eleştirisi, alarmı çalan firmaların aynı zamanda çareyi de satan firmalar olmasıdır ve İnternet’in yarısı bunu zaten yaptı. Belki. Ben satıcıların niyetinden çok planın kör noktasıyla ilgileniyorum. Kamuoyunun büyük bir kısmı öncü modeller ve biraz dürtülürse ya da ipinden salınırsa ne yapabileceği üzerine harcanıyor. Bunlar kontroller kurulabilen, düzenlemeye tabi tutulabilen ve sorunu çözmek için bir masaya oturabilen şirketler tarafından inşa edilen sistemler ve itibarları adına bazıları deniyor. Suçlu ve düşmanca devlet bunlardan hiçbirini yapmaz ve biz daha sinematik hipotezi tartışırken avantajını kullanır. Savunucu dikkati güvenlikteki en kıt kaynaktır. Sihir dumanı dağıldığında, gelecekteki benliğimizin dikkatimizi nereye harcadığımız için bize teşekkür etmeyeceğini sezerim.
Yapay Zekaya Karşı İnsanlara Bahis Yapın
Kapanışta özellikle bir imzanın kaşımı kaldırdığını paylaşmalıyım: Hugging Face’in. Yılın en çok konuşulan otomatik sızmasının yaşandığı şirket. Olay sonrası analizleri, makinelerin kaçırdığı algılamayı düzeltmek ve savaşın ortasında araçlarını uyarlamak için çalışan insanların işini derinlemesine ele aldı. Onlara imza için kırgın değilim, ancak söz konusu insanlara yönelik bir plan olmadan bir mektuba imza attılar. Mektubun öncü şirketlerden istediği model erişimi, müdahale ekiplerinin olayın yoğunluğunda kullanamadığı şeyle aynı. Kendi olay raporları bu tüm argümanın birebir minyatürü. Araçlar önemliydi. Beceriye sahip insanlar onları önemli kıldı. Mektup birini istemeyi hatırlıyor, diğerini unutuyor.
İmzacılar bir pencerenin olduğunu ve kapanmakta olduğunu doğru söylüyor. Kimsenin içinden tırmanıp tırmanmaması, mektubun varsaydığından daha az önemli çünkü her gelecek versiyonunda iş aynı. Gürültü değil, makinelerin bir gün ne yapabileceği sineması değil, önümüzde duran düz iş: tutan bir savunma inşa etmek ve düşmanların bu sabah kullandığı taktiklere yenmek. Araçlar kendi takvimlerinde gelir. Tehdit istihbaratı ancak harekete geçmeye donanmış olanlar için önemlidir. Motive olmuş bir insan, gerçekten sahip olduğumuz sürede bir ağı savunmayı öğrenebilir. Öyleyse gözlerinizi işin üzerinde tutun ve mektubun kimseye yapmasını istemeyi unuttuğu bahsi yapın. İnsanlara bahis yapın.
SANS Institute Baş Yöneticisi
SANS Institute CEO'su James Lyne, siber güvenliğin ön saflarında 20 yılı aşkın süredir çalışıyor — siber suçluların peşinde koşmak, kötü amaçlı yazılımı tersine mühendislik yapmak, yüksek güvenlikli kuruluşları kırmızı takımla test etmek, düşmanları bozmak için istihbarat çabalarını desteklemek ve kuruluşların büyük olaylara yanıt vermesine yardımcı olmak. Kendini tanımlayan “büyük bir geek” olan Lyne, saldırgan güvenlik, dijital adli tıp, savunma operasyonları ve yeni teknolojiler dahil olmak üzere çeşitli alanlarda çalıştı; sistemlerin nasıl çalıştığı, nasıl bozulduğu ve nasıl korunabileceği konusundaki merakla yönlendi.
