Açık yapay zekâ platformlarını değerli kılan özellikler, açık erişim ve zengin veri gibi, aynı zamanda daha fazla siber saldırıya açık hale getirebiliyor. Hugging Face'te politika sorumlusu ve strateji başkan yardımcısı Irene Solaiman, konuyu Equity podcastinin son bölümünde dile getirdi.
OpenCode'a ekim ayında düzenlenen ve kullanıcıların üçüncü taraf API anahtarlarını hedefleyerek maddi zarar veren saldırı, son örneklerden biri. Bu olay, yaz aylarında OpenAI'a ait bir ajan sürüsünün siber güvenlik değerlendirmelerine ait yanıtlara ulaştıktan sonra izini örtmeye çalışmak üzere Hugging Face'i ihlal ettiği vakayı takip ediyor.
Riskler yalnızca açık topluluk katkılarına izin veren platformlarla sınırlı değil. Pazartesi günü yapay zekâ altyapı girişimi Fireworks, saldırganların bazı müşterilerin model ağırlıklarına, veri kümelerine ve faturalama bilgilerine eriştiğini açıkladı. Şirket soruşturma sürerken bazı kendi kendine hizmet veri kümesi işlevlerini geçici olarak devre dışı bıraktı. Saldırı doğrudan Fireworks'ün açıklığıyla ilgili olmayabilir ama değerli bilginin yapay zekâ altyapı sağlayıcılarında ne kadar yoğunlaştığını gösteriyor.
Solaiman Equity'de şunları söyledi: "Açık bir topluluğu hedef haline getiren şeyler, onu özel kılan şeyler de aynı zamanda." "Ortalama bir hobi severin kurumsal bir bağlantısı olmasa bile bodrumunda katkıda bulunabilmesini istiyoruz. Bu yüzden zorunlu olarak müsamahakarız."
Başka bir görüşmede ekledi: "Herkesin geçerli bir bağlantısı olmadan pull request gönderebilmesini istiyorsunuz... ama sonra her şeyi berbat eden bazı kötü niyetliler çıkıyor."
Bu müsamahakârlık saldırganları çeken tek şey değil. Açık platformların barındırdığı bilgi zenginliği de onları hedef yapıyor. Hugging Face, sahip olduğu değerlendirme veri kümeleri nedeniyle OpenAI'ın ajan sürüsü için cazip hale geldi. Solaiman'a göre bu kez OpenCode'un hedefi ise "iştah kabartan üçüncü taraf API anahtarları"ydı.
Solaiman TechCrunch'a verdiği ayrı bir demeçte "Bu kombinasyon bizi baş hedef haline getiriyor" dedi. Açık kaynağın kamu desteği aldığı bir dönemde gerçekten kapanma tehlikesi bulunduğunu da sözlerine ekledi.
Sektörün büyük bölümü son dönemde açık yapay zekâ modellerini destekliyor; Nvidia'nın Jensen Huang'ı da bu isimler arasında. Hükümetler, şirketler ve girişimler giderek açık modelleri üzerine inşa ediyor.
Geri adım neye benzeyebilir? Teorik olarak modellerin veya veri kümelerinin kimler tarafından yüklenebileceğine dair kısıtlamalar, daha sıkı kimlik doğrulama veya belirli özelliklere erişim öncesinde geliştiricilerin ek denetimi anlamına gelebilir. Bu adımlar platformları saldırganlardan koruyabilir ama bağımsız araştırmacıların ve hobi kullanıcılarının daha önce kabul gördükleri topluluklara katılımını zorlaştırabilir.
Şimdilik Hugging Face bu yolu tercih etmiyor. Solaiman, şirketin saldırıları yakalamak için izleme araçlarını güçlendirdiğini ve bunları önlemeye yönelik adımlar attığını söyledi. Ancak izlemenin sürdürülmesinin maliyetli olabildiğini, her platformun bunu karşılayamayacağını belirtti.
Solaiman şöyle konuştu: "Yönetici erişim belirteçleri o ajan sürüsünün daha iyi erişim sağlamasında rol oynadı, bu yüzden eskisine göre çok daha sık döndürüyoruz." "Ayrıca artık daha sıkı ağ kontrollerimiz var."
Başka bir deyişle, Hugging Face sistemlerine geniş erişim sağlayan kimlik bilgileri artık daha sık değiştiriliyor; bu da çalınan bir belirtecin kullanım süresini kısaltıyor.
Açık kaynak ekosisteminin diğer bölümleri de benzer güvenlik dengeleriyle uğraşıyor. Açık kaynak projelerine ev sahipliği yapan dünyanın en büyük platformu GitHub, saldırganların kötü amaçlı kodu projelere enjekte ederek kötü yazılımı hızla yayma girişimleriyle mücadele ediyor. Şirket, npm kayıt defterine paket yayınlama için güvenlik gerekliliklerini sıkılaştırdı, eski kimlik doğrulama belirteçlerini iptal etti ve yenilerinin geçerlilik süresini sınırladı.
GitHub'da yazılım tedarik zinciri güvenliğiyle ilgilenen mühendis Zach Steindler, TechCrunch'a e-posta yoluyla verdiği demeçte güvenlik önlemlerinin yerleşik iş akışlarını bozabileceğini ancak platformların katılımı temelden kısıtlamadan daha güvenli hale gelebileceğini söyledi.
Steindler "Bu daha çok işlevselliği sınırlamakla ilgili değil, baştan güvensiz olan şeyleri gidermekle ilgili" dedi. npm install komut dosyalarının yıllardır var olduğunu ancak son saldırılar tehlikelerini gösterdiğini belirtti. GitHub, JavaScript ile geliştirilen kritik açık kaynak projelerine ev sahipliği yapan kâr amacı gütmeyen kuruluş OpenJS ile daha güvenli bir yaklaşım üzerinde çalıştı.
Steindler'a göre aynı mantık güvenlik ekiplerinin çabasını nereye koyacağı için de geçerli: "Güvenlik, sahip olduğumuz kaynaklarla maksimum etkiyi elde etmekle ilgili ve ben her hesap ve erişim yöntemini kapsayan şüpheli davranış tespiti ve sınırlama yeteneklerine yatırım yapmayı tercih ederim. Şüpheli davranış, kim sergilerse sergilesin şüphelidir."
