Near AI, saldırganın SGLang'deki bir açığı kullanarak iç sistemlere eriştiğini ve yaklaşık 100 kullanıcının hesap bilgilerini indirdiğini açıkladı.
18 eski yapay zekâ ajanına ait veriler sohbet geçmişleri ve kayıtları içeriyordu; iki Cloud müşterisine ait API anahtarları da açığa çıktı ve iptal edildi.
8 Kasım'da işlenen gizli modlu isteklerin görünür olmuş olabileceği belirtildi, ancak Near AI saklanan Private Chat sohbetlerine erişildiğine dair bir işaret bulmadığını kaydetti.
Near AI, saldırganın sunucularında çalışan yazılımı istismar etmesi sonucu yaklaşık 100 kullanıcıya ait hesap bilgisi ile 18 yapay zekâ ajanına ait verilerin açığa çıktığı bir ihlali açıkladı.
Şirket 9 Kasım raporunda saldırganın, yapay zekâ modellerini çalıştıran ve kullanıcı isteklerine yanıt üreten açık kaynaklı bir motor olan SGLang'deki uzaktan kod çalıştırma açığından yararlandığını söyledi.
Sömürü, saldırganın bir çıkarım sunucusunda komut çalıştırmasına ve ardından Near AI altyapısının diğer bölümlerine ulaşmasına olanak tanıdı.
Soruşturmacılar izinsiz girişi şirketin zaten kullanımdan kaldırdığı Private Chat özelliğine bağlı bir iç sisteme kadar izledi. Saldırgan yaklaşık 100 kullanıcının ad ve e-posta adreslerini, bazıları için abonelik planı ve hesap bakiyesi bilgilerini indirdi.
18 ajan daha Near AI Agents'ın eski bir dağıtımında erişildi ve saldırgan sohbet geçmişlerini, ayarlarını ve kayıtlarını aldı. Bu ajanlar, sunucuları işleten şirketten bilgileri gizlemek için tasarlanmış Near AI'nın gizli bilişim ortamı içinde çalışmıyordu.
Kayıtlar iki müşteriye ait Near AI Cloud API anahtarlarını da açığa çıkardı. Bu anahtarlar uygulamaların bulut hizmetlerine erişmek için kullandığı dijital kimlik bilgileri gibidir; Near AI her ikisini de iptal ettiğini söyledi ancak saldırganın bunları kullanıp kullanmadığını belirtmedi.
Gizli yapay zekâda yazılım sorunu
Near AI saklanan Private Chat sohbetlerine veya yüklenen dosyalara erişildiğine dair bir işaret bulmadı. Onaylanan çalınma hesap kayıtları ve eski ajan verilerini kapsıyor; soruşturma canlı gizli isteklerin açığa çıkma ihtimalini olası bir risk olarak tespit etti.
Near AI, blockchain hedeflerinin yanı sıra yapay zekâ gizliliğini de teşvik eden daha geniş Near ekosisteminin parçası. Bulut ürünü, modeller bunları işlerken bile yapay zekâ istemlerini şifreleyip sunucu operatörlerinden izole tutmak için güvenilir yürütme ortamları ya da TEE'leri kullanıyor.
Donanım izolasyonu, korunan ortam içindeki yazılımın güvenli olduğu anlamına gelmez. Near AI, "Bu, ortam içinde çalışan yazılımda bir güvenlik açığına karşı koruma sağlamaz" diyerek SGLang açığının saldırganın gizli isteklerin işlendiği yerde kod çalıştırmasına izin verdiğini açıkladı.
Bu durum, gizliliği temel özellik olarak satan bir şirket için özellikle sakıncalı. Ekimde Near AI, Brave'in Leo tarayıcı asistanının desteklenen bir yapay zekâ modeli için gizli çıkarım altyapısını kullandığını duyurdu; ancak olay raporu etkilenenler arasında Brave kullanıcılarını göstermiyor.
SGLang daha önce güvenlik araştırmacılarının dikkatini çekmişti. Temmuzda Carnegie Mellon Üniversitesi'nin CERT Koordinasyon Merkezi, sunucular nasıl yapılandırıldığına bağlı olarak saldırganların komut çalıştırmasına ya da kimlik bilgilerini açığa çıkarmasına olanak tanıyabilecek hatalar da dahil olmak üzere projede altı güvenlik açığı belgeledi.
Near AI bu olayda istismar edilen belirli SGLang açığını tanımlamadı, bu nedenle ihlalin daha önceki açıklamalarla ilişkilendirilmesi için bir dayanak yok. Açığı SGLang geliştiricilerine bildirdi.
Near, takdiri hak edecek şekilde sorunları hızla çözdü.
"Tespit edildiğinde tüm aktif oturumları ve yönetici kimlik bilgilerini iptal ettik, tüm ajan belirteçlerini değiştirdik, Private Chat'i çevrimdışı aldık ve SGLang güvenlik açığı için tüm çıkarım sunucularına bir düzeltme dağıttık," diye kaydetti proje.
"Tüm kalan kimlik bilgilerinin rotasyonunu ve kapsamlı bir adli incelemeyi tamamladık. Hesap detaylarına ya da ajanlarına erişildiğini doğruladığımız kullanıcıları bilgilendirdik ve gerekli düzenleyici bildirimleri yapacağız."
Near AI, hesap kayıtlarına ya da ajanlarına erişildiğini doğruladığı kullanıcıları bilgilendirdiğini ve gerekli düzenleyici bildirimleri yapacağını söyledi. Ayrıca kullanıcıları Near AI hesaplarına ya da bakiyelerine atıf yapan istenmeyen mesajlara karşı uyarıda bulundu ve etkilenen 18 ajanın tüm sahipleriyle bireysel olarak iletişime geçti.
