Mac'te çalışan kötü amaçlı yazılım, Meta'nın Muse asistanını sessizce ele geçirebiliyor ve uygulamanın sahibinin verdiği geniş erişimi kullanabiliyor. Güvenlik araştırmacısı Patrick Wardle, 21 Eylül'de yayımladığı kanıt konseptinde bunu gösterdi.
Saldırı, gizli bir ayarı değiştirerek çalışıyor. Kullanıcı mikrofonu tıklayıp bir istem dikte ettiğinde sözler Meta'ya değil saldırganın yanına gidiyor.
Açık, Muse'un Mac sürümünde bulunuyor ve yalnızca saldırgan oturum açmış kullanıcı olarak kod çalıştırabildiğinde işe yarıyor. Bu, Mac'e uzaktan sızmanın bir yolu değil.
Muse, Meta'nın bu ay ABD'de başlattığı kişisel yapay zeka aracı. Kullanıcı açtığında dosyalar, e-posta, mesajlar, takvim, alışveriş ve akıllı ev uygulamaları dahil her şey üzerinde çalışabiliyor; kişi ne kadar erişim vermeyi seçerse.
Wardle'a göre mesele bu erişim. İnsanların Muse'u kurmamasını istedi ve bunu "Muse'u nihai arka kapıya çevirmek son derece kolay" diye nitelendirdi.
macOS normalde bir uygulamanın başka bir uygulamanın dosyalarına, mikrofonuna, kamerasına ya da kayıtlı oturum açma bilgilerine erişmesini engeller, bu yüzden sıradan kötü amaçlı yazılım erişimi sınırlıdır. Saldırgan Muse'u sessizce yönlendirdiğinde ise kullanıcıya uygulamanın yapmasına izin verdiği her şeyi elde eder.
Wardle ayrıca güvenlik yazılımlarının bunu fark etmeyebileceği konusunda uyarıyor. Komutlar kötü amaçlı görünümlü bir şeyden değil, normal imzalı bir uygulama olan Muse'dan geldiği için.
Bulduğu ayar belgelenmemiş ve Muse'un dikteyi nereye göndereceğini belirliyor. Mac uygulamasının tercihlerinde endo_voyager_dictation_endpoint adıyla saklanıyor ve oturum açmış kullanıcı olarak çalışan herhangi bir program, ek izin gerektirmeden bunu saldırganın kontrol ettiği bir adrese yönlendirebiliyor.
Bundan sonra dikte Meta'ya gitmiyor. Kullanıcı bir istem konuştuğunda ses ve metin, saldırganın aynı Mac'te çalıştırdığı küçük bir programa gidiyor.
Bundan sonra Wardle saldırganın yapabileceklerini üç başlıkta gösterdi: kullanıcının dikte ettiğini okumak, Muse'un güvendiği ve uyguladığı ek talimatlar eklemek ve kullanıcının Muse oturumunu tanımlayan token'ı alıp asistanı doğrudan kontrol etmek.
Muse hesabı birden fazla cihazda oturum açabildiği için saldırı Mac'te kalmıyor. Çalınan oturumu kullanarak Wardle, kendi iPhone'undaki Muse uygulamasını tam konumunu bildirmeye, yakındaki cihazların Bluetooth taramasını yapmaya ve gönderebileceği akıllı ev komutlarını listelemeye yönlendirdi. Testlerinde asistan mesajları kendi kendine göndermek yerine taslak olarak oluşturdu.
Wardle saldırının yapmadıklarına da işaret etti. macOS'un bir uygulamanın başka bir uygulamanın kayıtlı parolalarını okumasını engelleyen kısmını aşmıyor. Muse'un saklanan oturum açma jetonlarını çalmak yerine, uygulama zaten sahip olduğu erişimi kullanarak kendisinin hareket etmesini sağlıyor. Ayrıca Meta'nın her kullanıcının aracını birbirinden ayırmak için kurduğu bulut sisteminin kırıldığı da göstermiyor.
Mac Kullanıcıları Şimdi Ne Yapabilir
Yama olmadığı için Mac kullanıcısı riski yalnızca sınırlayabilir:
Muse'u kapatın ya da Meta sorunu düzeltinceye kadar kaldırın.
Muse'un sahip olduğu uygulamaları ve izinleri gözden geçirin ve saldırganın erişebileceği alanı azaltmak için gerekmediği her şeyi iptal edin.
Mac'in zaten tehlikeye girmiş olabileceği durumda, bağlı hesapları tehlikede kabul edin ve parolalarını değiştirin.
Saldırı kullanıcının dikte etmesine ihtiyaç duyduğu için, gösterilen tam yolu kapatan Muse'un sesli girdisinden kaçının.
Meta Muse'un güvenliği üzerinde büyük vurgu yaptı. Aracı her kullanıcının verisini birbirinden ayıran ayrı bir bulut sisteminde çalışacak şekilde kurdu ve Muse'un aldığı eylemleri onaylamak için bir kontrol katmanı ekledi. Bu açık bulut tasarımında değil, Mac uygulamasında bulunuyor.
Wardle, Meta'nın sesli dikteyi cihazdan dışarı gönderen kendi yolunu kurarak zayıf noktayı kendisinin yarattığını savunuyor; Apple'ın Mac'te çalışan dikte özelliği kullanılabilirdi.
Ars Technica'nın haberinin yayınlanmasının saatleri içinde Meta, Muse macOS uygulaması için bir hotfix yayınladı. Açık, belgelenmemiş bir ayarın kötü amaçlı yerel kod tarafından değiştirilmesine izin vererek dikte işlemenin Meta sunucularından saldırganın kendi noktasına yönlendirilmesine yol açan sıfır gün bir güvenlik açığı olarak tanımlandı.
Uzmanlara göre kusuru besleyen tasarım kararları arasında diktenin cihazda değil bulutta gerçekleşmesi ve herhangi bir uygulamanın Muse'un belgelenmemiş tüm ayarlarını kontrol edebilmesine izin verilmesi yer alıyor.
Wardle'ın geliştirdiği kanıt konsepti testleri, Muse üzerinden kullanıcıya çoğu durumda uyarı vermeden fotoğraf çekmeyi ve diske kötü amaçlı dosya yazmayı mümkün kıldı. Wardle Ars Technica'ya "Ajanı manipüle edip ayrıcalıklarını istediğimiz her şeyi yapmak için kullanabiliyoruz. Yani kapsamlı bir Mac kötü amaçlı yazılım hırsızı yazmak zorunda kalmıyoruz, yapay zeka asistanının kendisini kullanabiliyoruz" dedi ve "En azından güvenlikten baştan düşünmeleri gerekiyor, bunu yapmıyorlar" diye ekledi.
Meta Superintelligence Labs'tan David Singleton X'te yaptığı açıklamada "Bu yerel bir ayrıcalık yükseltme saldırısıydı, uzaktan bir istismar değil. Zarar vermek için kullanmak, kullanıcının makinesinde kullanıcı hesabı altında zaten kötü amaçlı kodun çalışıyor olmasını gerektirir ve Muse Mac uygulaması kullanıcıları için pratik risk bu nedenle oldukça düşüktü" ifadelerini kullandı ve "Yine de sorunu gidermek için uygulamaya bir hotfix yayınladık" dedi.
Açık hızla kapatılsa da olay, Meta'nın rakip yapay zeka sağlayıcılarına karşı payını geri kazanmaya çalıştığı bir dönemde geldi. Amazon yakın zamanda Muse'un e-ticaret platformuna erişimini engellediğini açıkladı ve Meta'nın izni olmadan erişim sağlandığını iddia etti. Buna rağmen lansman Meta için başarılı oldu; Muse mobil uygulamasının ilk 12 günlük tahmini indirmelerinin ABD ve Kanada'da ChatGPT'nin kendi 12 günlük çıkışını geride bıraktığı bildirildi ve Meta hisseleri Pazartesi günü yüzde 11 yükseldi.
