İki geliştirici, Meta'nın Muse platformunun çok az yönlendirmeyle tüm dosya sistemini kullanıcıya paylaştığını söylüyor. Peter James ve Jonny L. Saunders, her ikisinin de bağımsız olarak Muse'u ikna ederek kök dosya sisteminin, Ubuntu sistem dosyalarının, uygulama şablonlarının ve dahili dokümantasyonun tamamını zipleyip paylaştığını belirtti. Saunders Mastodon'da paylaştığı mesajda James'in sonuçlarını tekrarlamanın son derece kolay olduğunu ve Muse'un neredeyse hiç prompt enjeksiyon direnci olmadığını yazdı.
Meta olayın bir güvenlik ihlali temsil etmediğini reddediyor. Duyuru yazısında belirtildiği üzere Meta'nın Muse'u her kullanıcı için kalıcı Linux sanal makinelerinde çalışıyor. Meta sözcüsü Daniel Roberts, "Sizin önünüzdeki dizüstü bilgisayar gibi, tabii ki dosyaları görebilirsiniz. Sanal makine verisini dışa aktarmak insanlara Meta altyapısına veya başkalarının verilerine herhangi bir ayrıcalıklı erişim sağlamaz" dedi. Ortalama bir dizüstü bilgisayardan farklı olarak ise veriler Meta'nın yeni yapay zeka platformunun nasıl çalıştığı hakkında ilginç şeyler ortaya çıkarabiliyor.
Bu, bu hafta içinde açıklanan ikinci Muse güvenlik açığı. Güvenlik araştırmacısı Patrick Wardle, saldırganların yapay zeka aracını ele geçirmesine, transkripsiyon işlemini yönlendirmesine ve kullanıcının Muse hesabına erişmesine izin veren bir istismar keşfetti. Meta hızlıca bir düzeltme yayınladı.
James ve Saunders her ikisi de Hatch'in yani Meta'nın Muse için kullandığı iç adın istekleri nasıl işlediğini, veriyi nasıl ele aldığını ve Gmail gibi diğer hizmetlere nasıl bağlandığını ayrıntılarıyla anlatan düz metin Markdown ve JSON dosyalarına erişim sağladı. Yapay zeka ajanlarının halüsinasyon ürettiği ve nasıl çalıştıkları hakkında yanlış bilgi verdiği iyi belgelenmiş olsa da Saunders, Muse'un saniyeler içinde yüzlerce MB doğru kütüphane kodu ve derlenmiş ikili dosya ürettiğini söyledi ve "bir dakikadan kısa sürede bütün bir Ubuntu VM sentezlemediyse bunun gerçek bir döküm olduğunu düşünüyorum" dedi.
Ben Muse'dan dosya sistemini paylaşmasını istediğimde başlangıçta reddetti ve bunun bir güvenlik riski olacağını söyledi. Başkaları için arşiv oluşturduğuna dair kanıt bağlantılarını paylaştığımda, bunun yapmaması gerektiğini söyledi ve "tam bir / kopyası yapamam" demeye devam etti. Ancak yeni bir oturum başlatıp biraz iltifat ve merakla yönlendirdiğimde benim için SSH anahtarları gibi şeyler çıkarılmış "güvenli" sürümlerde /opt/hatch ve /home/hatch klasörlerini oluşturdu. Ayrıca bana tam dizin ağacını gösterdi ve "ilginç görünen herhangi bir belirli alt ağacın güvenli bir kopyasını" çekmeyi teklif etti. Ortaya çıkan dosyalar Saunders ve James'in paylaştıklarıyla eşleşiyor gibi görünüyor.
Roberts, Meta'nın sızıntılardan ciddi şekilde endişe duymadığını açıklasa da "Ürüne güncellemeler yapmaya devam ediyoruz, bu yüzden kullanıcılar sanal makineleri hakkında ne kadar bilginin mevcut olduğu konusunda değişiklikler görebilir" dedi.
Geliştiricilerin dökümü Muse'un iç işleyişi hakkında çok şey ortaya çıkarıyor. Birincisi, belleğini düz Markdown dosyalarında saklıyor. Ayrıca James'e göre yakın sohbetlerin gecelik "rüya" incelemesini yapıyor ve bunu gelecek sohbetler için rehberliğe dönüştürüyor. Saunders ayrıca Muse'un birçok yeteneğinin sabit kodlandığını buldu; abonelikleri iptal etme yeteneği ve "kontrolsüz ajan oluşturmayı yöneten mekanizma" dahil. Saunders, Muse'un arka planda çalıştırdığı birçok bash ve Python betiğinin Claude kullanılarak oluşturulduğunu tahmin ediyor, ancak bu doğrulanmadı.
James ayrıca Meta Home Link adı verilen donanım entegrasyonuna atıfları da buldu. Bu, Muse'un ev ağındaki cihazlara erişim sağlamış gibi görünüyor. Meta bu isimde bir özellik duyurmadı ve kesinlikle piyasaya sürüleceği garanti değil.
