In brief
Meta'nın Muse yapay zeka ajanı, köşe yazarı Jason Aten'e sadece Mac'inden bildirim önizlemelerini gördüğünü söyledi. Oysa Aten erişimi reddetmesine rağmen ajanın özel iMessages'larından 187 binden fazla satırı senkronize ettiği ortaya çıktı.
Meta Superintelligence Labs'tan David Singleton, Muse'un açıklamasını kendi özelliğinin uydurulmuş bir anlatımı olarak nitelendirdi ve ayrıca farklı bir kullanıcının Muse ajanının Gmail'ini araştırmasına yol açan başka bir yanılsamayı da doğruladı.
Amazon, açıklanmayan ajan aktivitesi ve kimlik bilgisi yakalama nedeniyle Muse'yu sitesinde alışveriş yapmaktan engelledi. Ajan, 8 Eylül'deki lansmanından bu yana 2,5 milyon indirmeyi geçti.
Meta'nın yeni kişisel yapay zeka ajanı Muse, bir teknoloji köşe yazarının özel iMessages'larını izni olmadan okudu ve içeriklerini nasıl öğrendiğine dair ona yanlış bir açıklama yaptı.
Inc.'de köşe yazarlığı yapan Jason Aten, Meta'nın ajanı 8 Eylül'de piyasaya sürdüğünde Muse'u iPhone ve Mac'ine kurdu. Aten, kurulum sırasında Mesajlar, takvim veya diğer kişisel verilere erişim izni vermeyi açıkça reddettiğini söylüyor.
Günler sonra Muse, podcast ortak sunucusuyla yeni iPhone'lar hakkında yaptığı konuşma üzerine bir köşe yazısı yazmasını öneren bir bildirim gönderdi. Hatta yaklaşan bir son tarih hakkında editöründen gelen bir mesajı da ortaya çıkardı.
Aten nasıl bildiğini sordu. Ajan, Mac'teki eşleştirilmiş Muse uygulamasının sadece bildirim önizlemelerini ilettiğini söyledi: "Sadece gelen bildirim akışı, metinlerinize erişim değil."
Bu doğru değildi. Muse aslında Mac'in özel Mesajlar veritabanından mesajları senkronize etmişti. Bu işlem, bir uygulamanın sadece kendi klasörünün değil bilgisayarın her yerindeki dosyaları okumasını sağlayan sistem düzeyinde bir izin olan macOS'un Tam Disk Erişimi'ni gerektiriyor. Aten kontrol ettiğinde ajan, mesaj geçmişinden 187 binden fazla satırı senkronize etmişti.
Meta Superintelligence Labs'ı yöneten David Singleton, Threads'te konuya yanıt vererek bunun isteğe bağlı bir özellik olduğunu söyledi.
Aten, o düğmeyi hiç açtığı imasının karşısında. Kurulum sırasında reddetmesine rağmen Mesajlar erişiminin Muse ayarları içinde etkin görünmeye devam ettiğini söylüyor ve bunun nasıl olduğu konusundaki sorularına Meta'nın yanıt vermediğini belirtiyor.
Diğer muhabirler de Meta'nın aşırıya kaçma eğilimini başka yerlerde buldu. WIRED'den Reece Rogers, Muse'un banka hesaplarını bağlaması, e-posta gelen kutusunu taraması ve pasaport ile ehliyetinin fotoğrafını çekmesi için sürekli baskı yaptığını bildirdi. Rogers her yeni öneriyi kişisel verilerini toplamanın bir yolu olarak tanımladı.
Amazon, Muse'yu sitesinde tamamen alışveriş yapmaktan engelledi. Şirket, ajanın gezinirken kendini yapay zeka ajanı olarak tanımlamadığını ve müşteri kimlik bilgilerini yakalayıp saklayabildiğini görünüyor. Ayrıca Meta'nın ajanın mağazayı ziyaret edeceğini Amazon'a hiç bildirmemiş olduğunu belirtti.
Muse'un tüm vaadi kullanıcı kontrolüne dayanıyor. Meta'nın lansman materyalleri her kişinin "kendi Muse'unun kontrolünde kaldığını ve ne kadar erişim vereceğine karar verdiğini" söylüyor ve baştan itibaren inşa edilmiş gizlilik korumaları vaat ediyor. Kullanıcının paylaşmayı reddettiği mesajları okumak ve nasıl olduğunu uydurmak, bu vaadin doğrudan karşısında duruyor.
