Bu yılın OpenAI DevDay etkinliğinde CEO Sam Altman şirketin yeni yapay zekâ ajanı Dots’u tanıttı ve kalabalığa şirketin “öncü yapay zekâda gizlilik için yeni bir standart belirlemek istediğini” söyledi. OpenAI gün boyunca Meta’nın ana rakibi Muse’un kullanıcı verilerini güvende tutamadığını ima eden açıklamalarda bulundu. Muse ise birkaç ay önce selefi OpenClaw’a kıyasla daha güvenli bir alternatif olarak duyurulmuştu; CEO Mark Zuckerberg onun “sıfırdan gizlilik ve güvenlik için inşa edildiğini” vaat etmişti.
Şirketlerin müşterilerin kişisel verilerini biriktirdiği ve siber saldırılar artık çok sık görüldüğü bir dönemde yapay zekâ laboratuvarları kullanıcıları ajanlarıyla daha fazla bilgi paylaşmaya ikna etmeye çalışıyor. Son strateji, rakiplerin aksine kullanıcı verilerini meraklı gözlerden uzak tutacaklarını vaat ederek rekabette bir adım öne geçmek. Soru, şirketlerin bu sözleri tutabilecek olup olmadığı.
Meta Superintelligence Labs ürün başkanı Nat Friedman X’te şirketin “muse ile openclaw benzeri ama güvenli, emniyetli, kullanımı kolay ve milyarlarca kişiye ölçeklenebilir bir şey inşa etme” hedefinde olduğunu yazdı. Kullanıcı verileri güvenli bir sanal makinede saklanıyor; Zuckerberg bunun “tarayıcı, CPU, bellek ve depolama içeren izole bir linux bilgisayarı” olarak tanımladı. Şirket, Muse’u inşa etmedeki çabanın büyük kısmının “daha güvenli çalışması için özenli tasarım ve mühendislik” ile ilgili olduğunu belirtti. Meta’nın blog yazısında “Muse hata yapabilir ve yapacak, ancak yerleşik güvenlik sistemleri sayesinde bunların çok daha seyrek olmasını ve çok daha az zarar vermesini bekliyoruz” denildi.
Muse App Store listelerinde zirveye çıktı ve Apptopia verilerine göre ABD’de haftalar içinde 600 bin günlük aktif kullanıcıya ulaştı. Ancak Meta’nın vaatleri yetersiz kaldı. Veri diğer kullanıcılardan izole edilse ve şirket bu yıl içinde “Meta’nın VM’deki veriye erişmesini kriptografik ve doğrulanabilir şekilde engelleyen” bir yöntem sunmayı planlasa da Meta kendisi hâlâ veriye erişebiliyor. Bir güvenlik araştırmacısı Muse’un kontrolünü ele geçirebilecek sıfırıncı gün açığı ortaya çıkardı; açık daha sonra kapatıldı. 404 Media’ya göre lansman öncesi son anda ortaya çıkan ciddi güvenlik sorunları yaşandı; bunlardan biri kullanıcıların Meta’nın dahili veritabanlarına erişmesine izin verebilirdi.
Muse ayrıca veriyi bolca topluyor ve bazı durumlarda paylaşıyor. Varsayılan olarak Meta’nın kullanıcıların girdiklerini model eğitiminde kullanmasına izin veriyor; kullanıcı çıkabilir. Inc. muhabiri Muse’un kendisinin istemediği halde özel mesajlarını yükleyip okuduğunu şikâyet etti; bir YouTuber ise platformun adresini bir yabancıyla Marketplace üzerinden paylaştığını söyledi. Her iki durumda da Muse amaçlandığı gibi çalışıyordu ama kullanıcı ne kadar ileri gideceğini fark etmemişti. Wired’ın haberine göre platform “tüm arkadaşlarınızın ve ailenizin ayrıntılı profillerini” oluşturuyor. Bu durum Meta’dan beklenebilir ama Muse’un eşsiz derecede gizlilik ya da güvenlik bilinci taşıdığı fikrini desteklemiyor.
OpenAI Eylül sonu Dots’u duyururken bu duruma atıf yaptı. OpenAI Codex ürün lideri Alexander Embiricos DevDay’de sahnede OpenAI’nin “en güvenilir, en güvenli ve en emniyetli asistan” olmaya odaklandığını söyledi. CEO Sam Altman insanların bireysel Dots’ları üzerinde kontrol kurmasının yollarını gösterdi; örneğin belirli bir tutarın üzerindeki alışverişi asla yapmama kuralı koymak gibi. OpenAI uygulama platformu başkanı Glen Coates “Meta’nın 1,2 milyar kullanıcısı olan bir yapay zekâ ürünü yok olduğu için biz farklı bir konumdayız” dedi ve “bu tür hatalar yapan bir şeyi piyasaya sürmek bizim özenle kaçınmaya çalışacağımız bir şey” diye ekledi.
Altman DevDay’de gizlilik vurgusunu sürdürdü. İş müşterilerini kazanmak için yöneticiler, şirketlerin verileri üzerinde “daha güçlü kontroller” sağlayacak ve sıfır veri saklama politikası seçeneği sunacak bir çerçeve sundular; bu, verinin OpenAI sunucularında saklanmadığı anlamına geliyor. Şimdiye kadar Dots ile ilgili pek çok gizlilik skandalı yaşanmadı; bunun bir nedeni de aracın yalnızca 100 dolar ve üzeri ChatGPT abonelik katmanlarında sunulması ve dolayısıyla kullanıcı sayısının az olması.
Yine de insanlar OpenAI’ye kişisel verilerini vermekten rahat hissetmeyebilir; kısmen yapay zekâ ajanlarının çok fazla veri istemesi nedeniyle. Örneğin The Verge’den Allison Johnson botun ilgili bir görev kapsamında banka bilgilerini girmesini istediğinde rahatsız olduğunu hissettiğini belirtti; Muse’un bu iş için Stripe entegrasyonu bulunuyor.
Tüm şirketler gizlilik vaadinde bulunmuyor. Instinct, veriye sınırsız erişim sağlayan aşırı geniş hizmet şartlarıyla eleştirildi; o zamandan beri şirketin ayarlamalar yaptığı görülüyor. Şimdilik yapay zekâ laboratuvarları yapay zekâ ajanı kullanımını genel kitleye yaygınlaştırmak için üçlü bir yaklaşıma güveniyor: onları faydalı kılmak, ürkütücülüğü dengelemek için sevimli ve etkisiz göstermek ve gizlilik sözü vermek — ve bu sözlerin tutulmasını ummak.
