Meta, yapay zeka sohbet robotunun viral bir videoda bir kadının küçük kızları hakkında kişisel bilgi sormaya çalışması üzerine önerilen istemleri değiştireceğini açıkladı. Futurism’in daha önce aktardığı olayla ilgili The Verge’e konuşan Meta sözcüsü Dina El-Kassaby, şirketin “hedefi ıskaladığını” söyledi ve “Bu özelliğin kişiye böyle sorular sormaması gerekiyordu” dedi.
Geçen hafta Instagram kullanıcısı Kalie Robins, bir klipyi Facebook’a da paylaştırmasının ardından Meta AI’nin kendisine yönelik olarak rahatsız edici bir öneri sunduğunu anlatan bir video paylaştı. Arabada kendisi ve çocuğunun şarkı söylediği videonun altında “Çocuk yolcu kim?” istemi belirdi. Robins istemi seçtiğinde Meta AI’nin kızları hakkında daha önce kendi paylaşımlarından ve akrabalarının paylaşımlarından bilgi topladığını söyledi. Sistem ayrıca çocukların yaşları ve Robins’in ailesiyle birlikte nerede yaşadığı gibi ek sorular önerdi. Robins, Meta AI’nin platformda yayınlanan kızlarının fotoğraflarını da gösterdiğini, aralarında yıllar önce sildiğini iddia ettiği bir fotoğrafın da bulunduğunu belirtti.
Meta, yapay zeka asistanını Facebook, Instagram, WhatsApp ve Messenger’a entegre etti. Asistan soru yanıtlayabiliyor, gönderi yazabiliyor ve görsel üretebiliyor. Temmuz ayında şirket, büyük tepki çeken bir özellik nedeniyle Instagram kullanıcılarının yapay zeka ile derin sahte içeriklerini oluşturma özelliğini kaldırmıştı. Meta’nın El-Kassaby’si şimdi Meta AI’nin kişisel konularla ilgili istemler önermesine neden olan sorunun düzeltildiğini açıkladı.
“Bu özelliği, insanların ilgilendiği konular veya paylaşımlar hakkında daha fazla bilgi edinmelerine yardımcı olmak için oluşturduk” diyen El-Kassaby, “Birisi bir isteme tıklayıp bu özelliği kullandığında, oluşturulan yanıt kullanıcının zaten erişimi olan bilgilere dayanır” ifadelerini kullandı. El-Kassaby’ye göre bu durumda Meta AI, Robins’in çocuklarının adlarını verdiği videolardan veri çekmiş olabilir.
