Meta, yeni görüntü üretme modeli Muse Image ile oluşturulan görselleri ve videoları tespit etmek için bir araç üzerinde çalışıyor. Şirket, web tabanlı aracın ön izlemesini gösterdi. Bu araç, yeni modelin kullandığı görünmez filigranları kontrol edebiliyor.
Content Seal adı verilen bu filigran sistemi, Meta'nın blog yazısına göre "kırpıldığında, sıkıştırıldığında, yeniden boyutlandırıldığında veya ekran görüntüsü alındığında bile" yerinde kalıyor. Şirket, "Bir görselin Content Seal filigranı taşıyıp taşımadığını kontrol etmenizi sağlayan bir tespit aracını ön izlemeye sunuyoruz. Bu, bir görselin Meta AI ile yapılıp yapılmadığını anlamanıza yardımcı olacak ilk yöntem" açıklamasını yaptı.
Content Seal, Meta için biraz yeni bir yaklaşım gibi görünüyor. Meta'nın Engadget'a verdiği bilgiye göre, Muse Image'ın parçası olan sürüm tescilli olsa da şirket daha önce bu teknolojinin açık kaynaklı sürümlerini yayınlamıştı. Meta'nın yeni modelleri, önceki bazı Meta AI sürümlerinde sağ alt köşeye küçük bir logo ekleyen görünür filigranları içermiyor.
Şimdilik Meta AI'nın tespit yetenekleri yalnızca Muse Image ile oluşturulan veya düzenlenen görsellerle sınırlı. Ancak şirket, Content Seal filigranlarını yapay zeka tarafından oluşturulan ve düzenlenen videolara da genişletmeyi planladığını belirtti. Meta ayrıca "yakında gelecek" olan ayrı bir video üretme modeli olan Muse Video üzerinde de çalışıyor.
Muhabir, bugün Meta AI ile oluşturduğu görseller üzerinde yeni tespit özelliğini denedi. Web tabanlı araç, düzenlenmiş görseller ve tamamen yapay zeka tarafından yapılmış içerikler için filigranı tespit edebildi. Ayrıca görsellerin ekran görüntülerinde de filigranı buldu. Şirket SSS bölümünde, "Olumlu sonuç, görselin Meta AI uygulaması veya meta.ai kullanılarak oluşturulduğu veya düzenlendiği anlamına gelir. Olumsuz sonuç ise görselin Meta AI uygulaması veya meta.ai kullanılarak işlenmiş olma ihtimalinin düşük olduğu anlamına gelir" açıklamasını yaptı.
İlginç bir şekilde, Meta AI'nın yeni tespit yetenekleri henüz Meta AI uygulamasının bir parçası gibi görünmüyor. Muhabir, uygulama tabanlı asistana web aracının yapay zeka yapımı olarak tanımladığı bir görsel hakkında soru sorduğunda asistan, kontrol etme yeteneğinin olmadığını söyledi. Asistan, "Bu belirli görselin Meta AI ile yapılıp yapılmadığını kesin olarak söyleyemem. Meta AI görselleri otomatik olarak filigranlamaz ve mevcut bir görseli hangi AI modelinin yaptığını tespit edebilecek bir aracım yok" yanıtını verdi.
Meta, daha önce uygulamalarında yapay zeka tarafından oluşturulan materyalleri nasıl etiketlediği ve tanımladığı konusunda bazı eleştiriler almıştı. Gözetim Kurulu, bu yılın başlarında şirkete, Meta'nın kendi araçlarıyla oluşturulan yapay zeka içeriklerinde dijital filigranları "tutarsız bir şekilde uyguladığı" için "endişeli" olduğunu bildirmişti.
Yeni özelliğin başka sınırlamaları da var gibi görünüyor. Content Seal, diğer şirketler tarafından kullanılan iki yerleşik filigran yöntemi olan SynthID veya C2PA Content Credentials ile uyumlu değil. Muhabirin testlerinde web tabanlı özellik, Meta'nın AI modellerinin önceki sürümleriyle oluşturulan veya düzenlenen görselleri tanımlayamadı. Meta AI ile eski sohbetlerde oluşturulan görseller eklendiğinde, görselin AI ile yapılıp yapılmadığını söyleyemedi. Ayrıca özellik, nedense Meta'nın hız sınırlamalarına tabi. Birkaç örnek yükledikten sonra muhabire "günlük kimlik doğrulama kontrol limitine" ulaştığı bildirildi.
