Google’ın Gemini modellerinden çıkan her yapay zeka içeriğinde gizli bir SynthID etiketi bulunuyor ve bu da içeriğin gerçekmiş gibi sunulmasını çok zorlaştırıyor. SynthID diğer büyük yapay zeka oyuncularının da desteğini aldı ancak bu görünmez filigranları kontrol etmek karmaşık bir süreçti. Artık durum biraz kolaylaşıyor. Google, SynthID tespit aracının artık tüm ortaklarının filigranlarını desteklediğini duyurdu ve herkesin kullanabileceği yeni bir web sitesi üzerinden erişime açıldı.
SynthID, yapay zekayla üretilen görseller ve videoların piksellerine, yapay seslerin dalga formuna gömülen görünmez bir sinyal. Google’a göre yalnızca Gemini, 180 milyarın üzerinde görsel ve videoya, ayrıca 240 bin yıllık ses kaydına SynthID entegre etti. Şimdiye kadar Google’ın güvenilir test programı dışındaki kişilerin SynthID’yi kontrol etmesinin tek yolu Gemini’den istemekti. Bu oldukça hantal bir yöntemdi ve model bazen sadece basit bir “evet” ya da “hayır” istediğinizde kafa karıştırıcı çıktılar üretiyordu.
Artık Gemini’yi devre dışı bırakabilirsiniz. Bugün itibarıyla bir içeriğin yapay zeka filigranı taşıyıp taşımadığını kontrol etmek için yeni SynthID.com sitesine gidebilirsiniz. Google’ın önceki tespit aracının en büyük sınırlaması yalnızca Google’ın kendi SynthID sürümünü kontrol etmesiydi. Örneğin ChatGPT görsellerinde SynthID olsa bile Google’ın tespit aracında işaretlenmiyordu. Bu sorun artık ortadan kalktı.
Google, genişletilmiş tespit aracının OpenAI, Nvidia, Kakao ve yakında Apple dahil tüm SynthID ortaklarının farklı filigranlarını destekleyeceğini söylüyor. Böylece tek bir yerden bu yapay zeka sistemlerinin katılımını kontrol edebileceksiniz, her birinin kendi tespit aracına ayrı ayrı erişmek zorunda kalmayacaksınız. Site, SynthID piksellerinin bulunduğu görüntü bölgelerini vurgulayan dahili araç kadar bilgi vermeyecek. Bunun yerine medyanın üretiminde ya da düzenlenmesinde SynthID kullanılıp kullanılmadığını bildiren bir mesaj alacaksınız.
Araçtan yararlanmak için giriş yapmak gerekiyor, ancak Google, OpenAI ve Apple hesapları destekleniyor. Tespit aracı herkese açık olsa da giriş şartı kullanım miktarını sınırlıyor. Google’a göre her kullanıcı günlük yaklaşık 10 kontrol kotası alıyor; görsel, video ve ses kontrolleri bu kotaya dahil.
Önceki tespit araçlarında da benzer bir sınır vardı. Google mühendisleri Ars’a, erişimi sınırlamanın kontrolleri kullanarak SynthID kaldırma araçları geliştirmeyi önlemesi için gerekli olduğunu söyledi. Kesin sayı konusundaki belirsizliğin nedeni, sistemin çok benzer görselleri arka arkaya kontrol ediyorsanız sizi daha erken kilitleyebilmesi olabilir. Bu durum birinin atlatma akışı geliştirmeye çalıştığının işareti olabilir.
Yalanları etiketleme
SynthID tespitine erişimi genişletmek iyi bir şey; popüler yapay zeka araçlarının imzasını kontrol etmek için tek bir pratik adres sunuyor. Ancak Google’ın ortakları yapay zeka içeriğinin tek kaynağı değil.
Bazı model sağlayıcıları farklı filigran teknolojileri kullanıyor, Meta gibi. Bazıları hiç filigran kullanmıyor. Üstelik insanlar kendi donanımlarında çalıştırabileceği açık ağırlıklı modellerle giderek daha gerçekçi yapay içerik üretebiliyor ve bu içeriklerde basit meta veri etiketlemesi bile bulunmuyor.
Bu da SynthID aracında yapay zeka olarak tanımlanmayacak bol miktarda yapay zeka içeriği olduğu anlamına geliyor. Sitede bununla ilgili bir uyarı bulunacak. Ayrıca Google’ın çabalarına rağmen birinin SynthID’yi kaldırma yolunu bulması da olası; böylece mevcut yapay zeka içeriği daha gerçek görünür hale gelir. Proaktif filigranlamaya dayalı bir sistem mükemmel olamaz, oysa yapay zeka görselleri internette inanılmaz bir hızla çoğalıyor.
En iyi yaklaşım belki de tam tersi olabilir; gerçek görsel, video ve sesleri oluşturulurken kriptografik teknolojilerle, örneğin C2PA ile etiketlemek. Google’ın Pixel telefonları bunu yapan az sayıdaki cihazdan biri. Bu arada SynthID, yapay zeka sahtekarlıklarını tespit etmek için elinizdeki en iyi seçenek olmaya devam ediyor.
