Google, YouTube Music'te yapay zekâ ile üretilen ya da değiştirilen şarkıları işaretlemek için yeni bir etiketleme sistemini kullanıma sunuyor. Etiket, çalma ekranında görünecek ve gönüllü beyan, tespit araçları ile SynthID filigranı gibi yöntemlerle uygulanacak. Şirket yapay zekâ müziğini yasaklamıyor, ancak dinleyicilerin kaynağı bilmesini istiyor.
Google, Gemini modellerinde kullanılan görünmez SynthID filigranını tespit eden aracını genişletti ve SynthID.com üzerinden herkese açtı. Araç artık OpenAI, Nvidia, Kakao ve yakında Apple dahil ortakların filigranlarını da tanıyor. Girişle sınırlı günlük kullanım kotasıyla çalışan sistem, tüm yapay zeka içeriklerini yakalayamasa da tek noktadan kontrol imkanı sunuyor.
Google, görüntü, video ve ses dosyalarının yapay zekâ ile üretilip üretilmediğini kontrol eden SynthID doğrulama sitesini herkese açtı. Araç daha önce sınırlı test grubuyla kullanılıyordu ve şimdi geniş format desteğiyle erişime sunuldu. SynthID, şirketin kendi modellerinin yanı sıra OpenAI, Nvidia ve Kakao tarafından da destekleniyor.
SynthID filigranlamasının turnuva örneklemesi yöntemi, zararlı istemlere verilen yanıtları değiştiriyor. Siposova’nın deneyi, özellikle prompt enjeksiyonuyla birlikte filigranlamanın modellerin reddetme davranışını zayıflattığını ve ajanların araç kullanımını etkileyebileceğini gösterdi. Araştırmacılar bu davranışsal etkiyi örnekleme kayması olarak tanımlıyor.
Google'ın yapay zeka görsellerine eklediği SynthID filigranı, 300 kez sıkıştırılsa bile tespit edilebiliyor. Ancak görselin bir kısmı kırpıldığında filigran kolayca devre dışı kalıyor. Bu durum, teknolojinin yapay zeka kaynaklı dezenformasyonu önlemede tek başına yeterli olmadığını gösteriyor.