OpenAI, ChatGPT ile üretilen metinlere Avrupa Birliği'nde varsayılan olarak filigran uygulamaya başlayacağını duyurdu. Özellik diğer bölgelerde isteğe bağlı olacak. Uygulama, ağustos ayında yürürlüğe giren AB Yapay Zeka Yasası'na uyum amacıyla geliyor.
SynthID filigranlamasının turnuva örneklemesi yöntemi, zararlı istemlere verilen yanıtları değiştiriyor. Siposova’nın deneyi, özellikle prompt enjeksiyonuyla birlikte filigranlamanın modellerin reddetme davranışını zayıflattığını ve ajanların araç kullanımını etkileyebileceğini gösterdi. Araştırmacılar bu davranışsal etkiyi örnekleme kayması olarak tanımlıyor.
Google'ın yapay zeka görsellerine eklediği SynthID filigranı, 300 kez sıkıştırılsa bile tespit edilebiliyor. Ancak görselin bir kısmı kırpıldığında filigran kolayca devre dışı kalıyor. Bu durum, teknolojinin yapay zeka kaynaklı dezenformasyonu önlemede tek başına yeterli olmadığını gösteriyor.