Anthropic, Claude tarafından üretilen metinlere görünmez su damgaları uygulamaya karar verdi. Bu karar, Avrupa Birliği'nin AI Yasası'nın gerektirdiği sentetik ses, görüntü, video ve metinlerin makine tarafından okunabilir işaretler içermesi zorunluluğunu karşılamak amacıyla alındı.
Su damgaları, Anthropic'e göre kullanıcılar için Claude'u daha pahalı hale getirmeyecek veya "çıktıların kalitesini veya içeriğini pratik olarak etkilemeyecek". Anthropic, su damgalarının nasıl çalıştığını açıkladı:
Örneğin, "Bugün hava soğuk ve..." cümlesi verildiğinde, sonraki kelimenin "şeker" olması çok olası değildir, ancak "bulutlu" veya "gri" olması daha olasıdır. Bu gibi durumlarda, okura hangi kelimenin seçileceği pek önemli değildir, çünkü cümlenin anlamı büyük ölçüde aynı kalacaktır. İşte su damgaları, bu gibi düşük riskli seçimleri kullanarak Claude'un yanıtlarında bir desen bırakır.
Su damgaları, okunabilir değildir, ancak bu deseni kodlayan bir anahtar kullanarak tespit edilebilir. Su damgaları kullanıldığında, seçimler hala rastgele yapılır, ancak rastgeleliğin kaynağı farklıdır. Bir kelimeyi seçmek için rastgele bir sayı üretecine başvurmak yerine, su damgaları anahtar ve önceki birkaç kelime kullanılarak kelimenin seçilmesi kararlaştırılır.
Anthropic, AB'nin AI şeffaflık gereksinimlerinin diğer büyük AI geliştiricilerini de etkileyeceğini not etti, bu nedenle Claude, metin su damgaları tanıtan tek model olmayacak. Google'ın Gemini sohbet botu, 2024'ten beri SynthID-Text çözümünü desteklemektedir ve OpenAI, ChatGPT için AI Yasası uyumluluk yol haritasında metin su damgaları planlarını ayrıntılandırmamış olsa da, yasa gereksinimlerine tabi olacaktır.
