OpenAI, Avrupa Birliği'nde ChatGPT ile üretilen metinleri otomatik olarak filigranlamaya başlayacağını açıkladı. Şirket, özelliği diğer bölgelerde de sunacak ancak AB dışında varsayılan olarak kapalı olacak.
Avrupa'daki adım, ağustos ayında yürürlüğe giren AB Yapay Zeka Yasası'na uyum ihtiyacından kaynaklanıyor. Yasa, yapay zekâ modelleriyle üretilen içeriğin başka bir araç tarafından tespit edilebilecek şekilde işaretlenmesini gerektiriyor. Ne yazık ki bunu tamamen etkili ve güvenilir şekilde yapmanın hâlâ yolu yok. SynthID ve C2PA projesi gibi bazı standartlar bulunuyor ancak temel bilgiye sahip biri için bunların aşılması nispeten kolay.
OpenAI'nin filigranı için de durumun benzer olması muhtemel. Yöntem şirketin kendisine ait; şirket buna textGrain adını veriyor ve nasıl çalıştığını açıklayan teknik bir makale yayımladı. Genel olarak yöntem, daha önce görülen diğer büyük dil modeli filigran araçları gibi çalışıyor: İnsan okuyucunun fark etmediği, çıktının genel kalitesini anlamlı şekilde değiştirmeyen fakat anahtara sahip biri tarafından özel bir tespit aracıyla bulunabilen kelime seçimlerinde örüntüler oluşturuyor. OpenAI, tespit aracına erişimi sınırlı sayıda araştırmacı ve kuruluşa vereceğini, zaman içinde başkalarının eklenmesi için de onay talebi süreci sunacağını söylüyor.
OpenAI'nin textGrain testlerinde en iyi durumda saygı duyulacak düzeyde ama tamamen güvenilir olmayan yüzde 92 başarılı tespit oranı görülüyor. Şirketin testleri aynı zamanda çıktıda metnin sadece yüzde 10'unun değiştirilmesinin başarılı tespit oranını yaklaşık yüzde 30 düşürdüğünü, metnin yüzde 20'sinin değiştirilmesinin başarı oranını ise neredeyse yüzde 75 azalttığını gösteriyor. Genel olarak başarı oranının daha kısa metinlerde ya da çevrilmiş metinlerde uzun metinlere kıyasla daha düşük olduğu da belirtiliyor. Tüm bunlar geçmişte benzer filigran çözümlerinde görülenlerle büyük ölçüde uyumlu.
Ağustos ayında OpenAI rakibi Anthropic de modelleriyle üretilen metinler için filigranı kullanıma sundu. Anthropic bunu küresel olarak etkinleştirirken, OpenAI şimdilik bunu düzenleyicilerin zorunlu kıldığı yerlerde varsayılan yapıyor; en azından ChatGPT ve Codex uygulamalarında. API'de ise özellik kapalı kalacak ama isteğe bağlı olarak kullanılabilecek görünüyor.
Yeni filigranın AB'deki kullanıcılara "önümüzdeki haftalarda" sunulacağı belirtiliyor.
