Geçtiğimiz hafta boyunca, fanfiction dünyasında yeni bir akım başladı: üretken yapay zeka kullanan yazarları ortaya çıkarmak. Ancak uygulanan tespit yöntemleri sorgulanabilir ve herhangi bir fanfiction yazarı bu çapraz ateşte kalabilir.
Claude, ChatGPT ve diğer yapay zeka araçlarının kullanımına yönelik geniş çaplı bir rahatsızlık, fanfiction dünyası da dahil olmak üzere yaratıcı topluluklarda uzun süredir mevcut. Okuyucular ve yazarlar, sözde yapay zeka tarafından üretilmiş eserleri tespit etmek için ipuçları paylaşıyor; bunlar arasında em tirelerden "mor düzyazı" kavramına kadar çeşitli unsurlar yer alıyor. Ancak 29 Haziran'da, @heatedrivalryai adlı anonim bir X hesabı, görünüşte daha güvenilir bir çözüm vaat etti. Hesap, popüler fanfiction arşivi Archive of Our Own (AO3) için bir "skin" (uzantı benzeri) yayınladı. Bu skin, Anthropic'in Claude botu tarafından bırakılan kod izlerini tespit edebiliyor.
Hesap, "Bir Claude tarafından oluşturulmuş yanıt doğrudan AO3'e yapıştırıldığında, metin Claude tarafından eklenmiş bir kod olan 'font-claude-response-body' ile sarılır. Bunun varlığı, Claude kullanımını kesin olarak gösterir" dedi. Bu kodu içeren bir sayfayı (bir fanfiction eseri gibi) ziyaret eden kullanıcı, skin sayesinde arka planın tamamen kırmızıya döndüğünü görüyor.
Skinin çalışıp çalışmadığını test etmek için AO3'te birkaç test yayını yapıldı. Ben de skin'i bu örnekler üzerinde test ettiğimde ekran anında kırmızıya döndü. Kendi deneyimimi yapmak için Claude tarafından oluşturulmuş bir kısa öykü yayınladım. Metni doğrudan sohbet robotundan editöre yapıştırdığımda kırmızı ekran belirirken, aynı metni Claude'dan gelmeyen bir şekilde yapıştırdığımda kayboldu.
Claude dedektörü gönderisine, kod izlerinin tespit edildiği fanfiction örnekleri eşlik ediyordu. Anonim yaratıcı, bunun sistemin çalıştığını göstermek için olduğunu, "güvensizlik ortamı yaratmak veya belirli kullanıcıları suçlamak" amacı taşımadığını söyledi. Ancak fanfiction toplulukları hızla harekete geçerek, araç tarafından işaretlenen yazarları kamuoyuna ifşa etmeye ve ayıplamaya başladı. Yaratıcının kendisi de yapay zekayı olumlu bir şey olarak görmüyor: "Fandom, benzersiz bir şekilde bağlantılı, işbirlikçi bir alan. Onu yönlendiren ve besleyen insan unsuru ve yaratıcı kıvılcımla var oluyor. Eğer farkında olmadan yapay zekanın bu alanları kirletmesine izin verirsek, geriye ne kalır?"
Anthropic, fan yapımı Claude dedektörünün tarif edildiği gibi çalışıp çalışmadığını doğrulama talebime yanıt vermedi. Ancak kullanılan yöntem sağlam görünüyor ve kendi testlerimiz de bunu doğruluyor. Eğer bot bir şekilde kullanılmamışsa, Claude kodunun bir hikayede bulunması için görünür bir neden yok. Ancak hem yanlış negatifler hem de aşırı genellemeler açık bir risk oluşturuyor.
Kod sarması yalnızca metin doğrudan Claude'dan AO3 editörüne kopyalandığında korunuyor. Bu nedenle Google Docs veya Microsoft Word'de düzenlenip AO3'e taşınan metinler yakalanamayacak. Geçimini yazarak sağlayan biri olarak, doğrudan bir CMS'ye yazmanın ne kadar riskli olduğunu söyleyebilirim. İşaretlenen bazı yazarlar eserlerini güncelleyerek kod izlerini kaldırdı bile ve gelecekteki eserler bu aracı kolayca atlatabilir.
Öte yandan, etiket belirli bir eserde Claude'un ne kadar yoğun kullanıldığını ortaya koymuyor. O aniden beliren kırmızı ekran, hikayenin tamamen yapay zeka tarafından oluşturulduğu anlamına gelebileceği gibi, bir yazarın birkaç insan yazımı cümleyi dilbilgisi kontrolü veya çeviri için Claude'a yapıştırıp tekrar AO3'e taşıdığı anlamına da gelebilir.
Bu durum, üretken yapay zekanın herhangi bir kullanımını daha geniş yaratıcı topluluğa affedilemez bir ihanet olarak gören bazı fandom üyeleri için önemli değil. Birçok kişi, teknolojinin çevresel etkisi ve açık internetten veri toplayarak eğitilmesiyle ilgili endişeleri dile getiriyor; bu muhtemelen AO3 gibi platformlara yüklenen fanfiction eserlerini de içeriyor.
Bu aracın uygulanabilirliği sınırlı. AO3, fanfiction yayınlamak için tek platform değil ve Claude, birçok yapay zeka modelinden sadece biri. En az bir kişi, "Claude, Deepseek ve biraz ChatGPT" kullanımını tespit edebilecek ayrı bir kod yazdığını iddia ediyor, ancak bu çözümü kamuya açıklamadı veya nasıl çalıştığını açıklamadı. Google ve OpenAI'e modellerinin benzer yollarla tespit edilebilecek herhangi bir izlenebilir iz bırakıp bırakmadığını sordum ancak yanıt vermediler.
Aslında, evrensel olarak güvenilir bir sistemin var olması son derece şaşırtıcı olurdu. Birkaç yıldır yapay zeka tespitiyle ilgili konuları takip ediyorum ve bildiğim kadarıyla, şu anda güvenilir bir teknolojik çözüm mevcut değil. C2PA Content Credentials ve Google'ın SynthID gibi sistemler, görsel, video ve hatta seste üretken yapay zekayı tanımlama konusunda bazı ilerlemeler kaydediyor, ancak bunlar, kopyala-yapıştır metinlerde taşınamayan görünmez filigranlar ve meta verilere dayanıyor.
Bu gelecekte değişebilir ve yapay zeka şirketlerinin en azından bu sorunu dahili olarak çözmek için her türlü teşviki var. Erken modeller internetten ayrım gözetmeksizin toplanan metinlerle eğitildi ve insan yazısı, sentetik benzerleri tarafından dışarı itildikçe, çıktıların doğruluğunu düşürecek bir "model çöküşü" senaryosu riski oluşabilir.
Ancak şimdilik, fandom toplulukları hala büyük ölçüde sezgilere güveniyor. Çoğu fanfiction, AO3 skin'i gibi bir araçla değil, belirli cümle yapıları (meşhur "bu X değil, bu Y" gibi) veya aşırı süslü metafor kullanımı gibi "ipuçları" ile değerlendiriliyor (en azından şimdilik koltukların erkeğe dönüştüğü bir fanfiction yok). Ancak unutmamalıyız ki yapay zeka genellikle böyle yazıyor çünkü gerçek insanların yazdıklarıyla eğitildi. Bizi taklit etmeye çalışıyor. Kendi AO3 yer imlerimi paylaşacak kadar cesur değilim, ancak ChatGPT öncesi internet günlerinde bu şüpheli koku testinden geçemeyecek aşırı tumturaklı fanfiction'lar kesinlikle okudum.
AO3'te yapay zeka eserlerini ayırt etmek için en iyi çözüm zaten mevcut: sitenin sağlam etiketleme sistemi. "Üretken Yapay Zeka Kullanılarak Oluşturuldu" etiketi var ve birçok yazar Claude gibi araçları kullandıklarını belirtmek için bunu ekliyor. Ancak bu dürüst bir şeffaflık gerektiriyor ve tepkiler göz önüne alındığında dürüstlük için çok az teşvik var. Ayrıca fanfiction'un bir hobi olması gerektiğini, düzenlenmiş bir endüstri olmadığını da unutmamak gerek.
Yapay zekanın gerçek insan yaratıcılığından ilgi çekmesini engellemeye yönelik bu çabalarla birlikte, kabul edilebilir yazı kalitesi olarak görülen şeye uymayan yazarlar devam eden cadı avının masum kurbanları haline gelebilir. En az bir yazar, başka birine güvendiği için bu duruma yakalandı; o kişi hikayesini düzenlemek için Claude kullanmıştı. Bu yüzden okuduğunuz bir sonraki fanfiction biraz robotik gelirse, bunun gerçekte bir robotun ürünü olmayabileceğini unutmayın.
