Güçlü yapay zeka dil modellerinin (LLM) herkesin kullanımına açık hale gelmesi, kötü niyetli kişilerin internete spam yağdırmasını her zamankinden daha kolay hale getirdi. Son birkaç yıldır internette vakit geçiren herkes, spam ve bot içeriklerinin zaten büyük bir sorunken daha da büyük bir soruna dönüştüğünü fark etmiştir.
Reddit, büyük ölçüde yine LLM'lerle oluşturulan spam'ı azaltmak için yapay zeka dil modelleriyle araçlar geliştirdiğini açıkladı. İronik görünse de yapay zeka çağında platformların ateşe ateşle karşılık vermekten başka çaresi yok. Reddit'e göre platform, günde 23 milyon spam görüntülenmesini engelliyor ve her gün yaklaşık 25 bin yeni spam gönderi ve yorumu tespit ediyor. Ayrıca günde yaklaşık iki milyon sahte oyu da iptal ediyor.
Sosyal medya platformları yıllardır otomatik spam azaltma araçları geliştiriyor. Ancak Reddit, güncellenen bu araçların spam'ı çok daha yüksek bir oranda yakaladığını belirtiyor. Reddit, LLM'leri bir hesap oluşturulur oluşturulmaz şüpheli etkinlikleri tespit etmek için kullandığını, buna "son derece ince ayarlanmış, koordineli sahte davranış ve yapay abartı kalıpları"nın da dahil olduğunu açıkladı. Platform ayrıca daha önce "şüpheli otomatik hesapları" insanlıklarını doğrulamaya zorlayan ek bir koruma katmanı eklemişti.
Reddit'in blog yazısında, “LLM'leri, eski sistemlerin kaçırdığı son derece ince ayarlanmış, koordineli sahte davranış ve yapay abartı kalıplarını yakalamak için kullanıyoruz” ifadesine yer verildi. Şirket, Ocak-Mart 2026 arasında kullanıcıların spam'a maruziyetini önceki üç aylık döneme göre yüzde 20 oranında azalttığını iddia ediyor.
Yeni önlemler yalnızca yapay zeka kaynaklı spam ile sınırlı değil. Reddit, bu araçların aynı zamanda platformdaki nefret söylemi ve şiddet içeren İngilizce metin içeriklerine karşı uygulama işlemlerini güçlendirdiğini ve yakında daha fazla dilde kapsama alanına sahip olacağını belirtti. Şirket, tespitten uygulamaya geçiş süresinin beş saniyenin altına düştüğünü ve bunun kullanıcıların zararlı içeriğe maruziyetini yüzde 40'tan fazla azalttığını açıkladı.
YouTube, Meta ve Instagram gibi platformlar, kullanıcıların yapay zeka tarafından oluşturulmuş içerikleri, bunu belirttikleri sürece yayınlamalarına izin veriyor. TikTok ise kullanıcıların ne kadar yapay zeka içeriği görmek istediklerini seçmelerine olanak tanıyor.
Platformlar yapay zeka tarafından oluşturulan içerikleri daha hızlı tespit edebilirse, nefret söylemi gibi ihlal edici içerikleri de daha hızlı işaretleme potansiyeline sahip oluyor. Ancak platform uzmanları, en etkili sonuçlar için yapay zeka içerik denetiminin insan denetimiyle birleştirilmesi gerektiğini sürekli olarak hatırlatıyor.
