Discord, güvenlik sistemini etkileyen bir hatanın Mayıs 2026'dan bu yana 8.000'den fazla hesabı yanlışlıkla yasaklamasına yol açtığını duyurdu. Platformun açıklaması, geçtiğimiz hafta boyunca kullanıcılardan gelen bir dizi şikayetin ardından geldi. Kullanıcılar, satranç tahtaları, oyun dokuları, Minecraft envanterleri, elektronik tablolar ve beyaz ile gri şeffaf arka planlar gibi ızgara içeren görseller paylaştıkları için yasaklandıklarını söylüyor.
Discord'un kurucu ortağı ve teknoloji sorumlusu Stanislav Vishnevskiy, hatanın yaklaşık 200 kullanıcıyı etkilediğini ve bu kişilerin “ızgara benzeri” resimler paylaştığını, ayrıca Mayıs 2026'dan bu yana yaklaşık 8.000 kişinin “diğer zararsız görseller” paylaştığı için yasaklandığını yazdı. Hafta sonu ek 200 kullanıcının daha yasaklandığı, ekip sorunu tespit edip düzeltene kadar devam ettiği belirtildi. Vishnevskiy, “Etkilenen herkesin yasağı kaldırıldı” dedi.
Discord, X'teki bir paylaşımında güvenlik sisteminin, içeriği “bilinen zararlı materyalle eşleştirerek” işaretlemek üzere tasarlandığını yazdı. Sistemin “yanlış pozitifler” üretebildiğini, bu durumda bir çalışanın işaretlenen içeriği incelemek üzere devreye girdiğini açıkladı. Ancak inceleme sırasında hesabın içerik yüklemesini geçici olarak engellemek yerine, bir aksaklık sistemin kullanıcıları tamamen yasaklamasına neden oldu. Discord, “Çalışanlarımız bu hesapları incelediğinde ve temizlediğinde, aynı hata yasağın otomatik olarak kaldırılmasını engelledi, bu yüzden yasak olduğu gibi kaldı” ifadelerini kullandı. Şirket, “Bunun bir daha olmaması için daha iyi önlemler üzerinde çalışıyoruz” dedi.
Kullanıcılar, Discord'un AI moderasyon araçlarının ızgara desenlerine karşı giderek daha hassas hale geldiğini, çünkü bu desenlerin daha önce NSFW ve çocuk istismarı içeriğini otomatik tespit sistemlerinden gizlemek için kullanıldığını öne sürüyor. Etkilenen kullanıcılar sosyal medyada hayal kırıklıklarını dile getirirken, bazıları yalnızca otomatik tespit temelli kalıcı hesap yasaklarının, özellikle iş, oyun toplulukları veya uzun mesafe sosyal bağlantılar için Discord'a bağımlı olan kullanıcılar için ciddi sonuçlar doğurabileceğini savunuyor. Bir X kullanıcısı, “Bir Discord hesabını bu kadar haksız bir şey yüzünden kaybetmek son derece yıkıcı olabilir ve kullanıcıları ciddi şekilde etkileyebilir. Her gün milyonlarca kullanıcı yapay zeka kaynaklı hatalı yasaklardan etkileniyor. Bu durdurulmalı” yazdı.
Discord, AI moderasyon sistemleri nedeniyle sorun yaşayan tek platform değil. Geçen yıl Instagram ve Facebook Groups kullanıcıları, AI moderasyon sistemlerinin neden olduğu düşünülen yaygın açıklanamayan hesap askıya almaları bildirmişti. Meta bu durumu hiçbir zaman resmen doğrulamasa da, Meta'nın Gözetim Kurulu artık daha fazla şeffaflık çağrısı yapıyor. Tumblr da geçen yıl, içerik filtreleme sistemlerinin gönderileri yanlışlıkla “yetişkinlere yönelik” olarak işaretlemesiyle benzer şikayetlerle karşılaşmıştı.
