Apple'dan bir sözcü WIRED'a yaptığı açıklamada, şirketin Kromix uygulamasını App Store'dan kaldırdığını belirtti. Sözcü, uygulamanın ilk incelemenin ardından yasaklı içerikler ve özellikler eklemiş göründüğünü söyledi. Apple yetkilisi konuyla ilgili olarak, "Pornografi üretmek, dağıtmak veya tüketmek için tasarlanmış uygulamaları her zaman kesin bir dille yasakladık. 'Çıplaklaştırma' uygulamaları App Store İnceleme Kurallarımıza aykırıdır ve süreçlerimizi ve politikalarımızı atlatmaya çalışan uygulamaları ve bunların arkasındaki geliştirici hesaplarını tespit edip kaldırmak için kararlı bir şekilde çalışıyoruz" dedi.
Öte yandan WIRED, yakın zamanda Tech Transparency Project araştırmacılarının Meta platformlarında 50'den fazla reklam bulduğunu haber yapmıştı. Bu reklamlarda yapay zeka ile üretilmiş çocuk cinsel istismarı materyalleri ve cinsel çağrışımlı ifadelerle birlikte reşit olmayanların görselleri yer alıyordu. Bazı reklamlarda, bir çocuğun yüzünün cinsel bir eylem gerçekleştirirken gösterildiği bir videoya "yüz değiştirme" yöntemiyle yerleştirildiği görüldü. Kasım 2025 ile Ağustos ayları arasında yayınlanan bu reklamlar, ABD, İngiltere ve en az bir düzine Avrupa ülkesi de dahil olmak üzere binlerce kişiye ulaştı.
WIRED'ın geçen hafta Meta ile iletişime geçmesinin ardından şirket, söz konusu reklamları reklam kütüphanesinden kaldırdı. Kaldırılan reklamların yerine, çocuk cinsel istismarı ve sömürüsü materyalleri ile yetişkinlere yönelik cinsel talepler ve çıplaklık konusundaki şirket politikalarını ihlal ettikleri gerekçesiyle yayından kaldırıldıklarına dair mesajlar yerleştirildi. İlginç bir şekilde, bu reklamların bir kısmı, Meta'nın WIRED'a "ihlal eden reklamları yükleme aşamasında daha iyi tespit etmek ve engellemek için yeni yapay zeka teknolojileri tanıttığını" söylemesinin ardından yayınlanmıştı.
Reklamlardan birkaçı, App Store'da yer alan MaskAI adlı bir uygulamaya yönlendirme yapıyordu. Tıpkı Kromix gibi, bu uygulama da kullanıcıların görsel yüklemelerine ve kişilerin yüzlerini cinsel durumlara yerleştirmelerine olanak tanıyan araçlar içeriyordu. WIRED'ın Apple'dan yorum istemesinin ardından uygulama App Store'dan kaldırıldı. Uygulamayla bağlantılı e-posta adresi ise yorum talebine yanıt vermedi.
Tech Transparency Project'ten Paul, Meta'nın insan moderatörleri işten çıkarırken, reklamları işaretlemek ve incelemek için giderek daha fazla yapay zekaya güvendiğini belirtiyor. Paul, "Reklamlar Meta'nın birincil ürünüdür ve görünüşe göre sıfır kalite kontrolü var. Meta aynı zamanda kamuoyuna birçok açıklama yaparak yapay zekasına ve onun gelişmişliğine güveniyor, ancak diğer yandan da reklam kütüphanesini incelemek için yapay zeka kullandıklarını ve hiçbir şeyin mükemmel olmadığını söylüyor" dedi.
Habere ek katkı sağlayan: Tim Marchman.
