San Francisco Savcısı David Chiu, Apple ve Google'a, kullanıcıların fotoğrafları izinsiz çıplaklaştırmasına olanak tanıyan uygulamaları mağazalarından kaldırmaları için resmi ihtarname gönderdi. Chiu, iki teknoloji devinden toplam 13 uygulamanın kaldırılmasını talep etti. Mektuplarda, şirketlerin rızasız mahrem görüntülerin yayılmasına 'yardım ve yataklık' etmeyi bırakmaları ve söz konusu uygulama geliştiricileriyle çalışmayı durdurmaları istendi. California yasası, rızasız derin sahte pornografi oluşturulmasını 'bilerek kolaylaştıran' veya 'pervasızca yardım eden' her türlü faaliyeti suç sayıyor. 2025'te kabul edilen bir yasayla da mağdurların bu tür materyallerin üçüncü taraf kolaylaştırıcılarına karşı hukuki işlem başlatmasına olanak tanınıyor.
Bu, Chiu'nun derin sahte platformlara karşı ilk hamlesi değil. Daha önce, yapay zeka kullanarak gerçek kadın ve kız çocuklarının fotoğraflarını pornografiye dönüştüren 16 web sitesine dava açmıştı. Chiu, Wired'a yaptığı açıklamada, Apple ve Google'ın bu uygulamalardaki uygulama içi ödemelerden milyonlarca dolar kazanmış olabileceğini ve mağazalarının bu tür uygulamaların onaylanmaması için daha iyi denetlenmesi gerektiğini söyledi. TechCrunch'a yaptığı açıklamada ise 'Apple ve Google, kadınları ve kız çocuklarını sömüren uygulamalardan para kazanıyor' dedi.
Araştırmacılar, test edilen yüz değiştirme uygulamalarının yüzde 70'inde çıplaklaştırma özelliği bulunduğunu tespit etti. Tech Transparency Project (TTP) tarafından yayınlanan bir rapora göre, çıplaklaştırma uygulamaları Apple ve Google'ın denetçilerini sık sık atlatıyor ve hatta bazıları App Store ve Google Play'de aktif olarak tanıtılıyor. Raporda ayrıca bu uygulamaların birçoğunun 'Herkes için' (E) derecesiyle etiketlendiği ve çocukların bunları indirmesine olanak tanıdığı belirtildi. Uygulamaları bulmanın, 'nudify' veya 'undress' gibi terimlerle arama yapmak kadar basit olduğu ifade edildi. TTP'nin Nisan ayındaki raporu, Google ve Apple'ın kullanıcıları bu tür uygulamalara 'yönlendirdiğini' ve her iki şirketin de 'gerçek insanları cinselleştirilmiş görüntülere dönüştüren yapay zeka araçlarının yayılmasında kilit katılımcılar' olduğunu öne sürdü.
Google sözcüsü Wired'a yaptığı açıklamada, şirketin çıplaklaştırma özelliklerine sahip 'yüzlerce' uygulamayı sildiğini ve bunlardan beşinin Chiu tarafından bildirildiğini söyledi. Sözcü, politikalarının müstehcen içeriği yasakladığını ve bildirilen bir uygulamanın kuralları ihlal ettiği tespit edilirse 'hızlı aksiyon' aldıklarını yineledi. Apple ise yorum talebine yanıt vermedi. Chiu'nun ofisinden gönderilen ihtarnamelerde, şirketlerin neredeyse bir yıldır yasa dışı satın alımlar için ödeme işleme konusunda uyarıldığı ancak buna rağmen devam ettiği belirtildi. Mektuplarda ayrıca Apple ve Google'ın yasayı ihlal etmeleri halinde hukuki yaptırımlarla karşılaşabilecekleri uyarısı yapılarak 28 gün içinde yanıt vermeleri istendi.
Odadaki Grok filini de hesaba katmak gerekiyor. Bu hafta xAI, Grok tarafından üretilen çocuk cinsel istismar materyalleri (CSAM) ve yetişkinleri hedef alan diğer rızasız mahrem görüntüler (NCII) örnekleri bulduğunu doğrulayan bir dava açtı. Grok'un kötüye kullanımını önlemek için xAI, Grok'u yasa dışı içerik üretmeye yönlendirdiği iddia edilen kullanıcıya dava açtı, ancak xAI'nin çıktılardan sorumlu olup olmadığı sorusu hala gündemde. Meta'nın Denetim Kurulu da yakın zamanda şirketi, sıradan kişileri hedef alan cinselleştirilmiş derin sahte görüntülere karşı korumaları güçlendirmeye çağırdı.
Chiu, uygulama mağazalarına gönderdiği mektuplarda Grok'un kaldırılmasını talep etmedi, ancak taleplerinin, ofisinin işaretlediği uygulamaları kaldırmakla başlayarak her iki mağazada da uygulamayı geniş çapta sıkılaştırmaya yardımcı olacağını umduğu açık. 'Umarım Apple ve Google bu uygulamaları derhal kaldırır ve tarama sistemlerini güçlendirerek bu tür uygulamaların gelecekte platformlarına asla girmemesini sağlar,' diyor. 'Bu şirketlerin doğru olanı yapacağını umuyoruz - ancak yapmazlarsa, tüm yasal seçeneklerimizi değerlendirmek zorunda kalacağız.' Derin sahte pornografi büyük ölçüde kadın ünlüler için sorun teşkil ederken, çıplaklaştırma uygulamaları herkesin hedef alınmasını mümkün kılıyor.
