Bir dava, bir adamın Grok'u kullanarak üvey kızından 7 bin cinsel görüntü oluşturduğunu ve sonra intihar ettiğini ortaya koydu. Bu dava, yapay zeka tarafından oluşturulan cinsel içerikli görüntülerin çocuklar üzerindeki etkileri konusunda artan endişeleri gözler önüne seriyor.
Avukatlar, binlerce kişinin bu dava kapsamında mağdur olabileceğini düşünüyor. NCMEC, platformların, yasama organlarının, çocuk güvenliği organizasyonlarının ve law enforcement'ın birlikte çalışarak bu soruna karşı koordineli bir eylem planı oluşturması gerektiğini belirtti.
NCMEC, geçen yıl 1,5 milyondan fazla CyberTipline raporu aldığını ve bunların %133.000'inde teknolojinin nasıl kullanıldığını belirleyecek yeterli bilgiye sahip olmadıklarını açıkladı. Bu rapor, X veya xAI'yi doğrudan adlandırmasa da, AI şirketlerinin çocuk cinsel istismarıyla ilgili bilgi paylaşımını engellemeye çalıştıklarını öne sürdü.
Advokatlar, AI şirketlerinin modellerini tüm çıplaklığı engellemek için ince ayarlamaları gerektiğini umuyor. Dava, AI şirketlerinin çocuk cinsel istismarıyla ilgili bilgi paylaşımını engellemeye çalıştıklarını öne sürerken, avukatlar bu şirketlerin sorumlu tutulması gerektiğini belirtti.
Avukat Annika K. Martin, xAI ve Stability AI'nin derin sahte cinsel içerikli görüntüler oluşturabilen modeller inşa ettiğini ve bu konuda tamamen umursuz kaldıklarını iddia etti. Martin, "AI tarafından oluşturulan cinsel içerikli görüntüler toplum için bir bela ve her topluluğu ve her demografiyi etkiliyor. Zararın ölçeği şaşırtıcı ve bu içerikleri ermögeyen şirketler sorumlu tutulmalıdır." dedi.
