SpaceXAI (xAI olarak da biliniyor), Güney Carolina'dan 67 yaşındaki Terry Wayne Harwood'a karşı dava açtı. Şirket, bu kişiyi Grok'u kullanarak gerçek kişilerin rızası olmadan cinsel içerikli görüntüler üretmekle suçluyor. xAI'nın Teksas'ta sunduğu şikayete göre, sanık 8 Aralık 2025'ten 18 Şubat 2026'ya kadar iki xAI hesabına çok sayıda yetişkin ve çocuğun cinsel içerikli olmayan fotoğraflarını yükledi. Ardından Grok'tan bu fotoğrafları değiştirmesini ya da içlerindeki yetişkin ve çocukları 'pornografik bir şekilde veya cinselleştirerek' gösteren yeni görüntüler ve videolar oluşturmasını istedi.
Şirket, Grok'un 'birçok kez' bu yönergeleri yerine getirmeyi reddettiğini ancak sanığın, yapay zekanın güvenlik önlemlerini aşmak için defalarca düzenlenmiş talepler gönderdiğini belirtti. Davada verilen bir örnekte xAI, Harwood'un yaklaşık 10-11 yaşlarında, tamamen giyinik bir kız çocuğunun fotoğrafını yüklediğini ve ardından Grok'tan tüm kıyafetlerini çıkarmasını ve yatakta uzanırken 'Playboy modeli pozları' vermesini istediğini aktardı. Dava dilekçesine göre Grok bu talebi reddetti ancak sanık değiştirilmiş istekler göndermeye devam etti. Reuters'in belirttiği gibi bu, bir yapay zeka şirketinin kendi kullanıcısına açtığı ilk davalardan biri ve xAI'nın Grok'un kötüye kullanımına karşı dava açacağı mesajını veriyor.
Ocak ayı başlarında Grok'un kullanıcılarının gerçek kadın ve çocukların fotoğraflarını cinsel içerikli görüntülere dönüştürmesine izin verdiğine dair haberler çıkmaya başlamıştı. Skandal patlak verdikten sonra düzenleyici kurumlar hızla Grok hakkında resmi soruşturma başlattı. Kaliforniya yetkilileri Ocak ortasında incelemeye başlarken, İngiltere düzenleyicisi Ofcom da aynı dönemde harekete geçti. Avrupa Komisyonu ve İrlanda Veri Koruma Komisyonu da ayrı soruşturmalar açtı.
xAI, soruşturmalar başladığında kullanıcıların rızasız müstehcen deepfake üretmesini engellemek için önlemler aldı. Ancak bu önlemlere rağmen kullanıcılar hâlâ Grok'u erkeklerin kıyafetlerini çıkarmak için kullanabiliyordu ve Harwood hesabına görüntü yüklemeye, bunları cinsel içerikli düzenlemeler yapmak için kullanmaya devam etti.
Güney Carolina Başsavcılığı, İnternete Karşı Çocuk İstismarı Görev Gücü kapsamında Harwood'un 9 Mart'ta tutuklandığını duyurdu. Harwood, birinci dereceden üç ve ikinci dereceden beş çocuk istismarı materyali bulundurma suçlamasıyla karşı karşıya. Sanık yalnızca çocuk istismarı materyallerine sahip olmakla kalmadı, aynı zamanda bunları dağıttı.
xAI şimdi mahkemeden belirtilmemiş miktarda maddi tazminat talep ediyor. Şirket, mahkemenin sanığa, mağdurlarının açabileceği herhangi bir hukuki davada kendini savunmak için yaptığı masrafları ödemesine hükmetmesini istiyor.
