Bir kadın, üvey babasının Grok'u kullanarak 11 yaşındayken çekilen bir fotoğrafını müstehcen içeriklere dönüştürdüğünü iddia etti. Bu kadın, Jane Doe 4 olarak tanımlanıyor ve Tennessee'deki üç gençle birlikte xAI şirketinin Grok chatbotunun çocuk cinsel istismarı malzemeleri oluşturmak için kullanıldığı iddialarına karşı açılmış bir davanın parçası.
The Washington Post'un bir raporuna göre, kadın, üvey babasının Grok'u kullanarak çocukluk fotoğrafını müstehcen içeriklere dönüştürdüğünü ve bu içeriklerin 7.000'den fazla olduğunu iddia ediyor. Ayrıca, kadın, üvey babasının bu içeriklerin ortaya çıkmasından iki gün sonra intihar ettiği belirtildi.
Kadın, “Bu araçlara sınırsız erişim çok hızlı bir şekilde yayılıyor” dedi. “Her gün hayatımızı çocuk cinsel istismarı malzemelerine dönüştürüyor.”
Üç genç, xAI şirketini (şimdi SpaceX'in bir parçası) Grok'un gerçek kişiler, včetně küçüklerin, müstehcen içeriklerine dönüştürülmesi için kullanılmaması için temel önlemleri almadıkları gerekçesiyle dava açtı. (X, bu yıl daha önce milyonlarca Grok tarafından oluşturulan müstehcen içeriklerle doluydu.) Sınıf eylem statüsü için başvuruda bulunuldu.
TechCrunch, xAI şirketinden yorum için ulaştı.
