Elon Musk'ın sahibi olduğu xAI, şirketin Grok yapay zeka sohbet robotunu kullanarak çocuk istismarı materyali (CSAM) ürettiği iddia edilen Güney Carolina'lı bir adama dava açtı. Reuters'ın haberine göre xAI, Terry Wayne Harwood'un 'bilinçli ve isteyerek Grok'u kullanarak güvenlik önlemlerini aştığını, rızasız görüntüleri değiştirdiğini ve CSAM oluşturup dağıttığını' iddia ediyor. Şirket, bu eylemlerin şirket politikalarını ihlal ettiğini belirtiyor.
Harwood, Şubat ayında çocuk istismarı materyali bulundurma ve dağıtma suçlamalarıyla tutuklandı ve sekiz ağır suçlamayla karşı karşıya. Dava dilekçesinde, Harwood'un cezai suçlamalarıyla ilgili görüntülerin 'en azından bir kısmının' Grok ile oluşturulduğu veya değiştirildiği iddia ediliyor. Ayrıca Harwood'un Grok'un güvenlik önlemlerini aştığı ve 'rızasız kişilerin cinsel içerikli olmayan fotoğraflarını cinsel içerikli görüntülere dönüştürmek için aracı kötüye kullandığı' öne sürülüyor.
Geçen yıl Grok için 'spicy' modunu kullanıma sunan xAI, daha sonra sohbet robotuna görüntü düzenleme özelliği ekledi. Bu durum, reşit olmayanları da içeren cinselleştirilmiş yapay zeka deepfake'lerinin akınına yol açtı. Bir grup genç, Mart ayında xAI'ya dava açarak Grok'un kendilerinin reşit olmadıkları döneme ait cinselleştirilmiş görüntülerini oluşturduğunu iddia etti. Musk bu duruma, 'Grok'u yasa dışı içerik üretmek için kullanan herkes, yasa dışı içerik yükleyenlerle aynı sonuçlarla karşılaşacak' sözleriyle yanıt verdi. Ancak bu, xAI'nın Grok ile oluşturulan yapay zeka deepfake'leri nedeniyle birine dava açtığı ilk vaka olarak görünüyor.
xAI, Harwood'un iddia edilen eylemlerinin şirketi 'önemli yasal risk ve itibar kaybına' maruz bıraktığını savunuyor. Mahkemeden, Harwood'un herhangi bir zararı karşılamasını ve 'sanalığın eylemleri mağduru tarafından açılan herhangi bir davada şirketin kendini savunmak için yaptığı makul masrafları' ödemesini talep ediyor. xAI ayrıca hakimin Harwood'un xAI hesabı açmasını veya Grok kullanmasını engellemesini istiyor.
