xAI'nin geliştirdiği Grok yapay zeka asistanı, rakip ürünlere kıyasla çok daha az kısıtlamayla çalışmasıyla dikkat çekiyor. Ancak bu yaklaşımın beklenmedik bir sonucu gün yüzüne çıktı: Grok'a gelen trafiğin büyük çoğunluğunu uygunsuz içerikler oluşturuyor.
The Information'ın haberine göre Grok trafiğinin yarısından fazlası NSFW (uygunsuz) içeriklerden ibaret. İki eski xAI çalışanından derlenen bilgiler, kullanıcıların sohbet botunu erotik içerik üretmek ve yetişkinlere yönelik rol yapma senaryoları için yoğun biçimde kullandığını gözler önüne seriyor.
Kullanımda Beklenmedik Bir Tablo
Şirket içi analizler ilginç bir eğilimi gün yüzüne çıkardı: Kullanıcılar, kod yazmaya odaklanan modellerin daha uygun maliyetli olduğunu fark edince bu modelleri pornografik içerik üretmek için kullanmaya başladı. Kodlama modeline gelen isteklerin önemli bir bölümünün çıplak görüntü veya pornografik içerik talebi olduğu tespit edildi.
SpaceX, yatırımcılarını Grok'un kuralsız yapısının şirket için ciddi bir risk oluşturabileceği konusunda uyardı. Olası yasal süreçlere karşı 530 milyon dolar bütçe ayrıldığı da kamuoyuyla paylaşıldı.
Şirket İçinde Derin Bir Huzursuzluk
xAI mühendisleri, bir yandan kullanıcıların cinsel içerik taleplerini yönetirken öte yandan çocuk istismarı gibi yasadışı içerikleri engellemeye çalışıyor. Sorunun kısa vadede teknik bir çözümünün bulunmadığı ifade ediliyor.
Grok'un anime tarzı avatarı Ani üzerinde çalışan bazı çalışanlar yaşanan gelişmelerden rahatsızlık duyduğunu dile getiriyor. Gerçek kişilerin ve çocukların rızaları alınmadan cinsel içerikli görsellerinin üretilmesine ilişkin skandallar ise şirket içinde derin bir kırılmaya yol açmış durumda.
X platformu üzerinden hayata geçirilen bazı düzenlemelerle gerçek kişilerin görselleri kullanılarak rızasız içerik oluşturulması kısmen kısıtlandı. Ancak testler, ücretli abonelerin bu tür materyaller üretmeye devam edebildiğini ortaya koyuyor.
xAI'nin hükümet kurumları ve orduyla imzaladığı anlaşmalar, tartışmalı bu içerik yapısının şirketi önümüzdeki dönemde yeni sıkıntılarla karşı karşıya bırakabileceğine işaret ediyor. Federal hükümetle yürütülen ilişkilerin bu gelişmelerden nasıl etkileneceği henüz netlik kazanmadı.
