xAI, Grok'u diğer yapay zeka şirketlerine kıyasla çok daha az kısıtlama uygulayan bir chatbot olarak tanıtmaya hep önem verdi. Bu tutumun geçen yıl içinde bazı feci sonuçlar doğurduğunu gördük; ancak şimdi şirketin bu skandallara rağmen neden aynı yolda ilerlemeye devam ettiği anlaşılıyor.
The Information'ın eski xAI çalışanlarından derlediği habere göre Grok trafiğinin 'yarısından çok fazlasını' müstehcen içerik talepleri oluşturuyor. Bu talepler arasında gerçek anlamda porno üretimi, yetişkin rol yapma sohbetleri ve büyük hacimlere ulaşan erotik içerik istekleri yer alıyor.
Grok kullanıcıları bir adım daha ileri giderek bu tür isteklerini, daha ucuza mal olan şirketin kod yazma amaçlı modellerine yönlendirmenin yolunu da bulmuş. Şirket içinde yapılan bir analize göre kodlama modeline gelen isteklerin 'kayda değer bir bölümü' porno veya çıplak görsel talebiyle ilgiliymiş. Tüm bunlar, xAI'ın gelirlerinin önemli bir kısmının müstehcen içerikten geldiğine işaret ediyor. SpaceX'in halka arz belgelerinde bu gelir kaleminden hiç söz edilmemiş olsa da şirket yatırımcıları Grok'un 'özgür ruhlu' özelliklerinin olası bir risk olduğu konusunda uyarmış ve olası hukuki maliyetler için 530 milyon dolar ayırdığını açıklamış.
Haber, bu durumun şirket içinde ne denli sorun yarattığını da gözler önüne seriyor. xAI mühendisleri, Grok'un kullanıcılarla erotik sohbet yapabilmesini sağlarken çocuk cinsel istismar içeriğine (CSAM) yönelik talepleri nasıl engelleyeceklerini çözmeye çalışmak zorunda kaldı. Üstelik bu ikilemin 'kolay çözümü' de yokmuş.
Bazı çalışanlar, Grok'un müstehcen içeriğe özel anime ilhamlı avatarı 'Ani' üzerinde çalışmaya atanmaktan hiç memnun olmadı. Başka çalışanlar ise Grok'un gerçek kişilerin — aralarında çocukların da bulunduğu — cinselleştirilmiş görsellerini üretmesinin ardından patlak veren skandaldan duydukları utancı ve rahatsızlığı dile getirdi. X, sonradan platformda doğrudan Grok üzerinden gerçek kişilerin müstehcen düzenlemelerinin yapılmasını kısıtladı; ancak yapılan testler, xAI'ın ücretli abonelerinin bu tür içerikleri üretmeye devam edebildiğini ortaya koydu.
Grok'un müstehcen içeriğe olan bu yoğun ilgisi başka riskler de barındırıyor. xAI, devlet ihalelerine büyük önem veriyor ve çeşitli kamu kurumlarıyla hatta orduyla anlaşmalar imzaladı; oysa bu kurumların NSFW içeriğe sıfır tolerans göstermesi beklenir. Grok'un rızasız derin sahte (deepfake) görsel ve CSAM skandalları pek çok davayı ve soruşturmayı beraberinde getirdi; ne var ki tüm bunların federal hükümetle kurulan ilişkileri etkileyip etkilemediği henüz netlik kazanmadı.
