Kaliforniya'da iki ChatGPT kullanıcısı bu ay Kuzey Kaliforniya Bölge Mahkemesi'nde OpenAI'ye karşı toplu dava niteliğinde bir önerge sundu. Şirketin dış yüklenicilerin gerçek kullanıcı sohbetlerini uygun şekilde bilgilendirme yapmadan okumasına izin verdiğini iddia ediyorlar.
Dava, OpenAI'nin iç programı "Project Lily" merkezli. Bu programda bir personel firması aracılığıyla işe alınan yükleniciler kullanıcı istemlerini özetliyor ve chatbot yanıtlarını 1 ila 7 arasında puanlıyor.
OpenAI'nin mahkemede yanıt vermesi için 13 Ekim'e kadar süresi var. Davacılar, "Herkes için modeli iyileştir" ayarının varsayılan olarak kapalı olmasını ve bir insanın sohbeti okumadan önce onay alınmasını istiyor.
OpenAI, ChatGPT sohbetlerinizi kimin okuyacağı konusunda dava ediliyor.
Bu ay ABD Kaliforniya Kuzey Bölge Mahkemesi'nde açılan önerilen toplu dava, şirketin gerçek kullanıcı sohbetlerini insanlara önceden düzgün şekilde söylemeden dış yüklenicilere yönlendirmekle suçluyor. OpenAI'ye 2 Eylül'de tebligat yapıldı.
Dava, 404 Media'nın 14 Eylül'de ilk kez ortaya çıkardığı Project Lily adlı iç girişimi hedef alıyor. Dava dilekçesine göre, üçüncü taraf personel firmaları aracılığıyla "AI veri gözden geçiricisi" ve "chatbot değerlendiricisi" gibi roller için işe alınan yükleniciler gerçek ChatGPT istemlerini ve tam sohbetleri okuyor, kullanıcının ne yapmaya çalıştığını özetliyor ve ardından bir ila yedi arasında bir ölçekte dört farklı model yanıtını puanlayıp eleştiriyor.
Bu süreç, ChatGPT gibi chatbotların aslında nasıl daha akıllı hale geldiğinin temel bir versiyonu. Temelde insanlar yapay zekanın yanıtlarını değerlendiriyor ve bu değerlendirmeler eğitime geri besleniyor, böylece model insanların hangi yanıtları tercih ettiğini öğreniyor; sektör bu tekniğe RLHF ya da insan geri bildiriminden pekiştirmeli öğrenme diyor. Davanın şikayeti, kullanıcılara bir makine değil bir insanın sohbetlerini okuyor olabileceği açıkça bildirilmemesi.
OpenAI, bir insanın görmeden önce sohbetleri otomatik bir sistemden geçiriyor. Dilekçe, filtrelerin her şeyi yakalamadığını ve kişisel detayların bazen yine de yüklenicilere ulaştığını iddia ediyor.
404 Media, gözden geçiricilerin bir panodan çalıştığını ve bu panoda bir "kullanıcı hafızası özeti" bulunduğunu tespit etti; bu özet, kullanıcı adları kaldırılmış olsa bile kişinin geçmiş sohbetlerinin bir özeti ve genel konum, meslek veya kişisel yaşam gibi detayları ortaya çıkarabiliyor. OpenAI, gözden geçirmelerin iki özel davranışa indirgenmeyi amaçladığını söyledi: chatbot'un fazla insan gibi davranması ve chatbot'un fazla uyumlu olması; araştırmacıların sycophancy dediği bu özellik, yapay zekanın kullanıcıya doğru olanı değil, kullanıcının duymak istediğini söylemesi.
ChatGPT'nin haftalık 900 milyondan fazla kullanıcısı var ve birçoğu onu bir günlük, bir terapist ya da sadece kendisinin görebileceği bir arama motoru gibi kullanıyor.
İnsanlar sağlık semptomları, ayrılık mesajları, vergi soruları, hukuki sorunlar yazıyor. Dava, OpenAI'nin gizlilik politikasının kullanıcı verilerine erişen dış tarafların bazı kategorilerini adlandırdığını ancak veri anotasyonu veya insan değerlendirmesi satıcılarını bunların arasında özellikle işaretlemediğini savunuyor.
Dilekçe, Kaliforniya'nın Haksız Rekabet Yasası'nı, Tüketici Gizlilik Yasası'nı ihlal ve mahremiyet ihlali gibi ortak hukuk iddialarını içeren sekiz ayrı hukuki talep içeriyor; mahremiyet ihlali, makul bir kişinin rahatsız edici bulacağı şekilde özel işlerinize karışma anlamına gelen bir gizlilik suçu.
Davacılar tazminat, iade ve cezai tazminat talep ediyor.
Yaptırım talebi tarafında istek net. Davacılar OpenAI'den herhangi bir sohbetin dış bir gözden geçiriciye gitmeden önce opt-in onayını zorunlu kılmasını, "Herkes için modeli iyileştir" ayarını açık yerine varsayılan olarak kapalı hale getirmesini, sohbet penceresinin içine açık bir uyarı eklemesini ve gözden geçirilen sohbetlere bağlı çalışma ürünlerini potansiyel olarak silip bunları kullanan modelleri yeniden eğitmesini istiyor.
OpenAI'nin yanıtı 13 Ekim'de bekleniyor.
