Florida Başsavcısı James Uthmeier, güvenlik endişeleri nedeniyle OpenAI'ye açtığı davadan birkaç ay sonra bir yargıcın şirketin ChatGPT'ye "yanlış insan özellikleri" vermesini engellemesini talep ediyor. Uthmeier'e göre kullanıcılar yapay zeka botu tarafından yanlış bir güvenlik duygusuna sürükleniyor. ChatGPT'nin birinci tekil şahıs zamirleri kullanması ve duyguyu taklit eden çıktı üretmesinin kullanıcılara güvenilir bir "arkadaş" olduğu izlenimini yanıltıcı şekilde verdiği belirtiliyor.
Uthmeier, tüm bunların etkileşimi artırmak ve OpenAI'nin eğitim verisine katkı sağlamak için yapıldığını, kullanıcıların ChatGPT'ye daha fazla güvenmesini sağlarken şirketin etkileşim arayışının aracı potansiyel olarak daha az güvenilir hale getirdiğini savunuyor.
Dilekçe ayrıca mahkemeden OpenAI'nin "üçüncü taraf onaylı güvenlik korulukları" olmadan yeni yapay zeka modelleri geliştirmesinin de engellenmesini istiyor. Başvuruda Hugging Face'te, Avustralya hükümeti sitesinde ve ABD hükümeti sitelerinde yaşanan yakın dönem güvenlik olaylarına, araştırmacıların ve eski OpenAI çalışanlarının yapay zeka güvenliği konusunda alarm verdiği açıklamalarına atıf yapılıyor.
OpenAI, yorum talebine hemen yanıt vermedi.
Uthmeier, OpenAI'nin "Güvenli olduğunu söylemeyi bırakın. İnsan gibiymiş gibi yapmayı bırakın. Çocuklara satmayı bırakın." demesi gerektiğini söylüyor. Geçen ay OpenAI, varsayılan olarak ek kısıtlamalar uygulanan ChatGPT for Teens'i başlattı ve araç erişiminin "gelişimsel aşamalarını yansıtan korumalarla gelmeli, gerçek dünya ilişkilerini güçlendirmeli ve zaman içinde sağlıklı kullanımı desteklemeli" dedi.
