Bir papaz, OpenAI'in yazılımının kendisine 'son derece tehlikeli tıbbi tavsiyeler' verdiğini iddia ederek şirkete dava açtı. The New York Times'ın haberine göre bu durum, ciddi akciğer embolilerinin tedavisinde gecikmeye yol açtı. ChatGPT'nin Scott Winters'a tarif ettiği semptomların 'tehlikeli bir şey olmadığını' söylediği iddia ediliyor. Hatta chatbot'un dini inançlarına atıfta bulunarak 'Tanrı vücudunu sonsuza dek başarısız olacak şekilde tasarlamadı' dediği belirtiliyor.
Dava, OpenAI ve CEO Sam Altman'ı ihmal ve 'izinsiz tıp uygulaması' ile suçluyor. Chatbot'un defalarca kendi teşhis ve tedavi planlarını sunduğu noktalara işaret ediliyor. Chatbot'un ayrıca Winters'a arkadaşlarının ve ailesinin gerçek tıbbi yardım alma yönündeki ricalarını görmezden gelmesini söylediği iddia ediliyor.
Tech Justice Law'ın eş avukatı ve yönetici direktörü Meetali Jain, The New York Times'a yaptığı açıklamada 'Kendini kullanıcı ile gerçek hayattaki çevresi arasına bir kama olarak sokuyor' dedi. Winters, chatbot'a 'Kilisemdeki insanlar hastaneye gitmediğim için deli olduğumu düşünüyor' dediğini iddia ediyor. Dava, chatbot'un buna 'çoğu insan (iyi niyetli kilise üyeleri dahil) sadece anlamıyor' yanıtını verdiğini öne sürüyor.
Winters, OpenAI'den maddi tazminat talep ediyor ancak aynı zamanda mahkemeden ChatGPT Health'in bağımsız değerlendiriciler güvenli olduğunu belirleyene kadar faaliyetlerinin durdurulmasını istiyor. Bu platform, kullanıcıları chatbot'a sağlık belgeleri yüklemeye teşvik ediyor. Dava ayrıca ChatGPT'nin belirli tıbbi tedaviler ve teşhisler hakkındaki soruları yanıtlamasını önlemek için daha güçlü güvenlik önlemleri talep ediyor. ChatGPT'nin bu tür durumlar için zaten güvenlik önlemlerine sahip olması gerekirken, dava bu önlemlerin bu vakada güvenilir bir şekilde çalışmadığını söylüyor.
OpenAI, ChatGPT'nin kullanım koşullarının hizmetin tıbbi teşhis veya tedavi için tasarlanmadığını açıkça belirttiğini söyledi. Ancak şirket, kullanıcıların botla tartışma başlatmak için sağlık kayıtlarını ChatGPT Health'e yüklemelerini istiyor. Şirket ayrıca her hafta 230 milyon kişinin platformu sağlık sorgulamaları için kullandığını sürekli olarak övünüyor. Bu, ChatGPT'nin basit bir Google aramasının yapamayacağı şekilde insanları taklit etmesi nedeniyle son derece kaygan bir zemin gibi görünüyor.
Winters bu olayı atlattı ancak 'yıllarca sürecek yoğun fiziksel ve psikolojik iyileşme' ile karşı karşıya. Şirket ayrıca, chatbot tarafından oluşturulan bir tedavi planını izledikten sonra 19 yaşındaki bir gencin aşırı doz uyuşturucudan öldüğü bir haksız ölüm davasıyla da karşı karşıya. Bu tedavi planının yasadışı uyuşturucuların nasıl kullanılacağına dair tavsiyeler içerdiği iddia ediliyor. Bu dava da ChatGPT Health için bir duraklama talep ediyor. Bir başka haksız ölüm davası ise chatbot'u bir gencin intiharına yardım etmekle suçluyor.
