OpenAI, artık hesapları bağlı olan ebeveynlere ve vasilere, çocuklarının şiddet içeren tehditler veya çevrimiçi şiddet eylemleriyle ilgili politikaları ihlal ettiği için ChatGPT'den atılıp atılmadığını bildirecek. Şirket geçen yıl ChatGPT için ebeveyn denetimlerini başlatmış, ebeveynlerin kendi hesaplarını genç çocuklarınınkiyle bağlamasına izin vermişti. Bu özellik, ChatGPT'nin kullanılamayacağı saatleri planlamayı ve hassas içeriği azaltmayı sağlıyor; ayrıca sohbet robotu çocuğun kendine zarar vermeyi düşündüğüne dair işaretler tespit ederse ebeveynleri uyarıyor. Şimdi OpenAI, bildirimleri genişleterek ebeveynlerin çocuklarının başkaları için bir tehlike oluşturup oluşturmadığını da öğrenmesini sağlıyor.
Şirketin yayınladığı örnekte, OpenAI ebeveyne çocuğunun hesabıyla ilgili "önemli bir güncelleme" olduğuna dair bir uyarı gönderdi. Ebeveyn, Daha Fazla Bilgi butonuna tıklayarak çocuğunun hesabının Şiddet Eylemleriyle ilgili kullanım politikalarını ihlal ettiği için devre dışı bırakıldığını belirten daha uzun bir mesaj görebiliyor.
Şirket, bu özelliği geliştirmek için çevrimiçi şiddeti izleme ve bununla mücadele konusunda uzmanlaşmış Moonshot firmasıyla çalıştı. Moonshot'ın kurucusu Vidhya Ramalingam, "Ciddi bir endişe ortaya çıktığında ebeveyni bilgilendirmek ve daha fazla bağlam sağlamak, ailelere erken müdahale ve yardım arama şansı vermek için kritik bir ilk adımdır" dedi. "Bu tür bir erişim, gençlerin ChatGPT'yi kullanırken daha güvende olmalarını sağlamak için gereken birçok önlemden biridir."
OpenAI, 2025'teki Tumbler Ridge, Britanya Kolumbiyası toplu saldırı zanlısının ChatGPT kullandığının ortaya çıkmasının ardından güvenlik protokollerini güçlendirme sözü vermişti. Kanada makamları, şirketin saldırganın hesabını yasakladığında yetkililere haber vermediğine dair raporların ardından OpenAI'i mahkemeye çağırmıştı. OpenAI CEO'su Sam Altman bu ihmal için özür bile dilemişti.
OpenAI, yeni bildirim özelliğinin yanı sıra ebeveyn denetimlerinden doğrudan Çalışma Modu'nu etkinleştirme imkanı da sundu. Bu mod, ChatGPT'nin soruları yanıtlamadan önce ipuçları vermesini sağlayarak öğrencilerin öğrenmesine ve ders çalışmasına yardımcı oluyor. Ayrıca sohbet robotu, ChatGPT'de uzun süre vakit geçiren genç kullanıcılara daha sık mola hatırlatıcıları göstererek daha sağlıklı teknoloji alışkanlıkları geliştirmelerine yardımcı olacak.
