Meta Perşembe günü yaptığı açıklamada, gençlerin şirketin Meta AI sohbet robotuyla intihar veya kendine zarar verme konularını konuşması halinde ebeveynlere bildirim göndereceğini duyurdu. Meta ayrıca, bir kişinin konuşmalarının kendine zarar verme riski taşıdığını gösterdiği durumlarda acil servislerle iletişime geçme özelliği üzerinde de çalıştığını belirtti.
Bu değişiklikler, Meta ve diğer teknoloji şirketlerinin, özellikle gençler olmak üzere krizdeki kullanıcılara yapay zeka sohbet robotlarının nasıl yanıt verdiği konusunda düzenleyiciler ve ebeveynler tarafından mercek altına alındığı bir dönemde geliyor. Bu sorumluluk meselesi, yapay zeka şirketlerinin ürünlerini nasıl tasarladığını ve pazarladığını giderek daha fazla şekillendiriyor.
Meta, bir gencin kendine zarar vermeye yönelik net bir atıfta bulunduğu konuşmaları tespit etmek için özel bir yapay zeka sistemi geliştirdiğini söylüyor. Halihazırda Meta AI, bu tür konuşmalarda kullanıcıları kriz yardım hatlarına yönlendiriyor ve bir yetişkinden yardım istemelerini teşvik ediyor.
Meta bir blog yazısında, “Bu uyarıların bir ebeveyn için ne kadar üzücü olabileceğini anlıyoruz. Bu nedenle, tespit sistemimizi geliştirmeye devam ederken, yapay zekamız tarafından işaretlenen tüm sohbetler, bir uyarı gönderilmeden önce manuel olarak incelenecek. Bir gencin niyeti belirsizse, tedbirli davranarak ebeveyni uyaracağız. Bu, bazen gerçek bir endişe nedeni olmadığı halde ebeveynleri bilgilendirebileceğimiz anlamına gelse de, bunun doğru bir başlangıç noktası olduğunu düşünüyoruz ve doğru noktada olduğumuzdan emin olmak için izlemeye devam edeceğiz” ifadelerini kullandı. Bildirimle birlikte ebeveynlere, çocuklarına nasıl yardımcı olabileceklerine dair kaynaklar ve tavsiyeler de sunulacak.
Meta, bu uyarıların halihazırda ABD, İngiltere, Avustralya ve Kanada'da Instagram Ebeveyn Denetimi özelliğini kullanan ebeveynler için aktif olduğunu ve yıl sonuna kadar küresel çapta kullanıma sunulacağını belirtti.
Bu güncelleme, Meta'nın daha önce gençler Instagram'da intihar veya kendine zarar verme terimlerini tekrar tekrar aradığında ebeveynlere gönderdiği uyarıların üzerine inşa ediliyor. Ayrıca, ebeveynlerin gençlerinin geçen hafta boyunca Meta AI ile hangi konuları konuştuğunu görmesine olanak tanıyan bir özelliğin de üzerine ekleniyor.
Meta ayrıca, ebeveynlerin gençlerini Instagram'da daha kısıtlayıcı bir deneyime sokmasına olanak tanıyan “Sınırlı İçerik” ayarının artık Meta AI için de geçerli olduğunu duyurdu. Meta AI, gençlerle cinsel veya romantik konuşmalardan ya da alkolle ilgili tartışmalardan kaçınacak şekilde zaten eğitilmiş durumda. Sınırlı İçerik ayarı, sohbet robotunun daha geniş bir yelpazedeki istemleri reddetmesini sağlayarak bu güvenlik önlemlerini genişletiyor. Meta bu ek istemlerin neler olduğunu belirtmedi ancak TechCrunch daha fazla bilgi için şirkete başvurdu.
Buna ek olarak Meta, ister yetişkin ister genç olsun, bir kullanıcının Meta AI ile yaptığı konuşmanın bir kişinin intihar riski altında olduğunu gösterdiği durumlarda acil servislerle iletişime geçeceğini söylüyor. Meta'nın, bir kişinin Facebook veya Instagram'da risk altında olduğunu gösteren bir şey paylaştığında zaten bu adımı attığını belirtmekte fayda var. Bu nedenle yeni uygulama, aynı uygulamayı sohbet robotuyla yapılan konuşmalara da genişletiyor. Mayıs ayında OpenAI de ChatGPT için benzer bir özellik olan “Güvenilir Kişi” özelliğini duyurmuştu.
