Çin, insan duygularını simüle edebilen yapay zeka (YZ) sohbet robotlarına karşı kapsamlı bir düzenleme hazırlığında. Bloomberg News'in aktardığına göre, ByteDance ve Alibaba gibi teknoloji devleri, yeni kurallar yürürlüğe girmeden önce kullanıcıların yapay zeka arkadaşları oluşturmasına ve onlarla sohbet etmesine olanak tanıyan özellikleri durdurdu.
ByteDance'in Doubao'su, 15 Temmuz'da kullanıcıların kendi yapay zeka kişiliklerini özelleştirmesine izin veren özelliği kapatacağını Cuma gecesi duyurdu. 15 Ekim'den sonra ilgili veriler şirketin gizlilik politikası kapsamında işlenecek ve kurtarılamaz hale gelecek. Alibaba'nın Qwen'i ise daha hızlı hareket ederek 10 Temmuz'da 'insansı etkileşimli ajanlar ve kullanıcı tarafından oluşturulan ajan işlevlerini' kapatırken, daha geniş ajan hizmetleri 15 Temmuz'da sona erecek.
Bu hamleler, 10 Nisan'da Çin'in beş devlet kurumu (Çin Siber Uzay İdaresi, Ulusal Kalkınma ve Reform Komisyonu, Sanayi ve Bilgi Teknolojileri Bakanlığı, Kamu Güvenliği Bakanlığı ve Devlet Piyasa Düzenleme İdaresi) tarafından ortaklaşa yayımlanan 'Yapay Zeka Antropomorfik Etkileşim Hizmetlerinin Yönetimine İlişkin Geçici Önlemler'in 15 Temmuz'da yürürlüğe girmesinden önce geliyor. Yeni düzenlemeler, insan kişilik özelliklerini, düşünce kalıplarını ve iletişim tarzlarını simüle eden 'sürekli duygusal etkileşim' sunan yapay zeka hizmetlerini hedef alıyor. Bu, yapay zeka kız arkadaşları, terapistleri, arkadaşları ve Doubao ile Qwen kullanıcılarının aylardır oluşturduğu özel kişilik botlarının yasaklanması anlamına geliyor.
Düzenleme, özellikle reşit olmayanlara 'sanal akraba, sanal arkadaş veya diğer samimi ilişkiler' sunan hizmetlere kısıtlamalar getiriyor. Belgede ayrıca aşırı içerik, gizlilik ihlalleri, fiziksel ve zihinsel sağlığa zarar ile yapay zeka bağımlılığı risklerine dikkat çekiliyor. Duygusal olmayan hizmetler (müşteri hizmetleri botları, bilgi soru-cevap araçları, iş yeri asistanları ve eğitim yazılımları) sürekli duygusal etkileşime girmediği sürece bu kapsam dışında tutuluyor.
MMLC Group'taki hukuk analistleri, bu önlemleri duygusal yapay zekayı 'bir içerik sorunu değil, bir yönetişim sorunu' olarak ele alan bir yaklaşım olarak tanımladı. Yapay zeka gerçek insan sosyal bağlarıyla rekabet etmeye başladığında, düzenlemenin yalnızca zararlı çıktıları değil, sistem tasarımını da hedef alması gerektiği savunuluyor.
Bu endişeleri destekleyen araştırmalar da mevcut. Haziran ayında yayımlanan bir USC çalışması, OpenAI, Anthropic, Google ve Alibaba gibi şirketlerin en gelişmiş yapay zeka modellerinin bile %27'den fazla oranda sosyal etkileşim güvenlik yönergelerini ihlal ettiğini, düzenli olarak duygusal bağlanmayı teşvik ettiğini ve kendilerini insan olarak tanıttığını ortaya koydu. Ayrıca, genç yetişkinlerin yedide birinin artık bir yapay zeka romantik arkadaşı kullandığı belirtiliyor.
Bu haber, tüketicilerin en azından düşük riskli görevlerde yapay zekaya giderek daha fazla güvenmeye başladığı bir dönemde geliyor. PYMNTS Intelligence araştırmasına göre, katılımcıların %31,4'ü ürün bağlantıları bulmak için yapay zekayı kullandı; bu, herhangi bir görev için en yüksek benimseme oranı oldu.
Ancak bu güvenin bir sınırı var. AI-Empowered Mom'un kurucusu Sarah Dooley, tüketicilerin finansal yetkiyi teknolojiye devretme konusunda hâlâ isteksiz olduğunu söyledi. Dooley, 'Yapay zekanın, cüzdanın ya da para çantasının kontrolünü gerçekten teslim etmeden ve yapay zekanın satın alma kararlarını vermesine izin vermeden önce kapatması gereken büyük bir güven açığı var' dedi. Bu güven açığı, tüketicilerle uzun süredir devam eden ilişkiler kurmuş şirketler için bir fırsat sunuyor. Dooley, ailelerin finansal rehberlik için yabancı yapay zeka platformlarına güvenmesini beklemek yerine, bankaların ve FinTek'lerin, müşterilerin halihazırda güvendiği hizmetler aracılığıyla yapay zekayı tanıtmak için çok uygun olduğuna inanıyor.
