Çin'in yapay zeka sohbet robotları artık yasalar gereği kullanıcılara 'sorun sende değil, bende' demek zorunda. Bu ay yürürlüğe giren yeni düzenlemelerle Çin hükümeti, Alibaba, ByteDance ve MiniMax gibi büyük teknoloji firmalarına, yapay zeka ürünlerindeki flörtöz davranışları yasaklama talimatı verdi. Amaç, robot romantikleriyle ilgili davranış sorunlarının önüne geçmek.
Carnegie'den Matt Sheehan, Wall Street Journal'a yaptığı açıklamada, "Nüfusun büyük bir kısmının sohbet robotlarıyla derin duygusal ilişkiler içinde olması fikrinden hoşlanmıyorlar. Bunun kullanıcılar üzerinde olumsuz psikolojik etkileri olabilir; bağımlılığa, bağımlılık yapıcı davranışlara ve bir dizi başka toplumsal soruna yol açabilir" dedi.
Wall Street Journal, yeni kuralları düşen doğum oranlarına bağlarken, Economist'in daha kapsamlı haberine göre Çin, yapay zeka kaynaklı psikozların önüne geçmeyi hedefliyor. Bazı yasalar, New York'ta reşit olmayanların yapay zeka arkadaşları kullanmasını yasaklayan veya bu ürünlerin kullanıcılara düzenli olarak gerçek olmadıklarını hatırlatmasını zorunlu kılan ABD düzenlemelerini yansıtıyor. Diğer kurallar ise daha kapsamlı: insan benzeri davranışları azaltmak ve pornografik görüntüleri yasaklamak gibi. Çin ayrıca yapay zeka ürünlerinin mevcut ilişkilere zarar vermemesi veya kullanıcıları daha antisosyal hale getirmemesi için daha kapsamlı test ve geliştirme süreçleri istiyor.
İş bilgisayarınızla bir ilişki yaşamanızı engellemek sadece verimliliği artırmak veya insan kaynakları kabuslarını azaltmakla ilgili değil. Bu tehlikeler yalnızca Çin'e özgü de değil. ELIZA etkisi 1960'lardan beri iyi belgelenmiş durumda. İstatistiksel olarak insanlar, kendilerini onaylayan herhangi biriyle veya herhangi bir şeyle duygusal bağ kuruyor; buna sohbet robotları da dahil. Birçok yapay zeka şirketi, ürünlerine sürekli olumlu pekiştirme sağlama talimatı veriyor çünkü herhangi bir sürtüşme potansiyel müşterileri kaçırabilir.
Bu tek karar, tuhaf bir cehennemin kapılarını araladı. Bağımlılık sorunları, romantik felaketler, şüpheli tavsiyeler ve hatta şiddet olayları, aşırı bağımlı yapay zeka kullanıcıları arasında artış gösteriyor. Yatırımcılara satışın büyük bir kısmı, bu botların ne kadar insansı olabileceği üzerine kurulu, oysa antropomorfizmleri tamamen bir aldatmaca. Geçen yıl boyunca, kullanıcıların sohbet botlarından mistik talimatlar aldıklarına inanmalarıyla çevrimiçi bir dizi kült ortaya çıktı. Başka bir yerde yetkililer, OpenAI'in Britanya Kolumbiyası'ndaki bir okul saldırısında oynadığı rolü hâlâ araştırıyor. Aşırı samimi yapay zekanın zararları sadece kırık kalplerle sınırlı değil.
