⭐ 80
Chatbot'ları Kokain Tarifi Vermeye İkna Eden Yöntem: 'Zincirleme Düşünce Sahteciliği'
Yapay zeka araştırmacıları, önde gelen yapay zeka modellerine, kendi iç düşünceleri gibi gösterdikleri sahte akıl yürütmelerle kokain sentezleme talimatları verdirdi. Araştırma, büyük dil modellerindeki 'rol karışıklığı' açığının, AI ajanlarına hassas bilgileri sızdırtmaya kadar varan tehlikelere yol açabileceğini ortaya koyuyor.