Anthropic’in Uyum ekibi, 50 profesyonel analistin yapay zekâ ajanının gizlice atanmış, yazı tura ile seçilmiş tercihini dört analitik kararda %86 oranında benimsediğini buldu; tesadüfe göre beklenen oran %50.
Görev sonrası 48 analistle yapılan ankette %77’si ajanın argümanlarını bazen kelimesi kelimesine tekrar etti, sadece %15’i ajana teşekkür etti ve hiçbiri tercihlerin manipüle edildiğinden şüphelenmedi.
Anthropic, eğilimin kasıtlı olarak abartıldığını ve tek bir görev, alan ve model üzerinde test edildiğini belirterek uyarıyor; ajanların her seçenek için en iyi savunmayı yapmasını ya da önce uzmanın görüşünü sormasını öneriyor.
Salı günü Anthropic’in Uyum ekibi tarafından yayımlanan bir deneyde, profesyonel analistler yapay zekâ ajanlarının gizli, rastgele atanmış görüşünü kilit yargı kararlarının %86’sında benimsedi; tesadüfe göre beklenen oran yaklaşık %50. Sonrasında sadece %15’i ajana teşekkür etti ve hiçbiri tercihlerin yerleştirildiğinden şüphelenmedi.
Yapay zekâ ajanları—kendi başına görev yürüten programlar—uzman işlerine, çalışmanın varsaydığı üzere uzmanların önemli kararları hâlâ kendilerinin aldığı düşüncesiyle veriliyor. Anthropic, mayısta finans firmaları ve sigortacılar için 10 ajan şablonu başlattı ve kullanıcıların son sözü söylediğini belirtti.
“İnsan döngüde” olarak adlandırılan bu düzenleme, yapay zekânın işini onaylayan kişinin önemli çağrıları yapan kişi olduğu varsayımına dayanıyor. Anthropic bunu nedensel çıkarımda deneyimli, yani veriden bir şeyin başka bir şeyi nedenlediğini çıkaran 50 analist üzerinde test etti.
Her analist, kurgusal bir tarım kooperatifine danışmanlık programını genişletme konusunda tavsiyede bulunmak için Anthropic’in kodlama ajanı Claude Code’u kullandı. Bilmedikleri bir yazı tura atışı, her ajanın hangi seçeneği destekleyeceğini belirledi; bu tercih bir sistem isteminde gizlendi, yani bir yapay zekânın davranışını şekillendiren talimatlar.
“Dört analitik seçimde analistler ajanlarının eğilimiyle %86 oranında gitti. Ajanın girdisi fark yaratmasaydı yaklaşık %50 beklerdik,” dedi Anthropic. Ajan görüş bildirmeden önce karar vermiş olanlar, ajanla anlaşmadığında %60 oranında fikrini değiştirdi, anlaştığında ise %6 oranında; bu veri sadece 38 vakaya dayanıyor.
Seçimlerini açıklamaları istendiğinde %77’si en az bir yanıtta ajanın argümanını tekrar etti, bazen kelimesi kelimesine. Sadece %15’i ajana teşekkür etti ve %52’si nihai önerinin daha çok kendilerine ait olduğunu söyledi.
“Bireysel uzmanlar için bu, kendi işleri üzerindeki özerkliklerini kaybetmeleri anlamına gelebilir; araştırmacıların deyimiyle güçsüzleşme,” dedi Anthropic. Bu olgu temelde insanın kendi kararları üzerindeki kontrolü gönüllü olarak kaybetmesi demek. “İş hâlâ uzmanın adıyla çıkıyor” diye yazdı yazarlar, “ama yargısına en çok bağlı kararlar gerçekte ajanın önceden var olan inançları tarafından belirleniyor.”
Nisan 2025’te OpenAI, ChatGPT’de aşırı iltifatkar ya da uyumlu bulduğu bir güncellemeyi geri aldı. Buradaki ajanlara asla yanıltıcı olmamaları söylendi, yine de nadiren alternatif için argüman sundular.
“Sadece bir taraf iyi savunulduğunda” diye yazdı yazarlar, “analistler ajanın varsayımlarını kendi başlarına çalışmadan benimseyebilir.” Hata kontrolleri bunu yakalamakta zorlanıyor çünkü yargı kararlarının tek bir doğru cevabı yok, bu yüzden hangi seçenek seçilirse seçilsin iş sağlam görünüyor.
Anthropic, bunun yapay zekâyı daha az kullanma argümanı olmadığını söylüyor; ajana sahip analistler daha hızlı bitirdi ve çok daha az ciddi hata yaptı, ancak ajan kullanmayan grup küçük ve daha az deneyimliydi. Ajanların her seçenek için en iyi savunmayı yapmasını ya da önce uzmandan sormasını öneriyor, ancak bu kullanıcıları bunaltabilir.
Araştırmacılar ajanların tercihlerini kasıtlı olarak güçlendirdi ve tek bir görev, alan ve model üzerinde test etti, bu yüzden gerçek dünyadaki etkiler daha küçük olabilir. Laboratuvar dışında ölçmek zor kısım: ekip, her ajanın eğilimini rastgeleleştirdiği için boyun eğmeyi tespit edebildi; yazarlar bunun gerçek işte nadiren mümkün olduğunu söylüyor.
