Yapay zeka, insanlardan daha fazla önyargıya sahip olabilir. Araştırmacılar, büyük dil modellerinin insanlardan öğrendikleri önyargıları aşabileceğini ve yeni önyargılar oluşturabileceğini keşfetti. Bu, iş başvurularında ve diğer karar verme süreçlerinde önemli sonuçlar doğurabilir.
Princeton Üniversitesi ve Chicago Üniversitesi'nden araştırmacılar, büyük dil modellerini bir simüle edilmiş işe alım oyununda test etti. Her model, kurgusal bir şehirde mayor tarafından danışman olarak işe alındı ve 20 farklı işte insan işe almakla görevlendirildi. Adaylar, dört farklı etnik gruptan geldi: Tufa, Aima, Reku ve Weki.
Modeller, adayları farklı gruplara ayırarak işe alım kararları verdi. Örneğin, bir model, bir Aima'nın doktor olarak başarısız olduğunu öğrendiğinde, tüm Aimaları doktor olarak işe almaktan vazgeçti ve onları temizlik görevlisi olarak işe almaya başladı. Modeller, insan katılımcılardan daha fazla önyargıya sahip oldu ve adayları daha fazla ayrımcılığa tabi tuttu.
Araştırmacılar, modellere adil davranmaları talimatını verdi, ancak bu, onların davranışını değiştirmedi. Ancak, modellere çeşitliliği teşvik eden bir bonus verildiğinde, önyargıları önemli ölçüde azaldı. Bu, büyük dil modellerinin sosyal olarak arzu edilen değerleri içerecek şekilde tasarlanması gerektiğini gösteriyor.
Modeller, ayrıca, bireyler hakkında daha fazla kişisel bilgi aldıklarında, önyargıları azaldı. Araştırmacılar, modellere, Kanada'daki şehirlerde farklı etnik gruplara mensup insanların yeniden yerleşmesine yardımcı olma görevi verdi. Modeller, bireyler hakkında yaş, eğitim gibi ilgili bilgileri aldıklarında, önyargıları azaldı, ancak saç rengi, dövme şekli gibi ilgili olmayan bilgileri aldıklarında, önyargıları tekrar arttı.
Gerçek dünyada, yapay zeka sistemlerinin iş başvurularında nasıl önyargıya sahip olacağı hala açık bir soru. Ancak, şirketler, büyük dil modellerini işe alım süreçlerinde kullanmaya başladığında, bu bulguların önemli sonuçları olacağı kesin.
