Bu, The Download'ın bugünkü sayısıdır. The Download, teknoloji dünyasında olup bitenler hakkında günlük bir doz sunan hafta içi haber bültenimizdir.
AI, işe alımda insanlardan daha fazla önyargı geliştirme eğiliminde
Bir dahaki sefere bir işe başvurduğunuzda, özgeçmişinizi herhangi bir insan görmeden önce bir yapay zeka tarayabilir. Ancak yapay zekanın sizi adil bir şekilde değerlendirip değerlendirmeyeceğini sorgulamak için iyi bir neden var.
Büyük dil modellerinin (LLM'ler) eğitim verilerinden insan önyargılarını devraldığını zaten biliyoruz. Yeni araştırmalar, bu modellerin deneyim yoluyla kendi önyargılarını da geliştirebileceğini ve iş başvurusunda bulunanları insanlardan daha fazla stereotipleştirebileceğini gösteriyor.
Yapay zeka şirketleri, kullanıcılar hakkında en küçük ayrıntıları hatırlayan ajan modeller oluşturmak için yarışırken, bu önyargıların oluşması için onlara mühimmat sağlıyor olabilirler.
—Michelle Kim
Hava durumu verilerinin sabotaj riski artıyor
Her sabah, dünyanın dört bir yanındaki havayolu dağıtıcıları, şebeke operatörleri ve çiftçiler hava durumu tahminlerine dayanarak kararlar alıyor. Son zamanlarda, tahminler başka bir sektör için de önemli hale geldi: insanların hava durumu da dahil olmak üzere her türlü gerçek dünya olayına para yatırdığı tahmin piyasaları.
Bu piyasalarda avantaj elde etmek için hava durumu verilerini manipüle etme cazibesi, veri odaklı yapay zeka hava durumu tahminine yönelik kolektif bir hareketle birleşince, hava durumu tahminlerinin doğruluğunu riske atmaya başlıyor.
Bu alandaki uzmanlar olarak, risklerin çok daha büyük, daha sistemik sorunlara dönüştüğü senaryoları öngörebiliyoruz.
