Kaliforniya'da işe alım süreçlerinde yapay zeka kullanan işverenler, giderek karmaşıklaşan bir uyum ortamıyla karşı karşıya. Eyalet düzenleyicileri, mevcut ayrımcılık karşıtı yasaların otomatik karar sistemleri için de tamamen geçerli olduğunu netleştirdi. Öte yandan yasa koyucular, işverenler ve yapay zeka geliştiricileri için yeni şeffaflık, test ve yönetişim gereklilikleri getiren yasa tasarılarını ilerletiyor.
Ortaya çıkan bu yeni çerçeve, daha geniş bir düzenleyici mesajı yansıtıyor: İşverenler, ayrımcı işe alım kararlarının yapay zeka tarafından alınmış veya büyük ölçüde etkilenmiş olması nedeniyle sorumluluktan kaçamaz. Şirketler, otomatik sistemlerin uzun süredir yürürlükte olan istihdam ayrımcılığı yasalarına uygunluğunu sağlamakla yükümlü olmaya devam ediyor ve ayrıca yapay zekaya özel ek yükümlülüklere de hazırlanmaları gerekiyor.
Bu sıkı denetim, Stanford Üniversitesi İnsan Merkezli Yapay Zeka Enstitüsü'nün yaygın olarak kullanılan işe alım algoritmalarının performansına ilişkin yeni bir araştırmasıyla aynı döneme denk geliyor. Çalışma, 150 işverene gönderilen dört milyondan fazla iş başvurusunu inceledi. Önde gelen bir üçüncü taraf işe alım platformunun ürettiği önerilerde önemli ırksal eşitsizlikler tespit edildi; siyahi ve Asyalı adayların orantısız bir şekilde dezavantajlı duruma düştüğü görüldü. Araştırmacılar, sistem tüm ırksal grupları eşit oranda önermiş olsaydı, nitelikli siyahi ve Asyalı adaylardan yaklaşık 40.000 ek başvurunun daha ileri aşamaya geçebileceğini tahmin ediyor.
Hanson Bridgett hukuk firmasının analizine göre, Kaliforniya Sivil Haklar Departmanı, Ekim ayında yürürlüğe giren düzenlemelerde, beş veya daha fazla çalışanı olan işverenlerin istihdam kararlarında otomatik karar sistemleri kullanırken Kaliforniya Adil İstihdam ve Konut Yasası'na tabi olmaya devam edeceğini açıkladı. Kurallar; bilgisayar tabanlı testler, beceri değerlendirmeleri, bulmaca oyunları ve yapay zeka destekli video mülakat analizi gibi otomatik değerlendirmeleri kapsıyor.
İnsan kaynakları ve uyum yöneticileri için en önemli nokta, düzenlemelerin bir işe alım kararında yapay zekanın rolü ne olursa olsun, mevcut ayrımcılık karşıtı ve engelli uyum gerekliliklerinin geçerli olmaya devam ettiğini netleştirmesidir. Bir başvuru sahibinin engeli, otomatik değerlendirmedeki performansını etkiliyorsa, işverenler FEHA'ya uygun makul düzenlemeleri sağlamak zorundadır. Şirketler bu nedenle ya yapay zeka tedarikçilerinin düzenleme talep mekanizmaları sağladığından emin olmalı ya da düzenleme talebinde bulunan başvuru sahipleri için kendi süreçlerini oluşturmalıdır.
CRD düzenlemeleri ayrıca işverenlerin kayıt tutma sorumluluklarını da genişletiyor. Şirketler, sistem girdileri, çıktıları ve teknolojiyi tasarlamak veya özelleştirmek için kullanılan veriler dahil olmak üzere ADS ile ilgili istihdam kayıtlarını en az dört yıl süreyle saklamak zorunda. Bu, düzenleyici denetimi ve olası ayrımcılık soruşturmalarını kolaylaştırmayı amaçlıyor.
Kaliforniya'daki mevcut işe alma kısıtlamaları da otomatik sistemleri kapsıyor. Eyaletin Fırsat Eşitliği Yasası uyarınca işverenler, koşullu bir iş teklifi yapmadan önce bir başvuru sahibinin sabıka geçmişini sorgulayamaz veya dikkate alamaz. Hanson Bridgett, işverenlerin adli sicil bilgilerinin bu aşamadan önce erişilmediğini veya önerilere dahil edilmediğini doğrulamak için yapay zeka tarama araçlarını denetlemeleri gerektiğini ve bir ADS'ye güvenmenin işverenleri Fırsat Eşitliği Yasası sorumluluğundan korumayacağını vurguladı.
Hanson'a göre, Kaliforniya yasa koyucuları yapay zekaya özel uyum yükümlülüklerini önemli ölçüde genişletecek yasaları da değerlendiriyor. Önerilen Otomatik Kararlar Güvenlik Yasası, işverenlerin ve yapay zeka geliştiricilerinin düzenli önyargı testleri yapmasını, işe alım kararlarında yapay zeka kullanıldığında başvuru sahiplerini bilgilendirmesini ve talep üzerine otomatik kararların gerekçesini açıklamasını gerektirecek. Bu yasa ayrıca yalnızca işverenlere değil, yapay zeka tedarikçilerine de doğrudan yasal yükümlülükler getirerek yapay zeka tedarik zincirinde hesap verebilirliğin önemli ölçüde genişlemesini sağlayacak.
AB 1898 sayılı ayrı bir yasa tasarısı ise işverenlerin, otomatik bir karar sistemi bir çalışanı veya başvuru sahibini etkilediğinde önceden yazılı bildirim sağlamasını, bu bildirimlerin alındığını onaylayan imzalı kabul belgeleri almasını ve istihdam kararlarında kullanılan tüm yapay zeka araçlarının yıllık envanterini tutmasını gerektirecek.
Hanson Bridgett analizi ayrıca Kaliforniya Tüketici Gizliliği Yasası düzenlemeleri kapsamındaki ayrı yükümlülüklere de dikkat çekti. 1 Ocak'tan itibaren işverenler, önemli işe alım kararları için otomatik karar verme teknolojisini kullanmadan önce resmi risk değerlendirmeleri tamamlamak zorunda. 1 Nisan 2028'e kadar kuruluşlar, gerekli değerlendirmelerin tamamlandığına dair yönetici onayı da dahil olmak üzere özet raporları eyalete sunmalı.
Stanford araştırması, düzenleyicilerin neden agresif bir şekilde hareket ettiğini gözler önüne seriyor. Araştırmacılar, siyahi ve Asyalı adaylara karşı orantısız etkiler tespit etmenin ötesinde, aynı üçüncü taraf işe alım platformlarına birden fazla işveren tarafından güvenilmesinin 'sistemik red' olarak tanımladıkları bir duruma yol açabileceğine dair kanıtlar buldu. Buna göre adaylar, aynı temel algoritma tarafından değerlendirildikleri için birden fazla işveren tarafından tekrar tekrar reddedilebiliyor. Araştırmacılar, işverenlerin otomatik işe alım teknolojilerine artan bağımlılığı göz önüne alındığında, kanıta dayalı yapay zeka yönetişimi için işe alım algoritmalarının bağımsız olarak değerlendirilmesinin gerekli olacağını savundu.
