Yapay Zeka ile İşe Alımda Önyargı Riski: İşletmeler İçin Rehber

Kısa yanıt

Yapay zeka ile işe alımda önyargı riski, bir seçme algoritmasının geçmiş aday verisindeki cinsiyet, yaş veya okul kökenine dayalı eğilimleri öğrenip bu eğilimleri yeni başvurular üzerinde otomatik olarak tekrar etmesidir. Risk, algoritmanın kötü niyetinden değil, ona verilen geçmiş verinin kendisinden kaynaklanır ve insan gözünün fark etmesi zor bir ölçekte işler.

Peki, yapay zeka ile işe alımda önyargı riski nedir?

İşe alım yazılımları genellikle bir aday havuzunu tarar, özgeçmişleri puanlar veya mülakat yanıtlarını bir skor kartına dönüştürür. Bu işlemi yaparken kullandığı model, kendisine eğitim verisi olarak verilen binlerce geçmiş işe alım kararından öğrenir; sorun, bu geçmiş kararların kendisinin tarafsız olmamasıdır. Bir şirket yıllarca belirli bir üniversiteden, belirli bir yaş aralığından veya belirli bir cinsiyetten adayları daha sık işe almışsa, algoritma bu kalıbı başarılı aday profili olarak öğrenir ve yeni başvuruları bu profille karşılaştırır.

Bu noktada önyargı, algoritmanın kasıtlı bir tercihi değil, istatistiksel bir yan etkidir. Model, kendisine sorulan soruyu dürüstçe yanıtlar: geçmişte kim işe alındı. Ama bu soru, kim en yetenekliydi sorusuyla aynı şey değildir, çünkü geçmiş veri zaten sınırlı ve yanlı bir örneklemdir. Sonuç, insan değerlendiricinin tek tek fark edebileceği ayrımcı kararlar değil, ölçekte ve sistematik biçimde tekrarlanan bir elemedir.

Bu önyargı nereden geliyor?

Algoritmanın önyargısının asıl kaynağı, neredeyse her zaman şirketin kendi geçmiş verisidir, modelin matematiksel yapısı değil. Bir CV tarama aracı, geçmişte işe alınan çalışanların özgeçmişlerindeki kelime kalıplarını, okul isimlerini ve hatta boş zaman etkinliklerini bir başarı sinyaline dönüştürebilir. Bu sinyaller doğrudan cinsiyet veya yaşla ilgili görünmese de, dolaylı olarak bu özelliklerle güçlü bir korelasyon taşıyabilir: bir spor kulübü ismi, bir kadın üniversitesinin adı veya bir mezuniyet yılı, modelin gözünde tarafsız bir kelime değil, geçmişteki insan kararlarının gizli bir izidir.

Amazon’un durdurduğu işe alım deneyi

Bu riskin en bilinen örneği, bir teknoloji şirketinin kendi geliştirdiği özgeçmiş tarama aracını, kadın adaylara karşı sistematik bir eğilim gösterdiği için devreye almadan rafa kaldırmasıydı. Araç, önceki on yılın büyük ölçüde erkek ağırlıklı mühendislik başvurularından öğrendiği için, özgeçmişte kadın kelimesini veya kadınlara özgü bazı kulüp isimlerini negatif bir sinyal olarak değerlendirmeye başlamıştı. Vaka, dönemin iş basınında geniş yer buldu ve kurumsal yapay zeka projelerinin, devreye alınmadan önce bağımsız bir adalet testinden geçmesi gerektiğinin en somut kanıtı olarak hâlâ referans gösteriliyor.

Hangi işe alım süreçleri risk taşır?

Risk, insan onayının asgari düzeye indiği ve kararın büyük ölçüde bir puana veya sıralamaya dayandığı her aşamada yoğunlaşır. İlk eleme aşamasında kullanılan otomatik CV tarama sistemleri, binlerce başvuruyu saniyeler içinde elediği için, tek bir hatalı kalıp binlerce adayı aynı anda etkileyebilir. Mülakat planlama veya aday iletişimi gibi görece düşük riskli adımlarla kıyaslandığında, nihai eleme ve sıralama kararları çok daha fazla dikkat gerektirir.

CV tarama ve video mülakat analizinde önyargı

Video mülakat sistemleri, bir adayın yüz ifadesini, ses tonunu ve konuşma hızını analiz ederek bir uygunluk puanı üretebiliyor; bu yaklaşım kültürel farklılıkları önyargıyla karıştırma riskini özellikle yüksek tutuyor. Göz teması kurma alışkanlığı ve konuşma temposu kültürden kültüre büyük farklılık gösterir, oysa bu sistemlerin çoğu tek bir kültürel normu doğru davranış olarak öğrenmiş durumda. Bir adayın kendi kültüründe tamamen normal olan bir davranışı, modelin gözünde düşük bir güven puanına dönüşebilir.

KVKK ve GDPR otomatik karara itiraz hakkını nasıl tanımlıyor?

6698 sayılı Kişisel Verilerin Korunması Kanunu’nun 11. Maddesi ve GDPR’nin 22. Maddesi, bir kişinin yalnızca otomatik bir sistem tarafından değerlendirilip bu değerlendirmenin doğrudan aleyhine bir sonuç üretmesine itiraz etme hakkını tanır. İşe alım elemeleri, kredi başvurusu değerlendirmeleri ve müşteri skorlama sistemleriyle birlikte, bu hakkın en doğrudan uygulandığı alanlardan biridir; yapay zeka sistemlerinde veri sorumlusu ve veri işleyen ilişkisini ele aldığımız yazımızda, bu yükümlülüğün işletme tarafında nasıl paylaşıldığını ayrıntılı olarak inceledik.

Pratikte bu hak, bir işletmenin “algoritma böyle dedi” diyerek bir elemeyi savunamayacağı anlamına gelir. Veri sorumlusu, sistemin karar mantığını açıklayabilir düzeyde tutmak ve talep eden bir adaya, elemenin hangi kriterlere dayandığını özetleyebilmek zorundadır. Bu şeffaflık yükümlülüğü, kullanılan aracın dışarıdan tedarik edilmiş olması durumunda da ortadan kalkmaz, çünkü karar alma yetkisi ve operasyonel fayda nihayetinde işveren işletmenin elinde kalır.

İşletmeler bu riski nasıl azaltabilir?

Bireysel farkındalık tek başına yeterli değildir; riski yönetmek, işe alım sürecine yapısal kontrol noktaları eklemeyi gerektirir. Ki beş adım, bütçesi sınırlı bir işletme için de uygulanabilir bir başlangıç noktası sunar.

1. Son kararı her zaman bir insana bırakın: Algoritma yalnızca bir ön sıralama veya kısa liste önerisi sunsun, nihai eleme kararını her zaman bir insan versin.
2. Tedarikçiden adalet raporu isteyin: Bir işe alım aracı satın almadan önce, farklı demografik gruplar arasındaki seçilme oranını karşılaştıran bağımsız bir denetim raporu talep edin.
3. Hassas alanları eğitim verisinden temizleyin: Cinsiyet, yaş, fotoğraf veya okul ismi gibi doğrudan ayrımcılığa yol açabilecek alanları, mümkün olduğunda ilk eleme aşamasından çıkarın.
4. Periyodik olarak sonuçları denetleyin: Elenen ve kabul edilen adayların demografik dağılımını düzenli aralıklarla ölçün, beklenmedik bir sapma gördüğünüzde süreci durdurup inceleyin.
5. Adaylara itiraz yolu tanıyın: Elenen bir adayın, kararın gerekçesini sorabileceği ve bir insana yönlendirilebileceği açık bir kanal sağlayın.

Bu beş adımı tek seferlik bir kontrol listesi değil, şirket içi yapay zeka kullanım politikasının kalıcı bir parçası olarak kurmak, riski sürekli yönetilebilir kılar. Bu süreci kurumsal ölçekte, denetim takvimi ve onay zinciriyle birlikte kurmak isteyen işletmeler, kurumsal yapay zeka hizmetimiz kapsamında destek alabilir.

Denetim için hangi araçlar kullanılabilir?

Önyargıyı ölçmek, onu düzeltmekten önce gelen bir adımdır ve bunun için açık kaynaklı, ücretsiz araçlar artık mevcuttur. Microsoft Research’ün desteklediği Fairlearn kütüphanesi, bir modelin farklı demografik gruplar arasında nasıl bir performans farkı yarattığını ölçen metrikler ve bu farkı azaltan algoritmalar sunuyor. Projenin kendi belgelerinde, işe alım, okul kabulü ve kredi değerlendirmesi, aracın hedeflediği üç temel uygulama alanı olarak açıkça sayılıyor.

Bu tür bir aracı kullanmak genellikle bir işletmenin kendi veri bilimi ekibine sahip olmasını gerektirir; küçük ölçekli işletmeler için daha gerçekçi yol, tedarikçiden bu ölçümleri zaten yapılmış, belgelenmiş bir rapor istemektir. Rapor paylaşılamıyorsa, bu durumun kendisi bir uyarı işaretidir, çünkü ciddi bir sağlayıcı bu ölçümü zaten düzenli olarak yapıyor olmalıdır.

Sonraki adım

Yapay zeka ile işe alımda önyargı riski, algoritmayı suçlayarak değil, geçmiş veriyi sorgulayarak ve son kararı her zaman bir insanın verdiği bir süreç kurarak yönetilir. İşe alım sürecinizi bu risk açısından gözden geçirmek isterseniz bizimle iletişime geçebilirsiniz.

İşe alım sürecinin aday iletişimi ayağı, mülakat planlama, soruları yanıtlama, başvuru durumu bildirimi gibi adımlar, hızla yapay zeka destekli sohbet botlarına kayıyor ve bu botların adil, şeffaf çalıştığını garanti etmek de ayrı bir denetim konusu haline geliyor. Grup şirketimiz Yanıt Labs, bu tür aday ve müşteri iletişimi botlarını insan denetimli bir doğrulama katmanıyla kurarak, hızın adaleti gölgede bırakmadığı bir süreç tasarlıyor.