AI cũng thiên vị trong tuyển dụng, thường 'ưu ái' phụ nữ hơn nam giới

David Rozado, phó giáo sư tại Viện Kỹ năng và Công nghệ New Zealand, đã thử nghiệm 22 mô hình ngôn ngữ lớn (LLM) – bao gồm cả các công cụ phổ biến như ChatGPT, Gemini và Grok – bằng cách gửi các cặp CV giống hệt nhau về trình độ, chỉ khác tên nam và nữ. Kết quả, tất cả các mô hình đều có xu hướng chọn ứng viên có tên nữ thay vì nam.

Trong hơn 30.000 quyết định tuyển dụng mô phỏng, các ứng viên nữ được chọn trong 56,9% trường hợp, cao hơn đáng kể so với tỷ lệ trung lập giới tính 50/50. Ở những quốc gia nơi CV thường ghi rõ giới tính, như Đức hay Nhật Bản, sự chênh lệch này còn lớn hơn. Theo Rozado, dù chênh lệch không quá lớn, nhưng sự thiên vị nhỏ lặp đi lặp lại có thể tích lũy thành bất công đáng kể theo thời gian.

Điều đáng chú ý là độ lệch này không phụ thuộc vào quy mô hay độ phức tạp của mô hình AI. Rozado kết luận: "Vấn đề nằm ở hệ thống, không phải ở khả năng tính toán".

Nghiên cứu cũng phát hiện các mô hình có xu hướng thiên vị nhẹ khi CV chứa đại từ như "cô ấy" hay "anh ấy", dù điều đó không liên quan đến năng lực ứng viên. Ông cảnh báo: "LLM, giống như con người, có thể bị ảnh hưởng bởi những yếu tố không liên quan khi nhiệm vụ được xác định quá mức hoặc không đủ rõ ràng".

Dù vậy, Rozado cũng thừa nhận một điểm yếu trong nghiên cứu: ông sử dụng CV và mô tả công việc giả định, không phản ánh hết sự phức tạp trong tuyển dụng thực tế. Ngoài ra, vì tất cả ứng viên đều có năng lực tương đương, nên chưa rõ AI phản ứng thế nào khi trình độ thật sự khác biệt.

Bất chấp tranh cãi, nhiều công ty vẫn áp dụng AI vào quy trình tuyển dụng để xử lý khối lượng ứng viên khổng lồ từ các nền tảng việc làm trực tuyến. Một số doanh nghiệp như Propel Impact cho biết đã sàng lọc được gấp ba lần số lượng ứng viên so với trước nhờ AI.

Một nghiên cứu khác của Viện Brookings lại chỉ ra rằng trong một số tình huống, AI có thể ưu tiên nam giới hơn nữ giới, và thường ưu ái tên mang tính da trắng hơn là tên người da đen. Các bản dạng giao thoa – ví dụ ứng viên vừa là người da đen vừa là nam giới – thường chịu thiệt thòi lớn nhất.

Cả Rozado và Brookings đều đồng thuận rằng các hệ thống tuyển dụng AI hiện chưa đủ tin cậy để được sử dụng tự động trong những bối cảnh rủi ro cao như tuyển dụng. Họ kêu gọi kiểm toán nghiêm ngặt, minh bạch và xây dựng các tiêu chuẩn rõ ràng để đảm bảo không có phân biệt đối xử ngoài ý muốn.

"Khi chưa có đánh giá kỹ lưỡng về độ công bằng và độ tin cậy, AI không nên được sử dụng trong các quyết định có ảnh hưởng lớn đến đời sống con người", Rozado khẳng định.