Nghiên cứu của Cambridge cho thấy phần mềm tuyển dụng AI là 'khoa học giả tự động'

Tuyên bố rằng phần mềm tuyển dụng được hỗ trợ bởi AI có thể thúc đẩy sự đa dạng của các nhân viên mới tại nơi làm việc đã được đưa ra trong một nghiên cứu được công bố trong tuần này.

Những người ủng hộ các thuật toán học máy được đào tạo để phân tích ngôn ngữ cơ thể và dự đoán trí tuệ cảm xúc của ứng viên tin rằng phần mềm cung cấp một cách đánh giá công bằng hơn đối với người lao động nếu nó không xem xét giới tính và chủng tộc. Họ cho rằng các công cụ mới có thể xóa bỏ thành kiến ​​của con người và giúp các công ty đáp ứng các mục tiêu đa dạng, công bằng và hòa nhập của họ bằng cách thuê nhiều người hơn từ các nhóm không được đại diện.

Nhưng một tờ giấy công bố trên tạp chí Triết học và Công nghệ Tuy nhiên, bởi một cặp các nhà nghiên cứu tại Đại học Cambridge, chứng minh rằng phần mềm không chỉ đơn giản là “khoa học giả tự động”. Sáu sinh viên đại học ngành khoa học máy tính đã sao chép một mô hình thương mại được sử dụng trong ngành công nghiệp để kiểm tra cách phần mềm tuyển dụng AI dự đoán tính cách của mọi người bằng cách sử dụng hình ảnh khuôn mặt của họ. 

Được mệnh danh là “Cỗ máy tính cách”, hệ thống tìm kiếm những kiểu tính cách “lớn năm”: hướng ngoại, dễ chịu, cởi mở, tận tâm và loạn thần kinh. Họ nhận thấy các dự đoán của phần mềm bị ảnh hưởng bởi những thay đổi trong nét mặt, ánh sáng và hình nền của mọi người, cũng như lựa chọn quần áo của họ. Các tính năng này không liên quan gì đến khả năng của người tìm việc, do đó, việc sử dụng AI cho mục đích tuyển dụng là thiếu sót, các nhà nghiên cứu lập luận. 

“Thực tế là những thay đổi về ánh sáng, độ bão hòa và độ tương phản ảnh hưởng đến điểm tính cách của bạn là bằng chứng cho điều này,” Kerry Mackereth, một liên kết nghiên cứu sau tiến sĩ tại Trung tâm Nghiên cứu Giới của Đại học Cambridge, nói Sổ đăng ký. Kết quả của bài báo được sao lưu bởi các nghiên cứu trước đây, có thể hiện Cô lưu ý rằng việc đeo kính và khăn trùm đầu trong một cuộc phỏng vấn video hoặc thêm vào một giá sách có thể làm giảm điểm của ứng viên về sự tận tâm và chứng loạn thần kinh. 

Mackereth cũng giải thích rằng các công cụ này có khả năng được đào tạo để tìm kiếm các thuộc tính liên quan đến các ứng viên thành công trước đó và do đó, có nhiều khả năng tuyển dụng những người có vẻ ngoài tương tự thay vì thúc đẩy sự đa dạng. 

“Mô hình học máy được hiểu là dự đoán; tuy nhiên, vì chúng được đào tạo dựa trên dữ liệu quá khứ, chúng đang lặp lại các quyết định được đưa ra trong quá khứ, không phải tương lai. Khi các công cụ học hỏi từ bộ dữ liệu có sẵn này, một vòng phản hồi được tạo ra giữa những gì các công ty cho là một nhân viên lý tưởng và các tiêu chí được sử dụng bởi các công cụ tuyển dụng tự động để chọn ứng viên, ”cô nói.

Các nhà nghiên cứu tin rằng công nghệ này cần được quản lý chặt chẽ hơn. "Chúng tôi lo ngại rằng một số nhà cung cấp đang gói các sản phẩm 'dầu rắn' trong một gói sáng bóng và bán chúng cho những khách hàng không nghi ngờ", nói đồng tác giả Eleanor Drage, một cộng sự nghiên cứu sau tiến sĩ cũng tại Trung tâm Nghiên cứu Giới. 

“Mặc dù các công ty có thể không hành động thiếu thiện chí, nhưng có rất ít trách nhiệm về cách các sản phẩm này được xây dựng hoặc thử nghiệm. Do đó, công nghệ này và cách nó được tiếp thị có thể trở thành nguồn thông tin sai lệch nguy hiểm về cách thức tuyển dụng có thể được 'giảm thành kiến' và trở nên công bằng hơn, "cô nói thêm.

Mackereth nói rằng mặc dù Đạo luật AI của Liên minh châu Âu phân loại phần mềm tuyển dụng như vậy là "rủi ro cao", nhưng vẫn chưa rõ những quy tắc nào đang được thực thi để giảm những rủi ro đó. “Chúng tôi nghĩ rằng cần phải có sự giám sát nghiêm túc hơn nhiều đối với các công cụ này và các tuyên bố tiếp thị được đưa ra về các sản phẩm này và quy định về các công cụ nhân sự do AI hỗ trợ sẽ đóng một vai trò nổi bật hơn nhiều trong chương trình nghị sự chính sách về AI.”

Bà kết luận: “Mặc dù tác hại của các công cụ tuyển dụng được hỗ trợ bởi AI dường như tiềm ẩn và ngấm ngầm hơn nhiều so với các trường hợp phân biệt đối xử theo thuật toán, nhưng chúng có khả năng ảnh hưởng lâu dài đến việc làm và sự di chuyển kinh tế xã hội”. ®