Perangkat lunak rekrutmen AI adalah 'pseudoscience otomatis', studi Cambridge menemukan

Klaim bahwa perangkat lunak rekrutmen bertenaga AI dapat meningkatkan keragaman karyawan baru di tempat kerja dibantah dalam sebuah penelitian yang diterbitkan minggu ini.

Pendukung algoritme pembelajaran mesin yang dilatih untuk menganalisis bahasa tubuh dan memprediksi kecerdasan emosional kandidat percaya bahwa perangkat lunak memberikan cara yang lebih adil untuk menilai pekerja jika tidak mempertimbangkan jenis kelamin dan ras. Mereka berpendapat bahwa alat baru dapat menghilangkan bias manusia dan membantu perusahaan memenuhi tujuan keragaman, kesetaraan, dan inklusi mereka dengan mempekerjakan lebih banyak orang dari kelompok yang kurang terwakili.

Tapi kertas diterbitkan dalam jurnal Filsafat dan Teknologi oleh sepasang peneliti di University of Cambridge, bagaimanapun, menunjukkan bahwa perangkat lunak tidak lebih dari "pseudoscience otomatis". Enam mahasiswa ilmu komputer mereplikasi model komersial yang digunakan dalam industri untuk memeriksa bagaimana perangkat lunak rekrutmen AI memprediksi kepribadian orang menggunakan gambar wajah mereka. 

Dijuluki "Mesin Kepribadian", the sistem mencari kiasan kepribadian "lima besar": ekstroversi, keramahan, keterbukaan, kesadaran, dan neurotisisme. Mereka menemukan prediksi perangkat lunak dipengaruhi oleh perubahan ekspresi wajah orang, pencahayaan dan latar belakang, serta pilihan pakaian mereka. Fitur-fitur ini tidak ada hubungannya dengan kemampuan pencari kerja, sehingga menggunakan AI untuk tujuan rekrutmen adalah cacat, para peneliti berpendapat. 

"Fakta bahwa perubahan cahaya dan saturasi dan kontras mempengaruhi skor kepribadian Anda adalah buktinya," kata Kerry Mackereth, peneliti pascadoktoral di Pusat Studi Gender Universitas Cambridge. Pendaftaran. Hasil makalah ini didukung oleh penelitian sebelumnya, yang telah ditunjukkan bagaimana memakai kacamata dan jilbab dalam wawancara video atau menambahkan rak buku di latar belakang dapat menurunkan skor kandidat untuk hati nurani dan neurotisisme, katanya. 

Mackereth juga menjelaskan alat ini kemungkinan dilatih untuk mencari atribut yang terkait dengan kandidat sukses sebelumnya, dan oleh karena itu, lebih cenderung merekrut orang yang tampak serupa daripada mempromosikan keragaman. 

“Model pembelajaran mesin dipahami sebagai prediktif; namun, karena mereka dilatih tentang data masa lalu, mereka mengulangi keputusan yang dibuat di masa lalu, bukan masa depan. Saat alat belajar dari kumpulan data yang sudah ada ini, lingkaran umpan balik dibuat antara apa yang perusahaan anggap sebagai karyawan ideal dan kriteria yang digunakan oleh alat rekrutmen otomatis untuk memilih kandidat, ”katanya.

Para peneliti percaya teknologi perlu diatur lebih ketat. “Kami khawatir beberapa vendor membungkus produk 'minyak ular' dalam kemasan mengkilap dan menjualnya kepada pelanggan yang tidak curiga," tersebut co-penulis Eleanor Drage, rekan penelitian postdoctoral juga di Pusat Studi Gender. 

“Meskipun perusahaan mungkin tidak bertindak dengan itikad buruk, hanya ada sedikit akuntabilitas tentang bagaimana produk ini dibuat atau diuji. Dengan demikian, teknologi ini, dan cara pemasarannya, dapat menjadi sumber misinformasi yang berbahaya tentang bagaimana perekrutan dapat 'tidak bias' dan dibuat lebih adil,” tambahnya.

Mackereth mengatakan bahwa meskipun Undang-Undang AI Uni Eropa mengklasifikasikan perangkat lunak rekrutmen semacam itu sebagai "berisiko tinggi", tidak jelas aturan apa yang diterapkan untuk mengurangi risiko tersebut. “Kami berpikir bahwa perlu ada pengawasan yang lebih serius terhadap alat-alat ini dan klaim pemasaran yang dibuat tentang produk-produk ini, dan bahwa regulasi alat SDM yang diberdayakan AI harus memainkan peran yang jauh lebih menonjol dalam agenda kebijakan AI.”

“Sementara bahaya dari alat perekrutan bertenaga AI tampaknya jauh lebih laten dan berbahaya daripada contoh diskriminasi algoritmik yang lebih terkenal, mereka memiliki potensi untuk memiliki efek jangka panjang pada pekerjaan dan mobilitas sosial ekonomi,” dia menyimpulkan. ®