Amazon sebenarnya ingin menyederhanakan proses perekrutan karyawan baru dengan alat AI. Menurut laporan dari kantor berita “Reuters”. Namun, rencana ini menjadi bumerang ketika perusahaan menemukan bahwa sistem tersebut mendiskriminasi perempuan.

Menurut lima sumber, pada tahun 2014 Amazon mempekerjakan tim pengembang di ibu kota Skotlandia, Edinburgh, untuk mengotomatiskan proses perekrutan.

Resume pelamar sebelumnya akan dicari sekitar 50.000 istilah kunci menggunakan sekitar 500 model komputer. Sistem kemudian menggunakan data ini untuk mencari kandidat potensial di internet, yang kemudian diperkenalkan kepada staf HR.

AI berasumsi bahwa laki-laki lebih disukai

“Mereka benar-benar menginginkan mesin yang dapat menghasilkan lima besar dari 100 CV. Kami kemudian menghentikan mereka,” kata seorang sumber kepada Reuters.

Namun, setahun kemudian, para pengembang menyadari ada sesuatu yang meresahkan pada perangkat lunak mereka: perangkat lunak tersebut tidak disukai oleh wanita. Hal ini diyakini karena AI sebagian besar disajikan dengan resume laki-laki yang dikirim ke Amazon selama periode sepuluh tahun. AI kemudian berasumsi bahwa laki-laki lebih disukai. Pemerintah menurunkan peringkat resume yang menyertakan kata “perempuan” dan menyaring kandidat yang kuliah di salah satu dari dua universitas khusus perempuan.

Pengembang kemudian mengubah sistem untuk memperbaiki kecenderungan ini. Namun, mereka tidak yakin apakah sistem tersebut akan menemukan cara baru untuk melakukan diskriminasi terhadap kandidat. Menurut sumber tersebut, bias gender bukanlah satu-satunya masalah. Program tersebut juga menolak kandidat yang tidak memenuhi syarat untuk posisi tersebut.

Kepercayaan buta terhadap AI sering kali menimbulkan masalah

Memecahkan bias algoritma adalah masalah yang sulit karena algoritma menggabungkan bias bawah sadar manusia. Pada tahun 2016, organisasi nirlaba Propublica didirikan, perangkat lunak penilaian risiko yang dirancang untuk memprediksi penjahat mana yang paling mungkin melakukan pelanggaran kembali memberikan peringkat yang lebih rendah kepada orang kulit hitam. Ketergantungan buta pada AI di berbagai bidang seperti proses pengajuan, peminjaman, dan masa percobaan juga telah menyebabkan masalah serupa di masa lalu.

Menurut laporan, Amazon mengakhiri proyek tersebut pada awal tahun lalu setelah pihak yang bertanggung jawab kehilangan kepercayaan terhadapnya. Menurut sumber Reuters, karyawan Amazon HR mempertimbangkan saran AI namun tidak hanya mengandalkan penilaian perangkat lunak.

Saat dihubungi Business Insider, Amazon mengatakan pihaknya berkomitmen terhadap keberagaman dan kesetaraan di tempat kerja, namun tidak berkomentar lebih jauh mengenai masalah tersebut.

Teks ini diterjemahkan dari bahasa Inggris oleh Jonas Lotz.