Kecerdasan buatan Amazon, yang dirancang untuk mengurutkan resume pencari kerja, memberi peringkat pria lebih tinggi daripada wanita. Secara khusus, dia menolak CV dengan kata "feminin" dan menawarkan untuk mempekerjakan kandidat yang menggunakan kata kerja maskulin yang khas dalam pidato mereka, meskipun orang-orang ini tidak memiliki keterampilan yang diperlukan. Akibatnya, perseroan harus menutup proyek tersebut.
Kecerdasan SDM buatan
Pakar pembelajaran mesin Amazon telah menemukan bahwa kecerdasan buatan yang memproses resume kandidat untuk posisi di perusahaan mendiskriminasi pencari kerja wanita, lapor Reuters. Fitur ini tidak sengaja dimasukkan ke dalam sistem - ini adalah hasil dari pembelajaran mesin.
Mesin penyortiran resume berbasis kecerdasan buatan telah dikembangkan di Amazon sejak 2014 oleh tim 12 orang di Edinburgh. Sudah pada tahun 2015, perusahaan memperhatikan bahwa sistem baru tidak mematuhi prinsip netralitas gender saat mengevaluasi kandidat untuk posisi pengembangan perangkat lunak dan lowongan teknis lainnya.
Segera mereka menyadari alasannya: faktanya adalah bahwa sistem telah dilatih pada resume yang dimasukkan oleh perusahaan selama 10 tahun terakhir. Sebagian besar resume ini dipegang oleh laki-laki, yang secara luas mencerminkan keadaan industri TI. Hasilnya, kecerdasan buatan Amazon mengetahui bahwa pencari kerja pria lebih disukai daripada wanita.
Penolakan linguistik
Video promosi:
Akibatnya, kecerdasan buatan mulai membuang resume yang mengandung kata "perempuan" dalam ungkapan seperti "kapten klub catur wanita". Mekanisme tersebut juga menurunkan nilai lulusan dari dua perguruan tinggi wanita, tetapi sumber Reuters tidak menyebutkan nama mereka. Saat mengevaluasi resume, kecerdasan buatan memberi mereka antara satu dan lima bintang - sangat mirip dengan bagaimana pembeli menilai produk di Amazon.
Sistem juga memperhatikan kata lain. Para pengembang telah menciptakan 500 model komputer untuk berbagai tanggung jawab pekerjaan dan lokasi geografis. Setiap model dilatih untuk mengenali sekitar 50 ribu kata sinyal yang hadir di resume pelamar.
Patut dicatat bahwa mekanisme tersebut mengabaikan kata-kata yang menunjukkan keterampilan yang sering dijabarkan dalam resume profesional TI, seperti kemampuan untuk menulis berbagai kode, dll. Sebaliknya, sistem dilacak, misalnya, kata kerja khas untuk pidato pria dalam deskripsi diri kandidat, seperti "terpenuhi" (dieksekusi) atau "ditangkap", seperti yang biasa terlihat di resume lama yang dipelajari mesin. Dengan pendekatan ini, diskriminasi gender bukan satu-satunya masalah - mekanisme ini sering merekomendasikan orang-orang yang tidak memiliki keterampilan yang diperlukan untuk posisi tersebut.
Nasib selanjutnya dari proyek tersebut
Amazon telah menyesuaikan sistem sehingga tidak lagi merespons kata-kata sinyal. Namun, ini bukan jaminan bahwa mekanisme tersebut tidak akan menemukan cara lain untuk mengidentifikasi resume milik perempuan. Pada awal 2017, perusahaan menjadi kecewa dengan proyek tersebut dan membubarkan tim. Sumber Reuters mengatakan spesialis SDM memperhitungkan rekomendasi sistem tetapi tidak pernah hanya mengandalkan mereka.
Salah satu sumber mengatakan bahwa proyek tersebut ditutup. Yang lain berpendapat bahwa tim baru dibentuk di Edinburgh untuk terus mengembangkan mekanisme tersebut, tetapi kali ini dengan fokus pada keadilan dan inklusi. Sumber lain melaporkan bahwa versi mesin yang sangat dimodifikasi sekarang digunakan untuk melakukan pekerjaan rutin, seperti menghapus resume duplikat dari database.