Algoritma Compas, yang telah bekerja untuk polisi Amerika sejak 1998, menganalisis data para terdakwa, dan kemudian, berdasarkan informasi yang diterima, membantu memutuskan, misalnya, apakah penjahat itu harus dibebaskan dengan jaminan atau harus ditahan. Saat memilih ukuran pengekangan, sistem memperhitungkan usia, jenis kelamin, dan rekam jejak di arena kriminal. Selama 20 tahun "layanan", algoritme dievaluasi oleh lebih dari satu juta orang, tetapi baru-baru ini dinyatakan tidak kompeten, setelah itu segera dipanggil kembali.
Ilmuwan dari Dartmouth College menguji seberapa akurat sistem tersebut dan apakah dapat dipercaya. Untuk melakukan ini, mereka merekrut pekerja lepas, orang biasa tanpa pendidikan hukum, untuk membuat keputusan sendiri berdasarkan informasi singkat tentang orang, memberikan informasi tentang jenis kelamin, usia, riwayat kriminal, dan beberapa parameter lainnya kepada subjek.
Akurasi ramalan para freelancer yang memiliki berkas kecil hampir 70 persen, sedangkan programnya tertinggal lima persen dari orang-orang, dengan mengandalkan 137 poin biografi. Analisis penilaian algoritme menunjukkan bahwa tahanan kulit hitam lebih mungkin dicurigai oleh program.
"Kesalahan dalam kasus seperti itu bisa sangat mahal, jadi perlu dipertimbangkan apakah algoritme ini harus digunakan sama sekali untuk memberikan putusan pengadilan," kata salah satu penulis studi.
Setelah mempelajari prinsip algoritme, para peneliti sampai pada kesimpulan bahwa semakin muda terdakwa dan semakin banyak penangkapan di belakangnya, semakin tinggi kemungkinan kambuh, oleh karena itu, spesialis AI mengakui teknologi tersebut tidak dapat diandalkan.
Viacheslav Larionov
