Sebuah studi baru menunjukkan bahwa memanifestasikan prasangka terhadap orang lain tidak memerlukan kecerdasan khusus dan dapat dengan mudah berkembang di mesin dengan kecerdasan buatan.
Psikolog dan spesialis teknologi informasi di University of Cardiff dan MIT telah menunjukkan bahwa kelompok mesin otonom dapat menunjukkan bias dengan hanya mendefinisikan perilaku tersebut, menyalinnya, dan saling mengajarkannya.
Prasangka tampaknya merupakan fenomena murni manusiawi, yang membutuhkan kecerdasan manusia untuk membentuk opini atau stereotip tentang seseorang atau kelompok. Sementara beberapa jenis algoritme komputer telah menunjukkan bias seperti rasisme dan seksisme berdasarkan studi catatan publik dan data lain yang dihasilkan oleh manusia, pekerjaan baru menunjukkan kemampuan AI untuk secara mandiri mengembangkan kelompok dengan prasangka.
Penelitian ini dipublikasikan di Scientific Reports. Ini didasarkan pada simulasi komputer tentang bagaimana agen virtual yang bias dapat membentuk kelompok dan berinteraksi satu sama lain. Selama simulasi, setiap individu memutuskan apakah akan membantu seseorang dari kelompoknya atau dari kelompok lain, tergantung pada reputasi individu tersebut, serta strateginya sendiri, yang mencakup tingkat prasangka mereka terhadap pihak luar. Setelah melakukan ribuan simulasi, setiap individu mempelajari strategi baru dengan meniru yang lain - apakah mereka adalah anggota kelompok mereka sendiri atau seluruh "populasi".
Frekuensi kumulatif relatif karakteristik agen menurut tingkat prasangka / Roger M. Whitaker.
"Setelah menjalankan simulasi ini ribuan kali berturut-turut, kami mulai memahami bagaimana bias berkembang dan kondisi apa yang diperlukan untuk menumbuhkan atau mencegahnya," kata rekan penulis studi Profesor Roger Whitaker dari Institute for Crime and Security Research dan School of Computer Science and Computer Science di Cardiff University. “Simulasi kami menunjukkan bahwa bias adalah kekuatan alam yang kuat, dan melalui evolusi bias dapat distimulasi dalam populasi virtual untuk merusak hubungan yang lebih luas dengan orang lain. Perlindungan terhadap kelompok-kelompok yang berprasangka buruk dapat secara tidak sengaja mengarah pada pembentukan kelompok-kelompok berprasangka lain, yang memprovokasi perpecahan populasi yang lebih besar. Prasangka yang meluas seperti itu sulit untuk dibalik."
Data penelitian juga mencakup individu yang meningkatkan tingkat bias mereka dengan meniru mereka yang mendapatkan hasil jangka pendek terbaik, yang pada gilirannya berarti bahwa keputusan semacam itu tidak selalu memerlukan kemampuan khusus.
“Sangat masuk akal bahwa mesin otonom, yang mampu mengidentifikasi dengan diskriminasi dan meniru orang lain, mungkin di masa depan rentan terhadap fenomena prasangka yang kita lihat di masyarakat,” lanjut Profesor Whitaker. “Banyak perkembangan AI yang kita lihat saat ini melibatkan otonomi dan pengendalian diri, artinya perilaku perangkat juga dipengaruhi oleh orang-orang di sekitarnya. Contoh terbaru termasuk transportasi dan Internet of Things. Penelitian kami memberikan wawasan teoretis tentang tempat agen yang disimulasikan secara berkala beralih ke orang lain untuk mendapatkan sumber daya."
Video promosi:
Para peneliti juga menemukan bahwa dalam kondisi tertentu, termasuk keberadaan subpopulasi yang lebih terpecah dari masyarakat yang sama, bias lebih sulit untuk diperkuat.
“Dengan sejumlah besar subpopulasi, serikat kelompok yang tidak bias dapat bekerja sama tanpa dieksploitasi. Ini juga mengurangi status minoritas mereka sekaligus mengurangi kerentanan mereka terhadap pembentukan bias. Namun, ini juga membutuhkan keadaan di mana agen cenderung lebih menyukai interaksi di luar kelompok mereka,”Profesor Whitaker menyimpulkan.
Vladimir Guillen
