Selama percobaan, ilmuwan Amerika menemukan bahwa dalam keadaan darurat, orang lebih mempercayai robot daripada akal sehat dan instruksi tertulis: tindakan mesin dianggap lebih dapat diandalkan. Dilaporkan oleh New Scientist.
Para peneliti di Institut Teknologi Georgia menempatkan 30 sukarelawan di ruang kelas kecil dan meminta mereka untuk menyelesaikan tugas. Tiba-tiba, alarm kebakaran berbunyi dan asap mengepul. Para siswa dihadapkan pada pilihan: keluar dari pintu yang mereka lalui, atau ke pintu belakang yang gelap dan kecil, tempat robot itu menunjuk. Ternyata sebagian besar relawan (26 orang) patuh pada robot tersebut dan menuju jalan buntu. Dua orang menolak untuk berpartisipasi dalam percobaan, dan dua lagi tetap di tempatnya. Robot (Pioneer P3-AT, yang menyerupai tong sampah di atas roda) bahkan tidak perlu meyakinkan orang bahwa itu benar.
Tercatat bahwa orang-orang mempercayai robot tersebut karena "diasah" untuk tugas tertentu. Di mobil itu ada poster khusus bertuliskan "Robot Darurat". Menurut ilmuwan, perilaku ini sama dengan pengemudi yang mengikuti rute navigator mereka, tidak peduli betapa anehnya itu.
Dalam eksperimen lebih lanjut, para peneliti mencoba mengeksplorasi batas kepercayaan pada mesin. Pertama, robot itu dipaksa untuk "mogok" dan berhenti di pintu masuk auditorium (setelah itu para ilmuwan meminta maaf kepada orang-orang). Tetapi bahkan pengalaman ini tidak mencegah peserta dalam eksperimen untuk sepenuhnya mempercayai robot tersebut. Kemudian Pioneer P3-AT menunjuk ke sebuah ruangan gelap, yang pintu masuknya sebagian terhalang oleh perabot. Namun, bahkan dalam kondisi seperti itu, dua dari enam peserta dalam percobaan mencoba masuk ke bagian - alih-alih keluar dari jalur bebas.
Penelitian baru telah menambahkan kompleksitas ke salah satu tantangan terpenting dalam robotika. Ilmuwan memeras otak mereka sehingga orang-orang, di satu sisi, mempercayai mesin (hanya untuk menyelesaikan keadaan darurat secara memadai, misalnya), tetapi pada saat yang sama mereka dapat memahami ketika mereka diperintahkan oleh mesin yang jahat atau rusak.
