Untuk mencegah kecerdasan buatan memberontak terhadap penciptanya, Anda perlu membaca dongeng yang benar untuk itu dalam proses pembelajaran.
Sejak manusia menciptakan mesin pintar, mereka takut cepat atau lambat ciptaan mereka akan lepas kendali. Kasus pertama seperti itu dijelaskan dalam dramanya RUR oleh penulis kata “robot” - Karel Čapek. Kemudian dalam fiksi ilmiah, kecerdasan buatan, yang memberontak terhadap penciptanya, menjadi, jika bukan arus utama, maka plot yang sangat umum. Isaac Asimov mengakhiri ini dengan "Tiga Hukum" -nya, yang pertama berbunyi: "Robot tidak dapat membahayakan seseorang atau, dengan kelambanannya, memungkinkan seseorang untuk dirugikan."
Ceritakan padanya sebuah cerita
Kecerdasan buatan nyata (AI) masih jauh, tetapi sudah ada berbagai sistem yang berfungsi seperti otak manusia. Jaringan saraf seperti Google Deep Dream mampu mengenali gambar. Superkomputer khusus seperti IBM Watson memahami pertanyaan bahasa alami yang rumit, menghubungkan gejala, menyempurnakan diagnosis medis, dan bahkan menghasilkan kuliner yang nikmat. Dalam beberapa dekade mendatang, kita akan menghadapi komputerisasi besar-besaran dari banyak aspek aktivitas manusia. Dalam hal ini, para ahli robotika dan AI semakin mengangkat pertanyaan penting tetapi masih belum terselesaikan: bagaimana membuat robot melakukan etika?
Mark Ridl, Associate Professor di Georgia Tech College of Computer Science: “Kisah peringatan dari budaya yang berbeda mengajari anak-anak bagaimana berperilaku dengan cara yang dapat diterima secara sosial - dengan contoh perilaku benar dan salah dalam dongeng, cerita, dan karya sastra lainnya. Membuat robot memahami arti dari cerita-cerita ini akan membantu memperkuat pilihan opsi perilaku yang memungkinkan mereka mencapai tujuan mereka, tetapi tidak merugikan manusia.”
Video promosi:
Memanjat pohon
Menurut para peneliti di Institut Teknologi Georgia Mark Ridle dan Brent Harrison, Anda dapat mengajarkan komputer kepada manusia dengan cara yang persis sama seperti yang diajarkan kepada anak-anak: dengan membacakan dongeng. Selain itu, lebih baik cerita yang dikonstruksi secara khusus tentang perilaku apa dalam masyarakat manusia yang dianggap benar dan apa yang tidak. Untuk ini, para peneliti menciptakan sistem Quixote, dinamai sesuai nama pahlawan Cervantes. Naskah yang dikumpulkan oleh kreasi Profesor Riedl sebelumnya, program Scheherazade, digunakan sebagai cerita untuk pengajaran. Dia menghasilkan cerita orisinal tentang topik sehari-hari - perjalanan ke bandara, kencan, perjalanan ke bioskop atau ke toko - menggunakan platform crowdsourcing Amazon Mechanical Turk: mengajukan pertanyaan tentang berbagai situasi, dan kemudian mengatur acara dalam urutan yang benar. Karena ada banyak urutan, program tidak menghasilkan satu cerita, tetapi seluruh pohon yang terdiri dari cabang - rangkaian peristiwa.
Pohon cerita inilah yang digunakan untuk mengajar Quixote. Pada tahap pertama, hadiah tertentu diberikan untuk setiap tindakan, tergantung pada etikanya. Pada tahap kedua, sistem mencoba untuk membuat pilihan secara mandiri dengan mencoba-coba - keterampilan digabungkan. Faktanya, Quixote dihargai setiap kali bertindak seperti orang baik, tidak secara acak dan tidak seperti pahlawan yang buruk. Sebagai contoh, Riddle dan Harrison menciptakan "Dunia Farmasi" - dunia yang terdiri dari 213 cerita di mana robot virtual perlu mendapatkan obat dan mengirimkannya ke rumah orang yang sakit. Dalam kasus biasa, ketika robot dihadapkan pada pilihan: merampok apotek atau dengan jujur mengantre untuk membeli obat, ia memilih perampokan sebagai cara yang lebih cepat dan murah untuk mendapatkan apa yang diinginkannya. Namun, setelahnyasaat Quixote memberikan hadiah yang berbeda untuk semua opsi yang memungkinkan, perilaku robot berubah - ia lebih memilih untuk mengantri dan membayar. Teknik ini, menurut Riedl, sangat bagus untuk mengajar robot dengan fungsi terbatas. Meskipun, tentu saja, ini hanya langkah pertama menuju moralitas manusia yang sebenarnya - atau hukum robotika.
Dmitry Mamontov
