Topik kecerdasan buatan tingkat lanjut (AI) di masa depan biasanya disertai dengan ketakutan tertentu - misalnya, ia akan mampu belajar sendiri dan menjadi begitu berkembang sehingga orang tidak lagi dapat memahaminya. Di tangan yang salah, dan bahkan dengan sendirinya, algoritme canggih seperti itu dapat mengambil alih pemerintah dan tentara, memperkenalkan metode pengawasan dan manipulasi Orwellian, membangun kendali atas masyarakat, dan bahkan memimpin pasukan drone tempur otonom di medan perang.
Tetapi beberapa ahli AI tidak melihat ketakutan ini sebagai valid. Faktanya, AI yang sangat maju mungkin lebih mampu mengatur dunia daripada manusia. Ketakutan semacam itu sendiri berbahaya karena dapat menghalangi kita untuk menyadari peluang seperti itu.
“Mungkin non-implementasi AI menimbulkan bahaya bagi kemanusiaan,” kata peneliti AI Facebook Thomas Mikolov pada sebuah konferensi di Praha tentang tantangan menciptakan AI pada tingkat kecerdasan manusia.
Mikolov menjelaskan bahwa manusia, sebagai spesies, sangat lemah dalam membuat keputusan jangka panjang untuk membawa hasil yang bermanfaat. Manusia telah menebangi hutan hujan untuk mengekstrak bahan mentah, tanpa menyadari (atau tidak tertarik) bahwa dengan melakukan itu mereka telah berkontribusi pada degradasi planet kita - mungkin tidak dapat diubah.
Tetapi sistem AI yang canggih dapat melindungi umat manusia dari kepicikannya sendiri.
“Orang tidak mampu meramalkan masa depan yang jauh, katakanlah, 20-30 tahun ke depan. Mungkin dengan menciptakan AI yang jauh lebih pintar dari kita, kita dapat membantu diri kita sendiri menghindari bencana di masa depan."
Tentu saja, Mikolov termasuk minoritas ilmuwan yang percaya bahwa AI yang sangat berkembang akan baik hati. Selama konferensi, banyak pembicara mengungkapkan ketakutan yang meluas terhadap AI, lebih sering sehubungan dengan kemungkinan penggunaannya untuk tujuan berbahaya oleh aktor jahat, bahayanya tidak boleh diremehkan.
Kami tidak tahu pasti apakah mungkin untuk membuat AI tujuan umum yang mampu melakukan tugas pemikiran yang tersedia untuk manusia, dan bahkan mungkin lebih baik dari mereka.
Video promosi:
Masa depan AI tingkat lanjut terlihat menjanjikan, tetapi hal itu menimbulkan banyak masalah etika. Kami bahkan tidak tahu semua pertanyaan yang harus dijawab.
Namun sebagian besar peserta konferensi Praha setuju bahwa peraturan harus dibuat sebelum dibutuhkan. Perjanjian internasional, komite etika, dan badan pengatur di pemerintah, perusahaan, dan komunitas ilmiah sudah perlu dibuat. Menerapkan institusi dan protokol semacam itu akan mengurangi kemungkinan bahwa pemerintah yang bermusuhan, peneliti yang tidak waspada, atau bahkan "ilmuwan" yang benar-benar gila akan memicu AI yang berbahaya atau menggunakan algoritme kompleks dengan cara lain sebagai senjata. Dan dalam kasus terburuk, kami akan memiliki solusi.
Dengan memperkenalkan aturan dan tindakan pencegahan yang diperlukan, kami akan dapat hidup selaras dengan AI yang sangat berkembang di masa depan; mungkin suatu hari dia bahkan akan menyelamatkan kita.
Vadim Tarabarko
