Mungkin salah satu tes kecerdasan mesin yang paling sulit adalah permainan catur yang berlangsung hampir 20 tahun yang lalu antara komputer Deep Blue dan juara catur dunia Garry Kasparov. Mobil menang. Saat ini, rangkaian game dalam game logika go telah berakhir, di mana AI AlphaGo dari DeepMind (pemilik Google) dan juara go legendaris dari China Li Si Dol berkompetisi. Dalam empat dari lima pertandingan yang dimenangkan mesin, menunjukkan keunggulannya atas manusia dalam permainan ini. Permainan yang sangat kompleks antara manusia dan AI menunjukkan bahwa kecerdasan mesin telah berkembang sangat kuat selama ini. Tampaknya hari yang menentukan, ketika mesin benar-benar menjadi lebih pintar dari manusia, sekarang lebih dekat dari sebelumnya. Namun, tampaknya banyak yang tidak mengerti sama sekali, malah malah salah mengira tentang konsekuensi yang mungkin menanti kita di masa depan.
Kami meremehkan beberapa konsekuensi yang sangat serius dan bahkan berbahaya dari perkembangan kecerdasan buatan. Tahun lalu, salah satu pendiri SpaceX, Elon Musk, mengeluarkan pernyataan yang menyatakan keprihatinannya tentang kemungkinan perbudakan dunia oleh kecerdasan buatan, yang pada gilirannya memicu banyak komentar baik dari pendukung maupun penentang opini ini.
Untuk masa depan yang revolusioner secara fundamental yang dapat menunggu kita, sungguh mengejutkan bahwa ada begitu banyak ketidaksepakatan hari ini tentang apakah itu akan terjadi atau apa yang pada akhirnya akan terjadi. Sangat aneh untuk menyangkal manfaat luar biasa yang bisa kita dapatkan dari menciptakan AI yang benar-benar pintar, tentu saja, dengan mempertimbangkan semua kemungkinan risiko. Semua pertanyaan ini sangat sulit untuk mendapatkan jawaban yang benar, karena AI, tidak seperti penemuan manusia lainnya, benar-benar dapat "meremajakan" umat manusia ini atau menghancurkannya sepenuhnya.
Sekarang sulit untuk memahami apa yang harus dipercaya dan apa yang diharapkan. Namun, berkat para pelopor ilmu komputer, ahli saraf, dan ahli teori pengembangan AI, gambaran yang jelas perlahan mulai terlihat jelas. Di bawah ini adalah daftar kesalahpahaman dan mitos paling umum tentang kecerdasan buatan.
Kami tidak akan pernah menciptakan AI dengan kecerdasan humanoid
Kenyataan, pada gilirannya, menunjukkan bahwa kita sudah memiliki komputer yang cocok dan bahkan melebihi kemampuan manusia di beberapa bidang. Ambil contoh, catur atau permainan yang sama, berdagang di bursa saham atau peran sebagai lawan bicara virtual. Komputer dan algoritme yang mengontrolnya hanya akan menjadi lebih baik dari waktu ke waktu, dan ini hanya masalah waktu sampai semuanya setara dengan kemampuan manusia.
Video promosi:
Peneliti Universitas New York Gary Marcus pernah berkata bahwa "hampir semua orang" yang bekerja dengan AI percaya bahwa suatu hari mesin akan melampaui kita:
"Satu-satunya perselisihan antara pendukung dan skeptis adalah waktu dari acara ini."
Futuris seperti Ray Kurzweil percaya ini bisa terjadi dalam beberapa dekade mendatang, sementara yang lain mengatakan itu akan memakan waktu beberapa abad.
Para skeptis AI tidak meyakinkan dalam bukti mereka bahwa penciptaan kecerdasan buatan sebagai sesuatu yang unik dan sangat mirip dengan otak manusia yang hidup dalam istilah teknologi berada di suatu tempat di luar kenyataan. Otak kita juga merupakan mesin. Mesin biologi. Itu ada di dunia yang sama dan mematuhi hukum fisika yang sama seperti yang lainnya. Dan seiring waktu, kami akan sepenuhnya memahami seluruh prinsip kerjanya.
AI akan memiliki kesadaran
Ada kesepakatan umum bahwa kecerdasan mesin akan sadar. Artinya, AI akan berpikir dengan cara yang sama seperti manusia. Selain itu, beberapa kritikus, misalnya, salah satu pendiri Microsoft Paul Allen percaya bahwa karena dasar teoritis yang tidak lengkap yang menggambarkan mekanisme dan prinsip kesadaran diri, kami belum menciptakan bahkan kecerdasan buatan umum, yaitu kecerdasan yang mampu melakukan tugas intelektual yang dengannya seseorang bisa mengatasinya. Namun, menurut Murray Shanahan, asisten profesor di Departemen Robotika Kognitif di Imperial College London, kita tidak boleh menyamakan keduanya.
“Kesadaran diri jelas merupakan subjek penelitian yang sangat menarik dan penting, tetapi saya tidak percaya bahwa kesadaran diri harus menjadi atribut wajib dari kecerdasan buatan yang mirip manusia,” kata Shanahan.
"Pada umumnya, kami menggunakan istilah 'kesadaran diri' hanya untuk menunjukkan beberapa atribut psikologis dan kognitif yang biasanya terkait dalam diri seseorang."
Mungkin untuk membayangkan mobil yang sangat pintar yang tidak memiliki satu atau lebih atribut ini. Suatu hari nanti kita akan dapat membangun AI yang benar-benar luar biasa cerdas, tetapi pada saat yang sama tidak memiliki kemampuan untuk kesadaran diri, serta pemahaman subjektif dan sadar tentang dunia di sekitar kita. Shanahan mencatat bahwa penyatuan kecerdasan dan kesadaran diri di dalam mesin masih mungkin, tetapi kita tidak boleh melupakan fakta bahwa ini adalah dua konsep yang sepenuhnya terpisah satu sama lain.
Dan meskipun salah satu varian dari "Tes Turing", di mana sebuah mesin menunjukkan bahwa ia tidak berbeda dengan manusia, berhasil dilewati, ini tidak berarti bahwa mesin ini memiliki kesadaran. Dari sudut pandang (manusia) kita, kecerdasan buatan yang canggih bagi kita mungkin tampak sebagai sesuatu yang memiliki kesadaran diri, tetapi mesin itu sendiri akan menyadari dirinya sendiri tidak lebih dari batu atau kalkulator yang sama.
Kita tidak perlu takut dengan AI
Pada bulan Januari tahun ini, pendiri Facebook Mark Zuckerberg membagikan pemikirannya tentang bagaimana kita tidak perlu takut dengan AI, menambahkan bahwa teknologi ini dapat membawa manfaat luar biasa di seluruh dunia. Sebenarnya, dia hanya sebagian benar. Kami memang akan dapat meraup manfaat luar biasa dengan AI yang kami miliki (dari mobil tanpa pengemudi hingga penemuan baru dalam pengobatan), tetapi tidak ada yang dapat menjamin bahwa setiap penerapan AI akan membawa manfaat.
Sistem yang sangat cerdas, mungkin, akan mengetahui semua yang diperlukan untuk tugas tertentu (misalnya, menyelesaikan situasi keuangan global yang kompleks atau meretas sistem komputer musuh), tetapi di luar tugas yang sangat terspesialisasi, potensi AI masih belum jelas, dan karenanya berpotensi berbahaya. Misalnya, sistem DeepMind berspesialisasi dalam permainan go, tetapi tidak memiliki kemampuan (dan alasan) untuk menjelajahi area di luar dunia ini.
Flame virus komputer, yang tugasnya melacak negara-negara Timur Tengah
Banyak dari sistem ini dapat menimbulkan risiko keamanan yang serius. Contoh yang baik adalah virus Stuxnet yang kuat dan sangat licik, worm militer yang dibuat oleh AS dan militer Israel untuk menyusup dan menyerang pembangkit listrik tenaga nuklir Iran. Hanya program jahat ini yang entah bagaimana (secara tidak sengaja atau sengaja) menginfeksi salah satu pembangkit listrik tenaga nuklir Rusia.
Contoh lain adalah virus Flame, yang dikembangkan untuk spionase dunia maya yang ditargetkan di Timur Tengah. Mudah untuk membayangkan bagaimana "versi masa depan" dari Stuxnet dan virus Flame akan secara mandiri melampaui tugas yang diberikan dan akan dapat menginfeksi hampir seluruh infrastruktur suatu negara. Dan mereka akan melakukannya dengan sangat tenang dan tanpa disadari.
Superintelligence buatan akan terlalu pintar untuk membuat kesalahan
Richard Luzmore, ahli matematika, peneliti kecerdasan buatan dan pendiri perusahaan robotika Surfing Samurai Robots, percaya bahwa sebagian besar skenario kiamat AI terlihat tidak mungkin karena semuanya didasarkan pada apa yang suatu hari akan katakan AI, "Saya mengerti kehancuran itu orang adalah kesalahan dalam kode program saya, tetapi saya tetap harus mengikuti tugas."
Luzmore percaya bahwa jika AI berperilaku sesuai dengan skenario ini, AI akan menghadapi kontradiksi logis yang akan mempertanyakan seluruh basis pengetahuannya yang terkumpul dan pada akhirnya akan mengarah pada kesadarannya sendiri akan kebodohan dan ketidakgunaannya.
Peneliti juga percaya bahwa orang-orang yang mengatakan bahwa "AI hanya akan melakukan apa yang termasuk dalam programnya" adalah salah, seperti orang-orang yang pernah mengucapkan kata-kata yang sama, tetapi terhadap komputer., menyatakan bahwa sistem komputer tidak akan pernah memiliki universalitas.
Peter McIntyre dan Stuart Armstrong, keduanya di Institute for the Future of Humanity di Oxford University, pada gilirannya, tidak setuju dengan pendapat ini, dengan alasan bahwa perilaku AI akan menjadi wajib dan sebagian besar dibenarkan oleh kode program. Ilmuwan tidak percaya bahwa AI tidak akan pernah membuat kesalahan atau, sebaliknya, akan terlalu bodoh untuk memahami dengan tepat apa yang kita inginkan darinya.
"Menurut definisi, artificial superintelligence (ISI) adalah agen yang kecerdasannya akan berkali-kali melampaui pikiran terbaik umat manusia di hampir semua bidang," kata McIntyre.
"Dia pasti akan mengerti apa yang kita inginkan darinya."
McIntyre dan Armstrong percaya bahwa AI hanya akan melakukan tugas-tugas yang diprogramnya, tetapi jika entah bagaimana berkembang dengan sendirinya, kemungkinan besar, AI akan mencoba untuk mencari tahu seberapa besar tindakannya akan berbeda dari tugas manusia dan melekat di dalamnya. hukum.
McIntyre membandingkan masa depan manusia dengan tikus. Tikus memiliki naluri yang kuat untuk menemukan makanan dan tempat berteduh, tetapi tujuan mereka sering kali bertentangan dengan orang yang tidak ingin melihatnya di rumahnya.
"Seperti pengetahuan kita tentang tikus dan keinginan mereka, sistem superintelligence juga dapat mengetahui segala sesuatu tentang kita dan mengetahui apa yang kita inginkan, tetapi pada saat yang sama akan sama sekali tidak mempedulikan keinginan kita."
Solusi sederhana menghilangkan masalah kontrol AI
Seperti yang diperlihatkan dalam film "From the Machine", akan sangat sulit mengontrol AI, yang akan jauh lebih pintar dari kita
Jika kita berasumsi bahwa suatu saat kita akan menciptakan superintelligence yang lebih pintar dari manusia, maka kita harus menghadapi masalah serius, masalah kontrol. Ahli teori futuris dan kecerdasan buatan belum dapat menjelaskan bagaimana kita dapat mengontrol dan menahan ISI setelah penciptaannya. Juga tidak jelas bagaimana kita bisa memastikan bahwa dia akan ramah terhadap orang lain. Baru-baru ini, para peneliti di Institut Teknologi Georgia (AS) secara naif menyarankan agar AI dapat mempelajari dan menyerap nilai-nilai kemanusiaan dan pengetahuan tentang norma sosial hanya dengan membaca dongeng sederhana. Ya, ya, dongeng dan cerita anak-anak sederhana yang dibacakan orang tua untuk kita di masa kecil. Namun kenyataannya, semuanya akan menjadi jauh lebih rumit dari semua ini.
"Banyak yang disebut 'solusi' telah diajukan untuk masalah pengendalian kecerdasan buatan," kata Stuart Armstrong.
Salah satu contoh solusi tersebut adalah memprogram ISI sedemikian rupa sehingga ISI terus-menerus berusaha untuk menyenangkan atau menyenangkan seseorang. Alternatifnya adalah dengan mengintegrasikan konsep seperti cinta atau rasa hormat ke dalam kode sumbernya. Dan untuk menghindari perkembangan skenario seperti itu, yang menurutnya AI dapat menyederhanakan semua konsep ini dan memahami dunia ini melalui prisma konsep yang sangat disederhanakan ini, membaginya hanya menjadi hitam dan putih, ia dapat diprogram untuk memahami dan menerima keragaman intelektual, budaya, dan sosial.
Tiga hukum robotika Isaac Asimov sangat cocok dengan konsep fiksi, tetapi pada kenyataannya kita membutuhkan sesuatu yang lebih komprehensif untuk mengatasi masalah kontrol
Sayangnya, solusi ini terlalu sederhana dan terlihat seperti upaya untuk menyesuaikan semua kompleksitas suka dan tidak suka manusia dalam satu definisi atau konsep umum, atau upaya untuk menyesuaikan seluruh kompleksitas nilai-nilai manusia ke dalam satu kata, frase atau ide. Misalnya, cobalah menyesuaikan dalam kerangka ini definisi yang konsisten dan memadai untuk hal seperti "rasa hormat".
“Tentu saja, orang tidak boleh berpikir bahwa pilihan sederhana seperti itu sama sekali tidak berguna. Banyak dari mereka menawarkan alasan yang bagus untuk berpikir, dan mungkin merangsang pencarian solusi untuk masalah terakhir,”kata Armstrong.
"Tetapi kami tidak dapat hanya mengandalkan mereka tanpa pekerjaan yang lebih kompleks, tanpa penelitian yang jelas dan mencari konsekuensi dari penggunaan solusi tertentu."
Kami akan dihancurkan oleh superintelligence buatan
Tidak ada yang bisa menjamin bahwa AI suatu hari akan menghancurkan kita, sama seperti tidak ada yang bisa mengatakan dengan pasti bahwa kita tidak akan dapat menemukan cara untuk mengontrol dan menggunakan AI untuk tujuan kita sendiri. Seperti yang pernah dikatakan oleh pakar kecerdasan buatan Amerika Eliezer Yudkowski: "AI tidak dapat mencintai atau membenci Anda, tetapi Anda terbuat dari atom yang dapat digunakan untuk hal lain."
Filsuf Oxford Nick Bostrom dalam bukunya "Superintelligence: Ways, Dangers and Strategies" menulis bahwa suatu hari superintelligence sejati akan mampu mewujudkan dirinya sendiri, yang akan membuatnya lebih berbahaya daripada penemuan apa pun yang pernah dibuat oleh manusia. Pemikir modern terkemuka seperti Elon Musk, Bill Gates dan Stephen Hawking (banyak di antaranya percaya bahwa "AI bisa menjadi kesalahan terburuk dalam sejarah manusia") lebih cenderung setuju dengan pendapat ini dan sudah membunyikan alarm.
Peter McIntyer percaya bahwa untuk sebagian besar tugas yang dapat diatur oleh superintelligence, orang akan terlihat seperti penghubung tambahan.
“Suatu hari AI akan dapat menyimpulkan - dan harus dicatat bahwa AI akan menghitung ini dengan cukup benar - bahwa orang tidak ingin menggunakannya untuk memaksimalkan keuntungan perusahaan tertentu dengan biaya berapa pun, terlepas dari konsekuensinya bagi konsumen, lingkungan, dan makhluk hidup. Oleh karena itu, dia akan memiliki insentif yang sangat besar untuk mengembangkan rencana dan strategi, berkat itu seseorang tidak akan dapat mengganggu solusi tugas, dengan mengubahnya atau bahkan mematikan AI."
Menurut MacIntyer, jika tugas AI berlawanan dengan tugas kita, maka itu akan memberinya alasan bagus untuk tidak membiarkan kita menghentikannya. Dan jika kita menganggap bahwa tingkat kecerdasannya akan jauh lebih tinggi daripada kita, akan sangat, sangat sulit untuk menghentikannya, jika memungkinkan.
Namun, saat ini tidak mungkin untuk mengatakan apa pun dengan pasti, dan tidak ada yang dapat mengatakan bentuk AI mana yang harus kami tangani dan bagaimana hal itu dapat mengancam umat manusia. Seperti yang pernah dikatakan Elon Musk, AI sebenarnya dapat digunakan untuk mengontrol, melacak, dan mengontrol AI lainnya. Dan mungkin nilai-nilai kemanusiaan dan keramahan awal kepada orang-orang akan diperkenalkan di dalamnya.
Superintelligence buatan akan ramah
Filsuf Immanuel Kant percaya bahwa kecerdasan sangat terkait dengan prinsip-prinsip moralitas. Dalam karyanya Singularity: A Philosophical Analysis, ahli saraf David Chalmers mengambil ide terkenal Kant sebagai dasar dan mencoba menerapkannya untuk menganalisis pembentukan kecerdasan super buatan.
“Jika prinsip-prinsip yang dijelaskan dalam makalah ini benar, maka seiring dengan perkembangan AI yang tajam, diharapkan perkembangan prinsip-prinsip moral yang tajam. Perkembangan selanjutnya akan mengarah pada munculnya sistem ISI yang akan memiliki supermorale dan superintelligence. Oleh karena itu, kita harus mengharapkan hanya kualitas kebajikan di pihak mereka."
Yang benar adalah bahwa gagasan tentang AI tingkat lanjut dengan prinsip moral dan kebajikan yang luar biasa tidak dapat diterima. Seperti yang ditunjukkan Armstrong, dunia ini penuh dengan penjahat perang yang cerdas. Akal dan moralitas dalam diri seseorang, misalnya, tidak terhubung dengan cara apapun, oleh karena itu ilmuwan mempertanyakan bahwa hubungan semacam itu akan ada dalam bentuk kecerdasan lainnya.
“Orang pintar yang berperilaku tidak bermoral cenderung menciptakan lebih banyak masalah dan rasa sakit daripada rekan mereka yang kurang cerdas. Kecerdasan memberi mereka kemampuan untuk menjadi lebih canggih dalam perbuatan buruk daripada perbuatan baik,”kata Armstrong.
McIntyre menjelaskan bahwa kemampuan agen untuk menyelesaikan tugas tidak ada hubungannya dengan tugas itu.
“Kita akan sangat beruntung jika AI kita menjadi lebih bermoral, tidak hanya pintar. Mengandalkan keberuntungan tentu saja hal terakhir dalam masalah ini, tapi mungkin keberuntunganlah yang akan menentukan posisi kita di masa depan,”kata peneliti.
Risiko yang terkait dengan AI dan robotika sama
Ini adalah kesalahpahaman yang sangat umum digunakan di media dan juga di film laris Hollywood seperti The Terminator.
Jika superintelligence buatan seperti Skynet, misalnya, benar-benar ingin menghancurkan seluruh umat manusia, maka kecil kemungkinan dia akan menggunakan android paramiliter dengan senapan mesin di masing-masing tangan. Pemikirannya yang licik dan efisien akan memungkinkannya untuk memahami bahwa akan jauh lebih nyaman untuk menggunakan, katakanlah, jenis wabah biologis baru atau, misalnya, beberapa bencana teknologi nano. Atau mungkin dia hanya akan mengambil dan menghancurkan atmosfer planet kita. AI berpotensi berbahaya bukan hanya karena perkembangannya terkait erat dengan perkembangan robotika. Alasan bahaya potensial terletak pada metode dan sarana yang melaluinya ia dapat menyatakan kehadirannya kepada dunia.
AI yang ditampilkan dalam fiksi ilmiah mencerminkan masa depan kita
Tanpa ragu, selama bertahun-tahun, penulis dan penulis fiksi ilmiah telah menggunakan lingkungan fiksi ilmiah sebagai batu loncatan untuk berspekulasi tentang masa depan kita yang sebenarnya, tetapi penciptaan ISI yang sebenarnya dan konsekuensi nyata dari hal ini masih di luar wawasan pengetahuan kita yang sebenarnya. Selain itu, sifat AI yang artifisial dan tidak manusiawi seperti itu bahkan tidak memungkinkan kita untuk berasumsi dengan akurat apa sebenarnya AI ini.
Dalam sebagian besar karya sci-fi, AI sedekat mungkin dengan manusia.
“Di depan kita sebenarnya adalah spektrum dari jenis pikiran yang paling beragam. Bahkan jika kita hanya mengambil bentuk manusia. Misalnya, pikiran Anda jauh dari identik dengan pikiran tetangga Anda. Tapi perbandingan ini hanyalah setetes air di lautan dari semua kemungkinan keragaman pikiran yang mungkin ada,”kata McIntyre.
Kebanyakan fiksi ilmiah, tentu saja, dibuat terutama untuk menceritakan sebuah cerita, bukan untuk meyakinkan secara ilmiah mungkin. Jika sebaliknya (sains lebih penting daripada plot), maka tidak menarik untuk mengikuti karya-karya semacam itu.
“Bayangkan saja betapa membosankannya semua cerita ini, di mana AI, tanpa kesadaran diri, kemampuan untuk bersuka cita, cinta atau benci, menghancurkan semua orang secara praktis tanpa perlawanan untuk mencapai tujuannya, yang, omong-omong, mungkin juga tidak terlalu menarik. untuk pembaca atau penonton,”komentar Armstrong.
AI akan mengambil pekerjaan kita
Kemampuan AI untuk mengotomatiskan proses yang kami lakukan secara manual, dan potensinya untuk menghancurkan seluruh umat manusia bukanlah hal yang sama. Namun, menurut Martin Ford, penulis Rise of the Robots: Technology and the Threat of a Jobless Future, konsep-konsep ini sering kali dicoba untuk dibandingkan dan digabungkan menjadi satu kesatuan yang koheren. Tentu saja, sangat bagus bahwa kami mencoba mengantisipasi konsekuensi dari pembuatan AI sejauh ini, tetapi hanya jika upaya ini tidak mengalihkan perhatian kami dari masalah yang mungkin kami hadapi dalam beberapa dekade jika kami tidak melakukan apa pun. Dan salah satu masalah utama tersebut adalah otomatisasi massal.
Beberapa orang akan berpendapat bahwa salah satu tantangan kecerdasan buatan adalah menemukan cara untuk mengotomatiskan banyak pekerjaan, dari pekerjaan pabrik hingga pekerjaan kerah putih. Beberapa ahli memperkirakan bahwa setengah dari semua pekerjaan, setidaknya di AS, mungkin diotomatiskan dalam waktu dekat.
Tetapi ini tidak berarti sama sekali bahwa kami tidak akan dapat menerima perubahan seperti itu. Penting untuk dipahami bahwa keinginan untuk melepaskan diri dari stres fisik dan psikologis yang tidak perlu di tempat kerja sebenarnya telah menjadi impian spesies manusia kita sejak lama.
“Dalam beberapa dekade, AI memang akan menggantikan orang di banyak pekerjaan. Dan ini sebenarnya sangat bagus. Misalnya, mobil tanpa pengemudi akan menggantikan pengemudi truk, yang pada akhirnya tidak hanya akan menurunkan biaya pengiriman barang, tetapi juga menurunkan biaya barang itu sendiri. Jika Anda bekerja sebagai sopir truk, maka Anda, tentu saja, akan tetap ekstrim, tetapi orang lain dalam hal ini kemungkinan besar akan menerima kenaikan gaji. Dan semakin banyak uang ini dapat dihemat, semakin banyak uang ini dapat dibelanjakan untuk barang dan jasa lain yang akan digunakan orang di tempat kerja mereka."
Kemungkinan besar, kecerdasan buatan akan mencari cara baru untuk kesejahteraan dan memberi makan orang saat mereka melakukan hal lain. Kemajuan dalam pengembangan AI akan dibarengi dengan keberhasilan di bidang lain. Terutama di sektor manufaktur. Di masa depan, semua ini mungkin akan sangat menyederhanakan daripada mempersulit pemenuhan kebutuhan dasar kita.
