Dua miliarder yang telah meraup keuntungan secara online, pemilik Tesla dan Space X, Elon Musk, dan pendiri Facebook Mark Zuckerberg, terlibat dalam perselisihan tentang bahaya kecerdasan buatan.
Kedua wirausahawan yakin bahwa pembuatan kecerdasan buatan (AI) lengkap adalah masalah dalam waktu dekat. Tapi Musk percaya bahwa sudah waktunya bagi umat manusia untuk berpikir tentang mengatur perkembangan di bidang ini, dan Zuckerberg yakin bahwa kecerdasan buatan akan meningkatkan kehidupan masyarakat secara signifikan.
Pada pertengahan Juli, Elon Musk berbicara dengan gubernur negara bagian AS dan mendesak pihak berwenang untuk memikirkan tentang memperkenalkan pembatasan legislatif pada pengembangan di bidang AI.
Zuckerberg menjawab pertanyaan tentang bahaya AI saat mengobrol dengan pengguna Facebook. Dia ditanya secara blak-blakan apakah menurutnya ketakutan Musk itu benar. Pembuat Facebook itu mengatakan dia tidak mengerti bagaimana Musk dapat dengan serius menyerukan perlambatan yang sedang berlangsung.
Dia menanggapi dengan tweet “Saya membicarakan hal ini dengan Mark. Dia memiliki pemahaman yang terbatas tentang masalah ini :
Present Tense sepenuhnya menerbitkan pidato kedua miliarder tersebut.
"Sampai kita melihat robot berjalan di jalanan dan membunuh orang, kita tidak akan tahu bagaimana harus bereaksi." Ketakutan Elon Musk
Video promosi:
Saya memiliki akses ke AI terbaru. Dan saya pikir orang-orang harus peduli dengan masalah ini. Saya tahu bunyinya, tetapi sampai orang melihat robot berjalan di jalanan dan membunuh orang, mereka tidak akan tahu bagaimana harus bereaksi.
Sepertinya tidak realistis. Saya rasa kita benar-benar perlu mengkhawatirkan AI. Dan saya pikir ini adalah kasus yang jarang terjadi ketika kita, dalam batasan legislatif kita, harus berada di depan kurva, dan tidak membuat keputusan nanti, ketika sudah terlambat.
Biasanya, pembatasan bekerja seperti ini: pada awalnya, banyak hal buruk terjadi, protes masyarakat, dan setelah bertahun-tahun ada badan pengatur untuk industri ini. Perusahaan yang tidak menyukai kontrol luar menolak, dan itu membutuhkan waktu yang sangat lama. Di masa lalu, hal ini telah menimbulkan akibat buruk, namun tidak menjadi ancaman mendasar bagi keberadaan umat manusia.
AI adalah risiko mendasar bagi keberadaan manusia. Dan ini adalah jenis risiko yang tidak pernah dimiliki oleh kecelakaan mobil, kecelakaan pesawat, atau obat-obatan bermasalah, atau makanan yang buruk. Mereka bukanlah ancaman. Mungkin itu untuk orang-orang tertentu, tapi itu bukan risiko bagi seluruh masyarakat.
AI adalah ancaman eksistensial mendasar bagi peradaban, dan menurut saya manusia tidak sepenuhnya menyadari hal ini. Ya, dibatasi itu tidak menyenangkan. Tetapi dalam industri otomotif kita dikendalikan oleh Departemen Perhubungan dan banyak lainnya. Dan setiap negara memiliki badan pengatur. Dalam industri luar angkasa, kami dikendalikan oleh Federal Aviation Administration. Tetapi jika Anda bertanya kepada orang biasa, "Hei, Anda ingin menyingkirkan manajemen penerbangan sipil, dan hanya berharap produsen tidak menghemat pesawat, karena keuntungan turun pada kuartal ini," orang itu akan berkata, "Tentu saja tidak." Kedengarannya biasa saja.
Saya pikir bahkan orang yang berpikiran sangat liberal masih akan berkata: "Mari kita perhatikan pabrikan pesawat, kita perlu memastikan bahwa mereka membuat pesawat yang bagus." Mobil bagus, semacam itu. Jadi regulator memiliki peran untuk dimainkan. Tentu saja, saya menentang kontrol ketat. Tapi saya pikir sebaiknya kita cepat-cepat menggunakan AI.
Tentu saja, [penemuan AI] ini akan mengakibatkan hilangnya pekerjaan, karena robot bisa melakukan segalanya lebih baik dari kita. Artinya, lebih baik dari kita semua. Iya. Saya tidak tahu apa yang harus saya lakukan. Ini masalah terburuk bagiku. Ya, sebenarnya saya yakin kita perlu kontrol negara, karena dengan begitu kita bisa menjamin keamanan publik.
Perusahaan sedang terburu-buru, mereka perlu punya waktu untuk membuat AI, jika tidak mereka akan menjadi tidak kompetitif. Jika pesaing Anda terburu-buru membuat AI, dan Anda tidak, dia akan menghancurkan Anda. Dan perusahaan berkata: "Kami tidak ingin mati, sepertinya kami juga perlu membuat AI."
Dan di sinilah seharusnya kontrol masuk: "Teman-teman, kalian semua harus memperlambat dan memastikan aman." Jika peninjau yakin bahwa itu aman, maka Anda dapat terus bekerja. Jika tidak, perlambat. Tetapi auditor harus melakukan ini untuk semua orang yang melakukannya, jika tidak pemegang saham akan berkata, “Hei, mengapa Anda tidak mengembangkan AI lebih cepat dari pesaing Anda? Itu akan diperlukan!"
Saya percaya bahwa ini adalah risiko terbesar yang kita ambil sebagai sebuah peradaban. Menurut saya peran negara adalah menjaga masyarakat dan memperhatikan apa yang mengancamnya. Karena itu ada batasan. Pertama, Anda perlu belajar sebanyak mungkin tentang hal ini untuk memahami sifat masalahnya, untuk mengamati kemajuan dan pencapaian luar biasa di bidang AI.
Tahun lalu, dalam permainan berjalan yang cukup sulit untuk dimenangkan, dan di mana orang mengira komputer tidak akan pernah mengalahkan pemain manusia terbaik, atau itu akan terjadi 20 tahun dari sekarang, tahun lalu AlphaGo, yang dibuat oleh DeepMind, perusahaan yang dibeli oleh Google mengalahkan pemain go terbaik di dunia. Dan sekarang dia bisa bermain dengan 150 pemain sekaligus dan mengalahkan mereka semua.
Ini adalah tingkat kemajuan yang mengesankan, dan akan semakin sering muncul. Robotika, misalnya. Ada robot yang belajar berjalan dari awal dalam hitungan jam. Lebih cepat dari spesies manapun. Tetapi yang paling berbahaya - dan ini yang paling sulit dipahami - karena ini bukanlah sesuatu yang bersifat fisik, ini adalah kecerdasan.
Tampaknya, apa yang dapat dilakukan kecerdasan [buatan] yang kuat di Web? Nah, misalnya, memulai perang. Misalnya, dengan membuat berita palsu, siaran pers dan alamat surat palsu, serta hanya memanipulasi informasi. Pena lebih kuat dari pada pedang.
Sebagai contoh - Saya ingin menekankan, menurut saya ini tidak benar-benar terjadi, saya mengatakan ini murni hipotesis - ingat bahwa pesawat Malaysia yang ditembak jatuh di perbatasan antara Rusia dan Ukraina? Ini telah sangat meningkatkan gesekan antara Rusia dan UE.
Bayangkan jika Anda memiliki kecerdasan buatan dan tujuannya adalah untuk memaksimalkan nilai portofolio saham, salah satu caranya adalah dengan membeli saham pertahanan, menjual saham konsumen, dan memulai perang.
Bagaimana dia bisa melakukannya? Retas Malaysia Airlines, server rute pesawat, plot rute di atas zona perang, lalu kirim pesan anonim bahwa "pesawat musuh sedang terbang di atas Anda."
"Semua teknologi dapat digunakan untuk kerugian dan kebaikan." Optimisme Mark Zuckerberg
Saya memiliki keyakinan yang cukup kuat tentang ini. Saya sangat optimis. Saya orang yang optimis secara umum. Saya pikir kita bisa menciptakan hal-hal yang membuat dunia menjadi tempat yang lebih baik, dan saya sangat optimis tentang AI. Saya pikir saya tidak mengerti orang-orang yang selalu skeptis dan terus-menerus terintimidasi dengan skenario akhir dunia yang akan segera terjadi ini. Menurut saya ini benar-benar sangat buruk dan tidak bertanggung jawab, karena dalam lima sampai sepuluh tahun ke depan, AI akan bisa memperbaiki dan meningkatkan kualitas hidup kita.
Jika Anda mengkhawatirkan keselamatan dan kesehatan orang, maka AI telah membantu mendiagnosis penyakit dengan lebih baik, dan memilih obat untuk orang tergantung pada penyakit mereka dan bagaimana mereka dapat disembuhkan dengan lebih baik. Banyak orang akan menerima perawatan kesehatan yang lebih baik dari sebelumnya.
Sedangkan untuk mobil self-driving, lebih aman daripada mobil yang dikendarai oleh orang. Itu hanya masalah waktu. Kecelakaan mobil tetap menjadi salah satu penyebab utama kematian. Dan jika mereka bisa dihilangkan dengan bantuan AI, itu akan sangat meningkatkan kehidupan masyarakat.
Ketika saya mendengar alasan, "Oh, Anda tahu, AI akan merugikan orang-orang di masa depan," Saya rasa memang, semua teknologi dapat digunakan untuk kerugian dan kebaikan. Dan Anda perlu berhati-hati saat membuat sesuatu, Anda perlu berhati-hati dan memikirkan bagaimana penerapannya.
Tapi ketika orang bersikeras untuk memperlambat proses AI, menurut saya itu sangat kontroversial. Sangat sulit bagi saya untuk memahami ini, karena jika Anda melawan AI, maka Anda melawan mesin yang lebih aman yang tidak akan mengalami kecelakaan, terhadap kemungkinan mendiagnosis penyakit dengan lebih baik. Dan saya tidak mengerti bagaimana beberapa orang bisa melakukannya tanpa licik. Jadi saya umumnya jauh lebih optimis tentang [penciptaan AI] ini daripada mungkin banyak orang.
