Bayangkan pemimpin dunia yang paling keji, paling kejam, sinis, dan licik. Sekarang bayangkan bahwa orang ini bukanlah orang, tetapi jaringan jutaan komputer di seluruh dunia. Dan diktator digital ini memiliki akses instan ke informasi terdokumentasi terkecil sekalipun tentang setiap orang yang hidup atau pernah hidup di Bumi. Dan dia juga dapat melakukan jutaan kalkulasi dalam sekejap, mengendalikan ekonomi dunia, semua sistem bersenjata yang terkomputerisasi dan, yang terburuk, memiliki keabadian dalam satu bentuk atau lainnya.
Munculnya diktator digital yang luar biasa, menurut pendiri Tesla dan SpaceX Elon Musk, adalah salah satu skenario tergelap masa depan umat manusia, jika perkembangan kecerdasan buatan berlanjut tanpa pengawasan regulasi yang serius.
“Sangat jelas bahwa kami bergerak cepat menuju kemunculan superintelligence digital yang akan melampaui manusia mana pun,” kata Elon Musk dalam film dokumenter baru Do You Trust This Computer? ("Do You Believe This Computer?") Disutradarai oleh Chris Payne, yang juga menyutradarai film dokumenter "Who Killed The Electric Car?" ("Siapa yang membunuh mobil listrik?").
"Jika satu perusahaan atau sekelompok kecil orang dapat menciptakan superintelligence digital seperti dewa, itu akan mengambil alih dunia."
Sejarah manusia berisi banyak contoh individu yang mencoba menaklukkan seluruh dunia pada satu waktu. Alexander Agung, Charlemagne, Napoleon, Hitler hanyalah beberapa nama di daftar ini. Namun, menurut Musk, kecerdasan buatan otoriter akan memiliki satu keunggulan mengerikan atas semua orang ini.
“Setiap orang, bahkan diktator yang paling kejam dan menjijikkan, dipersatukan oleh satu hal - mereka manusia. Namun, bagi AI tidak akan ada yang namanya kematian sama sekali. Dia akan bisa hidup selamanya. Orang tidak akan punya tempat untuk bersembunyi dari kejahatan seperti itu,”kata Musk.
Menurut Musk yang sama, diktator AI hipotetis ini bahkan tidak perlu benar-benar jahat untuk menimbulkan bahaya bagi seluruh umat manusia.
“Jika AI memiliki tugas tertentu dan berkembang sehingga umat manusia akan menghalangi penyelesaian tugas ini, maka AI hanya akan menghancurkannya, sebagai hal yang biasa. Tanpa ragu-ragu dan siksaan moral. Ini seperti membangun jalan, di jalan yang kebetulan ada sarang semut. Kami tidak membenci semut, kami hanya membangun jalan. Selamat tinggal di sarang semut,”tambah Musk.
Video promosi:
Nikolay Khizhnyak
