Bayangkan suatu hari seorang anak ajaib akan menemukan teknologi yang memungkinkan orang atau benda material melewati dinding, dan memasang petunjuk di Internet tentang cara membuat mesin ajaib dengan harga murah dari bahan rumah tangga yang tersedia secara umum. Bagaimana dunia akan berubah?
Banyak industri cenderung menjadi lebih produktif secara signifikan. Mampu berjalan menembus dinding daripada harus menggunakan pintu akan memudahkan orang untuk bergerak di sekitar kantor, memindahkan barang di gudang, dan melakukan tugas rumah tangga sehari-hari yang tak terhitung jumlahnya. Namun, konsekuensi negatifnya bisa lebih besar daripada yang positif. Menyimpan barang-barang berharga di bawah kunci dan kunci akan kehilangan semua makna. Siapapun dapat dengan mudah memasuki gudang, masuk ke brankas bank atau rumah.
Sebagian besar metode yang kami gunakan untuk melindungi properti pribadi melibatkan tembok dalam satu atau lain cara, jadi semuanya tidak akan berguna dalam semalam. Pencuri akan bertindak tanpa hukuman sampai masyarakat menemukan cara alternatif untuk mencegah kejahatan semacam itu. Keruntuhan ekonomi atau kekacauan sosial bisa jadi akibat perkembangan peristiwa semacam itu.
Hal di atas menggambarkan prinsip umum: inovasi teknologi tidak selalu bermanfaat bagi masyarakat, paling tidak dalam jangka pendek. Teknologi mampu menciptakan eksternalitas negatif, eksternalitas. Istilah ekonomi ini berarti kerugian yang ditimbulkan kepada pihak ketiga atau pihak ketiga. Jika eksternalitas negatif ini lebih besar daripada kegunaan teknologi itu sendiri, penemuan sebenarnya membuat dunia lebih buruk, bukan lebih baik, setidaknya untuk sementara.
Pembelajaran mesin, terutama variasi yang dikenal sebagai pembelajaran dalam, bisa dibilang merupakan terobosan teknologi terpanas di planet ini. Ini memberdayakan komputer untuk melakukan banyak tugas yang sebelumnya hanya dapat dilakukan oleh manusia: mengenali gambar, mengendarai mobil, memperdagangkan pasar saham, dan banyak lagi. Hal ini menimbulkan kecemasan pada beberapa orang bahwa pembelajaran mesin dapat membuat manusia menjadi tidak perlu dan tidak berguna di tempat kerja. Dan ini sebenarnya mungkin, tetapi ada bahaya yang jauh lebih serius dari pembelajaran mesin yang sejauh ini belum mendapat perhatian yang cukup. Intinya adalah jika mesin bisa belajar, maka mereka juga bisa belajar berbohong.
Orang zaman sekarang dapat memalsukan gambar seperti foto, tetapi ini adalah proses yang melelahkan dan rumit. Dan pemalsuan gambar suara atau video umumnya di luar kemampuan orang biasa. Namun tak lama kemudian, berkat pembelajaran mesin, kemungkinan besar Anda dapat dengan mudah membuat gambar video palsu yang dapat dipercaya dari wajah seseorang dan memberi kesan bahwa orang tersebut berbicara dengan suaranya sendiri. Sudah ada teknologi untuk menyelaraskan gerakan bibir, yang secara harfiah dapat memasukkan kata apa pun ke dalam mulut seseorang. Ini hanyalah puncak gunung es. Dalam waktu dekat, anak usia 12 tahun akan dapat membuat gambar politisi, pengusaha besar, kerabat, atau teman mereka di kamar tidur yang fotorealistik dan dapat dipercaya, dengan mengatakan semua yang dapat mereka bayangkan.
Ini dengan sendirinya memicu beberapa pelecehan yang nyata. Hoaks politik, yang disebut "berita palsu" atau "isian informasi", akan menyebar seperti api. Tentu saja, penipuan akan terdeteksi secepat mungkin - tidak ada teknologi digital yang bisa sebaik itu sehingga teknologi lain tidak akan dapat mendeteksi yang palsu. Tetapi ini hanya akan terjadi setelah ide yang merugikan telah merasuki pikiran orang-orang yang mempercayainya. Bayangkan sebuah video palsu dari kandidat presiden yang meneriakkan penghinaan rasial atau mengaku melakukan kejahatan serius.
Namun, ini baru permulaan. Bayangkan potensi untuk memanipulasi pasar saham. Misalkan seseorang mengedarkan video palsu di mana CEO Tesla Elon Musk mengakui bahwa mobil Tesla tidak aman. Video tersebut akan tersebar di internet dan saham perusahaan akan hancur. Segera setelah penemuan palsu, harga mereka akan pulih, namun, selama waktu ini, manipulator akan dapat menghasilkan banyak uang, bermain untuk mengurangi saham Tesla.
Video promosi:
Dan ini jauh dari skenario yang paling ekstrim. Bayangkan orang iseng seperti itu membuat video palsu realistis dari Presiden Donald Trump yang menyatakan bahwa serangan terhadap target Korea Utara sudah dekat, dan kemudian memposting video itu di mana orang Korea Utara dapat melihatnya. Seberapa besar kemungkinan pemimpin Korea Utara akan menyadari bahwa ini palsu sebelum mereka harus memutuskan untuk memulai perang?
Mereka yang cenderung mempertimbangkan skenario ekstrem seperti alarmis akan menunjukkan bahwa setiap pemalsuan dapat dideteksi, karena teknologi pembelajaran mesin yang sama akan digunakan untuk mendeteksinya seperti untuk pembuatan. Tetapi ini tidak berarti bahwa kita tidak dalam bahaya berakhir di dunia yang dipenuhi dengan barang palsu di mana-mana. Setelah pemalsuan menjadi cukup dapat dipercaya sehingga orang tidak dapat mendeteksinya sendiri, kita akan selamanya kehilangan kepercayaan pada apa yang kita lihat dan dengar. Alih-alih mempercayai indra kita sendiri, kita akan dipaksa untuk mengandalkan algoritma yang digunakan untuk mendeteksi pemalsuan dan otentikasi informasi. Sepanjang evolusi, kita telah belajar mempercayai perasaan kita sendiri,dan transfer fungsi ini ke kecerdasan mesin mungkin terlalu drastis bagi kebanyakan orang.
Ini bisa menjadi berita buruk bagi perekonomian. Jaringan bisnis dan perdagangan dibangun di atas kepercayaan dan komunikasi. Jika pembelajaran mesin melemparkan badai ilusi yang tak ada habisnya dan pemalsuan ke ranah informasi publik suatu hari nanti, tembok yang diciptakan oleh evolusi untuk membedakan kenyataan dari fiksi akan runtuh. Dalam hal ini, tingkat kepercayaan pada masyarakat dapat turun dengan cepat, yang tidak akan melambat untuk berdampak negatif pada kesejahteraan global umat manusia.
Untuk alasan ini, pemerintah mungkin harus mengambil beberapa langkah untuk memastikan bahwa pemalsuan digital dihukum berat. Sayangnya, pemerintahan saat ini sepertinya tidak akan mengambil langkah seperti itu karena menyukai berita partai sempit. Dan pemerintah seperti Rusia cenderung cenderung tidak mengekang praktik ini. Pada akhirnya, kombinasi dari tata kelola yang buruk dengan teknologi baru yang kuat menimbulkan ancaman yang jauh lebih besar bagi masyarakat manusia daripada teknologi itu sendiri.
Oleh Noah Smith - Kolumnis Bloomberg News
Igor Abramov
