Hampir setiap orang yang menyelam sedikit ke dalam topik kecerdasan buatan sampai pada kesimpulan bahwa itu akan membawa kita ke kiamat yang berapi-api, atau ke utopia magis. Praktis tidak ada pilihan di antara keduanya. Tentu saja, ini sebagian disebabkan oleh fakta bahwa slogan-slogan seperti "Akhir itu sudah dekat!" atau "Utopia akan datang!" Tetapi tetap saja…
Sebagiannya bermuara pada bagaimana perasaan orang tentang perubahan, terutama yang besar. Milenialisme tidak ada hubungannya dengan menjadi milenial, lahir di tahun 90-an, dan mengingat serial TV Buffy the Vampire Slayer. Ini adalah gaya berpikir tentang masa depan yang dikaitkan dengan perasaan takdir yang tertanam dalam. Milenialisme adalah "pengharapan bahwa dunia akan dihancurkan dan digantikan oleh dunia yang sempurna dan bahwa seorang penebus yang akan membuang kejahatan dan menghibur orang benar akan datang."
Keyakinan milenial, karenanya, sangat erat menghubungkan ide-ide penghancuran dan penciptaan. Diantaranya adalah gagasan pergeseran besar, apokaliptik, seismik yang akan menghancurkan jalinan dunia lama dan membangun sesuatu yang sama sekali baru. Sistem kepercayaan serupa ada di banyak agama besar di dunia, dan bahkan di agama yang tidak terlalu ateis dan agnostik yang percaya pada teknologi.
Lihat, misalnya, bagaimana futuris menunggu singularitas teknologi. Menurut Ray Kurzweil, Singularity adalah ciptaan surga. Semua orang akan menjadi abadi berkat bioteknologi yang akan menyembuhkan penyakit kita; otak kita bisa diunggah ke cloud; ketidaksetaraan dan penderitaan akan lenyap sebagai fenomena. "Penghancuran dunia" sedang diganti dengan istilah favorit Lembah Silikon: gangguan, atau perubahan industri yang radikal. Dan seperti keyakinan milenial lainnya, pandangan akhir Anda bergantung pada apakah Anda sedang menunggu akhir dunia atau kelahiran utopia.
Ada banyak alasan bagus untuk bersikap skeptis tentang pemikiran seperti ini. Mungkin yang paling menarik dari ini adalah bahwa keyakinan milenial hanya mencerminkan sikap orang terhadap perubahan; lihat saja berapa banyak variasi dari kepercayaan ini yang telah tumbuh di dunia.
Keyakinan ini hadir dalam aspek teologi Kristen, meskipun menjadi populer dalam bentuk modernnya pada abad ke-19 dan ke-20. Ide-ide seperti Dukacita Abadi - penderitaan dan kesusahan selama bertahun-tahun - dan Pengangkatan, ketika orang benar akan dibangkitkan dan kejahatan dihukum. Setelah kehancuran ini, dunia akan dibangun kembali, atau orang-orang akan masuk surga.
Terlepas dari ateisme dogmatis, ada banyak kepercayaan serupa dalam Marxisme. Satu-satunya pertanyaan adalah terkait dengan sejarah. Sama seperti orang-orang percaya yang mencari tanda-tanda yang mengisyaratkan pemenuhan nubuatan, kaum Marxis mencari tanda-tanda bahwa kita sedang berada di tahap akhir kapitalisme. Mereka percaya bahwa masyarakat pasti akan merosot dan merosot sampai ke dasar - pada kenyataannya, seperti yang diyakini orang Kristen.
Menurut Marxisme, ketika eksploitasi kelas pekerja oleh orang kaya menjadi tidak berkelanjutan, kelas pekerja mengumpulkan dan menggulingkan penindas. "Kesedihan" diganti dengan "revolusi". Kadang-kadang tokoh revolusioner seperti Lenin atau Marx sendiri dielu-elukan sebagai mesias yang membawa Milenium lebih dekat; retorika mereka pasti berisi seruan untuk menghancurkan sistem lama, di atas reruntuhannya "kami akan membangun milik kami, kami akan membangun dunia baru." Pekerja yang benar akan mendapatkan haknya, dan borjuasi jahat akan dihancurkan.
Video promosi:
Bahkan dalam mitologi Norse ada elemen ini, seperti yang dicatat oleh James Hughes dalam esainya di buku Nick Bostrom, Global Catastrophic Risks. Di Ragnarok, baik manusia maupun dewa dikalahkan dalam pertempuran apokaliptik terakhir, tetapi karena ini semua sedikit suram, orang Skandinavia menambahkan gagasan tentang tanah baru tempat para penyintas akan hidup dalam harmoni.
Kiamat juga menjadi jejak budaya. Ambil contoh orang Mesir kuno dan keyakinan mereka tentang akhirat; penguasa dunia bawah, Osiris, menimbang hati manusia dengan sehelai bulu. Jika hati almarhum terlalu dibebani oleh pelanggaran, iblis akan memakannya dan harapan untuk kehidupan setelah kematian akan hilang.
Mungkin hal seperti ini akan terjadi selama masa singularitas. Seiring dengan kemajuan teknologi kita, dan oleh karena itu kekuatan kita, hati kita, hati orang-orang, akan terbebani. Jika mereka ternyata terlalu berat - dengan kebodohan, kesombongan, prasangka, kejahatan - kita akan gagal dalam ujian dan dihancurkan. Tetapi jika kita melalui dan keluar dari singularitas, surga menanti kita. Seperti sistem kepercayaan lainnya, tidak ada ruang untuk orang yang tidak percaya; seluruh masyarakat akan berubah secara radikal, suka atau tidak suka. Kekaguman teknologi.
Tampaknya setiap perkembangan besar menimbulkan respons seperti itu. Dan senjata nuklir juga. Entah itu akan menjadi pukulan terakhir dan kita akan menghancurkan diri kita sendiri, atau energi nuklir dapat digunakan untuk menciptakan dunia yang lebih baik. Pada hari-hari awal era nuklir, orang berbicara tentang listrik "terlalu murah untuk dihitung". Ilmuwan yang mengerjakan bom sering berpikir bahwa dengan kekuatan penghancur di tangan manusia, kita harus berkumpul dan bekerja sama sebagai satu spesies.
Ketika kita melihat jawaban yang sama, berulang kali, dalam keadaan yang berbeda, muncul di bidang yang berbeda, baik itu sains, agama atau politik, kita perlu mempertimbangkan bias manusia. Kami menyukai kepercayaan milenial, jadi ketika ide kecerdasan buatan yang melampaui kecerdasan manusia muncul, kami segera menerapkan pola yang sudah dikenal.
Kami tidak menyukai fakta. Kami tidak menyukai informasinya. Kami tidak rasional seperti yang kami pikirkan. Kami menciptakan narasi. Fisikawan mengamati dunia, dan kami menjalin pengamatan kami sendiri menjadi teori naratif, cerita tentang bola biliar kecil yang terbang kesana kemari dan bertabrakan satu sama lain, atau tentang ruang dan waktu yang membengkok, membengkok, dan mengembang. Sejarawan mencoba memberi makna pada aliran peristiwa yang tak ada habisnya. Kami menyukai cerita: cerita menggambarkan masa lalu kami, masa kini kami, dan cerita juga mempersiapkan kami untuk masa depan.
Narasi milenial itu indah dan memikat. Dia memberi Anda perubahan sosial. Dia bisa membenarkan penderitaan harian Anda jika Anda sedang berduka. Dia memberi Anda harapan bahwa hidup Anda penting dan bermakna. Ini memberi Anda perasaan tentang hal-hal yang berkembang ke arah tertentu, sesuai dengan aturan, dan bukan hanya dalam kekacauan. Dia berjanji bahwa orang benar akan diselamatkan dan bidat dihukum, bahkan jika ada penderitaan di jalan. Terakhir, narasi milenial menjanjikan surga di ujung terowongan.
Kita harus berhati-hati dengan narasi milenial ketika kita memikirkan perkembangan teknologi, singularitas, dan risiko eksistensial. Kami meneriakkan “serigala!” Banyak kali saat mereka tidak ada di sana. Mungkin bahkan saat ini dunia tidak berada di ambang bencana. Tentu saja, cerita ini tidak begitu menarik. Tentu saja, semua orang menginginkan akhir yang menawan.
Tapi gali lebih dalam dan Anda akan menemukan bahwa kepercayaan milenial tidak selalu paling menjanjikan, karena mereka mengeluarkan agen manusia dari persamaan. Kita harus percaya pada nuansa abu-abu dan meninggalkan kiamat yang menyeramkan dengan AI mata merah dan utopia yang luar biasa dengan AI yang mahakuasa yang memuja orang.
Ilya Khel
