Hampir semua orang yang telah menyelami topik kecerdasan buatan bahkan sedikit harus sampai pada kesimpulan bahwa kecerdasan buatan akan membawa kita ke kiamat yang mengerikan, atau langsung ke utopia yang luar biasa. Dan praktis tidak ada opsi perantara. Tentu saja, ini sebagian ditentukan oleh fakta bahwa slogan-slogan keras seperti "Akhir sudah dekat!" atau, misalnya, "Utopia akan datang!" Tetapi tetap saja…
Ini sebagian bermuara pada bagaimana perasaan orang tentang perubahan, terutama perubahan besar. Milenialisme tidak ada hubungannya dengan terlahir di tahun 90-an, menjadi "milenial" dan mengingat seri tentang Buffy sang pemenang vampir. Ini adalah gaya berpikir tentang masa depan yang dikaitkan dengan perasaan takdir yang tertanam dalam. Milenialisme adalah "pengharapan bahwa dunia kita akan dihancurkan dan digantikan oleh dunia yang sempurna dan bahwa seorang penebus akan muncul yang akan mengusir semua kejahatan dan mampu menghibur orang-orang yang saleh."
Karenanya, kepercayaan kaum milenial sangat erat kaitannya dengan gagasan penciptaan dan kehancuran. Diantaranya - ide pergeseran apokaliptik, besar, seismik yang dapat menghancurkan jalinan dunia lama dan membangun sesuatu yang sama sekali baru. Sistem kepercayaan serupa ada di banyak agama besar dunia, dan bahkan di agama yang tidak terlalu agnostik dan ateis, yang percaya pada teknologi daripada pada esensi ketuhanan.
Pertimbangkan, misalnya, bagaimana futuris mengantisipasi singularitas teknologi. Menurut Ray Kurzweil, singularitas itu mirip dengan penciptaan surga. Setiap orang akan abadi, karena akan muncul bioteknologi yang dapat menyembuhkan penyakit kita; dan otak kita bisa diunggah ke cloud; penderitaan dan ketidaksetaraan akan hilang sebagai fenomena. "Penghancuran dunia" sedang diganti dengan istilah favorit Lembah Silikon: gangguan, yang merupakan perubahan radikal dalam industri. Dan, seperti halnya keyakinan milenial lainnya, pandangan akhir Anda sangat bergantung pada apa yang Anda harapkan: kelahiran utopia atau akhir dunia.
Ada banyak alasan bagus untuk bersikap skeptis tentang pemikiran seperti ini. Mungkin yang paling menarik dari alasan ini adalah bahwa semua kepercayaan milenial mencerminkan sikap orang terhadap perubahan; lihat saja berapa banyak variasi dari kepercayaan ini yang telah tumbuh di dunia.
Keyakinan ini ditemukan dalam aspek teologi Kristen, meskipun menjadi populer dalam bentuk modern pada abad kesembilan belas dan kedua puluh. Ide-ide seperti Dukacita Abadi, tahun-tahun kesusahan dan penderitaan, dan Pengangkatan, ketika orang benar akan dibangkitkan dan kejahatan akan dihukum. Setelah semua kehancuran ini, dunia akan diciptakan kembali, atau orang-orang akan masuk surga.
Terlepas dari ateisme dogmatis, ada banyak kepercayaan serupa dalam Marxisme juga. Satu-satunya pertanyaan adalah terkait dengan sejarah. Sama seperti orang-orang percaya yang mencari sinyal yang dapat mengisyaratkan pemenuhan semua nubuatan, kaum Marxis mencari tanda-tanda bahwa kita berada di tahap akhir kapitalisme. Mereka percaya bahwa masyarakat sedang merendahkan dan mau tidak mau akan merosot sampai ke dasar - pada kenyataannya, seperti yang juga dipikirkan oleh orang Kristen.
Seperti pendapat Marxisme, ketika eksploitasi kelas pekerja oleh orang kaya tidak stabil, kelas pekerja mengumpulkan dan menggulingkan penindas. "Kesedihan" diganti dengan "revolusi". Kadang-kadang tokoh revolusioner seperti Lenin atau Marx sendiri dielu-elukan sebagai mesias yang membawa Milenium lebih dekat; retorika mereka selalu berisi seruan untuk menghancurkan sistem lama, di atas reruntuhannya "kami akan membangun milik kami, kami akan membangun dunia baru." Pekerja yang saleh akan mendapatkan apa yang layak mereka dapatkan, dan borjuasi jahat akan dihancurkan.
Video promosi:
Bahkan dalam mitologi Norse ada elemennya, seperti yang dicatat oleh James Hughes dalam esainya di buku Nick Bostrom, Global Catastrophic Risks. Di Ragnarok, baik manusia maupun dewa dikalahkan dalam pertempuran apokaliptik terakhir, tetapi karena ini semua sedikit suram, orang Skandinavia menambahkan gagasan tentang tanah baru tempat para penyintas akan hidup dalam harmoni.
Kiamat juga menjadi jejak budaya. Ambil contoh orang Mesir kuno dan keyakinan mereka tentang akhirat; penguasa dunia bawah, Osiris, menimbang hati manusia dengan sehelai bulu. Jika hati almarhum terlalu dibebani oleh pelanggaran, iblis akan memakannya dan harapan untuk kehidupan setelah kematian akan hilang.
Mungkin hal serupa akan terjadi selama singularitas. Seiring dengan kemajuan teknologi kita, dan oleh karena itu kekuatan kita, hati kita, hati orang-orang, akan terbebani. Jika mereka ternyata terlalu berat - dengan kebodohan, kesombongan, prasangka, kejahatan - kita akan gagal dalam ujian dan dihancurkan. Tetapi jika kita melalui dan keluar dari singularitas, surga menanti kita. Seperti sistem kepercayaan lainnya, tidak ada ruang untuk orang yang tidak percaya; seluruh masyarakat akan berubah secara radikal, suka atau tidak suka. Kekaguman teknologi.
Setiap perkembangan besar tampaknya memicu respons serupa. Dan senjata nuklir juga. Entah itu akan menjadi pukulan terakhir dan kita akan menghancurkan diri kita sendiri, atau energi nuklir dapat digunakan untuk menciptakan dunia yang lebih baik. Pada hari-hari awal era nuklir, orang berbicara tentang listrik "terlalu murah untuk dihitung". Para ilmuwan yang mengerjakan bom sering berpikir bahwa dengan kekuatan penghancur di tangan manusia, kita harus berkumpul dan bekerja sama sebagai satu spesies.
Ketika kita melihat jawaban yang sama, berulang kali, dalam keadaan yang berbeda, muncul di bidang yang berbeda, baik itu sains, politik atau agama, kita perlu mempertimbangkan bias manusia. Kami menyukai kepercayaan milenial, jadi ketika ide kecerdasan buatan yang melampaui kecerdasan manusia muncul, kami segera menerapkan pola yang sudah dikenal.
Kami tidak menyukai fakta. Kami tidak menyukai informasinya. Kami tidak rasional seperti yang kami pikirkan. Kami menciptakan narasi. Fisikawan mengamati dunia, dan kami menjalin pengamatan kami sendiri menjadi teori naratif, cerita tentang bola biliar kecil yang terbang kesana kemari dan bertabrakan satu sama lain, atau tentang ruang dan waktu yang membengkok, membengkok, dan mengembang. Sejarawan mencoba memberi makna pada aliran peristiwa yang tak ada habisnya. Kami menyukai cerita: cerita menggambarkan masa lalu kami, masa kini kami, dan cerita juga mempersiapkan kami untuk masa depan.
Narasi milenial sangat indah dan memikat. Dia memberi Anda perubahan sosial. Dia bisa membenarkan penderitaan harian Anda jika Anda sedang berduka. Dia memberi Anda harapan bahwa hidup Anda penting dan bermakna. Ini memberi Anda perasaan tentang hal-hal yang berkembang ke arah tertentu, sesuai dengan aturan, dan bukan hanya dalam kekacauan. Dia berjanji bahwa orang benar akan diselamatkan dan bidat dihukum, bahkan jika ada penderitaan di jalan. Terakhir, narasi milenial menjanjikan surga di ujung terowongan.
Kita perlu berhati-hati dengan narasi milenial ketika kita memikirkan perkembangan teknologi, singularitas, dan risiko eksistensial. Kami meneriakkan “serigala!” Banyak kali saat mereka tidak ada di sana. Mungkin bahkan saat ini dunia tidak berada di ambang bencana. Tentu saja, cerita ini tidak begitu menarik. Tentu saja, semua orang menginginkan akhir yang menawan.
Tapi gali lebih dalam dan Anda akan menemukan bahwa kepercayaan milenial tidak selalu paling menjanjikan, karena mereka mengeluarkan agen manusia dari persamaan. Kita harus percaya pada nuansa abu-abu dan meninggalkan kiamat yang menyeramkan dengan AI mata merah dan utopia yang luar biasa dengan AI yang mahakuasa yang memuja orang.
