Terbawa oleh hype tentang "krisis" yang dihadapi umat manusia saat ini, kita melupakan sejumlah besar generasi yang, kami harap, akan datang menggantikan kami. Kami tidak berbicara tentang orang-orang yang akan hidup 200 tahun setelah kita, tetapi tentang mereka yang akan hidup seribu atau 10 ribu tahun setelah kita.
Saya menggunakan kata "harapan" karena kita dihadapkan pada risiko yang disebut eksistensial dan dapat menghancurkan umat manusia. Risiko-risiko ini tidak hanya terkait dengan bencana besar, tetapi dengan bencana yang dapat mengakhiri sejarah.
Namun, tidak semua orang mengabaikan masa depan yang jauh. Kaum mistik seperti Nostradamus secara teratur mencoba menentukan tanggal akhir dunia. H. G. Wells berusaha mengembangkan ilmu prediksi dan dikenal telah menggambarkan masa depan umat manusia di The Time Machine. Penulis lain telah membuat versi lain dari masa depan yang jauh untuk memperingatkan, menghibur, atau bermimpi.
Tetapi bahkan jika semua pionir dan futuris ini tidak memikirkan masa depan umat manusia, hasilnya akan tetap sama. Tidak banyak yang bisa dilakukan manusia sebelumnya untuk menyelamatkan kita dari krisis eksistensial, atau bahkan menyebabkannya.
Hari ini kami berada dalam posisi yang lebih istimewa. Aktivitas manusia secara bertahap membentuk masa depan planet kita. Meskipun kita masih jauh dari pengendalian bencana, kita sudah mengembangkan teknologi yang dapat mengurangi konsekuensinya, atau setidaknya melakukan sesuatu untuk itu.
Masa depan tidak sempurna
Namun, risiko ini masih belum dipahami dengan baik. Ada ketidakberdayaan dan fatalisme tentang masalah-masalah yang terdaftar. Orang-orang telah berbicara tentang kiamat selama ribuan tahun, tetapi hanya sedikit yang mencoba mencegahnya. Selain itu, manusia tidak begitu kuat dalam hal masalah yang belum muncul (terutama karena dampak heuristik ketersediaan) - kecenderungan untuk melebih-lebihkan kemungkinan peristiwa tersebut, contoh yang sudah kita kenal, dan meremehkan peristiwa yang kita alami. kami tidak dapat langsung mengingatnya).
Video promosi:
Jika umat manusia tidak ada lagi, maka kerugian semacam ini setidaknya akan setara dengan hilangnya semua individu yang hidup, serta runtuhnya semua tujuan mereka. Namun, pada kenyataannya, kerugiannya cenderung jauh lebih besar. Hilangnya seseorang berarti hilangnya makna yang diciptakan oleh generasi sebelumnya, hilangnya nyawa semua generasi mendatang (dan jumlah kehidupan masa depan bisa sangat besar), serta semua nilai yang mungkin bisa mereka ciptakan.
Jika kesadaran dan nalar sudah tidak ada lagi, ini mungkin berarti bahwa nilai itu sendiri tidak ada lagi di alam semesta. Ini adalah alasan moral yang sangat baik untuk bekerja tanpa lelah untuk mencegah ancaman yang ada. Dan di jalan ini kita tidak boleh membuat satu kesalahan pun.
Karena itu, saya telah memilih lima ancaman paling serius bagi keberadaan manusia. Namun, beberapa keadaan tambahan harus dipertimbangkan, karena daftar ini belum final.
Selama beberapa abad terakhir, kami telah menemukan atau menciptakan risiko eksistensial baru untuk diri kami sendiri: pada awal 1970-an, gunung api super ditemukan, dan sebelum proyek Manhattan, perang nuklir tidak mungkin dilakukan. Oleh karena itu, kita harus mengharapkan ancaman lain muncul. Selain itu, beberapa risiko yang tampaknya serius dewasa ini mungkin hilang seiring dengan bertambahnya pengetahuan. Kemungkinan kejadian tertentu juga berubah seiring waktu. Terkadang hal ini terjadi karena kami prihatin tentang risiko yang ada dan sedang menangani penyebabnya.
Akhirnya, fakta bahwa sesuatu itu mungkin dan berpotensi berisiko tidak berarti hal itu patut dikhawatirkan. Ada risiko yang tidak dapat kita lakukan sama sekali - misalnya, fluks sinar gamma yang timbul dari ledakan galaksi. Tetapi jika kita menemukan bahwa kita mampu melakukan sesuatu, maka prioritas berubah. Jadi, misalnya, dengan membaiknya kondisi sanitasi, munculnya vaksin dan antibiotik, wabah penyakit mulai dianggap bukan sebagai manifestasi dari hukuman ilahi, tetapi sebagai akibat dari kondisi perawatan kesehatan yang buruk.
1. Perang nuklir
Sementara hanya dua bom atom yang telah digunakan sejauh ini - di Hiroshima dan Nagasaki selama Perang Dunia II - dan persediaan telah menyusut dari puncak Perang Dingin mereka, akan keliru untuk berpikir bahwa perang nuklir tidak mungkin. Faktanya, dia sepertinya tidak luar biasa.
Krisis misil Kuba hampir saja menjadi krisis nuklir. Jika kita melanjutkan dari asumsi bahwa krisis seperti itu terjadi setiap 69 tahun dan ada satu dari tiga kemungkinan bahwa hal itu dapat menyebabkan pecahnya perang nuklir, maka kemungkinan bencana tersebut meningkat dan koefisien yang sesuai akan menjadi 1 dalam 200 per tahun.
Lebih buruk lagi, Krisis Rudal Kuba hanyalah kasus paling terkenal. Sejarah pencegahan nuklir Soviet-Amerika penuh dengan situasi krisis dan kesalahan berbahaya. Probabilitas sebenarnya tidak lagi bergantung pada ketegangan internasional, namun probabilitas konflik nuklir tidak mungkin lebih rendah dari koefisien 1 dalam 1000 per tahun.
Perang nuklir skala penuh antara negara-negara besar akan menyebabkan kematian ratusan juta orang secara langsung pada saat terjadi pertukaran serangan atau sebagai akibat dari akibatnya - ini akan menjadi bencana yang tidak terpikirkan. Namun, untuk risiko eksistensial, ini masih belum cukup.
Hal yang sama harus dikatakan tentang risiko yang terkait dengan konsekuensi ledakan nuklir - mereka sering kali dilebih-lebihkan. Secara lokal mereka mematikan, tetapi secara global mereka adalah masalah yang relatif terbatas. Bom kobalt telah diusulkan sebagai senjata kiamat hipotetis yang mampu menghancurkan segalanya sebagai akibat dari konsekuensi yang terkait dengan penggunaannya, tetapi dalam praktiknya mereka sangat sulit untuk dibuat dan mahal. Dan penciptaan mereka, pada kenyataannya, tidak mungkin.
Ancaman sebenarnya adalah musim dingin nuklir - yaitu, partikel jelaga yang dapat naik ke stratosfer dan dengan demikian menyebabkan penurunan suhu dan dehidrasi planet dalam jangka panjang. Simulasi iklim saat ini menunjukkan bahwa hal ini membuat tidak mungkin untuk bertani di sebagian besar planet ini selama bertahun-tahun.
Jika skenario ini menjadi kenyataan, miliaran orang akan mati kelaparan, dan sejumlah kecil orang yang selamat akan terpapar pada ancaman lain, termasuk penyakit. Ketidakpastian utama adalah bagaimana partikel jelaga yang naik ke langit akan berperilaku: tergantung pada komposisinya, hasilnya bisa berbeda, dan sejauh ini kami tidak memiliki cara yang dapat diandalkan untuk mengukur konsekuensi semacam ini.
2. Pandemi yang disebabkan oleh bioteknologi
Pandemi alami telah menyebabkan lebih banyak kematian daripada perang. Namun, pandemi alami kemungkinan tidak menimbulkan ancaman eksistensial. Biasanya ada orang yang kebal terhadap patogen, dan keturunan yang selamat menjadi lebih terlindungi.
Evolusi juga tidak terlalu mendukung parasit yang menghancurkan organisme inang, itulah sebabnya sifilis, ketika menyebar di Eropa, telah berubah dari pembunuh ganas dan penyakit kronis.
Sayangnya, kita sendiri kini mampu membuat penyakit menjadi lebih merusak. Salah satu contoh paling terkenal adalah bagaimana dimasukkannya gen tambahan dalam mousepox - varian tikus dari cacar - membuatnya jauh lebih mengancam jiwa dan mampu menginfeksi individu yang sudah divaksinasi. Penelitian terbaru tentang flu burung telah menunjukkan bahwa penularan penyakit dapat dengan sengaja ditingkatkan.
Saat ini, risiko seseorang dengan sengaja menyebarkan beberapa jenis infeksi berbahaya dapat diabaikan. Namun, seiring dengan kemajuan bioteknologi dan menjadi lebih murah, semakin banyak kelompok yang mampu membuat penyakit menjadi lebih berbahaya.
Sebagian besar pekerjaan di bidang senjata biologi dilakukan oleh negara-negara yang ingin menguasai sesuatu, karena perusakan kemanusiaan tidak berguna secara militer. Namun, akan selalu ada orang yang datang untuk melakukan beberapa hal hanya karena mereka mampu melakukannya. Orang lain mungkin memiliki tujuan yang lebih luhur.
Misalnya, anggota kelompok agama Aum Shinrikyo mencoba untuk mempercepat terjadinya kiamat melalui penggunaan senjata biologis, tidak hanya melalui serangan yang lebih berhasil menggunakan gas saraf. Beberapa orang percaya bahwa situasi di Bumi akan membaik jika tidak ada lagi manusia di atasnya, dan seterusnya.
Banyaknya kematian akibat penggunaan senjata biologi dan penyakit epidemik membuat orang berpikir bahwa mereka berkembang menurut hukum yang berlaku - dalam banyak kasus hanya ada sedikit korban, tetapi dalam sejumlah kecil kasus ada banyak korban. Mengingat data yang tersedia saat ini, risiko pandemi global dari bioterorisme tampaknya kecil.
Tetapi ini hanya berlaku untuk bioterorisme: pemerintah dengan bantuan senjata biologis membunuh lebih banyak orang secara signifikan daripada bioteroris (sekitar 400 ribu orang menjadi korban program perang biologis Jepang selama Perang Dunia II). Teknologi menjadi lebih kuat, dan karenanya menciptakan lebih banyak patogen di masa depan akan lebih mudah.
3. Superintelligence
Kecerdasan sangat kuat. Peningkatan marjinal dalam pemecahan masalah dan koordinasi kelompok adalah alasan mengapa spesies monyet lainnya tidak bekerja. Saat ini, keberadaan mereka bergantung pada keputusan yang dibuat oleh orang tersebut, dan bukan pada apa yang mereka lakukan.
Menjadi pintar adalah keunggulan nyata bagi orang dan organisasi, dan oleh karena itu banyak upaya dilakukan untuk meningkatkan kecerdasan individu dan kolektif kita, dari obat-obatan untuk meningkatkan kemampuan kognitif hingga mengembangkan program yang terkait dengan kecerdasan buatan.
Masalahnya adalah bahwa sistem cerdas bekerja dengan baik dalam mencapai tujuan mereka, tetapi jika tujuan ini didefinisikan dengan buruk, maka mereka memiliki kemampuan untuk menggunakan kekuatan mereka untuk mencapai tujuan bencana mereka dengan cara yang cerdas. Tidak ada alasan untuk berpikir bahwa intelek itu sendiri mampu membuat sesuatu atau seseorang bertindak dengan benar dan bermoral. Faktanya, ada kemungkinan bahwa beberapa jenis sistem superintelligent akan menentang aturan moral bahkan jika itu mungkin.
Yang lebih meresahkan adalah kenyataan bahwa ketika kita mencoba menjelaskan berbagai hal kepada kecerdasan buatan, kita dihadapkan pada masalah praktis dan filosofis yang mendalam. Nilai-nilai kemanusiaan adalah masalah yang kabur dan kompleks yang belum dapat kita definisikan dengan baik, dan bahkan jika kita bisa, kita mungkin tidak memahami implikasi penuh dari apa yang kita coba ciptakan.
Kecerdasan berbasis perangkat lunak dapat menutup kesenjangan dengan manusia dengan sangat cepat dan kemampuan mesin dapat menjadi berbahaya. Masalahnya adalah bahwa kecerdasan buatan dapat dikaitkan dengan kecerdasan biologis dalam berbagai cara: ia dapat berjalan lebih cepat di komputer yang lebih cepat, sebagian darinya dapat ditemukan di lebih banyak komputer, beberapa versinya dapat diuji dan diperbarui dengan cepat, dan ada kemungkinan untuk memperkenalkan algoritme baru yang dapat meningkatkan kinerja secara dramatis.
Saat ini, banyak yang berasumsi bahwa "terobosan dalam kecerdasan" mungkin terjadi jika program itu sendiri memiliki kapasitas yang memadai untuk menghasilkan program yang lebih baik. Jika lompatan semacam ini terjadi, maka akan ada perbedaan besar antara sistem pintar (atau orang yang memberi tahu apa yang harus dilakukan) dan bagian dunia lainnya. Situasi seperti itu dapat menyebabkan bencana jika tujuan tidak ditetapkan dengan benar.
Hal yang tidak biasa tentang superintelligence adalah kita tidak tahu apakah terobosan yang cepat dan kuat dimungkinkan dalam pengembangan kecerdasan: mungkin peradaban kita saat ini secara keseluruhan sedang meningkatkan dirinya sendiri pada tingkat tertinggi. Namun, ada cukup alasan untuk percaya bahwa beberapa teknologi mampu memajukan hal-hal tertentu jauh lebih cepat daripada kemungkinan peningkatan kendali mereka oleh masyarakat modern.
Selain itu, kami belum dapat memahami betapa berbahayanya beberapa bentuk superintelligence dan bagaimana strategi mitigasi akan bekerja. Sangat sulit untuk berspekulasi tentang teknologi masa depan yang belum kita miliki, atau kecerdasan yang melampaui apa yang kita miliki. Di antara risiko yang terdaftar, justru inilah yang memiliki peluang paling besar untuk menjadi benar-benar berskala besar atau tetap hanya fatamorgana.
Secara umum, bidang ini belum cukup dipelajari, yang mengejutkan. Bahkan pada tahun 1950-an dan 1960-an, orang-orang yakin sepenuhnya bahwa superintelligence dapat diciptakan "dalam satu generasi seumur hidup", tetapi pada saat itu, masalah keamanan tidak mendapat perhatian. Mungkin orang-orang pada waktu itu tidak menganggap serius prediksi mereka, dan, kemungkinan besar, menganggapnya sebagai masalah di masa depan yang jauh.
4. Nanoteknologi
Nanoteknologi adalah tentang mengendalikan materi dengan presisi atom atau molekuler. Itu sendiri, tidak berbahaya dan, sebaliknya, bisa menjadi kabar baik untuk banyak kegunaan. Masalahnya adalah, seperti dalam bioteknologi, peluang yang berkembang juga meningkatkan potensi penyalahgunaan yang sangat sulit untuk dipertahankan.
Masalah besarnya bukanlah "goo abu-abu" yang terkenal dari mesin nano yang mereplikasi diri melahap segalanya. Ini akan membutuhkan pembuatan perangkat yang sangat canggih. Sulit untuk membuat mesin yang dapat mereproduksi dirinya sendiri: biologi, menurut definisi, lebih baik dalam tugas semacam ini. Mungkin beberapa maniak bisa melakukan ini, tetapi ada buah yang lebih mudah diakses di pohon teknologi perusak.
Risiko yang paling jelas adalah bahwa pembuatan presisi otomatis tampaknya ideal untuk pembuatan barang-barang seperti senjata yang murah. Di dunia di mana banyak pemerintah akan memiliki kemampuan untuk "mencetak" sejumlah besar sistem senjata otonom atau semi-otonom (termasuk kemungkinan untuk meningkatkan produksinya), perlombaan senjata dapat menjadi sangat intens - dan sebagai akibat dari peningkatan ketidakstabilan, dan oleh karena itu mungkin tergoda untuk menyerang sampai saat musuh mendapat keuntungan besar.
Senjata juga bisa berukuran sangat kecil dan sangat akurat: mereka bisa menjadi "racun pintar" yang dapat bertindak tidak hanya sebagai gas saraf, tetapi juga memilih korbannya, atau robot mikro (gnatbots) yang ada di mana-mana, sistem pengawasan miniatur untuk menjaga agar populasi tetap patuh - semua ini sangat mungkin. Selain itu, senjata dan instalasi nuklir yang mempengaruhi iklim dapat jatuh ke tangan para penyusup.
Kami tidak dapat memperkirakan kemungkinan risiko eksistensial yang ditimbulkan oleh nanoteknologi masa depan, tetapi, tampaknya, mereka dapat sangat merusak hanya karena mereka dapat memberikan apa pun yang kita inginkan.
5. Tidak diketahui misterius
Kemungkinan yang paling mengkhawatirkan adalah ada sesuatu yang mematikan di dunia ini, tapi kita tidak tahu apa itu.
Keheningan di surga bisa menjadi bukti akan hal ini. Apakah absennya alien karena kehidupan dan kecerdasan sangat jarang, atau karena kehidupan cerdas cenderung hancur? Jika ada Filter Hebat di masa depan, maka peradaban lain seharusnya menyadarinya, tetapi itu pun tidak membantu.
Apapun ancaman seperti itu, hampir tidak dapat dihindari bahkan jika Anda menyadari keberadaannya, terlepas dari siapa Anda atau apa Anda sebenarnya. Kami tidak tahu apa-apa tentang jenis ancaman ini (tidak ada ancaman di atas yang bekerja dengan cara ini), tetapi ancaman itu mungkin ada.
Perhatikan bahwa adanya sesuatu yang tidak diketahui tidak berarti bahwa kita tidak dapat bernalar tentang hal itu. Sebuah artikel oleh Max Tegmark dan Nick Bostrom menunjukkan bahwa sekumpulan risiko harus memiliki rasio kurang dari satu dalam satu miliar per tahun, berdasarkan usia relatif Bumi.
Mungkin akan mengejutkan Anda bahwa perubahan iklim dan dampak meteor tidak ada dalam daftar ini. Perubahan iklim, meskipun mengerikan, sepertinya tidak akan membuat seluruh planet tidak dapat dihuni (tetapi ini bisa menimbulkan ancaman tambahan jika pertahanan kita terbukti tidak efektif). Meteor, tentu saja, dapat menghapus kita dari muka bumi, tetapi dalam kasus ini, kita pasti sangat merugi.
Biasanya, satu jenis mamalia telah ada selama sekitar satu juta tahun. Dengan demikian, tingkat kepunahan alami utama kira-kira satu dalam satu juta per tahun. Ini jauh lebih rendah daripada risiko perang nuklir, yang, 70 tahun kemudian, masih menjadi ancaman terbesar bagi kelangsungan hidup kita.
Ketersediaan heuristik memaksa kita untuk melebih-lebihkan risiko yang sering dibahas di media dan mengecilkan risiko yang belum dihadapi umat manusia. Jika kita ingin terus ada bahkan setelah sejuta tahun, maka kita harus memperbaiki situasi ini.
Anders Sandberg
Ilmu pengetahuan populer
