Dengan percepatan kemajuan teknologi, umat manusia mungkin dengan cepat mendekati titik kritis dalam perkembangannya. Selain ancaman terkenal seperti bencana nuklir, prospek teknologi yang berkembang pesat seperti ekosistem nano dan kecerdasan mesin memberi kita peluang dan risiko yang belum pernah terjadi sebelumnya. Masa depan kita dan apakah kita akan memiliki masa depan tergantung pada bagaimana kita menghadapi tantangan ini. Dengan kemajuan teknologi yang pesat, kita membutuhkan pemahaman yang lebih baik tentang dinamika transisi dari manusia ke masyarakat pasca-manusia. Sangat penting untuk mengetahui di mana letak jebakan: jalur di mana hal-hal yang salah bisa mematikan.
Meskipun kami memiliki sejarah panjang terpapar berbagai bahaya pribadi, lokal, dan dapat ditoleransi di seluruh dunia, artikel ini menganalisis kategori yang baru muncul: risiko eksistensial. Inilah yang kita sebut dengan resiko peristiwa yang dapat menyebabkan kita punah atau kerusakan jantung pada potensi kehidupan berakal yang telah berkembang di Bumi. Beberapa dari bahaya ini relatif diketahui, sementara yang lain benar-benar terabaikan. Ancaman keberadaan memiliki sejumlah fitur yang membuat manajemen risiko konvensional menjadi tidak efektif dalam hal ini. Bab terakhir dari artikel ini membahas beberapa implikasi etis dan politik dari masalah ini. Pemahaman yang lebih jelas tentang lanskap ancaman akan memungkinkan kami merumuskan strategi yang lebih baik.
Hidup itu berbahaya, dan bahaya ada di mana-mana. Untungnya, tidak semua risiko sama seriusnya. Untuk tujuan kami, kami dapat menggunakan tiga dimensi untuk menggambarkan risiko: skala, intensitas, dan kemungkinan. Yang saya maksud dengan "skala" adalah ukuran sekelompok orang yang berisiko. Yang saya maksud dengan "intensitas" adalah seberapa besar kerugian yang akan ditimbulkan pada setiap individu dalam kelompok. Dan yang saya maksud dengan "probabilitas" adalah perkiraan subjektif terbaik saat ini tentang kemungkinan hasil negatif.
1. Tipologi risiko
Kita dapat membedakan enam kelompok risiko yang berbeda secara kualitatif, bergantung pada skala dan intensitasnya (Tabel 1). Dimensi ketiga, probabilitas, dapat ditumpangkan pada dua dimensi ini. Semua hal dianggap sama, risiko menjadi lebih serius jika memiliki kemungkinan signifikan dan jika tindakan kita dapat meningkatkan atau menurunkannya.
Skala / Intensitas: Intensitas Lethal yang Dapat Ditanggung
penipisan ozon global X
Video promosi:
penurunan ekonomi lokal di negara Genosida
Kematian Pencurian Mobil Pribadi
"Pribadi", "lokal" atau "global" mengacu pada ukuran populasi yang terkena dampak langsung; risiko global mempengaruhi seluruh umat manusia (dan keturunan kita). "Intensitas risiko yang dapat ditoleransi" dan "intensitas mematikan" mengacu pada seberapa parah populasi yang berisiko akan terpengaruh. Risiko yang dapat ditoleransi juga dapat menyebabkan kerusakan besar, tetapi peluang tetap untuk pulih dari kerusakan atau mencari cara untuk mengatasi konsekuensi negatif. Sebaliknya, risiko terakhir adalah risiko ketika benda-benda yang terpapar padanya mati atau rusak secara permanen sedemikian rupa sehingga secara radikal mengurangi potensi mereka untuk menjalani kehidupan yang ingin mereka jalani. Dalam kasus risiko pribadi, hasil akhirnya mungkin, misalnya, kematian, kerusakan otak serius yang tidak dapat diperbaiki,atau penjara seumur hidup. Contoh risiko kematian yang terlokalisasi dapat berupa genosida, yang mengarah pada kehancuran seluruh orang (yang terjadi pada beberapa orang India). Contoh lainnya adalah pertobatan menjadi perbudakan kekal.
2. Risiko keberadaan
Pada artikel ini kita akan membahas risiko kategori keenam, yang ditandai pada tabel sebagai X. Ini adalah kategori risiko mematikan global. Saya akan menyebutnya ancaman eksistensial.
Ancaman keberadaan berbeda dari risiko global yang dapat ditoleransi. Contoh yang terakhir adalah: ancaman terhadap keanekaragaman hayati ekosfer darat, pemanasan global sedang (dan bahkan besar), dan mungkin melumpuhkan era budaya dan agama seperti "zaman kegelapan", bahkan jika itu menjangkau seluruh masyarakat, jika itu berakhir cepat atau lambat (meskipun lihat bab Screech di bawah). Mengatakan bahwa risiko global dapat ditoleransi jelas tidak berarti risiko tersebut dapat diterima atau tidak terlalu serius. Perang dunia dengan senjata konvensional atau satu dekade Reich bergaya Nazi akan menjadi peristiwa yang sangat mengerikan, meskipun faktanya mereka termasuk dalam kategori risiko global yang dapat ditoleransi, karena umat manusia pada akhirnya dapat pulih. (Di samping itu,kejadian ini akan menjadi risiko kematian lokal bagi banyak individu dan kelompok etnis yang teraniaya.)
Saya akan menggunakan definisi risiko eksistensial berikut:
Ancaman terhadap keberadaan adalah risiko di mana akibat negatif menghancurkan kehidupan berakal yang telah muncul di Bumi, atau secara permanen dan mengurangi potensinya.
Keberadaannya merupakan risiko yang mengancam umat manusia secara keseluruhan. Bencana seperti itu memiliki konsekuensi negatif yang sangat besar bagi seluruh masa depan peradaban duniawi.
3. Keunikan masalah ancaman terhadap keberadaan
Risiko dalam kategori keenam ini muncul belakangan ini. Inilah salah satu alasan mengapa berguna untuk memisahkannya ke dalam kategori terpisah. Kami belum mengembangkan mekanisme, alam atau budaya, untuk menghadapi risiko tersebut. Institusi dan strategi pertahanan kami dibentuk dengan menghadapi risiko seperti hewan berbahaya, orang atau suku yang bermusuhan, makanan beracun, kecelakaan mobil, Chernobyl, Bhopal, letusan gunung berapi, gempa bumi, kekeringan, Perang Dunia I, Perang Dunia II, epidemi flu, cacar, wabah hitam dan AIDS. Bencana jenis ini sudah sering terjadi, dan sikap budaya kita terhadap risiko telah dibentuk melalui trial and error dalam menangani ancaman tersebut. Namun menjadi tragedi langsung bagi peserta acara tersebut,dari sudut pandang yang luas - dari sudut pandang seluruh umat manusia - bahkan bencana yang paling mengerikan ini hanyalah riak di permukaan lautan kehidupan yang luas. Mereka tidak secara signifikan mempengaruhi jumlah orang yang bahagia dan menderita, juga tidak menentukan nasib jangka panjang spesies kita.
Kecuali untuk komet yang menghancurkan spesies dan tabrakan asteroid (yang sangat jarang), mungkin tidak ada ancaman signifikan terhadap keberadaan hingga pertengahan abad ke-20, dan jelas tidak ada yang bisa kami lakukan untuk menanganinya.
Ancaman manusia pertama yang diciptakan manusia adalah bom atom pertama. Pada saat itu, ada kekhawatiran bahwa ledakan tersebut akan memicu reaksi berantai dengan “membakar” atmosfer. Meskipun kita sekarang tahu bahwa hasil seperti itu secara fisik tidak mungkin, pada saat asumsi ini konsisten dengan definisi ancaman eksistensial. Agar sesuatu menjadi risiko, berdasarkan pengetahuan dan pemahaman yang ada, cukup ada kemungkinan subjektif dari hasil yang tidak diinginkan, bahkan jika kemudian ternyata secara obyektif tidak ada satu peluang pun bahwa sesuatu yang buruk terjadi. Jika kita tidak tahu apakah sesuatu secara obyektif berisiko, itu berisiko dalam pengertian subjektif. Makna subjektif ini, tentu saja, adalah dasar dari keputusan kita. Setiap saat, kita harus menggunakan penilaian subjektif terbaik kita tentang apakahapa faktor risiko obyektif.
Ancaman yang jauh lebih besar terhadap keberadaan muncul bersamaan dengan munculnya persenjataan senjata nuklir di Uni Soviet dan AS. Perang nuklir penuh mungkin terjadi dengan tingkat kemungkinan yang signifikan dan dengan konsekuensi yang bisa begitu gigih sehingga dapat dicirikan sebagai global dan final. Di antara orang-orang yang paling mengetahui informasi yang tersedia pada saat itu, terdapat kekhawatiran nyata bahwa Armageddon nuklir dapat terjadi dan dapat memusnahkan spesies kita atau menghancurkan peradaban manusia secara permanen. Rusia dan Amerika Serikat terus memiliki persenjataan nuklir besar yang dapat digunakan. dalam konfrontasi di masa depan, secara tidak sengaja atau sengaja. Ada juga risiko bahwa negara lain suatu hari nanti bisa membangun persenjataan besar. Perhatikan, bagaimanapun, bahwa pertukaran kecil serangan nuklir, misalnya, antara India dan Pakistan,bukanlah ancaman bagi keberadaan, karena tidak akan menghancurkan umat manusia dan tidak akan merusak potensi manusia secara permanen. Perang seperti itu, bagaimanapun, akan menjadi risiko kematian lokal bagi kota-kota yang menjadi sasaran. Sayangnya, kita akan melihat bahwa Armageddon nuklir dan dampak komet atau asteroid hanyalah awal dari ancaman terhadap keberadaan di abad ke-21.
Sifat khusus dari tantangan yang ditimbulkan oleh ancaman eksistensial dapat diilustrasikan dengan komentar berikut.
Pendekatan kami terhadap ancaman eksistensial tidak dapat didasarkan pada trial and error. Tidak ada cara untuk belajar dari kesalahan. Pendekatan reaktif - mengamati apa yang terjadi, membatasi kerusakan dan belajar dari pengalaman - tidak berhasil. Sebaliknya, kita harus mengambil pendekatan proaktif. Hal ini membutuhkan pandangan jauh ke depan untuk mendeteksi jenis risiko baru dan kemauan untuk mengambil tindakan pencegahan yang tegas dan membayar biaya moral dan ekonominya.
Kami tidak dapat dengan yakin mengandalkan institusi, standar moral, sikap sosial, atau kebijakan keamanan nasional kami yang telah berkembang dari pengalaman kami dalam mengelola jenis risiko lainnya. Ancaman keberadaan adalah binatang yang berbeda. Mungkin sulit bagi kita untuk menganggapnya seserius yang seharusnya mereka terima, karena kita belum pernah mengalami bencana seperti itu. Respons ketakutan kolektif kita kemungkinan besar tidak terkalibrasi dengan baik pada skala ancaman.
Pengurangan ancaman eksistensial adalah barang publik umum (Kaul, 1999) dan oleh karena itu mungkin tidak cukup dipasok oleh pasar (Feldman, 1980). Ancaman keberadaan merupakan ancaman bagi semua orang dan mungkin memerlukan tanggapan internasional. Penghormatan terhadap kedaulatan nasional bukanlah alasan yang sah untuk gagal mengambil tindakan pencegahan terhadap keberadaan kritis.
Jika kita memperhitungkan kesejahteraan generasi mendatang, maka kerusakan dari ancaman eksistensial dikalikan dengan faktor lain, yang bergantung pada apakah dan berapa banyak manfaat masa depan dipertimbangkan (Caplin, Leahy 2000; Schelling 2000: 833-837).
Mengejutkan, mengingat pentingnya topik yang tidak dapat disangkal, betapa sedikit pekerjaan sistematis yang telah dilakukan di bidang ini. Ini sebagian karena risiko paling serius muncul (seperti yang akan kita tunjukkan nanti) dari teknologi masa depan yang diantisipasi yang baru saja kita mulai pahami. Bagian lain dari penjelasannya mungkin sifat subjek penelitian yang bersifat interdisipliner dan spekulatif. Dan sebagian, pengabaian dapat dikaitkan dengan keengganan untuk berpikir serius tentang topik-topik yang menyedihkan. Ini tidak berarti bahwa kita harus berkecil hati, tetapi kita perlu melihat dengan seksama apa yang bisa salah sehingga kita dapat membuat strategi yang kuat untuk meningkatkan peluang kita untuk bertahan hidup. Untuk melakukan ini, kita perlu tahu di mana harus memfokuskan upaya kita.
4. Klasifikasi risiko keberadaan
Kami akan menggunakan 4 kategori berikut untuk mengklasifikasikan risiko eksistensial:
Ledakan (Bangs) - Kehidupan cerdas yang muncul di Bumi dimusnahkan sebagai akibat dari bencana yang relatif tiba-tiba, yang dapat terjadi sebagai akibat dari kecelakaan atau sengaja.
Crunches - Kemampuan umat manusia untuk berevolusi menjadi posthumanity rusak secara permanen, meskipun entah bagaimana manusia terus hidup.
Jeritan - Beberapa bentuk posthumanitas akan tercapai, tetapi itu hanya akan menjadi bagian yang sangat sempit dari spektrum apa yang mungkin dan diinginkan.
Whimpers - Peradaban posthuman muncul, tetapi berkembang ke arah yang secara bertahap, tetapi tidak dapat ditarik kembali, ke lenyapnya hal-hal yang kita hargai, atau ke keadaan di mana nilai-nilai ini direalisasikan hanya sebagian kecil dari tingkat yang dapat dicapai.
Berbekal klasifikasi seperti itu, kita bisa mulai menganalisis skenario yang paling mungkin terjadi di setiap kategori. Definisi juga akan menjadi lebih jelas seiring dengan kemajuan kita.
Berkat percepatan kemajuan teknologi, umat manusia mendekati titik kritis dalam perkembangannya. Selain ancaman yang diketahui seperti bencana nuklir, prospek teknologi yang berkembang pesat seperti ekosistem nano dan kecerdasan mesin memberi kita peluang dan risiko yang belum pernah terjadi sebelumnya. Masa depan kita dan apakah kita akan memiliki masa depan bergantung pada bagaimana kita menghadapi tantangan ini. Dengan kemajuan teknologi yang pesat, kita membutuhkan pemahaman yang lebih baik tentang dinamika transisi dari manusia ke masyarakat “pasca-manusia”. Penting untuk mengetahui di mana letak jebakan: jalur di mana segala sesuatunya bisa menjadi sangat salah.
Meskipun kami memiliki sejarah panjang terpapar berbagai bahaya pribadi, lokal, dan dunia yang dapat dialihkan, artikel ini menganalisis kategori yang baru muncul: risiko eksistensial. Inilah yang kita sebut dengan resiko peristiwa yang dapat mengakibatkan kepunahan manusia atau kerusakan jantung hingga potensi kehidupan berakal yang telah berkembang di Bumi. Beberapa dari bahaya ini relatif diketahui, sementara yang lain terabaikan. Ancaman keberadaan memiliki sejumlah fitur yang membuat manajemen risiko konvensional menjadi tidak efektif dalam hal ini. Bab terakhir dari artikel ini membahas beberapa implikasi etis dan politik dari masalah ini. Pemahaman yang lebih jelas tentang lanskap ancaman akan memungkinkan kami untuk merumuskan strategi utama.
Berbahaya untuk hidup, dan bahaya ada di mana-mana. Untungnya, tidak semua risiko sama seriusnya. Untuk tujuan kami, kami menggunakan tiga dimensi untuk menggambarkan risiko: skala, intensitas, dan kemungkinan. Yang saya maksud dengan "skala" adalah ukuran sekelompok orang yang berisiko. Yang saya maksud dengan "intensitas" adalah seberapa besar kerugian yang akan ditimbulkan pada setiap individu dalam kelompok. Dan yang saya maksud dengan "probabilitas" adalah perkiraan subjektif terbaik saat ini tentang kemungkinan hasil negatif.
5. Tipologi risiko
Ada enam kelompok risiko, tergantung skala dan intensitasnya.
Skala / Intensitas: Intensitas yang Dapat Ditanggung / Intensitas Lethal
penipisan global / ozon, X
penurunan lokal / ekonomi di negara tersebut, Genosida
Pencurian Pribadi / Mobil, Kematian
Dimensi ketiga, probabilitas, dapat ditumpangkan pada dua dimensi ini. Semua hal dianggap sama, risiko menjadi lebih serius jika memiliki kemungkinan signifikan dan jika tindakan kita dapat meningkatkan atau menurunkannya.
"Pribadi", "lokal" atau "global" mengacu pada ukuran populasi yang terkena dampak langsung; risiko global mempengaruhi seluruh umat manusia (dan keturunan). "Intensitas risiko yang dapat ditoleransi" dan "intensitas mematikan" mengacu pada seberapa parah populasi yang berisiko akan terpengaruh. Risiko yang dapat ditoleransi juga dapat menyebabkan kehancuran, tetapi peluang tetap untuk pulih dari kerusakan atau mencari cara untuk mengatasi konsekuensi negatif. Sebaliknya, risiko terakhir adalah risiko ketika benda-benda yang terpapar padanya mati atau rusak secara permanen sedemikian rupa sehingga mengurangi potensi mereka untuk menjalani kehidupan yang ingin mereka jalani. Untuk risiko pribadi, hasil akhirnya adalah kematian, tidak dapat diubah, kerusakan otak serius, atau hukuman penjara seumur hidup. Contoh risiko kematian lokal adalah genosida yang mengarah pada kehancuran suatu orang (yang terjadi pada beberapa orang India). Contoh lainnya adalah pertobatan menjadi perbudakan kekal.
Resiko keberadaan
Pada artikel ini kita akan membahas risiko kategori keenam, yang ditandai pada tabel sebagai X. Ini adalah kategori risiko mematikan global. Saya akan menyebutnya ancaman eksistensial.
Ancaman keberadaan berbeda dari risiko global yang dapat ditoleransi. Contoh yang terakhir adalah: ancaman terhadap keanekaragaman hayati ekosfer darat, pemanasan global sedang (dan bahkan hebat), dan mungkin melumpuhkan era budaya dan agama seperti "zaman kegelapan", bahkan jika itu menjangkau seluruh masyarakat, jika cepat atau lambat berakhir (meskipun lihat bab Screech di bawah). Mengatakan bahwa risiko global dapat ditoleransi jelas tidak berarti bahwa risiko tersebut dapat diterima atau tidak serius.
Perang dunia dengan senjata standar atau satu dekade Reich bergaya Nazi akan menjadi peristiwa yang sangat mengerikan, terlepas dari kenyataan bahwa mereka termasuk dalam kategori risiko global yang dapat ditoleransi, karena umat manusia pada akhirnya dapat pulih. (Tetapi peristiwa ini akan menjadi risiko kematian lokal bagi banyak orang dan kelompok etnis yang teraniaya.)
Saya akan menggunakan definisi risiko eksistensial berikut:
Ancaman terhadap keberadaan adalah risiko di mana akibat negatif menghancurkan kehidupan berakal yang telah muncul di Bumi, atau secara permanen dan mengurangi potensinya.
Keberadaannya merupakan risiko yang mengancam umat manusia secara keseluruhan. Bencana seperti itu berdampak negatif bagi masa depan peradaban duniawi.
Keunikan masalah ancaman eksistensial
Risiko dalam kategori keenam ini muncul belakangan ini. Inilah salah satu alasan mengapa berguna untuk memisahkannya ke dalam kategori terpisah. Kami belum mengembangkan mekanisme, alam atau budaya, untuk menghadapi risiko tersebut. Institusi dan strategi pertahanan kami dibentuk dengan menghadapi risiko seperti hewan berbahaya, orang atau suku yang bermusuhan, makanan beracun, kecelakaan mobil, Chernobyl, Bhopal, letusan gunung berapi, gempa bumi, kekeringan, Perang Dunia I, Perang Dunia II, epidemi flu, cacar, wabah hitam dan AIDS. Bencana jenis ini sudah sering terjadi, dan sikap budaya kita terhadap risiko telah dibentuk melalui trial and error dalam menangani ancaman tersebut. Namun menjadi tragedi langsung bagi peserta acara tersebut,dari sudut pandang yang luas - dari sudut pandang kemanusiaan - bahkan bencana terburuk ini hanyalah riak di permukaan lautan kehidupan yang besar.
Mereka tidak secara signifikan mempengaruhi jumlah orang yang bahagia dan menderita, juga tidak menentukan nasib jangka panjang spesies kita.
Kecuali untuk komet yang menghancurkan spesies dan tabrakan asteroid (yang sangat jarang), tidak ada ancaman terhadap keberadaan sampai pertengahan abad ke-20, dan yang pasti kami tidak dapat melakukan apa pun dengan salah satu dari mereka.
Ancaman manusia pertama yang diciptakan manusia adalah bom atom pertama. Pada saat itu, ada kekhawatiran bahwa ledakan tersebut akan memicu reaksi berantai dengan “membakar” atmosfer. Meskipun kita sekarang tahu bahwa hasil seperti itu secara fisik tidak mungkin, pada saat asumsi ini konsisten dengan definisi ancaman eksistensial. Untuk sesuatu yang berisiko cukup, bahwa ada kemungkinan subjektif dari hasil yang tidak menguntungkan, bahkan jika kemudian ternyata secara obyektif tidak ada kemungkinan bahwa sesuatu yang buruk terjadi. Jika kita tidak tahu apakah sesuatu itu secara obyektif berisiko atau tidak, itu adalah risiko dalam pengertian subjektif. Makna subjektif ini, tentu saja, adalah dasar dari keputusan kita. Pada saat tertentu, kita harus menggunakan penilaian subjektif terbaik kita tentang faktor-faktor risiko obyektif.
Ancaman yang jauh lebih besar terhadap keberadaan muncul bersamaan dengan munculnya persenjataan senjata nuklir di Uni Soviet dan AS. Perang nuklir penuh mungkin terjadi dengan tingkat kemungkinan yang signifikan dan dengan konsekuensi yang bisa begitu gigih sehingga dapat dicirikan sebagai global dan final. Ada kekhawatiran yang meluas di antara orang-orang yang paling mengetahui informasi yang tersedia pada saat itu bahwa Armagedon nuklir dapat terjadi dan bahwa hal itu akan memusnahkan spesies kita atau menghancurkan peradaban manusia selamanya.
Rusia dan Amerika Serikat memiliki persenjataan nuklir besar yang dapat digunakan dalam konfrontasi di masa depan, secara tidak sengaja atau sengaja. Ada juga risiko bahwa negara lain suatu hari nanti bisa membangun persenjataan besar. Tetapi pertukaran kecil serangan nuklir, misalnya, antara India dan Pakistan, bukanlah ancaman bagi keberadaan, karena tidak akan menghancurkan umat manusia dan tidak akan merusak potensi manusia secara permanen. Perang seperti itu, bagaimanapun, akan menjadi risiko kematian lokal bagi kota-kota yang menjadi sasaran. Sayangnya, kita akan melihat bahwa Armageddon nuklir dan dampak komet atau asteroid hanyalah awal dari ancaman terhadap keberadaan di abad ke-21.
Sifat masalah yang timbul dari ancaman eksistensial akan diilustrasikan dengan keterangan berikut.
Pendekatan kami terhadap ancaman eksistensial tidak dapat didasarkan pada trial and error. Anda tidak bisa belajar dari kesalahan. Pendekatan reaktif - mengamati apa yang terjadi, membatasi kerusakan dan belajar dari pengalaman - tidak berhasil. Kita harus mengambil pendekatan proaktif. Ini membutuhkan pandangan ke depan untuk mendeteksi jenis risiko baru dan kemauan untuk mengambil tindakan pencegahan dan membayar biaya moral dan ekonominya.
Kami tidak dapat dengan yakin mengandalkan institusi, standar moral, sikap sosial, atau kebijakan keamanan nasional yang telah berkembang dari pengalaman dalam mengelola jenis risiko lainnya. Ancaman keberadaan adalah binatang yang berbeda. Sulit bagi kita untuk menganggapnya seserius yang seharusnya mereka terima, karena kita belum pernah mengalami bencana seperti itu. Respons ketakutan kolektif kemungkinan besar tidak terkalibrasi dengan baik pada skala ancaman.
Mengurangi ancaman eksistensial adalah barang publik umum (Kaul, 1999) dan karena itu kurang dipasok oleh pasar (Feldman, 1980). Ancaman terhadap keberadaan merupakan ancaman bagi semua orang dan membutuhkan tanggapan internasional. Penghormatan terhadap kedaulatan nasional bukanlah alasan yang sah untuk gagal mengambil tindakan pencegahan terhadap keberadaan kritis.
Mengejutkan, mengingat pentingnya topik yang tidak dapat disangkal, betapa sedikit pekerjaan sistematis yang telah dilakukan di bidang ini. Ini sebagian karena risiko paling serius muncul (seperti yang akan kami tunjukkan nanti) dari teknologi masa depan yang diantisipasi yang baru saja kita pahami.
Bagian lain dari penjelasannya mungkin sifat subjek penelitian yang bersifat interdisipliner dan spekulatif. Dan sebagian, pengabaian dapat dikaitkan dengan keengganan untuk berpikir serius tentang topik-topik yang menyedihkan. Ini tidak berarti bahwa kita harus berkecil hati, tetapi kita perlu melihat dengan seksama apa yang bisa salah sehingga kita dapat membuat strategi yang kuat untuk meningkatkan peluang kita untuk bertahan hidup. Untuk melakukan ini, kita perlu tahu di mana harus memfokuskan upaya kita.
Klasifikasi risiko keberadaan
Kami akan menggunakan 4 kategori berikut untuk mengklasifikasikan risiko eksistensial:
Ledakan (Bangs) - Kehidupan cerdas yang muncul di Bumi dimusnahkan sebagai akibat dari bencana yang relatif tiba-tiba, yang dapat terjadi sebagai akibat dari kecelakaan atau sengaja.
Crunches - Kemampuan umat manusia untuk berevolusi menjadi posthumanity rusak secara permanen, meskipun entah bagaimana manusia terus hidup.
Jeritan - Beberapa bentuk posthumanitas akan tercapai, tetapi itu hanya akan menjadi bagian yang sangat sempit dari spektrum apa yang mungkin dan diinginkan.
Whimpers - Peradaban posthuman muncul, tetapi berkembang ke arah yang secara bertahap, tetapi tidak dapat ditarik kembali, ke lenyapnya hal-hal yang kita hargai, atau ke keadaan di mana nilai-nilai ini direalisasikan hanya sebagian kecil dari tingkat yang dapat dicapai.
Berbekal klasifikasi seperti itu, kita bisa mulai menganalisis skenario yang paling mungkin terjadi di setiap kategori. Definisi juga akan menjadi lebih jelas seiring dengan kemajuan kita.
Poni
Ini adalah bentuk risiko global yang paling jelas. Konsep ini paling mudah dipahami. Di bawah ini adalah beberapa cara yang paling mungkin untuk mengakhiri dunia secara eksplosif. Saya mencoba menyusunnya dalam urutan menaik (menurut perkiraan saya) kemungkinan menyebabkan pemusnahan kehidupan berakal di Bumi; tetapi maksud saya sehubungan dengan pemesanan adalah untuk menciptakan dasar untuk diskusi lebih lanjut, daripada membuat beberapa pernyataan yang tidak ambigu.
1. Penyalahgunaan nanoteknologi yang disengaja
Dalam bentuknya yang matang, nanoteknologi molekuler akan memungkinkan terciptanya robot yang mereplikasi diri seukuran bakteri yang dapat memakan limbah atau bahan organik lainnya (Drexler 1985, 1992; Merkle et al. 1991: 187-195; Freitas 2000). Replikator semacam itu dapat memakan biosfer atau menghancurkannya dengan cara lain, seperti meracuni, membakarnya, atau menghalangi sinar matahari. Seorang pria dengan niat kriminal dengan nanoteknologi ini dapat menyebabkan kehancuran kehidupan cerdas di Bumi dengan melepaskan nanobots tersebut ke lingkungan.
Teknologi untuk membuat robot nano yang merusak tampaknya jauh lebih sederhana daripada teknologi untuk menciptakan pertahanan yang efektif terhadap serangan semacam itu (sistem kekebalan nanoteknologi global, "perisai aktif" (Drexler 1985)). Oleh karena itu, kemungkinan akan ada periode kerentanan di mana diperlukan untuk mencegah teknologi ini jatuh ke tangan yang salah. Selain itu, teknologi ini mungkin sulit untuk dikelola karena tidak memerlukan isotop radioaktif langka atau pabrik besar yang mudah dideteksi, seperti yang terjadi dalam pembuatan senjata nuklir (Drexler 1985).
Bahkan jika pertahanan yang efektif terhadap serangan nanoteknologi terbatas ada sebelum replikator berbahaya dikembangkan dan diperoleh oleh rezim bunuh diri atau teroris, masih ada bahaya perlombaan senjata antara negara-negara yang memiliki nanoteknologi. Telah dikemukakan (Gubrud 2000) bahwa pembuatan molekul akan menyebabkan ketidakstabilan yang lebih besar dalam perlombaan senjata dan ketidakstabilan yang lebih besar dalam kaitannya dengan krisis daripada senjata nuklir. Ketidakstabilan perlombaan senjata berarti bahwa setiap pihak yang bersaing akan didominasi oleh keinginan untuk memperkuat persenjataannya, yang mengarah pada perlombaan senjata yang berlangsung cepat. Ketidakstabilan dalam kaitannya dengan krisis berarti bahwa menyerang lebih dulu akan menjadi pendorong utama masing-masing pihak. Dua lawan yang kira-kira sama kuatnya,Setelah memperoleh senjata nanoteknologi, mereka akan mulai, dari sudut pandang ini, produksi massal dan desain senjata, yang akan berlanjut sampai krisis terjadi dan perang dimulai, yang berpotensi mampu menyebabkan kehancuran universal. Bahwa perlombaan senjata ini dapat diprediksi bukanlah jaminan bahwa sistem keamanan internasional akan diberlakukan pada waktunya untuk mencegah bencana ini. Perlombaan senjata nuklir antara Uni Soviet dan AS telah diprediksi, namun tetap saja terjadi.bahwa sistem keamanan internasional akan dibuat pada waktunya untuk mencegah bencana ini. Perlombaan senjata nuklir antara Uni Soviet dan AS telah diprediksi, namun tetap saja terjadi.bahwa sistem keamanan internasional akan dibuat pada waktunya untuk mencegah bencana ini. Perlombaan senjata nuklir antara Uni Soviet dan AS telah diprediksi, namun tetap saja terjadi.
2. Holocaust Nuklir
Amerika Serikat dan Rusia masih memiliki cadangan senjata nuklir yang sangat besar. Tapi akankah perang nuklir besar-besaran mengarah pada pemusnahan umat manusia yang sesungguhnya? Perhatikan bahwa:
(a) untuk menjadi risiko eksistensial, cukup kami tidak yakin bahwa itu tidak akan terjadi.
(b) efek iklim dari perang nuklir skala besar tidak banyak diketahui (ada kemungkinan musim dingin nuklir).
(c) perlombaan senjata antar negara di masa depan tidak dapat dikesampingkan, dan ini dapat menyebabkan munculnya persenjataan yang lebih besar daripada yang ada pada puncak Perang Dingin. Stok plutonium dunia terus meningkat dan telah mencapai 2.000 ton, yang kira-kira sepuluh kali lebih banyak dari yang tersisa di hulu ledak (Leslie 1996: 26). Bahkan jika beberapa orang selamat dari efek jangka pendek perang nuklir, itu dapat menyebabkan keruntuhan peradaban. Ras manusia Zaman Batu mungkin lebih tahan terhadap kepunahan daripada spesies hewan lainnya.
3. Kita hidup dalam simulasi dan mati
Dapat dikatakan bahwa hipotesis yang kita alami dalam simulasi komputer harus dikaitkan dengan probabilitas yang signifikan (Bostrom 2001). Ide utama di balik apa yang disebut Proof of Simulation adalah bahwa sejumlah besar daya komputasi mungkin tersedia di masa depan (Moravec 1989, 1999), dan bahwa mereka dapat digunakan, antara lain, untuk menjalankan sejumlah besar simulasi yang terstruktur dengan baik di masa lalu. peradaban manusia. Pada beberapa asumsi yang tidak terlalu luar biasa, hasilnya mungkin sebagian besar pikiran seperti pikiran kita adalah pikiran simulasi, sehingga kita harus mengaitkan kemungkinan yang signifikan bahwa kita adalah pikiran simulasi daripada pikiran (yang secara subyektif tidak dapat dibedakan) dari makhluk yang berevolusi secara alami. Dan jika demikian, kami menanggung risikobahwa simulasi dapat dimatikan kapan saja. Keputusan untuk menghentikan simulasi kami mungkin karena tindakan kami atau faktor eksternal.
Meskipun mungkin tampak sembrono bagi seseorang untuk mengajukan hipotesis radikal di samping ancaman spesifik dari bencana nuklir, kita harus mendasarkan kesimpulan kita pada penalaran dan bukan pada intuisi yang tidak terlatih. Sampai ada bantahan terhadap argumen yang dikemukakan oleh Bostrom (2001), akan menjadi ketidakjujuran intelektual untuk mengabaikan simulasi shutdown sebagai kemungkinan penyebab kepunahan manusia.
4. Superintelligence yang terprogram dengan buruk
Ketika kita membuat perangkat superintelligent pertama (Moravec 1989, 1998, 1999; Vinge 1993; Bostrom 1998; Kurzweil 1999; Hanson et al. 1998), kita mungkin membuat kesalahan dan menetapkan tujuan yang akan mengarahkannya ke arah kehancuran umat manusia, mengingat kolosalnya keuntungan intelektual yang memberikan kekuatan untuk melakukannya. Misalnya, kami mungkin keliru menaikkan tujuan tingkat yang lebih rendah ke status supergoal. Kami memberitahunya untuk memecahkan beberapa masalah matematika, dan dia patuh, mengubah semua materi di tata surya menjadi perangkat komputasi yang sangat besar, di sepanjang jalan membunuh orang yang menanyakan pertanyaan ini. (Untuk analisis lebih lanjut tentang topik ini, lihat (Yudkowsky 2001)).
5. Objek biologis hasil rekayasa genetika
Sebagai hasil dari kemajuan luar biasa dalam teknologi genetika yang sekarang terjadi, mungkin saja bagi seorang tiran, teroris, atau orang gila untuk menciptakan “virus kiamat”: organisme yang menggabungkan latensi panjang dengan virulensi tinggi dan mematikan (National Intelligence Council 2000).
Virus berbahaya bahkan dapat tumbuh secara tidak sengaja, seperti yang baru-baru ini ditunjukkan oleh peneliti Australia yang menciptakan virus Ectromelia cacar tikus yang dimodifikasi dengan 100% mematikan ketika mereka mencoba merancang virus kontrasepsi untuk tikus yang akan digunakan untuk mengendalikan hama hewan pengerat (Nowak 2001). Meski virus khusus ini tidak menginfeksi manusia, namun perubahan serupa diduga akan meningkatkan kematian virus cacar manusia. Apa yang menambah potensi bahaya di sini adalah bahwa penelitian tersebut dengan cepat dipublikasikan dalam literatur ilmiah terbuka (Jackson et al. 2001: 1479-1491). Sangat jarang untuk melihat informasi yang dibuat dalam proyek bioteknologi terbuka dirahasiakan, terlepas dari apakahseberapa parah potensi bahaya yang dimilikinya - dan hal yang sama berlaku untuk penelitian di bidang nanoteknologi.
Pengobatan genetik akan menghasilkan obat dan vaksin yang lebih baik, tetapi tidak ada jaminan bahwa pertahanan akan mengimbangi pelanggaran tersebut. (Bahkan virus mousepox yang dihasilkan secara acak memiliki tingkat kematian 50% pada tikus yang divaksinasi.) Pada akhirnya, bahaya senjata biologis dapat terkubur oleh kemajuan nanomedicine, tetapi meskipun nanoteknologi memiliki potensi jangka panjang yang sangat besar untuk pengobatan (Freitas 1999), ia membawa bahayanya sendiri.
6. Penggunaan nanoteknologi berbahaya secara keliru ("grey goo")
Kemungkinan terjadinya kecelakaan tidak pernah bisa sepenuhnya dikesampingkan.
Namun, ada banyak cara untuk menghindari kecelakaan yang membunuh manusia melalui penggunaan solusi teknik yang andal. Penggunaan berbahaya dari sistem penggandaan diri dapat dihindari; Anda dapat membuat nanobots bergantung pada penggunaan beberapa bahan kimia langka yang tidak ada di alam; Anda dapat memasukkannya ke dalam lingkungan tertutup; mereka dapat dirancang sehingga setiap mutasi hampir pasti akan menyebabkan nanobot berhenti berfungsi (Foresight Institute 2000). Untuk alasan ini, penyalahgunaan nanobots yang tidak disengaja jauh lebih tidak merepotkan daripada penyalahgunaan berbahaya (Drexler 1985; Freitas 2000; (Foresight Institute 1997-1991).
Namun, perbedaan antara tidak disengaja dan disengaja bisa menjadi kabur. Meskipun, pada prinsipnya, tampaknya mungkin untuk membuat bencana teknologi nano global sangat tidak mungkin, keadaan tertentu dapat mencegah tingkat keamanan yang ideal ini terwujud. Bandingkan nanoteknologi dengan teknologi nuklir. Dari sudut pandang teknik, tentu saja, teknologi nuklir hanya mungkin digunakan untuk tujuan damai, misalnya, hanya di reaktor nuklir, yang probabilitasnya nol untuk menghancurkan seluruh planet. Namun dalam praktiknya, penggunaan teknologi nuklir untuk membuat senjata nuklir juga tidak mungkin dihindari, yang menyebabkan perlombaan senjata. Dengan persenjataan nuklir pada tingkat kesiapan tempur yang tinggi, risiko tinggi terjadinya perang yang tidak disengaja tidak dapat dihindari. Hal yang sama dapat terjadi dengan nanoteknologi:mereka mungkin dipaksa untuk melayani tujuan militer dengan cara yang dapat menimbulkan risiko kecelakaan serius.
Dalam beberapa situasi, bahkan mungkin secara strategis menguntungkan untuk sengaja membuat teknologi atau sistem kontrol tertentu menjadi berisiko, misalnya untuk menciptakan "ancaman yang secara fundamental tidak dapat diprediksi, di mana selalu ada elemen peluang" - (Schelling 1960).
7. Sesuatu yang tidak terduga
Kami membutuhkan kategori pemersatu seperti itu. Sungguh bodoh untuk percaya bahwa kita telah menemukan dan memprediksi semua ancaman yang signifikan. Penemuan teknologi atau ilmiah masa depan dapat dengan mudah menciptakan cara baru untuk menghancurkan dunia.
Beberapa bahaya yang dapat diperkirakan (dan karena itu bukan dari kategori ini) dikeluarkan dari daftar Ledakan karena tampaknya menjadi penyebab yang terlalu tidak mungkin dari bencana global, yaitu: jilatan api matahari, supernova, ledakan dan penggabungan lubang hitam, semburan sinar gamma, wabah di pusat galaksi, gunung api super, hilangnya keanekaragaman hayati, peningkatan polusi udara, hilangnya kemampuan manusia untuk bereproduksi secara bertahap, dan banyak skenario hari kiamat agama. Hipotesis bahwa suatu hari kita akan mencapai "pencerahan" dan melakukan bunuh diri kolektif atau berhenti berkembang biak, seperti yang diharapkan oleh VHEMT (The Voluntary Human Extinction Movement) (Knight 2001), tampaknya tidak mungkin. Kalau memang,akan lebih baik untuk tidak ada (seperti yang dikatakan Silenus kepada Raja Midas dalam mitos Yunani dan seperti yang dikatakan Arthur Schopenhauer (Schopenhauer 1891), meskipun untuk alasan khusus untuk sistem filosofis tertentu, dia tidak melakukan hasutan untuk bunuh diri), maka kami tidak akan menganggap skenario ini global sebuah bencana. Asumsi bahwa hidup bukanlah hal yang buruk harus dilihat sebagai asumsi yang tersirat dalam definisi Explosions. Bunuh diri umum palsu adalah risiko keberadaan, meskipun kemungkinannya tampak sangat kecil. (Untuk informasi lebih lanjut tentang etika kepunahan manusia, lihat bab 4 (Leslie 1996: 26).)bahwa hidup tidak buruk, harus dianggap sebagai asumsi implisit dalam definisi Ledakan. Bunuh diri umum palsu adalah risiko keberadaan, meskipun kemungkinannya tampak sangat kecil. (Untuk informasi lebih lanjut tentang etika kepunahan manusia, lihat bab 4 (Leslie 1996: 26).)bahwa hidup tidak buruk, harus dianggap sebagai asumsi implisit dalam definisi Ledakan. Bunuh diri umum palsu adalah risiko keberadaan, meskipun kemungkinannya tampak sangat kecil. (Untuk informasi lebih lanjut tentang etika kepunahan manusia, lihat bab 4 (Leslie 1996: 26).)
8. Bencana akibat percobaan fisik
Perancang bom atom Proyek Manhattan khawatir bahwa ledakan akan memicu atmosfer memiliki rekan-rekan modern.
Ada spekulasi bahwa percobaan pada akselerator partikel berenergi tinggi di masa depan dapat menyebabkan penghancuran keadaan metastabil dari ruang hampa di mana kosmos kita mungkin berada, mengubahnya menjadi ruang hampa "sejati" dengan kepadatan energi yang lebih rendah (Coleman, Luccia 1980: 3305-3315). Ini akan menciptakan gelembung pemusnahan total yang meluas yang akan menyebar ke seluruh galaksi dan seterusnya dengan kecepatan cahaya, merobek semua materi saat bergerak.
Gagasan lain adalah bahwa eksperimen akselerator dapat menciptakan "strangelet" yang stabil dan bermuatan negatif (bentuk hipotetis materi nuklir) atau membuat lubang hitam mikroskopis yang terjun ke pusat bumi dan mulai memakan sisa planet (Dar et al. 1999.: 142-148). Skenario seperti itu tampaknya tidak mungkin berdasarkan teori fisika terbaik kami. Tetapi alasan kami melakukan eksperimen justru karena kami tidak tahu apa yang sebenarnya akan terjadi. Bukti yang jauh lebih meyakinkan adalah bahwa densitas energi yang dapat dicapai akselerator modern jauh lebih rendah daripada yang ditemukan di alam dalam tumbukan sinar kosmik (Dar et al. 1999: 142-148; Turner, Wilczek 1982: 633-634). Namun, mungkin sajabahwa faktor-faktor selain kepadatan energi penting untuk proses hipotetis ini, dan faktor-faktor ini akan disatukan dalam eksperimen baru di masa mendatang.
Penyebab utama kekhawatiran tentang "bencana fisik" adalah pengamatan meta-level bahwa penemuan semua jenis fenomena fisik yang berbahaya terjadi setiap saat, jadi meskipun sekarang semua bencana fisik yang kita pikirkan benar-benar mustahil atau mustahil, mereka masih bisa ada jalan yang lebih realistis menuju bencana yang menunggu untuk ditemukan. Yang diberikan di sini tidak lebih dari ilustrasi kasus umum.
9. Penyakit yang terjadi secara alami
Bagaimana jika AIDS bisa menular seperti flu biasa?
Ada beberapa ciri dunia modern yang dapat membuat pandemi global lebih mungkin terjadi daripada sebelumnya. Perjalanan, perdagangan makanan, dan kehidupan perkotaan semuanya meningkat secara signifikan di zaman modern, sehingga penyakit baru lebih mudah menginfeksi sebagian besar populasi dunia.
10. Tabrakan dengan asteroid atau komet
Ada risiko nyata tetapi sangat kecil bahwa kita akan dimusnahkan oleh tumbukan asteroid atau komet (Morrison et al. 1994).
Untuk menyebabkan kepunahan umat manusia, tubuh yang menabrak mungkin harus berdiameter lebih dari 1 km (dan mungkin 3-6 km.) Setidaknya ada lima, dan mungkin lebih dari selusin, kepunahan massal di Bumi, dan setidaknya beberapa di antaranya mungkin disebabkan oleh tabrakan. (Leslie 1996: 81 f). Secara khusus, kepunahan dinosaurus 65 juta tahun lalu dikaitkan dengan jatuhnya asteroid berdiameter 10-15 km di Semenanjung Yucatan. Dipercaya bahwa benda berdiameter 1 km atau lebih bertabrakan dengan Bumi rata-rata sekali setiap setengah juta tahun. Kami telah membuat katalog hanya sebagian kecil dari tubuh yang berpotensi berbahaya sejauh ini.
Jika kita dapat melihat tubuh yang mendekat tepat pada waktunya, kita akan memiliki peluang bagus untuk membelokkannya dengan mencegatnya dengan rudal nuklir (Emas 1999).
11. Pemanasan global yang tak terbendung
Ada skenario bahwa pelepasan gas rumah kaca ke atmosfer dapat menjadi proses dengan umpan balik positif yang kuat. Mungkin inilah yang terjadi dengan Venus, yang kini memiliki atmosfer bersuhu 450 ° C. Namun, mudah-mudahan kita akan memiliki sarana teknologi untuk melawan tren ini pada saat tren ini menjadi sangat berbahaya.
Nick Bostrom
