Filsuf Swedia Nick Bostrom, direktur Institut Oxford untuk Masa Depan Kemanusiaan, terkenal dengan karyanya tentang risiko eksistensial, prinsip antropik, etika perbaikan manusia, dan ancaman yang ditimbulkan oleh kecerdasan buatan. Dia menulis "Bukti Simulasi", di mana dia menyarankan bahwa realitas kita dapat disimulasikan pada komputer yang dibuat oleh beberapa peradaban maju. Pada bulan Juni, Nick Bostrom mengunjungi Rusia untuk berpartisipasi dalam Kongres Keamanan Siber Internasional yang diselenggarakan oleh Sberbank dengan dukungan dari ANO Tsifrovaya Economy dan Asosiasi Bank Rusia. Koresponden khusus "Lenta.ru" berbicara dengan Bostrom tentang pemberontakan mesin, pemerintahan dunia dan transhumanisme, dan juga menemukan mengapa hidup terus jika "Matrix" ada.
Apa pengertian futurologi? Jika kita melihat prediksi para futuris di masa lalu, hampir tidak ada satupun prediksi mereka yang ternyata akurat
Bostrom: Berbicara tentang disiplin ini, menurut saya tidak ada nilainya.
Nick Bostrom. Foto: Tom Pilston untuk The Washington Post / Getty Images.
Ya, tetapi Anda hanya mencoba memprediksi peristiwa global tertentu di masa depan
Saya tidak akan menggambarkan secara futurologi apa yang saya atau sekelompok peneliti di bawah kepemimpinan saya lakukan. Kami melakukan hal-hal tertentu. Pertama-tama, kami mengembangkan konsep untuk mempermudah menemukan pola antara peristiwa saat ini dan konsekuensi jangka panjangnya, untuk melihat ke mana hal itu dapat membawa kita dan apakah sesuatu dapat diubah secara mendasar.
Kami juga mencoba mencari tahu perubahan mana yang akan membawa pada hasil yang positif, dan yang mana yang negatif. Misalnya, konsep risiko eksistensial, yang mengarah pada fakta bahwa kehidupan berakal akan mati atau terjebak dalam beberapa jenis keadaan radikal yang tidak optimal. Dalam contoh ini, konsekuensi dari bencana eksistensial memang sangat mudah untuk diprediksi dan sangat relevan dalam perspektif nilai tertentu, yang mengimplikasikan bahwa masa depan sangat penting. Jadi semua ini akan membantu fokus pada konsekuensi dari tindakan tertentu.
Video promosi:
Tetapi beberapa penelitian yang kami lakukan jauh lebih spesifik. Misalnya, kami memiliki sekelompok spesialis yang menangani keamanan kecerdasan buatan (ini adalah sub-bagian dari ilmu komputer), karena kami yakin bahwa wawasan semacam itu pasti akan dibutuhkan di masa depan.
Haruskah kita benar-benar takut pada hal-hal seperti kecerdasan buatan yang kuat, jatuhnya benda langit, invasi peradaban alien? Tidakkah Anda berpikir bahwa ketika pihak berwenang seperti Anda, Elon Musk atau Stephen Hawking membicarakan hal-hal seperti itu, mereka mengalihkan perhatian masyarakat dari masalah yang lebih mendesak?
Saya tidak berpikir bahwa kita seharusnya hanya memikirkan masalah yang kita hadapi sekarang. Kita harus memikirkan kemana kita akan pergi. Anda perlu mengkhawatirkan masa kini dan masa depan. Mengenakan penutup mata dan tidak melihat jalan setapak yang mengarah ke tebing akan menjadi kesalahan besar.
Apakah Anda benar-benar berpikir bahwa kecerdasan buatan dapat menjadi ancaman bagi kemanusiaan?
Tentu saja, itu adalah kecerdasan buatan yang kuat yang dapat menjadi ancaman - bukan yang ada sekarang. Saya dapat membayangkan skenario tertentu saat ini memungkinkan. Namun, saya melihat mereka lebih sebagai portal di mana umat manusia harus melewati jalan menuju masa depan yang lebih baik, yang menyiratkan perkembangan mesin superintelligence yang tak terhindarkan. Jadi pertanyaannya bukanlah apakah langkah ini harus diambil atau tidak. Hanya saja ketika kita melakukannya, harus berhati-hati dan bertanggung jawab. Kita perlu memastikan kita bisa melewati portal dan tidak menabrak dinding.
Tapi apakah umat manusia perlu melalui portal ini jika AI yang kuat ternyata lebih baik, lebih pintar, lebih cepat dari manusia? Secara umum, mengapa, dalam arti filosofis, seseorang dibutuhkan jika AI yang kuat akan mewakili alat yang lebih sempurna untuk pengetahuan diri tentang alam semesta?
Saya pikir kita harus menggunakan mesin sebagai perpanjangan dari keinginan manusia, sehingga bisa bermanfaat bagi kita. Dan itu mungkin. Tetapi ada juga risiko yang mungkin menghalangi kita untuk mencapai tujuan ini.
Saya mencoba untuk bertanya apakah ada arti keberadaan kehidupan organik yang tidak sempurna jika mesin lebih baik? Mengapa umat manusia bahkan ada setelah mengembangkan AI yang kuat?
Anda tahu, itu semua tergantung pada alternatifnya - apa akibatnya bagi umat manusia dan akan seperti apa bentuk kehidupan lain ini. Saya tidak berpikir bahwa jika sesuatu ternyata lebih masuk akal, lebih berhasil dalam pengertian evolusioner daripada seseorang, maka dari sudut pandang moralitas itu akan lebih baik daripada seseorang. Saya membayangkan berbagai hasil yang mengarah pada konsekuensi negatif yang signifikan: misalnya, peradaban teknologi yang sangat maju dapat kehilangan nilai universal. Tapi saya pasti tidak percaya bahwa manusia dalam bentuknya saat ini adalah makhluk ideal yang tidak bisa berkembang di tempat lain. Dan di sini saya tidak hanya berbicara tentang peningkatan bentuk kehidupan biologis - orang dapat membayangkan skenario positif di mana umat manusia akan menjadi bentuk kehidupan yang sepenuhnya digital.
Jadi menurut Anda kesadaran itu bisa ditransfer ke mobil?
Ya, tapi dengan munculnya teknologi yang cukup matang, tidak saat ini.
Dan, oleh karena itu, Anda percaya bahwa kesadaran secara eksklusif adalah proses penomoran?
Iya.
Bagaimana perasaan Anda tentang karya filsuf yang mendalilkan sifat dualistik kesadaran - bahwa kesadaran adalah fenomena subyektif yang ada di luar dunia objektif? Misalnya, seperti yang digambarkan oleh filsuf Australia David Chalmers
Saya seorang penganut teori bahwa kesadaran adalah angka. Tentu saja, saya tidak percaya bahwa apa yang membuat kita menjadi makhluk sadar memberi kita pengalaman subjektif bergantung pada fakta bahwa kita hanya terbuat dari atom karbon. Tetapi otak kita menghasilkan proses penomoran tertentu yang, pada prinsipnya, dapat diluncurkan di lingkungan yang berbeda. Dan ini adalah postulat kuncinya - bukan materi yang penting, tetapi atribut fungsional dari proses penomoran itu sendiri.
Dan fakta bahwa saya memandang dunia melalui kesadaran saya hanyalah serangkaian impuls saraf di otak saya?
Persis. Saya percaya bahwa otak Anda membangkitkan kesadaran Anda. Tapi pertanyaannya adalah apa lagi yang bisa membangkitkan kesadaran Anda. Dan saya pikir pada prinsipnya itu tidak harus menjadi struktur organik. Ini bisa berupa komputer, misalnya.
Tetapi apakah dia akan sadar akan dirinya sendiri, memiliki subjektivitas yang sama?
Saya yakin adalah mungkin untuk membuat komputer yang sadar diri. Sekali lagi, ini tidak mungkin sekarang, tetapi di masa depan saya tidak melihat kendala untuk ini.
Jika dia sadar diri, bukankah umat manusia harus menerimanya sebagai bentuk kehidupan cerdas yang setara?
Menurut saya, mungkin ada banyak pemikiran digital yang sangat berbeda, jauh lebih beragam daripada manusia. Meskipun kita percaya bahwa kita semua sangat berbeda - Bunda Teresa, Hitler, orang terpintar di dunia dan yang paling bodoh - kita semua sangat mirip satu sama lain, otak kita masing-masing tidak jauh berbeda dengan otak manusia lainnya. Semua ini adalah sekitar satu setengah kilogram dari ratusan miliar neuron. Tapi pikiran digital bisa sangat, sangat berbeda dan "asing" bagi kita (beberapa, tentu saja, mungkin mirip dengan kita, dan beberapa - tidak).
Pada saat yang sama, saya percaya bahwa beberapa pikiran digital (terutama mereka yang memiliki kesadaran, akan dapat merasakan sakit, tekanan, dan sebagainya) akan diberi gradasi status moral yang berbeda. Saat kita mengembangkan kecerdasan buatan yang semakin canggih dan canggih, pikiran digital, kita harus menghadapi masalah etika tertentu. Dan tidak hanya tentang bagaimana AI akan memengaruhi kita atau bagaimana seseorang dapat menerapkan AI dalam kaitannya dengan orang lain, tetapi juga tentang bagaimana kita akan berhubungan dengan pikiran digital ini.
Misalkan saya membuat piramida batu kecil dari batu dan menghancurkannya - saya tidak menyakiti siapa pun. Jika, tentu saja, Anda membangunnya, dan saya menghancurkannya, maka itu dapat merugikan Anda, tetapi piramida itu sendiri tidak memiliki status moral. Dan, katakanlah, seekor anjing memilikinya, dan oleh karena itu menendang seekor anjing adalah salah. Ini sama dengan pikiran digital sadar, bahkan jika pada awalnya kesadarannya berada pada tingkat yang sama dengan hewan. Ini menimbulkan pertanyaan etis tentang bagaimana kita harus memperlakukannya. Dan saya yakin akan segera tiba untuk memikirkan hal ini secara serius, tidak hanya dalam rangka seminar filosofis, tetapi juga dalam diskusi publik yang luas.
Bingkai: film "Keepers".
Jika kita berbicara tentang ancaman global, apakah peningkatan jumlah rezim otoriter di dunia dapat dianggap salah satunya?
Ya, menurut saya ini adalah salah satu skenario masa depan distopia yang dapat dibayangkan jika berbagai tren sosiopolitik berkembang ke arah yang salah dalam waktu yang cukup lama. Beberapa teknologi canggih dapat mempermudah pengembangan tren ini: pengawasan warga yang lebih baik, drone yang lebih canggih …
Sekarang, untuk memerintah suatu negara, meskipun Anda seorang diktator, Anda membutuhkan dukungan militer dan elit. Anda dapat membayangkan bahwa dengan bantuan teknologi kecerdasan buatan dan robotika, jumlah orang yang dibutuhkan untuk ini akan terus berkurang. Pada akhirnya, bisa jadi belasan orang akan mampu menguasai penduduk sebuah negara besar, dan ini memberikan banyak peluang untuk mempertahankan eksistensi rezim yang lalim.
Jadi ya - ini adalah salah satu risikonya, tetapi ada juga kemungkinan tren sosiopolitik ini akan menuju ke arah yang berbeda.
Anda sering berbicara dan menulis tentang singleton - sebuah asosiasi negara bagian di mana keputusan dibuat oleh satu badan dunia …
Jika Anda melihat sejarah spesies kita, maka pada awalnya unit integrasi politik terbesar adalah kolektif pemburu-pengumpul, yang terdiri dari maksimal lima puluh orang. Seiring waktu, suku-suku dibentuk di bawah kepemimpinan para pemimpin, lalu negara kota, lalu negara-bangsa. Sekarang kami memiliki asosiasi seperti Uni Eropa, berbagai organisasi internasional, dan ini akan berlanjut hingga singleton muncul. Artinya, ini adalah kelanjutan dari tren sejarah yang sudah berlangsung lama.
Seperti yang saya pahami, Anda mendalilkan bahwa mungkin ada dua jenis singleton: "buruk" - otoriter dan "baik" - egaliter …
Saya sama sekali tidak menganggap seorang lajang yang "buruk" harus otoriter, dan orang yang "baik" - egaliter. Ada berbagai keadaan di mana seorang lajang bisa menjadi "baik" atau "buruk."
Tolong jelaskan
Saya bahkan tidak tahu bagaimana merangkum semuanya … Tapi, tentu saja, Anda bisa membayangkan seorang lajang egaliter yang "buruk". Katakanlah dia mungkin tidak kompeten atau tidak efektif karena berbagai alasan. Misalnya, jika setiap orang hidup sama buruknya, itu akan menjadi hasil yang sepenuhnya egaliter, bukan? Tapi tetap saja buruk.
Jadi ada kemungkinan munculnya singleton otoriter yang "baik"?
Yah, mungkin, jika dibandingkan dengan berbagai alternatif, dalam situasi di mana diktator yang bermaksud baik berada di pucuk pimpinan … "Baik" dan "buruk" adalah istilah relatif yang digunakan dalam melihat situasi lain yang mungkin terjadi. Katakanlah, jika alternatifnya adalah bencana global, hasilnya akan relatif baik.
Tetapi bagaimana jika Anda membayangkan singleton egaliter yang sempurna? Semua ini tampak seperti utopia di mana orang hidup tanpa konflik dan perang dalam harmoni yang sempurna. Tetapi konflik melekat pada sifat manusia
Sifat manusia tidak terbuat dari perunggu. Jika kita mempertimbangkan situasi di mana kematangan teknologi peradaban tercapai (di sini maksud saya baik cara bioteknologi dan budaya untuk mengubah berbagai aspeknya), jika tujuan mencapai kebaikan bersama ditetapkan, ini bisa menjadi alasan yang baik untuk memodifikasi sifat manusia.
Dan bagaimana tepatnya ini bisa dicapai? Menjadi kurang agresif, lebih akomodatif, dan sebagainya? Bagaimanapun, orang cenderung tidak mempercayai orang asing, untuk mengelompokkan diri mereka ke dalam asosiasi yang menentang asosiasi lain
Ya, dan itu adalah pilihan mereka dan bisa diubah. Tetapi jika satu kelompok memperlakukan kelompok lain dengan buruk, mereka mungkin memutuskan untuk tidak berubah sedemikian rupa untuk menemukan kesamaan dengan kelompok lain.
Artinya, kemungkinan besar perilaku manusia tidak dapat diubah dalam skala global?
Persis. Di sini kita berbicara tentang perubahan motivasi, dan sebelumnya saya berbicara tentang kemungkinan perubahan seperti peluang teknologi muncul. Dan kemudian, tentu saja, muncul pertanyaan apakah orang akan memutuskan untuk menggunakannya untuk mencapai tujuan ini.
Omong-omong, tentang teknologi. Kami selalu takut dengan teknologi baru. Misalnya, baru-baru ini saya membaca kolom di sebuah terbitan Amerika, yang penulisnya berkampanye menentang pengabaian uang kertas tunai, karena pembayaran nontunai diduga memberi terlalu banyak peluang bagi bank untuk mengontrol populasi. Apakah Anda setuju dengan sudut pandang ini? Apakah ini benar-benar ancaman bagi masyarakat?
Uang tunai adalah keamanan anonim. Anda dapat membayar dengan uang kertas dan tidak diidentifikasi. Semua ini mengurangi kemampuan bank dan negara untuk mengontrol kehidupan sehari-hari warga, yang dalam keadaan tertentu bisa sangat berguna - misalnya, dalam rezim lalim. Tetapi untuk alasan yang sama, ini membuka jalan bagi semua jenis transaksi negatif. Aktivitas kriminal melibatkan pembayaran anonim, transfer tagihan dalam amplop atau mitra modern mereka - pembayaran dalam cryptocurrency. Mereka jauh lebih sulit untuk dilakukan, katakanlah, melalui sistem VISA, di mana data pribadi Anda ditautkan ke setiap transaksi.
Jadi, sangat sulit untuk memutuskan arah mana untuk "menggerakkan slider". Ada beberapa skenario berbeda di mana Anda mungkin ingin memiliki kontrol sosial yang lebih besar atas transaksi untuk mempersulit organisasi kriminal, misalnya. Karena aktivitas mereka berbahaya bagi masyarakat, kemungkinan besar Anda ingin mendapatkan cara untuk membatasi mereka, dan salah satu caranya adalah dengan mengatur transaksi keuangan.
Ini salah satu contohnya. Tapi bagaimana dengan aktivis yang menyerukan pelarangan Uber dan layanan serupa, karena menurut mereka melanggar hak pengemudi taksi?
Saya tidak tahu hak apa yang dilanggar Uber. Saya pikir mereka hanya tidak menginginkan persaingan.
Menurut Anda, apakah orang seperti itu bisa disebut neoluddite?
Anda perlu melihat argumentasi individu tertentu. Bagaimanapun, saya tidak berpikir bahwa memberi label pada mereka akan mengarahkan pada pemahaman tentang posisi mereka. Anda perlu mendengarkan argumen mereka dan memutuskan apakah mereka baik dari sudut pandang Anda atau tidak.
Bingkai: film "Equilibrium".
Mari kita bicara tentang transhumanisme. Ada kritik populer terhadap transhumanisme, yang menurut bioteknologi, modifikasi tubuh tidak akan tersedia untuk orang miskin dan warga negara dengan pendapatan rata-rata. Hanya orang kaya - satu persen dari populasi - yang bisa mendapatkannya, dan ini akan menyebabkan peningkatan ketimpangan yang sangat besar di masyarakat. Ini tidak benar? Atau apakah menurut Anda semuanya adil: yang kaya dan sukses harus memiliki yang terbaik?
Ini perlu dianalisis dengan contoh spesifik. Saya tidak percaya bahwa semua bioteknologi yang digunakan untuk memperbaiki tubuh manusia harus mahal. Ambil contoh, Modafinil modern, obat yang digunakan untuk meningkatkan kinerja kognitif (katakanlah itu membantu beberapa orang). Memang, harganya mahal, tapi tidak lebih dari segelas cappucino Starbucks yang mereka minum setiap hari. Dan jika dia melakukan pekerjaannya, dia sepadan dengan uangnya.
Agen farmakologi modern yang entah bagaimana meningkatkan sifat tertentu seseorang umumnya tidak terlalu mahal. Sebaliknya, masalahnya adalah Anda perlu mendapatkan resep untuk mereka. Lebih mudah mendapatkan obat semacam itu untuk orang dengan pendidikan yang baik. Pertama-tama, dia akan tahu tentang keberadaan obat ini, akan lebih mudah baginya untuk menemukan dokter yang dia kenal yang dapat menulis resep ini untuknya … Semua ini akan jauh lebih sulit dilakukan oleh seorang pekerja atau petani yang tidak berpendidikan daripada untuk seorang intelektual, bankir, dan sebagainya. Tetapi hambatannya terletak pada hal ini, dan bukan pada jumlah uang itu sendiri.
Tentu saja, jika kita berbicara tentang teknologi masa depan, harganya bisa sangat mahal dan diskriminatif dalam pengertian ini. Dan masyarakat harus memutuskan apakah mereka cukup berguna untuk mensubsidi mereka - dalam arti yang sama seperti subsidi untuk perawatan kesehatan sekarang disediakan.
Jika kita berbicara tentang subsidi, bagaimana menurut Anda tentang pendapatan yang dijamin, jumlah uang yang secara teratur dibayarkan oleh negara kepada setiap anggota masyarakat, terlepas dari apakah dia bekerja atau tidak? Haruskah itu menjadi praktik umum manusia?
Saya pikir masalah ini harus didekati dari sudut pandang yang sama dengan kecerdasan buatan: itu harus bermanfaat bagi semua umat manusia dan sesuai dengan cita-cita etika. Bagi saya, semua orang yang mencapai usia tertentu harus menerima bagian dari keuntungan tertentu. Cara terbaik untuk melakukan ini, itu akan menjadi aliran pendapatan konstan atau modal tertentu yang dibayarkan satu kali, yang kemudian dapat dibelanjakan oleh seseorang atas kebijaksanaannya sendiri untuk layanan dan barang tertentu, saya belum tahu. Mempertahankan aliran pendapatan yang tidak terputus, sekali lagi, bergantung pada situasi ekonomi. Dan dalam jangka panjang, harus dipahami bahwa kemungkinan besar kita harus menghadapi pertumbuhan eksponensial dalam populasi dunia, yang mungkin melebihi pertumbuhan ekonomi dunia - argumen yang agak Malthus.
Apakah menurut Anda sistem kesejahteraan Eropa saat ini - Welfer - memiliki kekurangan?
Sepertinya cukup bagus untukku. Tentu ada cara untuk memperbaikinya. Tapi bagaimanapun, itu bagus bila ada sistem kesejahteraan di negara kaya yang mampu membelinya.
Apa pendapat Anda tentang politik sayap kiri kontemporer - kebenaran politik, inklusivitas, dan sebagainya? Apakah dia benar-benar bekerja untuk kebaikan semua orang?
Di satu sisi, kehadiran hal-hal yang tidak dapat dibicarakan dan dipikirkan membuat saya sebagai seorang filsuf kehilangan beberapa kemungkinan. Saya pikir kadang-kadang kebenaran yang pahit itu baik, bahkan jika itu menyinggung perasaan seseorang, dan Anda harus membayar harga yang mahal karena tabu diskusi tentang apa yang merupakan bagian dari kenyataan modern.
Di sisi lain, jika ini berkontribusi pada konstruksi masyarakat yang lebih sensitif terhadap masalah komunitas, yang perwakilannya melakukan yang terbaik untuk tidak saling merugikan, sehingga mengurangi tingkat agresi dan kekerasan … Semua ini bisa menjadi hal yang sangat positif, bahkan jika itu mewakili suatu hal tertentu. resiko. Lihat, jika Anda sangat ingin benar secara politis tentang masalah-masalah kecil sehari-hari, kemungkinan Anda berniat untuk melakukan semacam pembersihan etnis besar-besaran dan brutal atau memulai perang akan berkurang secara signifikan. Secara umum, jika itu membuat kita lebih peka dalam hal-hal kecil, maka itu akan membantu dalam pengertian global, dan semua kekurangan kecil dari program semacam itu akan benar-benar dibenarkan.
Saya membaca di salah satu terbitan Anda bahwa budaya Barat modern "secara aktif menyabotase kesuburan kita karena pengenalan alat kontrasepsi." Argumen yang cukup konservatif. Bisakah Anda menjelaskannya?
Ini yang saya maksud: jika Anda tidak menggunakan alat kontrasepsi, Anda akan memiliki lebih banyak bayi, yang berarti lebih banyak bayi yang akan bertahan hidup. Sekarang orang melahirkan lebih sedikit anak daripada yang mereka bisa, yang berarti mereka tidak dalam keseimbangan evolusioner dengan lingkungan modern.
Haruskah kita memberikan peran utama pada evolusi biologis daripada sosial?
Saya percaya bahwa, pertama-tama, peran utama harus dimainkan oleh nilai-nilai kemanusiaan universal, dan bukan tugas biologis.
Lalu mengapa tidak menggunakan alat kontrasepsi?
Tentu saja, Anda dapat menyabotase potensi reproduksi Anda, tetapi Anda harus menyadari apa yang Anda lakukan, dan ini sangat bermanfaat. Misalnya, jika Anda sedang mempertimbangkan skenario jangka panjang untuk perkembangan peradaban manusia, Anda perlu memperhitungkan bahwa orang yang menyabotase potensi reproduksi entah bagaimana akan menghilang dari muka bumi. Gen mereka tidak akan berada di kolam gen planet kecuali kebijakan ini diubah.
Nah, dalam jangka pendek, Anda tidak perlu memikirkannya, tetapi Anda harus sadar bahwa di sini Anda bertindak melawan berbagai kecenderungan evolusioner. Dan penting untuk disadari bahwa hal ini akan berdampak dalam jangka panjang.
Bingkai: film "Lucy".
Apakah evolusi biologis masih berhasil dalam masyarakat manusia?
Tentu saja. Ia bekerja dalam populasi manusia seperti halnya pada populasi lain. Tentu saja, lingkungan modern tempat kita hidup sangat berbeda dari lingkungan kemampuan beradaptasi evolusioner, tetapi saya yakin saat ini terdapat seleksi evolusioner yang sangat kuat dalam populasi manusia. Pada skala waktu ekologis, berjalan cepat, tetapi, katakanlah, dalam kaitannya dengan skala waktu kemajuan teknologi, sebaliknya, sangat lambat. Meskipun seleksi berlangsung sangat cepat, banyak generasi harus berlalu sebelum terjadi perubahan besar. Pada saat yang sama, saya pikir dalam waktu kurang dari beberapa generasi kita akan menerima alat yang sempurna untuk memanipulasi genom manusia dan kemungkinan lain untuk mengubah keadaan seseorang. Oleh karena itu, saya tidak terlalu khawatir tentang tren lambat dalam evolusi biologis, mengingat prospek teknologi semacam itu di cakrawala.
Haruskah kita memilih jalur untuk meningkatkan kumpulan gen melalui bioteknologi - memilih gen yang "buruk" dan mempertahankan yang "baik"? Apakah ini tidak akan mengarah pada Darwinisme sosial?
Saya tidak berpikir bahwa pengobatan genetik atau seleksi genetik mengandaikan pendekatan sosial Darwinian. Anda dapat melihat bagaimana ini terjadi sekarang: ketika pasangan memutuskan untuk menjalani fertilisasi in vitro, embrio menjalani diagnosa genetik. Alih-alih hanya memeriksa sel untuk mencari kelainan kromosom, kami dapat mendiagnosis berbagai masalah, termasuk yang tidak terkait dengan penyakit. Misalnya, kecenderungan untuk hidup sehat panjang, kecerdasan, kemampuan atletik, ciri-ciri kepribadian … Anda akan memiliki lebih banyak informasi untuk memilih 6-8-10 embrio yang akan ditanamkan selama prosedur IVF. Dan menurut saya konteks ini sangat mungkin dalam hal penggunaan teknologi genetik.
Anda adalah penulis "bukti simulasi" yang menurutnya kita mungkin hidup dalam simulasi realitas pada beberapa jenis komputer. Bagaimana orang biasa bisa membayangkan ini? Sulit untuk dicerna pada awalnya
Saya tidak begitu mengerti tugas apa yang Anda tetapkan. Anda hanya perlu menerima bahwa tidak ada yang berubah, hanya saja dasar dari realitas yang dapat diamati ini di mana kita ada bukanlah hukum dasar fisika, tetapi semacam program komputer yang tertanam di komputer, dibuat oleh beberapa makhluk cerdas yang maju - mungkin lebih maju secara teknologi peradaban (mungkin superintelligent). Jadi semua yang kami lihat adalah proses yang berjalan di komputer ini, tetapi bagi penghuni simulasi ini - kami - tidak ada perbedaan besar dalam basisnya.
Lebih menarik untuk memikirkan alasan praktis untuk membuat simulasi semacam itu. Mereka bisa berbeda, penulisnya bisa menjalankan simulasi lain untuk menyelesaikan masalah lain. Ada banyak opsi bagaimana simulasi akan berakhir - dan seterusnya. Ini sangat penting jika dibandingkan dengan situasi di mana kenyataan ini menjadi dasar.
Jika kita berbicara tentang komputer yang mensimulasikan kenyataan, bagaimana dengan hukum fisika? Komputer seperti itu akan menjadi raksasa dan akan mengkonsumsi energi dalam jumlah yang tak terbayangkan, jika tidak, bagaimana cara menghitung setiap partikel elementer?
Tentu. Oleh karena itu, saya tidak berpikir bahwa peradaban ini akan meniru semua detail realitas, hingga atom. Saya percaya bahwa lebih rasional untuk meniru bagian-bagian realitas yang kita amati pada saat kita mengamatinya (mungkin lebih banyak).
Ambil contoh, atom dari tabel tempat Anda duduk. Anda tidak tahu apa yang terjadi pada mereka sekarang. Anda hanya perlu mengetahui dimensi meja, warnanya, bobotnya. Dan dalam simulasi, hanya menghitung atribut-atribut ini saja. Jika Anda mengambil mikroskop elektron dan meletakkan sepotong meja di bawahnya, Anda akan melihat lebih banyak detail yang akan dihitung secara khusus untuk ini. Tetapi mereka hanya akan dihitung sedemikian rupa sehingga Anda, sebagai orang biasa, tidak akan melihat adanya anomali.
Jadi, jika Anda adalah superintelligence yang sepenuhnya mengendalikan realitas - hingga ke semua aspek elemennya, adalah bijaksana untuk menambahkan detail saat dan saat Anda memperhatikannya.
Ternyata kenyataan itu disimulasikan untuk ketujuh miliar orang yang hidup di bumi? Untuk hewan? Untuk alien?
Itu semua tergantung pada jenis simulasi. Jika kita berbicara tentang simulasi untuk semua orang yang hidup, bisa dibayangkan bahwa itu mencakup seluruh sejarah umat manusia dan diluncurkan baru-baru ini. Anda juga dapat membayangkan simulasi dilakukan untuk satu orang tertentu atau sekelompok kecil orang. Kemudian, tentu saja, muncul pertanyaan: bagaimana semua orang lain yang kita lihat ada di sini, sementara tidak menjadi makhluk sadar? Mungkin mereka hanya disimulasikan dari segi tampilan, seperti avatar yang ada di video game. Masih ada satu pertanyaan yang belum terjawab: bagaimana meniru perilaku eksternal orang tanpa menghasilkan, sebagai efek samping, kesadaran, yang, seperti biasa kita asumsikan, dimiliki setiap orang? Jadi, mungkin, menciptakan orang yang dapat dipercaya dalam hal perilaku,Anda perlu mensimulasikan proses yang terjadi di otaknya dengan akurasi tertentu, yang dalam satu atau lain cara akan mengarah pada munculnya pikiran sadar. Meskipun, tentu saja, ada kemungkinan bahwa Anda bisa saja memalsukannya. Dan kemudian kita dapat membayangkan keberadaan sekelompok kecil orang-orang simulasi di mana kesadaran telah berkembang sepenuhnya, sedangkan sisanya hanyalah figuran.
Menurut hipotesis Anda, ada banyak simulasi dalam simulasi - seperti boneka bersarang. Apakah keberadaan alam semesta dasar, bukan tiruan wajib dalam kasus ini? Bagaimana tampilannya dan apa itu?
Argumen saya mengasumsikan bahwa ada beberapa tingkat dasar dari realitas fisik di mana beberapa makhluk berkembang, menjadi sangat maju secara teknologi, menggunakan teknologi ini untuk memperoleh kecerdasan super (atau kecerdasan buatan superintelligent) dan kemudian mereka memiliki banyak sumber daya dan waktu. Mereka menghabiskannya, termasuk membuat simulasi orang-orang cerdas ini - mungkin seperti kita.
Mungkin mereka mengizinkan simulasi untuk terus berfungsi setelah orang-orang ini membuat simulasi, yang kemudian menjadi simulasi tingkat kedua. Tetapi semua ini akan ada di komputer yang dibuat oleh peradaban yang ada pada tingkat dasar realitas fisik, dan pada saat yang sama, mungkin ada hierarki simulasi dalam simulasi. Tetapi di sini akan ada batasan khusus untuk semua ini, karena pada akhirnya peniruan dilakukan pada komputer yang ada pada tingkat dasar realitas fisik. Ada batasan pada energi yang tersedia untuk mempertahankan kapasitas ini, dan oleh karena itu batasan jumlah simulasi bersarang. Tentu saja, Anda dapat mengambil beberapa pendekatan esoterik, mencoba menemukan celah untuk bersarang tanpa akhir, tetapi menurut saya itu tidak layak dilakukan.
Bagaimana jika mereka mensimulasikan dunia di mana hukum fisika sama sekali berbeda dari kita?
Ini juga mungkin, mereka dapat membuat semacam simulasi yang fantastis.
Nah, jika kita hidup dalam simulasi, apa gunanya membuat rencana, memprediksi risiko global … Pertanyaan eksistensial - apa gunanya hidup dalam simulasi, ketika penciptanya cukup mematikan daya komputer dan semuanya akan berakhir?
Secara umum, "bukti simulasi" tidak berarti bahwa kita hidup dalam simulasi, melainkan tentang batasan dari apa yang dapat kita yakini. Ini mengasumsikan bahwa salah satu dari tiga pernyataan itu benar. Yang pertama adalah kita hidup dalam simulasi, tetapi ada dua alternatif. Yang kedua adalah bahwa semua peradaban mati sebelum mencapai kematangan teknologi, dan yang ketiga adalah bahwa semua peradaban yang matang kehilangan minat untuk menciptakan simulasi semacam itu, mereka memutuskan untuk tidak melakukannya.
Tapi, dalam kerangka argumen kita, jika kita benar-benar hidup dalam simulasi, saya tidak mengerti mengapa makna kehidupan sehari-hari bergantung pada fakta bahwa dasar realitas kita adalah tiruan yang diciptakan oleh beberapa peradaban maju, dan bukan hukum dasar fisika. Bagaimanapun, apa yang akan terjadi pada Anda selanjutnya, apa yang akan terjadi pada kerabat, teman, dan orang lain Anda tergantung pada tindakan Anda. Jadi apa yang Anda lakukan dalam simulasi itu penting, meskipun di luar itu tidak.
Selain itu, ada kemungkinan bahwa apa yang terjadi di dalam simulasi mempengaruhi apa yang ada di luarnya. Mungkin pencipta mengembangkannya untuk tujuan ilmiah, untuk mempelajari apa yang orang lakukan, dan ini mempengaruhi apa yang mereka lakukan, karena penting bagi mereka untuk memahami sifat manusia berdasarkan pilihan yang kita buat. Jadi mungkin ada konsekuensi tambahan di luar yang sudah jelas.
Diwawancarai oleh Mikhail Karpov
