Jika Anda pernah memainkan game role-playing - baik online atau di halaman belakang kuno - Anda tahu betapa mudahnya menjadi terikat pada avatar Anda, yaitu membiasakan diri dengan peran "perampok Cossack". Anda benar-benar merasakan sakit ketika karakter dipukul oleh troll, dipanggang oleh naga, atau dibunuh oleh dukun. Sosiolog Amerika (dan avid gamer) William Sims Bainbridge mengambil hubungan ini lebih jauh dengan membuat representasi virtual dari 17 anggota keluarga yang telah meninggal. Dalam esai tahun 2013 tentang avatar online, dia membayangkan saat kita dapat memuat kepribadian kita ke dalam simulasi kecerdasan buatan dari diri kita sendiri yang dapat bertindak secara independen dari kita dan bahkan tetap tinggal setelah kita mati.
Tanggung jawab apa yang dapat kita berikan pada orang-orang yang disimulasikan ini? Meskipun kami mencurigai game komputer yang penuh kekerasan, tidak ada yang menganggap serius pembunuhan untuk melemahkan penyerang virtual. Namun, tidak lagi konyol untuk membayangkan bahwa orang yang pernah ditiru akan ada dan juga memiliki otonomi dan kesadaran tertentu. Banyak filsuf percaya bahwa pikiran seperti kita tidak harus disimpan dalam jaringan neuron di otak kita, tetapi bisa ada di berbagai jenis sistem material. Jika mereka benar, tidak ada alasan untuk percaya mengapa komputer yang cukup kuat tidak dapat menyimpan kesadaran dalam chip mereka.
Apakah Anda akan membunuh lalat digital?
Saat ini, banyak filsuf moral mencoba memahami etika mengubah populasi manusia dan mengajukan pertanyaan seperti ini: Berapa harga nyawa manusia? Kehidupan seperti apa yang harus kita upayakan untuk dibentuk? Seberapa besar nilai yang harus kita investasikan dalam keanekaragaman manusia? Tetapi ketika berbicara tentang etika menangani entitas model, tidak sepenuhnya jelas apakah kita harus mengandalkan logika dan intuisi yang sama yang kita gunakan dalam dunia daging dan darah kita. Jauh di lubuk hati kita, kita merasa salah membunuh seekor anjing atau bahkan lalat. Tapi apakah melumpuhkan lalat - atau model otak manusia - membunuh? Ketika "kehidupan" mengambil bentuk digital baru, pengalaman kita sendiri tidak dapat lagi bertindak sebagai pendamping moral yang dapat diandalkan.
Adrian Kent, fisikawan teoritis di Universitas Cambridge, memutuskan untuk mengeksplorasi celah dalam penalaran moral ini. Misalkan kita telah belajar meniru kesadaran manusia di komputer dengan murah dan sederhana, tulisnya di salah satu artikel. Kami ingin memberikan makhluk virtual ini lingkungan yang kaya dan bermanfaat untuk komunikasi - kehidupan yang layak dijalani. Mungkin kita bisa melakukan ini dengan orang sungguhan dengan memindai otak mereka dengan sangat detail dan mereplikasi mereka di komputer. Bisa dibayangkan bagaimana teknologi seperti itu “menyelamatkan” orang dari penyakit yang fatal; beberapa transhumanis melihat ini sebagai jalan menuju kesadaran abadi.
Tentu saja, ini semua bisa menjadi mimpi pipa - tetapi mari kita asumsikan sebaliknya. Sekarang, mari kita pelajari seperangkat prinsip moral utilitarian yang diperkenalkan oleh Jeremy Bentham pada akhir abad ke-18 dan kemudian disempurnakan oleh John Stuart Mill. Semua hal dipertimbangkan, kata Bentham, kita harus berusaha untuk membawa kebahagiaan (atau "utilitas") maksimum kepada sebanyak mungkin orang. Atau, dalam kata-kata Mill, "tindakan dibenarkan sebanding dengan betapa bahagianya mereka, dan tidak dibenarkan jika menyebabkan kurangnya kebahagiaan."
Prinsip-prinsip perilaku yang baik mendapat banyak kritik. Misalnya, bagaimana kita bisa mengukur atau membandingkan jenis kebahagiaan - menimbang nilai cinta seorang nenek, misalnya, pada skala yang sama dengan kekaguman pada pianis konser virtuoso? "Bahkan jika Anda ingin menganggap utilitarianisme dengan serius, Anda tidak tahu kualitas apa yang Anda masukkan ke dalam perhitungan Anda yang benar-benar penting," kata Ken. Namun, sebagian besar sistem kepercayaan saat ini secara default mengakui bahwa kompas moral yang mengarah ke kebahagiaan yang lebih besar pasti lebih disukai daripada yang berpaling darinya.
Video promosi:
Menurut skenario Kent, jika kita melanjutkan dari motif utilitarian, dapat dipercaya bahwa kita harus bergerak maju dan memperbanyak model, atau simulasi, makhluk kita - sebut saja mereka sims - tanpa batasan. Di dunia nyata, prokreasi yang tidak terkendali seperti itu jelas memiliki kerugian. Orang akan menderita, secara emosional dan ekonomi, dengan keluarga besar; kelebihan populasi telah memberikan tekanan pada sumber daya global, dan seterusnya. Tapi di dunia virtual, mungkin tidak ada batasan seperti itu. Anda dapat membuat utopia dengan sumber daya yang hampir tidak terbatas. Lalu, mengapa Anda tidak dapat menciptakan dunia sebanyak mungkin dan mengisinya dengan Sim yang menyenangkan?
Intuisi kami menyarankan jawabannya: tetapi mengapa? Mungkin sim yang sadar tidak akan memiliki nilai intrinsik yang sama dengan orang yang memiliki darah dan daging? Hal ini diungkapkan oleh Michael Medery, seorang filsuf filosofi pikiran dan ahli etika realitas virtual di Universitas Tulane di New Orleans, dan percaya bahwa itu harus ditanggapi dengan serius.
Beberapa filsuf percaya bahwa kita sendiri dapat menjadi makhluk simulasi yang serupa. Kami tidak bisa begitu saja mengesampingkan kemungkinan seperti itu, namun kami menganggap pertanyaan-pertanyaan ini bermakna. Jadi orang juga akan berasumsi bahwa Sims memiliki hak untuk mengajukan pertanyaan.
Kent kembali mengajukan pertanyaan: mana yang lebih tepat - menciptakan populasi makhluk yang identik atau sama sekali berbeda? Jelas, akan lebih efisien untuk membuat makhluk yang identik - cukup informasi tentang satu untuk membuat N dari mereka. Tetapi naluri kita memberi tahu kita bahwa keragaman memiliki arti dan nilai. Dan mengapa, saya bertanya-tanya apakah tidak ada alasan untuk percaya bahwa N individu yang berbeda akan lebih bahagia daripada N yang identik.
Pendekatan Kent adalah bahwa kehidupan yang berbeda lebih disukai daripada beberapa salinan yang sama. “Saya tidak dapat menyingkirkan pemikiran bahwa alam semesta dengan satu miliar tiruan identik independen dari Alice akan kurang menarik dan kurang berkualitas daripada alam semesta dengan satu miliar individu yang berbeda,” katanya. Dia menyebut konsep replikasi ini sebagai inferioritas.
Jika kita menganggap kosmos dihuni oleh milyaran Alice, apakah layak membicarakan tentang satu kehidupan, berlipat ganda berkali-kali, atau apakah kita berbicara tentang satu kehidupan, tersebar di banyak dunia. Dapat diikuti dari sini bahwa banyak Alice dalam lingkungan yang identik akan memiliki nilai tidak lebih dari satu. Dia menyebut skenario ini sebagai replikasi yang tidak berguna. "Saya cenderung berpendapat demikian," kata Kent, bagaimanapun, mengakui bahwa dia tidak dapat menemukan argumen yang tak terbantahkan dalam pembelaannya.
Eksperimen pemikiran Kent menyentuh beberapa misteri lama filsafat moral yang belum pernah terpecahkan. Filsuf Inggris Derek Parfit, yang meninggal tahun lalu, berbicara kepada mereka dalam karya monumentalnya tentang kepribadian dan diri, Alasan dan Kepribadian (1984). Parfit merenungkan pertanyaan seperti berapa banyak orang yang harus ada, dan apakah akan selalu lebih baik secara moral untuk menambahkan kehidupan yang layak untuk dijalani dengan hiruk pikuk dunia saat kita mendapat kesempatan.
Bahkan jika Anda menerima sudut pandang utilitarian, ada masalah menemukan kebahagiaan terbesar untuk jumlah terbesar: kriteria ganda menciptakan ambiguitas. Misalnya, bayangkan kita memiliki kendali atas berapa banyak orang yang hidup di dunia dengan sumber daya yang terbatas. Orang akan berpikir bahwa harus ada sejumlah orang optimal yang (pada prinsipnya) akan menggunakan sumber daya sebaik-baiknya untuk memastikan kebahagiaan dan kemakmuran bagi semua. Tetapi tidakkah ada ruang dalam utopia seperti itu untuk orang lain? Tidakkah bisa diterima untuk sedikit mengurangi kebahagiaan setiap orang untuk memastikan kehidupan bahagia lainnya?
Masalahnya adalah proses ini tidak ada akhirnya. Ketika jumlahnya meningkat, kebahagiaan tambahan dari kehidupan baru mungkin lebih besar daripada biaya mereka yang sudah hidup. Pada akhirnya, kata Parfit, Anda sampai pada "kesimpulan yang menjijikkan": skenario di mana hasil terbaiknya adalah populasi orang-orang yang membengkak yang sangat tidak bahagia tetapi lebih baik daripada tidak ada kehidupan sama sekali. Jika digabungkan, sedikit kebahagiaan mereka berjumlah lebih dari sekedar jumlah kecil orang yang benar-benar bahagia. "Sulit bagi saya untuk menerima kesimpulan ini," tulis Parfit, tetapi dapatkah kita membenarkan pendekatan ini? Kent tidak tahu. “Saya tidak tahu apakah bisa ada keputusan yang seimbang tentang kesimpulan yang menjijikkan,” katanya.
Pada akar dari pertanyaan ini terletak apa yang Parfit sebut sebagai "masalah non-identitas": bagaimana kita bisa bernalar secara rasional tentang pertanyaan individu yang khawatir jika keberadaan mereka sangat bergantung pada pilihan yang kita buat (seperti menemukan tempat untuk "yang lain")? Menimbang pro dan kontra yang dapat mempengaruhi individu, tergantung pada keputusan yang kita buat, pada prinsipnya tidak terlalu sulit. Tetapi mengingat kemungkinan bahwa karakter ini mungkin tidak pernah ada, kami tidak lagi tahu cara menghitungnya. Dibandingkan dengan nol atau ketiadaan, apapun akan menjadi kemenangan, jadi bahkan skenario terburuk dari keberadaan dapat dibenarkan secara moral.
Ada skenario lain yang sangat aneh dalam permainan populasi utilitarian ini. Bagaimana jika ada orang dengan kebutuhan yang begitu besar akan kebahagiaan sehingga mereka akan menuntut lebih banyak dari orang lain daripada yang mampu mereka berikan? Filsuf Amerika Robert Rozick menyebut ciptaan ini sebagai "monster utilitarian" dan mengkritiknya dalam bukunya Anarchy, State and Utopia (1974). Menurut Nozick, gambar ini "mengharuskan kita semua berkorban demi monster itu untuk meningkatkan utilitas kita secara keseluruhan." Sebagian besar buku Parfit merupakan upaya - yang pada akhirnya tidak berhasil - untuk melarikan diri dari kesimpulan yang mengerikan dan monster utilitarian.
Sekarang mari kita kembali ke dunia virtual Kent yang penuh dengan Sim dan prinsip replikasi tidak lengkapnya - ketika sejumlah nyawa yang berbeda bernilai lebih dari jumlah yang sama dari yang identik. Mungkin ini akan memungkinkan kita menghindari kesimpulan mengerikan Parfit. Terlepas dari apa yang dikatakan Leo Tolstoy tentang ketidaksetaraan keluarga yang tidak bahagia di awal Anna Karenina (1878), tampaknya sejumlah besar kehidupan yang tidak bahagia hampir sama dalam kesedihan mereka yang suram. Akibatnya, tidak mungkin untuk mengambilnya dan meningkatkan kebahagiaan secara keseluruhan setetes demi setetes.
Tetapi dengan cara yang sama, inferioritas replikasi memanjakan monster utilitarian - menurut definisi, itu harus unik, dan karena itu lebih "berharga", dibandingkan dengan kesamaan tak terelakkan dari kehidupan yang memberinya makan. Keputusan ini juga tidak memuaskan kami. "Alangkah baiknya jika orang-orang lebih memikirkan masalah ini," aku Kent. "Saya agak bingung dengan mereka."
Bagi ekonom libertarian Amerika Robin Hanson, profesor ekonomi di George Mason University di Virginia, refleksi ini bukanlah eksperimen mental seperti prediksi masa depan. Bukunya "The Age of Em" menyajikan sebuah masyarakat di mana semua orang mengunggah kesadaran mereka ke dalam komputer untuk menjalani hidup mereka dalam bentuk "emulasi" (bukan sims, tapi emas). “Miliaran unduhan semacam itu dapat tinggal dan bekerja di satu gedung bertingkat tinggi, dan akan ada ruang untuk semua orang,” tulisnya.
Hanson meneliti secara rinci bagaimana ekonomi seperti itu dapat berhasil. Ems dapat berukuran berapa pun - beberapa di antaranya akan sangat kecil - dan waktu dapat berjalan berbeda untuk mereka dibandingkan dengan manusia. Akan ada pengawasan ketat dan gaji kecil, tetapi mereka dapat menghilangkan penderitaan ini dengan memilih hidup tanpa pekerjaan. (Hanson percaya kita sudah bisa hidup di dunia seperti itu.)
Skenario ini memungkinkan kemungkinan penggandaan dirinya sendiri, karena pikiran telah dipindahkan ke komputer, jadi membuat salinan akan sangat sederhana. Hanson mengatakan bahwa masalah identitas dalam kasus ini kabur: duplikat pada awalnya adalah "orang yang sama", tetapi lambat laun identitas mereka menyimpang ketika mereka mulai hidup terpisah.
Hanson menyarankan bahwa menduplikasi orang tidak hanya mungkin, tetapi diinginkan. Di era emu yang akan datang, orang dengan kemampuan mental yang sangat berharga akan "dibebani" berkali-kali. Dan secara umum, orang akan ingin membuat banyak salinan dari diri mereka sendiri sebagai bentuk asuransi. "Mereka mungkin lebih suka redundansi dalam implementasinya sendiri untuk memastikan mereka dapat bertahan dari bencana tak terduga," kata Hanson.
Tapi dia tidak berpikir mereka lebih suka skenario Kent tentang kehidupan yang identik. Ems “tidak akan memberi nilai khusus untuk menjalani kehidupan yang sama di waktu dan tempat yang berbeda. Mereka akan menginvestasikan nilai dalam banyak salinan karena salinan tersebut dapat bekerja atau berkomunikasi dengan orang lain. Tapi pekerjaan dan hubungan semacam ini akan membutuhkan setiap salinan untuk menjadi independen kausal dan cerita mereka terkait berdasarkan tugas atau sebagai mitra."
Bagaimanapun, mereka harus bergulat dengan kesulitan moral yang belum bisa kita anggap berlebihan. “Saya tidak berpikir bahwa moralitas yang dimiliki manusia cukup umum atau cukup dapat diandalkan untuk memberikan jawaban yang meyakinkan untuk situasi seperti ini, yang sangat jauh dari 'pengalaman' nenek moyang kita,” kata Hanson. "Saya memperkirakan emu akan memiliki banyak perbedaan pendapat yang berbeda tentang hal-hal seperti itu."
Ems, sims dan masa depan virtual kita
Sekarang semua ini mungkin terdengar sangat aneh, seperti pembicaraan abad pertengahan yang apokrif tentang malaikat yang menari berjinjit. Akankah kita bisa menciptakan kehidupan virtual yang mirip dengan kehidupan nyata? "Saya rasa tidak ada yang bisa dengan yakin mengatakan apakah ini mungkin atau tidak," kata Kent, sebagian karena "kami tidak memiliki pemahaman ilmiah yang baik tentang kesadaran."
Meski begitu, teknologi sedang bergerak maju dan pertanyaan-pertanyaan ini tetap terbuka. Filsuf Swedia Nick Bostrom dari Institute for the Future of Man, berpendapat bahwa daya komputasi yang tersedia untuk peradaban "posthuman" akan memudahkan simulasi makhluk yang hidup di dunia dan merasakannya senyata kita sendiri. (Bostrom juga berpikir kita bisa hidup dalam simulasi seperti itu.) Tetapi menanyakan bagaimana kita dapat mengisi dunia seperti itu menghadirkan "dilema nyata bagi pemrogram, ilmuwan, dan pembuat undang-undang di masa depan, meskipun tidak terlalu lama," kata Kent.
Skenario Kent mungkin sudah memiliki implikasi dunia nyata. Argumen maksimalisasi utilitas dan masalah non-identitas muncul dalam diskusi tentang mempromosikan dan mencegah konsepsi manusia. Kapan Anda harus menolak untuk hamil jika terjadi risiko, misalnya, mengembangkan kelainan pada anak? Tidak ada metode baru yang menjamin keamanan penuh dan tidak pernah dijamin, tetapi IVF tidak akan pernah dilakukan jika itu merupakan prasyarat. Teknik seperti itu diharapkan dapat memenuhi ambang risiko tertentu. Tetapi pendekatan utilitarian menantang gagasan ini.
Bagaimana jika metode reproduksi terbantu yang baru memiliki risiko sedang untuk mengembangkan cacat kecil saat lahir, seperti tanda lahir? (Ini adalah argumen yang nyata: cerita Nathaniel Hawthorne tahun 1843 menceritakan tentang seorang alkemis yang mencoba, dengan konsekuensi yang fatal, untuk menghilangkan tanda dari istrinya, dikutip dari Dewan Bioetika AS tahun 2002). Sulit untuk mengatakan bahwa orang yang ditandai dengan titik seperti itu akan lebih buruk daripada yang lain dan oleh karena itu metode tersebut tidak boleh diperhitungkan. Tapi di manakah garis itu harus ditarik? Kapan cacat lahir sebaiknya tidak diterapkan sama sekali?
Beberapa orang telah menyebutkan dilema ini dalam pembelaan mereka terhadap kloning manusia. Akankah bahaya, seperti stigma sosial atau motif dan harapan orang tua yang terdistorsi, lebih besar daripada manfaat memberi kehidupan. Siapa kita yang membuat pilihan untuk manusia kloning? Akan menjadi siapa kita jika kita membuat pilihan ini bahkan sebelum manusia ada?
Penalaran seperti ini tampaknya menuntut kita untuk membuat keputusan seperti dewa. Tetapi seorang pengamat feminis mungkin berpikir bahwa kita adalah korban dari versi fantasi Frankenstein. Dengan kata lain, bukankah ini sekelompok pria yang bermimpi akhirnya mulai memalsukan orang ketika wanita telah melakukan ini selama berabad-abad? Rasa kebaruan yang mengarah pada semua kontroversi ini memiliki citarasa patriarki.
Meski begitu, perspektif kesadaran virtual menimbulkan beberapa pertanyaan etis yang sangat segar dan menarik - yang, menurut Kent, membawa kita untuk menantang nilai intuitif yang kita tempatkan dalam kehidupan dan demografi. Sangat sulit untuk melihat argumen yang kuat tentang fakta bahwa sejumlah kehidupan yang berbeda secara moral lebih baik daripada jumlah yang sama dari kehidupan yang sama. Mengapa kami berpikir demikian? Bagaimana kita bisa menyingkirkan prasangka?
Orang mungkin mengatakan bahwa persepsi homogenitas dalam populasi manusia mengikis kapasitas empati dan penalaran etis. Kerumunan "tak berwajah", yang ditentang oleh individu, adalah klise yang akrab yang membangkitkan rasa kepahlawanan. Tapi ini belum tentu benar.
Mungkin kita memiliki keengganan evolusioner terhadap individu yang sama, terutama bila Anda menganggap bahwa keragaman genetik suatu populasi menjamin kelangsungan hidupnya? Pikirkan tentang film tentang kembar identik atau klon - tidak selalu terlihat bagus. Bahkan terlihat tidak menyenangkan. Pada tahun 1919, Sigmund Freud mengaitkan perasaan ini dengan gagasan kembaran jahat (doppelganger). Dan jika ini masih dapat dimengerti dalam kasus kembar identik, seratus karakter "identik" akan terlihat mengerikan.
Sepertinya kita tidak akan menghadapi pasukan duplikat dalam waktu dekat, di dunia nyata atau virtual. Tetapi nilai dari eksperimen pemikiran adalah bahwa eksperimen tersebut memberi Anda cara baru untuk memahami pertanyaan dunia. Dengan membayangkan etika hubungan kita dengan Sims, kita mengungkap logika yang goyah atau tidak ada yang secara naluriah kita gunakan untuk menimbang nilai moral hidup kita sendiri.
Ilya Khel
