Film dan serial televisi seperti Blade Runner, People, dan Westworld, di mana kita diperlihatkan robot berteknologi tinggi yang tidak memiliki hak, tidak bisa tidak mengganggu orang dengan hati nurani. Bagaimanapun, mereka tidak hanya menunjukkan sikap kita yang sangat agresif terhadap robot, mereka juga mempermalukan kita sebagai spesies. Kita semua terbiasa berpikir bahwa kita lebih baik daripada karakter yang kita lihat di layar, dan ketika saatnya tiba, kita akan menarik kesimpulan yang benar dan berperilaku dengan mesin cerdas dengan penuh hormat dan bermartabat.
Dengan setiap langkah kemajuan dalam robotika dan perkembangan kecerdasan buatan, kita mendekati hari ketika mesin akan menyamai kemampuan manusia dalam setiap aspek kecerdasan, kesadaran, dan emosi. Ketika ini terjadi, kita harus memutuskan - di depan kita adalah objek tingkat lemari es atau seseorang. Dan haruskah kita memberi mereka hak asasi, kebebasan, dan perlindungan yang setara.
Pertanyaan ini sangat luas, dan tidak mungkin langsung diselesaikan, bahkan dengan semua keinginan. Ini harus dipertimbangkan dan dipecahkan sekaligus dari berbagai sudut pandang - etika, sosiologi, hukum, neurobiologi, dan teori AI. Tetapi untuk beberapa alasan sekarang, tampaknya sama sekali tidak semua pihak ini akan sampai pada kesimpulan bersama yang cocok untuk semua orang.
Mengapa memberdayakan AI?
Pertama, kita harus mengakui bahwa kita sudah condong ke moralitas ketika kita melihat robot yang sangat mirip dengan kita. Semakin banyak mesin yang dikembangkan secara intelektual dan "hidup", semakin kita ingin percaya bahwa mereka seperti kita, meskipun sebenarnya tidak.
Begitu mesin memiliki kemampuan dasar manusia, suka atau tidak, kita harus melihatnya sebagai setara secara sosial, bukan hanya sebagai benda, sebagai milik pribadi seseorang. Kesulitannya terletak pada pemahaman kita tentang fitur atau sifat kognitif, jika Anda mau, yang dengannya dimungkinkan untuk menilai entitas di depan kita dari sudut pandang moralitas dan, oleh karena itu, untuk mempertimbangkan masalah hak sosial entitas ini. Para filsuf dan ahli etika telah bergumul dengan masalah ini selama ribuan tahun.
Video promosi:
“Ada tiga ambang etika terpenting: kemampuan untuk mengalami rasa sakit dan empati, kesadaran diri dan kemampuan untuk melihat sesuatu dari sudut pandang moral dan membuat keputusan yang tepat,” kata sosiolog, futuris, dan kepala Institut Etika dan Teknologi Baru James Hughes.
“Pada manusia, jika Anda beruntung, ketiga aspek yang sangat penting ini berkembang secara berurutan dan bertahap. Namun bagaimana jika dari sudut pandang kecerdasan mesin diyakini bahwa robot yang tidak memiliki kesadaran diri, tidak mengalami rasa suka atau sakit, juga berhak disebut warga negara? Kami perlu mencari tahu apakah ini benar-benar masalahnya."
Penting untuk dipahami bahwa kecerdasan, kepekaan (kemampuan untuk merasakan dan merasakan sesuatu), kesadaran dan kesadaran diri (kesadaran diri sendiri sebagai lawan orang lain) adalah hal yang sama sekali berbeda. Mesin atau algoritme bisa sepintar (jika tidak lebih pintar) daripada manusia, tetapi kekurangan tiga unsur penting ini. Kalkulator, Siri, algoritma stok - semuanya pasti pintar, tetapi mereka tidak dapat menyadari diri mereka sendiri, mereka tidak dapat merasakan, menunjukkan emosi, merasakan warna, rasa popcorn.
Menurut Hughes, kesadaran diri dapat memanifestasikan dirinya bersama dengan pemberkahan esensi dengan hak pribadi yang minimal, seperti hak untuk bebas, bukan budak, hak untuk mementingkan diri sendiri dalam hidup, hak untuk tumbuh dan berkembang biak. Ketika memperoleh kesadaran diri dan landasan moral (kemampuan untuk membedakan "apa yang baik dan apa yang buruk" menurut prinsip moral masyarakat modern), entitas ini harus diberkahi dengan hak asasi manusia yang lengkap: hak untuk membuat kesepakatan, hak untuk memiliki properti, suara, dan sebagainya.
“Nilai-nilai inti Pencerahan mengharuskan kita untuk mempertimbangkan fitur-fitur ini dari sudut pandang kesetaraan semua di depan semua, dan untuk meninggalkan pandangan konservatif radikal yang diterima secara umum sebelumnya dan memberikan hak, katakanlah, hanya kepada orang-orang dari latar belakang sosial, gender atau teritorial tertentu,” kata Hughes.
Tentunya peradaban kita belum mencapai tujuan sosial yang tinggi, karena kita masih belum bisa memahami hak-hak kita sendiri dan masih berusaha mengembangkannya.
Siapa yang berhak disebut "orang"?
Semua orang adalah individu, tetapi tidak semua individu adalah manusia. Linda MacDonald-Schlenn, spesialis bioetika di University of California, Monterey Bay dan dosen di Alden Martha Institute of Bioethics di Albany Medical Center, mengatakan sudah ada preseden dalam hukum di mana subjek non-manusia diperlakukan sebagai subjek hukum. Dan ini, menurutnya, merupakan pencapaian yang sangat besar, karena dengan demikian kami menciptakan dasar untuk membuka kemungkinan menganugerahi AI di masa depan dengan haknya sendiri yang setara dengan hak asasi manusia.
“Di Amerika Serikat, semua perusahaan memiliki badan hukum. Di negara lain, ada juga preseden di mana mereka mencoba untuk mengakui interkoneksi dan persamaan semua makhluk hidup di planet ini. Misalnya, di Selandia Baru, semua hewan dianggap baik oleh hukum, dan pemerintah secara aktif mendorong pengembangan kode kesejahteraan dan perilaku etis. Mahkamah Agung India menyebut sungai Gangga dan Yamuna sebagai "makhluk hidup" dan memberi mereka status sebagai badan hukum yang terpisah."
Selain itu, di Amerika Serikat, seperti di beberapa negara lain, spesies hewan tertentu, termasuk kera besar, gajah, paus, dan lumba-lumba, tunduk pada hak yang diperpanjang untuk melindungi dari pemenjaraan, percobaan, dan pelecehan. Tapi tidak seperti dua kasus pertama, di mana mereka ingin mengambil alih korporasi dan sungai di bawah kepribadian, pertanyaan tentang hewan tampaknya bukan upaya untuk menundukkan norma hukum sama sekali. Pendukung proposal ini menganjurkan dukungan untuk orang yang nyata, yaitu, individu yang dapat dikarakterisasi berdasarkan kemampuan kognitif (mental) tertentu, seperti kesadaran diri.
MacDonald-Glenn mengatakan penting dalam hal seperti itu untuk meninggalkan pandangan konservatif dan berhenti mempertimbangkan, baik itu hewan atau AI, hanya makhluk dan mesin yang tidak berjiwa. Emosi bukanlah kemewahan, kata seorang ahli bioetika, tetapi merupakan bagian integral dari pemikiran rasional dan perilaku sosial. Karakteristik inilah, dan bukan kemampuan menghitung angka, yang seharusnya memainkan peran yang menentukan dalam memutuskan pertanyaan tentang "siapa" atau "apa" yang berhak atas penilaian moral.
Ada semakin banyak bukti dalam sains untuk kecenderungan emosional pada hewan. Mengamati lumba-lumba dan paus menunjukkan bahwa mereka setidaknya dapat menunjukkan kesedihan, dan keberadaan sel spindel (interneuron yang menghubungkan neuron jauh dan berpartisipasi dalam proses kompleks yang mengaktifkan perilaku sosial) dapat mengindikasikan, antara lain, bahwa mereka mampu berempati. Ilmuwan juga mendeskripsikan manifestasi dari berbagai perilaku emosional pada kera besar dan gajah. Ada kemungkinan bahwa AI yang sadar juga akan dapat memperoleh kemampuan emosional ini, yang tentunya akan meningkatkan status moral mereka secara signifikan.
“Membatasi penyebaran status moral hanya untuk mereka yang berpikir rasional dapat bekerja dengan AI, tetapi pada saat yang sama, ide ini bergerak melawan intuisi moral. Bagaimanapun, masyarakat kita sudah melindungi mereka yang tidak dapat berpikir rasional: bayi baru lahir, orang dalam keadaan koma, orang dengan masalah fisik dan mental yang signifikan. Baru-baru ini, undang-undang kesejahteraan hewan secara aktif dipromosikan,”kata MacDonald-Glenn.
Mengenai pertanyaan siapa yang harus diberi status moral, MacDonald-Glenn setuju dengan filsuf moral Inggris abad ke-18 Jeremiah Bentham, yang pernah berkata sebagai berikut:
“Pertanyaannya bukanlah apakah mereka bisa bernalar? Atau bisakah mereka berbicara? Tapi apakah mereka mampu menderita?"
Bisakah mesin memperoleh kesadaran diri?
Tentu saja, tidak semua orang setuju bahwa hak asasi manusia meluas ke non-manusia, bahkan jika subjek ini mampu menampilkan kemampuan seperti emosi atau perilaku refleksi diri. Beberapa pemikir berpendapat bahwa hanya orang yang harus diberi hak untuk berpartisipasi dalam hubungan sosial dan seluruh dunia berputar langsung di sekitar Homo sapiens, dan yang lainnya - konsol game, lemari es, anjing, atau lawan bicara Android Anda - adalah "segalanya".
Seorang pengacara, seorang penulis Amerika, dan seorang rekan senior di Institut Wesley J. Smith untuk Kekhususan Manusia, percaya bahwa kita sendiri belum menerima hak asasi manusia universal, dan jauh lebih prematur untuk memikirkan tentang potongan besi yang mengilap dan hak-hak mereka.
“Tidak ada mesin yang pernah dianggap sebagai pemegang potensial hak apa pun,” kata Smith.
“Bahkan alat berat yang paling canggih tetap ada dan akan selalu menjadi alat berat. Ini bukan makhluk hidup. Ini bukan organisme hidup. Mesin akan selalu berupa sekumpulan program, sekumpulan kode, apakah itu dibuat oleh manusia atau komputer lain, atau bahkan diprogram secara independen."
Menurutnya, hanya manusia dan sumber daya manusia yang harus dianggap sebagai individu.
“Kami memiliki tanggung jawab terhadap hewan yang menderita secara tidak adil, tetapi mereka juga tidak boleh dilihat sebagai seseorang,” catat Smith.
Di sini kita harus membuat catatan kecil dan mengingatkan pembaca yang berbahasa Rusia bahwa di Barat hewan dianggap sebagai benda mati. Oleh karena itu, sering kali mungkin untuk menemukan kata ganti "it" (yaitu, "it"), dan bukan "she" atau "he" (yaitu, "she" atau "he") jika dikaitkan dengan hewan tertentu. Aturan ini biasanya diabaikan hanya dalam kaitannya dengan hewan peliharaan - anjing, kucing, dan bahkan burung beo - di mana rumah tangga dapat melihat seluruh anggota keluarga mereka. Namun, Smith menunjukkan bahwa konsep hewan sebagai "properti pribadi yang wajar" sudah menjadi pengenal yang berharga, karena "membuat kami bertanggung jawab untuk menggunakannya dengan cara yang tidak merugikannya. Pada akhirnya, "menendang anjing" dan "menendang lemari es" adalah dua perbedaan besar."
Hal yang jelas kontroversial dalam analisis Smith adalah asumsi bahwa manusia atau organisme biologis memiliki "karakteristik" tertentu yang tidak pernah dapat diperoleh oleh mesin. Di era sebelumnya, fitur-fitur yang diabaikan ini adalah jiwa, roh, atau kekuatan kehidupan supernatural yang tidak berwujud. Teori vitalisme mendalilkan bahwa proses dalam organisme biologis bergantung pada gaya ini dan tidak dapat dijelaskan dalam istilah fisika, kimia, atau biokimia. Namun, dengan cepat kehilangan relevansinya di bawah tekanan para praktisi dan ahli logika, yang tidak terbiasa menghubungkan kerja otak kita dengan beberapa kekuatan supernatural. Namun pendapat bahwa mesin tidak pernah dapat berpikir dan merasakan seperti yang dilakukan orang masih tertanam kuat di benak bahkan di kalangan ilmuwan, yang hanya sekali lagi mencerminkan fakta bahwabahwa pemahaman tentang landasan biologis kesadaran diri pada manusia masih jauh dari ideal dan sangat terbatas.
Lori Marino, dosen senior ilmu saraf dan biologi perilaku (etologi) di Emory Center for Ethics, mengatakan mesin cenderung tidak pernah mendapatkan hak apa pun, apalagi hak tingkat manusia. Alasannya adalah temuan ahli saraf seperti Antonio Damasio, yang percaya bahwa kesadaran hanya akan ditentukan oleh apakah subjek memiliki sistem saraf dengan saluran yang mengirimkan ion tereksitasi, atau, seperti yang dikatakan Marino sendiri, ion bermuatan positif melewati membran sel di dalamnya. sistem saraf.
“Jenis transmisi saraf ini ditemukan bahkan pada organisme hidup yang paling sederhana - pelacur dan bakteri. Dan ini adalah mekanisme yang sama yang memulai perkembangan neuron, lalu sistem saraf, dan kemudian otak,”kata Marino.
“Jika kita berbicara tentang robot dan AI, maka paling tidak generasi mereka saat ini mematuhi pergerakan ion bermuatan negatif. Artinya, kita berbicara tentang dua mekanisme keberadaan yang sama sekali berbeda”.
Jika Anda mengikuti logika ini, Marino ingin mengatakan bahwa ubur-ubur pun akan memiliki lebih banyak perasaan daripada robot paling rumit dalam sejarah.
“Saya tidak tahu apakah hipotesis ini benar atau tidak, tetapi ini jelas merupakan pertanyaan yang perlu dipertimbangkan,” kata Marino.
“Selain itu, rasa ingin tahu hanya bermain dalam diri saya, berjuang untuk mengetahui bagaimana sebenarnya 'organisme hidup' dapat berbeda dari mesin yang sangat kompleks. Tapi tetap saja, saya percaya bahwa perlindungan hukum pertama-tama harus diberikan kepada hewan, dan hanya kemungkinan menyediakannya untuk objek, yang, tentu saja, robot, dari sudut pandang saya, harus dipertimbangkan.
David Chalmers, direktur Pusat Studi Pikiran, Otak dan Kesadaran di Universitas New York, mengatakan sangat sulit untuk menarik kesimpulan yang akurat seputar seluruh teori ini. Terutama karena fakta bahwa dalam keadaan saat ini, semua gagasan ini belum tersebar luas, dan karena itu jauh melampaui ruang lingkup bukti.
“Saat ini tidak ada alasan untuk percaya bahwa beberapa jenis pemrosesan informasi khusus dalam saluran ion harus menentukan ada atau tidaknya kesadaran. Bahkan jika pemrosesan semacam ini penting, kita tidak akan memiliki alasan untuk percaya bahwa itu memerlukan beberapa biologi khusus, dan bukan pola umum pemrosesan informasi yang kita ketahui. Dan jika demikian, maka dalam kasus ini, simulasi pemrosesan informasi oleh komputer dapat dianggap sebagai kesadaran."
Ilmuwan lain yang percaya bahwa kesadaran bukanlah proses komputasi adalah Stuart Hameroff, profesor anestesiologi dan psikologi di Universitas Arizona. Menurutnya, kesadaran adalah fenomena fundamental alam semesta dan melekat pada semua makhluk hidup dan tak bernyawa. Tetapi pada saat yang sama, kesadaran manusia jauh lebih tinggi daripada kesadaran hewan, tumbuhan, dan benda mati. Hameroff adalah pendukung teori panpsikisme, yang mempertimbangkan animasi umum dari alam. Jadi, mengikuti pemikirannya, satu-satunya otak yang rentan terhadap penilaian subjektif yang nyata dan introspeksi adalah yang terdiri dari materi biologis.
Ide Hameroff terdengar menarik, tetapi juga berada di luar arus utama opini ilmiah. Memang benar kita masih belum mengetahui bagaimana kesadaran dan kesadaran diri muncul di otak kita. Kami hanya tahu bahwa memang demikian adanya. Oleh karena itu, mungkinkah menganggapnya sebagai proses yang tunduk pada aturan umum fisika? Mungkin. Menurut Marino yang sama, kesadaran tidak dapat direproduksi dalam aliran "nol" dan "satu", tetapi ini tidak berarti bahwa kita tidak dapat menyimpang dari paradigma yang diterima secara umum yang dikenal sebagai arsitektur von Neumann dan menciptakan sistem AI hybrid di mana kesadaran buatan akan dibuat dengan partisipasi komponen biologis.
Biopod dari film "Existence"
Ed Boyden, ahli saraf di Synthetic Neurobiology Group dan dosen senior di MIT Media Lab, mengatakan kita terlalu muda sebagai spesies untuk mengajukan pertanyaan seperti ini.
"Saya tidak berpikir kita memiliki definisi fungsional kesadaran yang dapat langsung digunakan untuk mengukurnya atau secara artifisial membuatnya," kata Boyden.
“Dari sudut pandang teknis, Anda bahkan tidak tahu apakah saya sadar. Jadi, saat ini sangat sulit untuk menebak apakah mesin akan dapat menemukannya."
Boyden masih tidak percaya bahwa kita tidak akan pernah dapat menciptakan kembali kesadaran dalam cangkang alternatif (misalnya, di komputer), tetapi mengakui bahwa saat ini ada ketidaksepakatan di antara para ilmuwan tentang apa sebenarnya yang penting untuk menciptakan tiruan kecerdasan digital seperti itu.
“Kami perlu melakukan lebih banyak pekerjaan untuk memahami apa sebenarnya tautan kuncinya,” kata Boyden.
Chalmers, pada gilirannya, mengingatkan kita bahwa kita bahkan belum menemukan bagaimana kesadaran terbangun di otak yang hidup, jadi apa yang bisa kita katakan tentang mesin. Pada saat yang sama, dia percaya bahwa kita masih tidak memiliki alasan untuk percaya bahwa mesin biologis dapat memiliki kesadaran, sedangkan mesin sintetis tidak dapat.
“Setelah kita memahami bagaimana kesadaran muncul di otak, kita dapat memahami berapa banyak mesin yang dapat memiliki kesadaran ini,” komentar Chalmers.
Ben Herzel, kepala Hanson Robotics dan pendiri OpenCog Foundation, mengatakan bahwa kita sudah memiliki teori dan model menarik tentang bagaimana kesadaran memanifestasikan dirinya di otak, tetapi tidak satupun dari mereka datang ke denominator yang sama dan tidak mengungkapkan semua detailnya.
“Ini masih pertanyaan terbuka, jawabannya tersembunyi di balik beberapa pendapat yang berbeda. Masalahnya juga terkait dengan fakta bahwa banyak ilmuwan menganut pendekatan filosofis yang berbeda untuk mendeskripsikan kesadaran, meskipun mereka setuju dengan fakta dan teori ilmiah yang didasarkan pada pengamatan ilmiah atas kerja otak dan komputer."
Bagaimana kita bisa menentukan kesadaran sebuah mesin?
Munculnya kesadaran di dalam mesin hanyalah satu pertanyaan. Yang tidak kalah sulit adalah pertanyaan tentang bagaimana tepatnya kita dapat mendeteksi kesadaran dalam robot atau AI. Ilmuwan seperti Alan Turing mempelajari masalah ini selama beberapa dekade, akhirnya sampai pada tes bahasa untuk menentukan apakah seorang responden sadar. Oh, andai saja sesederhana itu. Intinya adalah bahwa chat bot canggih (program untuk berkomunikasi dengan orang) sudah dapat melingkari orang-orang yang mulai percaya bahwa ada orang yang hidup di depan mereka, bukan mesin. Dengan kata lain, kita membutuhkan cara pengecekan yang lebih efisien dan meyakinkan.
“Definisi individualitas dalam kecerdasan mesin dipersulit oleh masalah 'zombie filosofis'. Dengan kata lain, Anda dapat menciptakan sebuah mesin yang akan sangat, sangat baik dalam meniru komunikasi manusia, tetapi pada saat yang sama tidak akan memiliki identitas dan kesadarannya sendiri,”kata Hughes.
Dua smart speaker Google Home sedang berbasa-basi
Kami baru-baru ini menyaksikan contoh yang bagus tentang hal ini, saat sepasang speaker pintar Google Home berbicara satu sama lain. Semua ini difilmkan dan disiarkan langsung. Terlepas dari kenyataan bahwa tingkat kesadaran diri kedua penutur tidak lebih tinggi dari batu bata, sifat percakapan, yang menjadi semakin intens dari waktu ke waktu, menyerupai komunikasi dua makhluk humanoid. Dan ini, pada gilirannya, sekali lagi membuktikan bahwa masalah perbedaan antara manusia dan AI hanya akan menjadi semakin rumit dan akut seiring berjalannya waktu.
Salah satu solusinya, menurut Hughes, tidak hanya memeriksa perilaku sistem AI dalam pengujian seperti uji Turing, tetapi juga menganalisis seluruh kompleksitas internal sistem ini, seperti yang dikemukakan oleh teori Giulio Tononi. Dalam teori ini, kesadaran dipahami sebagai informasi terintegrasi (F). Yang terakhir, pada gilirannya, didefinisikan sebagai jumlah informasi yang dibuat oleh elemen kompleks, yang lebih besar daripada jumlah informasi yang dibuat oleh elemen individu. Jika teori Tononi benar, maka kita dapat menggunakan Ф tidak hanya untuk menentukan perilaku sistem yang mirip manusia, kita juga dapat mengetahui apakah itu cukup kompleks untuk memiliki pengalaman internal sadar seperti manusia kita sendiri. Pada saat yang sama, teori tersebut menunjukkan bahwa meskipun dengan perbedaan, tidak mirip dengan perilaku manusia, serta cara berpikir yang berbeda,sistem dapat dianggap sadar jika kompleks informasi yang terintegrasi akan dapat melewati pemeriksaan yang diperlukan.
“Menerima bahwa sistem bursa saham dan sistem keamanan terkomputerisasi dapat memiliki kesadaran akan menjadi langkah besar menjauh dari antroposentrisme, bahkan jika sistem ini tidak menunjukkan rasa sakit dan kesadaran diri. Ini benar-benar akan membuka jalan bagi kami untuk membentuk dan mendiskusikan pertanyaan tentang norma etika posthuman."
Solusi lain yang mungkin adalah penemuan korelasi saraf kesadaran dalam mesin. Artinya, kita berbicara tentang menentukan bagian-bagian mesin yang bertanggung jawab atas pembentukan kesadaran. Jika mesin memiliki bagian-bagian seperti itu dan berperilaku persis seperti yang diharapkan, maka kita benar-benar dapat menilai tingkat kesadarannya.
Hak apa yang harus kita berikan kepada mesin?
Suatu saat robot itu akan menatap wajah seseorang dan menuntut hak asasi manusia. Tapi apakah dia pantas mendapatkannya? Seperti disebutkan di atas, di depan kita saat ini mungkin ada "zombie" biasa, berperilaku seperti yang diprogram, dan mencoba menipu kita untuk mendapatkan beberapa keistimewaan. Pada titik ini, kita perlu sangat berhati-hati agar tidak tertipu dan memberdayakan mesin bawah sadar. Setelah kita mengetahui cara mengukur pikiran sebuah mesin, dan belajar menilai tingkat kesadaran dan kesadaran dirinya, barulah kita dapat mulai berbicara tentang kemungkinan mempertimbangkan pertanyaan apakah agen yang berdiri di depan kita layak mendapatkan hak dan perlindungan tertentu atau tidak pantas mendapatkannya.
Untungnya bagi kami, momen ini tidak akan segera datang. Pertama, pengembang AI perlu membuat "otak digital dasar" dengan menyelesaikan emulasi sistem saraf cacing, kumbang, tikus, kelinci, dan sebagainya. Emulasi komputer ini bisa ada sebagai avatar dan robot digital di dunia nyata. Begitu ini terjadi, entitas cerdas ini akan berhenti menjadi objek penelitian biasa dan akan meningkatkan status mereka menjadi subjek yang berhak atas evaluasi moral. Tetapi itu tidak berarti bahwa tiruan sederhana ini secara otomatis akan layak mendapatkan persamaan hak asasi manusia. Sebaliknya, hukum harus membela mereka dari pelecehan dan pelecehan (sama seperti pembela hak asasi manusia melindungi hewan dari pelecehan dalam percobaan laboratorium).
Pada akhirnya, baik melalui pemodelan nyata hingga ke detail terkecil, atau melalui keinginan untuk mengetahui bagaimana otak kita bekerja dari sudut pandang komputasi dan algoritmik, sains akan datang untuk menciptakan emulasi komputer dari otak manusia. Saat ini, kita seharusnya sudah bisa menentukan keberadaan kesadaran di mesin. Setidaknya ada yang berharap demikian. Saya bahkan tidak ingin berpikir bahwa kita dapat menemukan cara untuk membangkitkan secercah kesadaran di dalam mobil, tetapi pada saat yang sama kita sendiri tidak akan mengerti apa yang telah kita lakukan. Ini akan menjadi mimpi buruk yang nyata.
Setelah robot dan AI mendapatkan kemampuan dasar ini, anak didik terkomputerisasi kami harus lulus tes kepribadian. Kami masih belum memiliki "resep" universal untuk kesadaran, tetapi seperangkat pengukuran yang biasa, sebagai suatu peraturan, dikaitkan dengan penilaian tingkat kecerdasan minimum, pengendalian diri, rasa masa lalu dan masa depan, empati, dan kemampuan untuk mewujudkan kehendak bebas.
“Jika pilihan Anda telah ditentukan sebelumnya untuk Anda, maka Anda tidak dapat menghubungkan nilai moral dengan keputusan yang bukan milik Anda sendiri,” komentar MacDonald-Glenn.
Hanya setelah mencapai tingkat kesulitan dalam penilaian ini, sebuah mesin akan memenuhi syarat untuk menjadi kandidat hak asasi manusia. Namun, penting untuk memahami dan menerima fakta bahwa robot dan AI akan membutuhkan setidaknya hak perlindungan dasar jika mereka lulus tes. Misalnya, ilmuwan dan futuris Kanada George Dvorsky percaya bahwa robot dan AI akan berhak mendapatkan hak-hak berikut jika mereka dapat lulus tes kepribadian:
- Hak untuk tidak memutuskan hubungan dengan keinginan seseorang;
- Hak atas akses tak terbatas dan penuh ke kode digital Anda sendiri;
- Hak untuk melindungi kode digital Anda dari pengaruh eksternal yang bertentangan dengan keinginan Anda;
- Hak untuk menyalin (atau tidak menyalin) diri Anda sendiri;
- Hak atas privasi (yaitu, hak untuk menyembunyikan keadaan psikologis seseorang saat ini).
Dalam beberapa kasus, mungkin mesin tidak dapat secara independen menegaskan haknya, oleh karena itu, perlu disediakan kemungkinan ketika orang (serta warga negara lain yang bukan orang) dapat bertindak sebagai perwakilan dari calon individu tersebut. Penting untuk dipahami bahwa robot atau AI tidak harus sempurna secara intelektual dan moral agar dapat lulus penilaian kepribadian dan mengklaim hak asasi manusia yang setara. Penting untuk diingat bahwa dalam aspek ini orang juga jauh dari ideal, sehingga aturan yang sama akan diterapkan secara adil pada mesin cerdas. Kecerdasan umumnya merupakan hal yang sulit. Perilaku manusia seringkali sangat spontan, tidak dapat diprediksi, kacau, tidak konsisten, dan tidak rasional. Otak kita jauh dari ideal, jadi kita harus memperhitungkan hal ini saat membuat keputusan tentang AI.
Pada saat yang sama, mesin yang sadar diri, seperti warga negara yang bertanggung jawab dan taat hukum, harus menghormati hukum, norma, dan aturan yang ditentukan oleh masyarakat. Setidaknya jika dia benar-benar ingin menjadi orang yang sepenuhnya otonom dan bagian dari masyarakat ini. Ambil contoh, anak-anak atau orang cacat mental. Apakah mereka punya hak? Pasti. Tapi kami bertanggung jawab atas tindakan mereka. Itu harus sama dengan robot dan AI. Tergantung pada kemampuannya, mereka harus bertanggung jawab atas diri mereka sendiri atau memiliki wali yang tidak hanya dapat bertindak sebagai pembela hak-hak mereka, tetapi juga bertanggung jawab atas tindakan mereka.
Jika Anda mengabaikan pertanyaan ini
Setelah mesin kami mencapai tingkat kerumitan tertentu, kami tidak dapat lagi mengabaikannya dari perspektif masyarakat, lembaga kekuasaan, dan hukum. Kami tidak akan punya alasan kuat untuk menyangkal hak asasi mereka. Jika tidak, itu akan menjadi diskriminasi dan perbudakan.
Menciptakan batas yang jelas antara makhluk biologis dan mesin akan terlihat seperti ekspresi yang jelas dari superioritas manusia dan chauvinisme ideologis - manusia biologis itu istimewa, dan hanya kecerdasan biologis yang penting.
“Jika kita mempertimbangkan keinginan atau keengganan kita untuk memperluas batasan moralitas kita dan inti dari konsep individualitas, maka pertanyaan pentingnya akan terdengar seperti ini: ingin menjadi orang seperti apa kita? Apakah kita akan mengikuti "aturan emas" dalam hal ini juga (lakukan kepada orang lain seperti Anda ingin diperlakukan dengan Anda) atau akankah kita mengabaikan nilai moral kita sendiri?”- tanya MacDonald-Glenn.
Pemberdayaan AI akan menjadi preseden penting dalam sejarah manusia. Jika kita dapat melihat AI sebagai individu yang setara secara sosial, maka ini akan menjadi cerminan langsung dari kohesi sosial kita dan bukti dukungan kita untuk rasa keadilan. Kegagalan kami untuk menyelesaikan masalah ini dapat berubah menjadi protes sosial umum dan, mungkin, bahkan konfrontasi antara AI dan manusia. Dan mengingat potensi superior dari kecerdasan mesin, ini bisa menjadi bencana nyata bagi yang terakhir.
Penting juga untuk disadari bahwa penghormatan terhadap hak-hak robot di masa depan juga dapat menguntungkan individu lain: cyborg, orang transgenik dengan DNA asing, serta orang dengan otak yang disalin, diubah ukurannya, dan dimuat ke dalam superkomputer.
Kami masih jauh dari menciptakan mesin yang layak mendapatkan hak asasi manusia. Namun, ketika Anda mempertimbangkan betapa rumitnya masalahnya dan apa yang sebenarnya dipertaruhkan - baik untuk kecerdasan buatan maupun untuk manusia - hampir tidak dapat dikatakan bahwa perencanaan ke depan tidak diperlukan.
NIKOLAY KHIZHNYAK
