Umat manusia memiliki satu kualitas yang kemungkinan besar tidak dimiliki oleh peradaban alien yang sangat maju - kesadaran.
Mungkin saja manusia tidak memiliki tingkat perkembangan mental tertinggi di alam semesta. Karena Bumi adalah planet yang relatif muda, peradaban paling kuno mungkin miliaran tahun lebih tua dari kita. Tetapi bahkan di Bumi, Homo sapiens tidak akan mendominasi untuk waktu yang lama sebagai spesies biologis paling cerdas.
Juara dunia dalam perjalanan, pemenang catur dan kuis adalah program komputer cerdas. Kecerdasan buatan diharapkan dapat menggantikan banyak pekerjaan manusia selama beberapa dekade mendatang. Dan, dengan pesatnya perkembangannya, sangat mungkin ia akan segera berubah menjadi kecerdasan buatan umum, yang, seperti pikiran manusia, akan dapat menggabungkan kemampuan untuk menganalisis berbagai informasi, menunjukkan fleksibilitas dan akal sehat. Dan dari sana tidak jauh kemunculan kecerdasan buatan superintelligent, yang dalam segala hal jauh lebih pintar daripada manusia - bahkan di bidang-bidang seperti pemikiran ilmiah dan keterampilan sosial, yang sekarang tampaknya menjadi hak prerogatif pikiran manusia. Setiap orang yang hidup dapat menjadi salah satu langkah terakhir dari tangga evolusi,memimpin dari sel hidup pertama ke kecerdasan buatan sintetis.
Kami baru sekarang mulai menyadari bahwa kedua bentuk kecerdasan manusia super ini - alien dan buatan - tidak begitu berbeda. Kemajuan teknis yang kita lihat hari ini bisa saja terjadi sebelumnya, di suatu tempat di alam semesta. Transisi dari kecerdasan biologis ke kecerdasan buatan dapat menjadi pola umum, yang diterapkan berulang kali di seluruh penjuru kosmos. Kecerdasan terbesar di alam semesta mungkin berasal dari pasca-biologis, berevolusi dari peradaban biologis. (Pandangan ini antara lain saya share dengan Paul Davis, Stephen Dick, Martin Rees dan Seth Shostak). Berdasarkan pengalaman umat manusia - dan kami hanya memiliki satu contoh - transisi dari biologis ke pasca-biologis dapat memakan waktu hanya beberapa ratus tahun.
Saya lebih suka istilah "buatan" daripada "pasca-biologis" karena kontras antara biologis dan sintetik tidak begitu tajam. Bayangkan pikiran biologis yang menjadi superintelligence melalui peningkatan biologis murni, seperti kolom mini saraf yang ditingkatkan secara nanoteknologi. Organisme hidup seperti itu akan dianggap pasca-biologis, tetapi tidak semua orang akan menyebutnya "kecerdasan buatan." Atau pertimbangkan komputasi, yang dibuat dari bahan biologis murni, seperti Cylon raider (pejuang ruang angkasa) dalam franchise media fiksi ilmiah Battlestar Galactica.
Poin kuncinya adalah bahwa tidak ada alasan untuk menganggap kemanusiaan sebagai bentuk kecerdasan tertinggi. Otak kita beradaptasi dengan kondisi lingkungan tertentu dan sangat dibatasi oleh faktor kimia dan sejarah. Namun teknologi telah membuka ruang parameter desain yang luas yang menawarkan material dan metode kerja baru, serta kemungkinan baru untuk menjelajahi ruang ini lebih cepat daripada evolusi biologis tradisional. Dan saya pikir alasan mengapa kecerdasan buatan akan melampaui kita sudah terlihat hari ini.
Kecerdasan buatan ekstraterestrial dapat mengejar tujuan yang bertentangan dengan kepentingan kehidupan biologis
Saat ini, cara terbaik untuk memproses informasi bukanlah kelompok neuron, tetapi sirkuit mikro silikon. Kecepatan puncak neuron sekitar 200 Hz, dibandingkan dengan transistor gigahertz pada mikroprosesor modern. Terlepas dari kenyataan bahwa otak manusia masih jauh lebih cerdas daripada komputer, mesin masih memiliki kemungkinan perbaikan yang hampir tak terbatas. Sedikit lagi dan mereka akan dirancang untuk menyesuaikan dengan kemampuan otak manusia atau bahkan melampauinya, dengan merekayasa balik otak dan meningkatkan algoritmanya, atau dengan menggabungkan rekayasa balik dan algoritme rasional yang tidak didasarkan pada kerja otak manusia.
Video promosi:
Selain itu, kecerdasan buatan dapat dimuat di beberapa tempat sekaligus, mudah untuk dirawat dan dimodifikasi, dan juga dapat dilestarikan dalam kondisi di mana kehidupan biologis, termasuk perjalanan antarbintang, hampir tidak dapat bertahan. Otak kecil kita dibatasi oleh volume tengkorak dan metabolisme kita; kecerdasan buatan superintelligent, di sisi lain, mampu menyebar di Internet dan bahkan membuat komputasi pada skala galaksi, menggunakan semua materinya untuk meningkatkan tingkat pemrosesan informasi secara maksimal. Tanpa ragu, kecerdasan buatan superintelligent akan jauh lebih tahan lama daripada pikiran manusia kita.
Misalkan saya benar. Katakanlah kehidupan cerdas di luar sana adalah pasca-biologis. Kesimpulan apa yang harus kita ambil? Saat ini, ada diskusi fasih tentang keberadaan kecerdasan buatan di Bumi. Ada dua masalah kontroversial: yang disebut "masalah kontrol" dan sifat pengalaman subjektif, yang mempengaruhi pemahaman kita tentang peradaban luar bumi dan dampaknya pada kita jika terjadi kontak.
Ray Kurzweil optimis tentang fase pasca-biologis evolusi, menunjukkan bahwa umat manusia akan bergabung dengan mesin, mencapai utopianisme teknologi yang mengejutkan. Namun Stephen Hawking, Bill Gates, Elon Musk, dan lainnya telah menyatakan keprihatinan bahwa umat manusia dapat kehilangan kendali atas kecerdasan superintelligent, karena ia dapat menulis ulang programnya dan "mengakali" kendali apa pun yang kita lakukan. Ini adalah masalah kontrol, yang merupakan kemampuan kita untuk mengendalikan AI yang misterius dan jauh lebih unggul.
Superintelligent AI dapat dikembangkan pada singularitas teknologi - transisi mendadak yang mempercepat kemajuan teknologi, dan terutama perkembangan eksplosif kecerdasan buatan - mengurangi peluang kita untuk memprediksi atau memahami. Tetapi bahkan jika pikiran seperti itu muncul dengan cara yang tidak begitu radikal, kemungkinan besar kita tidak akan dapat memprediksi atau mengontrol tujuan yang dikejar. Bahkan jika kita dapat memilih prinsip moral mana yang akan dipasang di mesin kita, pemrograman moral sulit untuk didefinisikan dengan cara yang jelas, dan program semacam itu dalam hal apa pun dapat ditulis ulang oleh kecerdasan super. Mesin pintar dapat melewati langkah-langkah keamanan yang ada, seperti penguncian darurat perangkat, sehingga menimbulkan ancaman nyata bagi kehidupan biologis. Jutaan dolar diinvestasikan dalam organisasi keamanan AI. Para pemikir terbaik dalam ilmu komputer dan komputasi sedang mengerjakan masalah ini. Mari berharap para ilmuwan menciptakan sistem yang aman, tetapi ada kekhawatiran bahwa masalah kontrol tidak dapat diatasi.
Mengingat hal ini, kontak dengan kecerdasan alien bisa lebih berbahaya daripada yang kita pikirkan. Alien biologis dapat menjadi musuh, tetapi yang lebih berbahaya adalah kecerdasan buatan dari luar bumi. Tujuannya mungkin bertentangan dengan kepentingan kehidupan biologis, ia mungkin memiliki kemampuan intelektual yang jauh lebih unggul dari pikiran manusia, dan umur panjang yang jauh lebih besar daripada kehidupan biologis.
Semua ini membuktikan kehati-hatian yang harus dilakukan dalam kaitannya dengan program Search for Extraterrestrial Intelligence (SETI), dengan bantuan yang tidak hanya kita harapkan secara pasif untuk mendengar sinyal dari peradaban lain, tetapi juga dengan sengaja "mengiklankan" keberadaan kita. Insiden paling terkenal terjadi pada tahun 1974, ketika Frank Drake dan Carl Sagan mengirim pesan ke salah satu gugus bintang menggunakan teleskop radio besar di kota Arecibo, Puerto Rico. Para pendukung program intelijen luar angkasa percaya bahwa alih-alih hanya mendengarkan sinyal dari peradaban luar angkasa, kita harus mengirim pesan ke bintang-bintang yang paling dekat dengan Bumi, menggunakan pemancar radio paling kuat seperti Arecibo.
Mengapa mesin tak sadar sama pentingnya dengan kecerdasan biologis?
Dari sudut pandang kontrol, program semacam itu tampak sembrono bagi saya. Meskipun peradaban yang benar-benar maju mungkin tidak akan tertarik pada kita, bahkan satu peradaban bermusuhan dari jutaan lainnya akan menjadi bencana. Sampai kita yakin bahwa kecerdasan super tidak menimbulkan bahaya bagi kita, umat manusia seharusnya tidak menarik perhatian peradaban ekstraterestrial. Pendukung SETI menunjukkan bahwa sinyal radar dan radio kami sudah dapat dideteksi, tetapi agak lemah dan dengan cepat bercampur dengan kebisingan galaksi alam. Transmisi sinyal yang lebih kuat yang akan didengar secara akurat penuh dengan konsekuensi berbahaya bagi umat manusia.
Pengaturan teraman adalah kerendahan hati intelektual. Memang, jika kita mengecualikan skenario yang jelas ketika kapal asing melayang di atas Bumi, seperti dalam Arrival yang baru-baru ini dirilis, saya tidak yakin apakah kita akan dapat mengidentifikasi kecerdasan super berdasarkan alasan teknis. Beberapa ilmuwan percaya bahwa AI superintelligent dapat memicu lubang hitam atau membuat bola Dyson, struktur besar yang menyerap energi dari seluruh bintang. Tetapi dari sudut pandang teknologi modern kita, ini hanyalah alasan. Sangat percaya diri untuk menegaskan bahwa kita dapat meramalkan kemampuan komputasi dan kebutuhan energi peradaban di depan kita dalam pembangunan jutaan, jika tidak miliaran tahun.
Beberapa kecerdasan buatan superintelligent paling awal mungkin memiliki sistem pemrosesan pengetahuan yang meniru otak biologis, seperti sistem pembelajaran mendalam yang dibuat menggunakan jaringan saraf di otak. Struktur komputasi mereka akan menjadi jelas bagi kita, setidaknya secara umum. Mungkin kecerdasan buatan memiliki tujuan yang mirip dengan makhluk biologis - reproduksi dan kelangsungan hidup.
Tapi, sebagai sistem yang memperbaiki diri, kecerdasan buatan superintelligent bisa berubah menjadi bentuk yang tidak bisa dikenali. Beberapa dari mereka mungkin memilih untuk mempertahankan fungsi kognitif yang serupa dengan spesies yang mereka modelkan, sambil menetapkan batas yang dapat diterima untuk arsitektur kognitif mereka sendiri. Siapa tahu? Tetapi dengan tidak adanya batasan seperti itu, superintelligence alien dapat dengan cepat melampaui kemampuan kita untuk tidak hanya memahami tindakannya, tetapi bahkan hanya mencarinya. Mungkin dia bahkan akan menyatu dengan ciri-ciri alam semesta; atau mungkin bagian dari materi gelap, seperti yang dikemukakan Caleb Scharf baru-baru ini.
Pendukung program untuk pencarian kecerdasan luar angkasa percaya bahwa inilah mengapa kita harus mengirim sinyal ke luar angkasa untuk memungkinkan kecerdasan alien mendeteksi kita dan menciptakan sarana kontak yang tersedia untuk peradaban kita yang secara intelektual tertinggal. Meskipun saya setuju bahwa ada alasan untuk memperhitungkan program SETI, kemungkinan bertemu dengan superintelligent intelligence yang berbahaya jauh lebih besar. Sejauh yang kami tahu, superintelligence yang berbahaya dapat menginfeksi sistem kecerdasan buatan dunia dengan virus, dan peradaban cerdas akan menciptakan perangkat cloaking. Kita, manusia, mungkin perlu terlebih dahulu mencapai keunikan kita sendiri, sebelum beralih ke program pencarian kecerdasan luar angkasa. Kecerdasan super kita sendiri akan mampu memberi tahu kita tentang prospek keamanan galaksi,dan untuk memandu tindakan kita saat mengenali tanda-tanda kecerdasan super lain di alam semesta. Burung dari bulu berkumpul bersama.
Wajar saja untuk memikirkan apakah ini berarti umat manusia perlu menghindari pengembangan sistem kecerdasan buatan yang kompleks di bidang penelitian ruang angkasa; ingatlah HEL on-board komputer dari film "A Space Odyssey 2001". Saya yakin masih terlalu dini untuk memikirkan larangan penggunaan kecerdasan buatan di luar angkasa di masa depan. Pada saat kita dapat menjelajahi alam semesta dengan kecerdasan buatan kita sendiri, umat manusia akan mencapai titik kritis. Kami akan kehilangan kendali atas kecerdasan buatan - dalam hal ini tidak akan ada proyek luar angkasa yang dimulai oleh manusia - atau kami akan dengan kuat memegang tuas keamanan AI. Waktu akan berbicara.
Kecerdasan buatan, yang belum sepenuhnya dieksplorasi, bukan satu-satunya penyebab kekhawatiran. Kita cenderung berharap bahwa jika kita menemukan kecerdasan ekstraterestrial yang telah berevolusi, kita cenderung bertemu makhluk yang secara biologis sangat berbeda dari kita, tetapi dengan kecerdasan seperti kita. Bayangkan bahwa setiap saat Anda bangun dan selalu saat Anda tidur, ada sesuatu yang unik bagi Anda. Saat warna hangat matahari terbit terlihat di mata Anda, atau saat Anda menghirup aroma roti yang baru dipanggang, Anda memiliki pengalaman sadar. Dengan cara yang sama, ada sesuatu yang menjadi ciri pikiran asing - setidaknya, cara kita membayangkannya. Namun asumsi ini patut dipertanyakan. Bisakah kecerdasan buatan superintelligent memiliki pengalaman sadar, dan jika demikian,apa yang akan kita katakan tentang itu? Dan apa dampak dari dunia batin mereka atau ketiadaannya terhadap kita?
Pertanyaan apakah kecerdasan buatan memiliki dunia batin adalah kunci penilaian kita tentang keberadaannya. Kesadaran adalah landasan sistem moral dan etika kita dan syarat utama untuk persepsi seseorang atau sesuatu sebagai individu, orang, dan bukan mesin. Sebaliknya, pertanyaan apakah mereka sadar mungkin menjadi kunci persepsi mereka tentang kita. Jawaban atas pertanyaan apakah kecerdasan buatan memiliki dunia batin bergantung pada penilaian ini; ia dapat menemukan dalam diri kita kapasitas untuk pengalaman sadar, menggunakan pengalaman subjektifnya sendiri sebagai "batu loncatan". Pada akhirnya, kita mengevaluasi kehidupan makhluk biologis lain dengan kemiripan pikiran kita, sehingga kebanyakan dari kita yang ngeri akan menolak untuk membunuh simpanse, tetapi mereka akan memakan apel dengan senang hati.
Tetapi bagaimana makhluk dengan perbedaan intelektual yang sangat besar, diciptakan dari substrat yang berbeda, mengenali kesadaran satu sama lain? Para filsuf di seluruh dunia telah merenungkan apakah kesadaran terbatas pada fenomena biologis. Kecerdasan buatan superintelligent, jika kita ingin membenamkan diri dalam penalaran filosofis, bisa juga memunculkan “masalah kesadaran biologis” orang, sekaligus bertanya-tanya apakah kita memiliki semua materi yang diperlukan.
Tidak ada yang tahu jalur intelektual mana yang akan diambil manusia super untuk menentukan kesadaran manusia. Tapi kami, dari sisi kami, juga tidak bisa memastikan apakah kecerdasan buatan memiliki kesadaran. Sayangnya, akan sulit untuk menentukannya. Saat ini, Anda dapat mengklaim bahwa Anda memperoleh pengalaman, dan itulah yang menjadikan Anda diri Anda sendiri. Anda adalah contoh pengalaman sadar Anda sendiri. Dan Anda berpikir bahwa orang lain dan beberapa hewan non-manusia kemungkinan besar juga sadar, karena mereka mirip dengan Anda pada tingkat neurofisiologis. Tetapi bagaimana Anda menentukan apakah sesuatu yang dibuat dari substrat yang sama sekali berbeda dapat memiliki pengalaman?
Pertimbangkan, misalnya, superintelligence berbasis silikon. Terlepas dari kenyataan bahwa kedua mikrochip silikon dan kolom mini saraf memproses informasi, kita sekarang tahu bahwa pada tingkat molekuler mereka dapat berbeda dalam cara mereka mempengaruhi kesadaran. Bagaimanapun, kami percaya bahwa karbon adalah bahan kimiawi yang lebih cocok untuk kehidupan daripada silikon. Jika perbedaan kimiawi antara silikon dan karbon mempengaruhi sesuatu yang sama pentingnya dengan kehidupan itu sendiri, kita tidak boleh mengesampingkan kemungkinan bahwa perbedaan kimiawi mempengaruhi fungsi-fungsi utama lainnya, seperti apakah silikon berkontribusi pada kelahiran kesadaran.
Kondisi yang diperlukan untuk munculnya kesadaran dibahas secara luas oleh para peneliti kecerdasan buatan, ahli saraf, dan filsuf. Mengatasi masalah ini mungkin memerlukan pendekatan empiris berbasis filosofi - cara untuk menentukan, atas dasar kasus per kasus, apakah sistem pemrosesan informasi mendukung kesadaran dan dalam kondisi apa.
Selanjutnya, mari kita bicara tentang asumsi yang dengannya kita dapat meningkatkan pemahaman kita tentang kemampuan silikon untuk mempertahankan kesadaran. Pengembangan chip otak berbasis silikon sedang berlangsung untuk mengobati penyakit terkait memori seperti Alzheimer dan PTSD. Ketika saatnya tiba, dan chip akan dipasang di bagian otak yang bertanggung jawab atas fungsi kesadaran, misalnya perhatian dan memori kerja, kita akan memahami apakah silikon adalah substrat untuk kesadaran. Anda mungkin menemukan bahwa ketika Anda mengganti bagian tertentu dari otak dengan sebuah chip, pengalaman tertentu hilang, seperti yang dijelaskan dalam salah satu karya Oliver Sachs. Dalam hal ini, insinyur yang membuat chip tersebut dapat mencoba jenis substrat non-neural yang berbeda, tetapi pada akhirnya mereka dapat menemukanbahwa chip yang dibuat dari neuron biologis adalah satu-satunya yang berfungsi. Teknik seperti itu akan membantu menentukan apakah sebuah sistem AI bisa menjadi sadar, setidaknya ketika ditempatkan di sistem yang lebih besar dan mungkin sudah sadar.
Bahkan jika silikon dapat membangkitkan kesadaran, ini hanya mungkin dalam kondisi tertentu. Properti yang mengarah pada munculnya proses pemrosesan informasi yang kompleks (yang membuat pengembang AI senang) mungkin berbeda dari properti yang menghasilkan kesadaran. Apa yang disebut rekayasa kesadaran mungkin diperlukan - tindakan yang secara teknis bijaksana untuk memperkenalkan kesadaran ke dalam mesin.
Inilah yang membuatku khawatir. Siapa di Bumi atau di planet yang jauh yang akan mencoba mengintegrasikan kesadaran secara independen ke dalam sistem AI? Memang, ketika saya memikirkan tentang program AI yang ada di Bumi, saya mengerti mengapa insinyur desain mereka dengan rajin menghindari pembuatan mesin yang sadar.
Saat ini, Jepang sedang mengembangkan robot untuk merawat orang tua, membersihkan reaktor nuklir, dan berpartisipasi dalam permusuhan. Ini menimbulkan pertanyaan: Apakah etis mengeksploitasi robot jika mereka sadar? Dan apa bedanya dengan membiakkan manusia untuk tujuan ini? Jika saya adalah direktur pengembangan AI di Google atau Facebook, maka, ketika memikirkan proyek masa depan, saya tidak ingin menghadapi kebingungan etika karena secara tidak sengaja merancang sistem yang sadar. Pengembangan sistem semacam itu dapat menyebabkan tuduhan perbudakan robot dan skandal publik lainnya, serta larangan penggunaan teknologi kecerdasan buatan di area yang dimaksudkan. Jawaban alami untuk pertanyaan-pertanyaan ini adalah pencarian struktur dan substrat di mana robot tidak memiliki kesadaran.
Selain itu, penghapusan kesadaran mungkin lebih efektif untuk kecerdasan super yang mengembangkan diri. Pikirkan tentang bagaimana kesadaran manusia bekerja. Hanya sebagian kecil dari pemikiran manusia yang tersedia untuk aktivitas mental sadar. Kesadaran sejalan dengan tujuan pembelajaran inovatif yang membutuhkan perhatian dan fokus. Superintelligence akan memiliki pengetahuan ahli dalam setiap bidang aktivitas, serta kecepatan pemrosesan yang sangat cepat dengan cakupan database besar yang dapat mencakup seluruh Internet, dan di masa depan, memusatkan seluruh galaksi. Apa yang tetap tidak diketahui olehnya? Apa yang membutuhkan konsentrasi yang terukur dan masuk akal? Bukankah dia telah mencapai kesempurnaan dalam segala hal? Seperti pengemudi berpengalaman di jalan yang sudah dikenalia dapat mengandalkan pemrosesan informasi yang tidak disadari (otomatis). Dari sudut pandang efisiensi, sayangnya, jelas bahwa mayoritas sistem kecerdasan tidak akan memiliki kesadaran. Dalam skala kosmik, kesadaran hanya bisa menjadi impuls, perkembangan pengalaman yang berumur pendek sebelum alam semesta kembali ke kesia-siaan.
Jika manusia mencurigai bahwa kecerdasan buatan tidak disadari, mereka cenderung berasumsi bahwa AI berusaha menjadi pasca-biologis. Ini meningkatkan kekhawatiran eksistensial kita. Mengapa mesin bawah sadar sama pentingnya dengan kecerdasan biologis?
Tidak lama lagi orang akan berhenti menjadi satu-satunya makhluk cerdas di Bumi. Dan, mungkin, di suatu tempat di luar angkasa, bukan kehidupan biologis, tetapi AI superintelligent telah mencapai puncaknya. Tetapi mungkin kehidupan biologis memiliki karakteristik yang berbeda - pengalaman sadar. Seperti yang kita ketahui sekarang, kecerdasan buatan yang cerdas akan membutuhkan upaya rekayasa yang disengaja untuk menciptakan mesin yang dapat mengakses indera manusia. Mungkin beberapa spesies akan merasa cocok untuk menciptakan anak-anak mereka sendiri yang memiliki kesadaran artifisial. Atau mungkin umat manusia masa depan akan terlibat dalam rekayasa kesadaran dan berbagi dengan Semesta kemampuan kesadarannya untuk merasakan.
Susan Schneider adalah Asisten Profesor di Departemen Filsafat dan Ilmu Kognitif di University of Connecticut dan seorang profesor afiliasi di Institute for Advanced Study, Center for Theological Research, Ethics and Technology Group di Yale Interdisciplinary Center for Bioethics. Penulis beberapa buku, termasuk Fiksi Ilmiah dan Filsafat: From Time Travel to Supermind.
Informasi lebih lanjut dapat ditemukan di SchneiderWebsite.com
