Meskipun perhatian luas terhadap perkembangan kecerdasan buatan, ada beberapa orang di dunia yang percaya bahwa potensi kecerdasan manusia (AI) yang meningkat secara signifikan jauh lebih tinggi. Pertanyaan tentang apa yang akan datang lebih dulu tetap terbuka, tetapi diyakini bahwa otak yang berteknologi maju bisa sekuat (dan sejujurnya, sama berbahayanya) dengan AI.
Manusia sebagai spesies telah mengembangkan pemikirannya selama ribuan tahun. Atau setidaknya mencoba melakukannya. Dalam mencoba untuk mengatasi keterbatasan kognitif mereka, orang telah menggunakan semua yang mereka bisa, dari teknik tertulis, linguistik dan meditatif hingga nootropik modern.
Mengapa, daripada mencoba mengembangkan general artificial intelligence (AGI) atau bahkan artificial superintelligence (ISI), lebih baik fokus pada otak manusia yang masih jauh dari potensi yang sepenuhnya terbuka? Bagaimanapun, peningkatan signifikan dalam pikiran - baik melalui genetika, sibernetika, atau kekuatan perangkat eksternal - dapat mengarah pada hasil yang sama seperti yang kita harapkan dari penciptaan AI tingkat lanjut.
Portal Gizmodo memutuskan untuk menghubungi ahli futurologi Mikhail Anisimov, blogger portal Accelerating Future dan salah satu pendiri acara Singularity Summit, dan mencari tahu prospek yang mungkin untuk pengembangan arah peningkatan otak manusia. Anisimov menangani masalah ini dengan sangat serius dan percaya bahwa kita harus waspada terhadap AI seperti halnya AI.
Michael, ketika kita berbicara tentang peningkatan kecerdasan, apa yang sebenarnya kita maksud dengan ini? Apakah kita berbicara tentang menciptakan Einstein baru? Atau apakah itu sesuatu yang lebih ambisius?
Tujuan sebenarnya dari arahan AI adalah untuk menciptakan "super-Einstein", orang yang jauh lebih pintar daripada orang yang pernah hidup di Bumi. Dan untuk mencapai tujuan ini, beberapa langkah penting harus diambil.
Langkah pertama adalah membuat koneksi saraf langsung dengan informasi. Anggap saja sebagai semacam "pencarian Google telepati".
Berikutnya adalah pengembangan antarmuka otak-komputer, yang akan meningkatkan kerja bagian otak yang bertanggung jawab atas persepsi visual. Ini tidak hanya akan meningkatkan visi kami, tetapi juga meningkatkan efisiensi pemrosesan informasi secara signifikan. Bayangkan saja bahwa Anda hampir secara instan dapat membuat di otak Anda beberapa skema kompleks dari suatu objek secara mendetail, atau sekarang Anda dapat menghafal skema yang telah Anda lihat dengan sangat detail. Selain itu, augmentasi akan diperlukan di area lain dari korteks sensorik yang bertanggung jawab untuk sentuhan dan pendengaran.
Video promosi:
Langkah ketiga adalah menambah korteks prefrontal. Inilah cawan suci penelitian UI - meningkatkan efisiensi persepsi dan integrasi informasi sensorik ke dalam konsep. Hasil akhirnya adalah munculnya orang-orang yang mampu menunjukkan kemampuan intelektual yang hampir mustahil. Kita berbicara, misalnya, tentang kemampuan untuk mengontrol orang lain dengan kekuatan nalar, memahami semua posisi kemenangan di pasar saham, atau, misalnya, menciptakan penemuan yang dapat mengubah dunia dalam hampir satu hari. Sekarang ini mungkin tampak mustahil, sama seperti pencapaian modern kita yang tampak mustahil di mata orang-orang Zaman Batu. Tapi kemungkinan ini benar-benar nyata.
Menatap sepuluh tahun ke depan, di mana AI akan berevolusi? Bisakah otak manusia benar-benar bersaing dengannya?
Otak manusia benar-benar tidak dapat diubah terlalu banyak. Bagaimanapun, ini sudah merupakan hasil dari tujuh juta tahun pengoptimalan dan penyempurnaan evolusioner, yang, harus saya akui, sangat berhasil, mengingat keterbatasannya. Dan upaya untuk "overclock", sebagai suatu peraturan, mengarah pada kegagalannya, jika kita mempertimbangkan masalahnya, setidaknya dari sudut pandang contoh efek yang disertai dengan kecanduan amfetamin.
Trailer untuk film Area of Darkness
Bahan kimia tidak mampu meningkatkan kemampuan kognitif seseorang. Dan segala sesuatu yang diberikan untuk mendukung keefektifan "akselerator otak" saat ini terlihat sangat kontroversial dan meragukan. Keberhasilan nyata akan membutuhkan penggunaan implan otak yang terhubung ke jutaan neuron. Ini, pada gilirannya, akan membutuhkan jutaan elektroda kecil dan sistem kontrol khusus untuk menyinkronkan semuanya. Saat ini desain antarmuka komputer-otak paling canggih memiliki sekitar 1000 koneksi paling baik. Dengan kata lain, perkembangan modern harus ditingkatkan lebih dari seribu kali lipat untuk mencapai sesuatu yang sangat menarik. Bahkan jika kita memperhitungkan pertumbuhan eksponensial, dibutuhkan setidaknya 15 hingga 20 tahun untuk mencapai hasil apa pun.
Perkembangan UI didasarkan terutama pada kemajuan dalam pengembangan nanoproduksi. Dan hasil para insinyur yang bekerja pada antarmuka otak-komputer, seperti, misalnya, Ed Boyden dari Institut Teknologi Massachusetts, bergantung sepenuhnya pada kemajuan ke arah ini. Mengingat tingkat perkembangan teknologi produksi di tingkat atom yang dapat diabaikan, perakitan mandiri tingkat nano tampak seperti cara paling jelas untuk mengembangkan antarmuka otak-komputer dengan jutaan elektroda. Perakitan tingkat nano, perlu dicatat, bukanlah metode produksi yang akurat secara atom, tetapi cukup akurat sesuai dengan standar pembuatan dasar dan fotolitografi.
Apa sajakah efek samping psikologis potensial bagi orang dengan kecerdasan yang meningkat secara signifikan? Bisakah mereka secara umum dianggap sebagai orang dari sudut pandang ini?
Salah satu efek samping yang paling umum adalah kegilaan. Otak manusia adalah mesin yang disetel dengan sangat baik. Dan setiap perubahan dalam mode operasinya mengarah pada apa yang biasa kita sebut "kegilaan". Ada banyak jenis kegilaan, jauh lebih banyak daripada pola perilaku dalam akal sehat. Misalnya, kegilaan yang tersembunyi dari sudut pandang lingkungan luar mungkin tampak sebagai perilaku yang cukup sehat, oleh karena itu, kemungkinan besar, kita akan menghadapi kesulitan dalam mengidentifikasi individu yang menderita kegilaan tersebut.
Bahkan dengan kewarasan yang lengkap, berbagai efek samping dapat terjadi, termasuk kejang, informasi yang berlebihan, dan kemungkinan perasaan egomania dan keterasingan total. Orang pintar cenderung merasa lebih terasing dari dunia di sekitar mereka, jadi mengetahui bahwa Anda adalah yang terpintar di planet ini akan memperkuat efek ini berkali-kali.
Kebanyakan orang yang sangat pintar tidak begitu ramah dan ceria, seperti, katakanlah, ilmuwan Amerika Richard Feynman atau seperti Neil DeGrasse Tyson modern. Hemingway pernah berkata: "Orang yang cerdas kadang-kadang dipaksa untuk mabuk untuk bertahan dalam komunikasi dengan orang bodoh." Tetapi apa yang terjadi ketika keracunan alkohol tidak lagi cukup untuk memelihara persahabatan dan kasih sayang timbal balik? Hal ini dapat menyebabkan hilangnya empati, yang pada akhirnya mengarah pada psikopati.
Jadi apa yang lebih dulu? Diperkuat atau Kecerdasan Buatan?
Sangat sulit untuk diprediksi. Ada keinginan besar bahwa kecerdasan yang ditingkatkan akan muncul sebelum AI. Semua karya seni dan permainan di mana protagonis memiliki UI seperti itu sebagian besar bertanggung jawab atas keinginan ini. Namun perlu dipahami bahwa bias terhadap UI sebenarnya tidak mempermudah pengerjaannya dalam hal kompleksitas teknologi. Tapi secara pribadi, saya pikir UI akan datang lebih awal.
Bagaimanapun, kedua arah tersebut sangat sulit untuk diterapkan. Kita mungkin tidak melihat salah satunya hingga tahun 2060-an, 2070-an, atau bahkan nanti. Pada akhirnya, kedua arah pembangunan tersebut akan mencapai tujuannya. Jika Anda memikirkannya, tidak ada yang mengejutkan dalam kecerdasan sekarang, jadi kebutuhan untuk memperbaikinya sangatlah besar. Dan itu mungkin akan membutuhkan pemberontakan Luddite global (peserta dalam protes spontan pada kuartal pertama abad ke-19 menentang pengenalan mesin selama Revolusi Industri di Inggris - red.) Untuk menghentikan kemajuan perkembangan teknologi, yang akan membawa kita ke hasil yang diinginkan.
Apa keuntungan dan kerugian dari dua pendekatan pembangunan yang berbeda ini?
Keuntungan utama memilih jalur pengembangan AI terletak pada proses pengembangan yang lebih murah dan mudah secara tidak proporsional. AI di atas kertas dan dalam kode telah dikembangkan. Tetap hanya untuk merakitnya dengan benar. Penelitian paling signifikan tentang UI, pada gilirannya, sekarang dianggap ilegal. Penelitian serius tentang UI akan membutuhkan eksperimen yang sangat canggih dalam bedah saraf dan implan otak. Implan otak, pada gilirannya, bisa gagal, menyebabkan kejang, kegilaan, atau bahkan kematian. Meningkatkan kecerdasan manusia dalam hal kualitas cara peningkatan diri tidak hanya dengan meminum beberapa pil untuk mendapatkan kekuatan super. Di sini Anda benar-benar harus bereksperimen dengan implan otak jika ingin mencapai hasil yang serius.
Sebagian besar penelitian di bidang ini dikontrol dengan ketat dan sangat mahal. Semua percobaan dengan hewan selalu mahal. Misalnya, Theodor Berger telah mengerjakan implan hipokampus untuk memulihkan dan meningkatkan kinerja memori selama bertahun-tahun. Pada tahun 2004, tes pertama yang melibatkan jaringan hidup dilakukan, tetapi sejak itu berita menjadi sangat jarang. Setiap beberapa tahun, tentu saja, ada beberapa catatan di berita, tetapi saya sangat skeptis tentang hasil akhirnya. Sekarang lihat tingkat perkembangan yang dapat kami capai dalam pengembangan kecerdasan buatan!
Apakah AI terlihat lebih aman daripada AI dalam hal prediktabilitas dan kontrol? Mana yang lebih penting untuk pertama kali membuat, AI atau AI yang sangat kuat?
Kecerdasan yang ditingkatkan terlihat lebih tidak terduga dan tidak terkendali dibandingkan dengan AI yang sangat kuat. Dan dalam jangka panjang, ini terlihat lebih berbahaya. Baru-baru ini saya menulis artikel yang merefleksikan transformasi politik global yang dipicu oleh kekuatan besar yang terkonsentrasi di tangan sekelompok kecil orang dengan AI atau akses eksklusif ke manufaktur molekuler. Di dalamnya, saya menciptakan istilah "Maximilian," yang berarti "yang terbaik dari yang terbaik", untuk menggambarkan seorang pemimpin yang sangat berpengaruh yang dengan sendirinya menggunakan teknologi kecerdasan yang disempurnakan untuk mengangkat dirinya sendiri di atas orang lain.
Reginald Barkley yang Ditingkatkan secara Kognitif dari Star Trek: The Next Generation di Episode X.
Poin utama dari alasan saya dalam artikel ini adalah bahwa dalam kasus peningkatan kecerdasan, Anda harus berurusan dengan orang, dan seseorang, seperti yang Anda ketahui, tidak sempurna. Mungkin ternyata orang dengan kecerdasan yang ditingkatkan, mungkin, akan mempertahankan beberapa tingkat moralitas manusia, tetapi, kemungkinan besar, mereka akan mulai menggunakan semua kekuatan pikiran mereka untuk tujuan hedonistik dan, mungkin, bahkan untuk genosida.
Artificial superintelligence, pada gilirannya, dapat diciptakan dari nol dan hanya dibuat mengikuti serangkaian motivasi sendiri (yang juga akan tertanam di dalamnya), yang memiliki permulaan yang baik, stabilitas dan umpan balik yang positif.
Orang-orang bertanya: "Akankah ISI menolak motivasi ini?" Tidak, dia tidak akan melakukannya, karena motivasi ini akan menjadi inti dari nilai-nilainya, jika, tentu saja, diprogram dengan benar. Tidak akan ada "hantu di dalam mobil" yang mampu mengabaikan atau menolak motif yang telah diprogram sebelumnya.
Filsuf Nick Bostrom telah melakukan analisis luar biasa dalam karyanya The Will of the Superintelligence. Gagasan utama di dalamnya adalah bahwa tujuan egois tidak dapat muncul dengan sendirinya jika sistem tugas utama AI pada awalnya pada dasarnya adalah serangkaian tujuan tanpa pamrih dan jika inti dari keberadaan mesin adalah untuk mempertahankan ketidakegoisan ini. Evolusi telah menunjukkan bahwa tujuan egois memainkan peran penting dalam kelangsungan hidup, terutama jika kita memperhitungkan batasan konstruktif evolusioner organisme hidup, tetapi ini tidak berarti bahwa kita sendiri tidak dapat memprogram agen yang tidak tertarik dari awal?
Kesulitan apa (teknologi, medis, atau etika) yang menghalangi perkembangan?
Tantangan terbesar terletak pada pengembangan teknologi produksi yang sesuai. Sekarang kita bahkan tidak mendekati ini. Perangkap lain adalah tugas untuk mencari tahu apa sebenarnya tanggung jawab masing-masing neuron individu, dan menentukan lokasi yang tepat dari neuron-neuron ini pada satu orang. Sekali lagi, kami bahkan belum mendekati itu.
Ketiga, kita perlu mengembangkan cara cepat untuk menguji banyak teori tentang fungsi otak. Ed Boyden menyebut ini "sirkuit penyaringan jaringan saraf throughput tinggi". Solusi yang paling tepat dan jelas untuk pertanyaan ini mungkin entah bagaimana membuat manusia tidak sadar dan bereksperimen tanpa sedikit pun hati nurani atau dilema moral. Tetapi saya merasa bahwa ide ini akan ditanggapi dengan permusuhan oleh sebagian besar komite etika.
Dengan tidak adanya kesempatan seperti itu, kita perlu menemukan cara untuk membuat model otak manusia yang sangat mendetail. Dan kita tidak sedang membicarakan tentang usaha keras masa kini dari proyek "pemodelan otak" yang di dalamnya ada begitu banyak hype. Kami berbicara tentang level baru yang belum pernah terjadi sebelumnya, yang tidak akan dapat kami capai hingga tahun 2050-2080. Analisis Oxford menunjukkan bahwa ini lebih tentang tahun 2080-an. Semua terlihat sekarang, tentu saja, seperti meramal di atas bubuk kopi, tetapi masih lebih dekat dengan kenyataan.
NIKOLAY KHIZHNYAK
