Gagasan bahwa kecerdasan buatan pasti akan membawa kita ke skenario di mana mesin memberontak terhadap manusia cukup populer. Superintelligence buatan tampaknya menjadi ancaman terbesar, dan cerita fantastis yang menurutnya kita tidak akan dibutuhkan di dunia yang dimiliki oleh teknologi tidak pernah kehilangan popularitas.
Apakah itu tidak bisa dihindari?
Penggambaran sastra dan sinematik dari sistem komputer cerdas dari tahun 1960-an telah membantu membentuk dan meringkas harapan kita untuk masa depan saat kita memulai perjalanan menciptakan kecerdasan mesin yang melampaui kecerdasan manusia. AI jelas telah melampaui manusia dalam tugas-tugas spesifik tertentu yang membutuhkan komputasi kompleks, tetapi masih tertinggal dalam sejumlah kemampuan lainnya. Bagaimana cara meningkatkan kekuatan alat yang keras ini secara bersamaan dan mempertahankan posisi ekonomi kita di atasnya.
Karena kecerdasan buatan telah berperan dan akan terus memainkan peran besar di masa depan kita, sangatlah penting untuk mengeksplorasi kemungkinan kita untuk hidup berdampingan dengan teknologi kompleks ini.
Kevin Abosch, pendiri Kwikdesk, sebuah perusahaan pemrosesan data dan kecerdasan buatan, membagikan pemikirannya tentang hal ini. Dia percaya bahwa kecerdasan buatan harus cepat, tidak mencolok, dapat diandalkan, melek huruf, dan etis. Ya, etis.
Kerangka etika
Video promosi:
Konsep jaringan saraf tiruan, yang dimodelkan setelah jaringan saraf biologis, bukanlah hal baru. Unit daya komputasi, yang disebut neuron, terhubung satu sama lain untuk membentuk jaringan. Setiap neuron menerapkan algoritme pembelajaran yang canggih pada input, sebelum mentransmisikan data ke neuron lain, hingga neuron pada output diaktifkan dan membuka kemungkinan untuk membaca. Sistem pakar mengandalkan orang untuk "mengajarkan" sistem, menanam benih pengetahuan. Mesin logika mencari kecocokan, membuat pilihan, menetapkan aturan jika-ini-maka-maka ke basis pengetahuan. Dalam proses ini, pengetahuan baru ditambahkan ke basis pengetahuan. Jaringan saraf murni belajar dalam proses mendapatkan pengalaman non-linier, tidak memiliki masalah penyemaian pengetahuan oleh seorang ahli. Jaringan hybrid telah terbuktiyang meningkatkan kemampuan pembelajaran mesin.
Sekarang mari kita lihat masalah etika dari sistem semacam itu. Lebih jauh dari orang pertama.
"Kode buruk" versus kode bagus
Penulis menggunakan kata-kata untuk membenamkan pembaca ke dalam dunia fiksi, dan melakukannya dengan cara yang berbeda, tetapi penulis hebat melakukannya dengan sangat anggun. Seorang insinyur perangkat lunak menulis baris kode yang memfasilitasi pemrosesan dan pergerakan data. Dia, juga, dapat memilih dari sejumlah opsi dengan cara yang berbeda, tetapi pembuat kode yang anggun adalah ahli ilmu komputer. Pembuat kode yang berkembang berfokus pada bagaimana merangkum sebanyak dan sebaik mungkin dalam kode yang pendek dan rapi. Kode yang berlebihan dijaga seminimal mungkin. Kode yang bagus juga membuat jendela tetap terbuka untuk penambahan di masa mendatang. Insinyur lain dapat menambahkan kode dengan keanggunan yang melekat, dan produk berkembang dengan mulus.
Setiap produk buatan manusia didasarkan pada niat. Hal-hal yang dibuat oleh orang-orang dipenuhi dengan niat, dan pada tingkat tertentu adalah pembawa sifat pencipta. Beberapa orang sulit membayangkan benda mati seperti ini. Tapi banyak yang setuju dengan ini. Energi niat telah ada selama ribuan tahun, menyatukan, memecah belah, menyatukan, mengubah masyarakat. Kekuatan bahasa juga tidak boleh diremehkan. Jangan lupa bahwa baris kode ditulis dalam bahasa pemrograman tertentu. Jadi, saya yakin bahwa kode yang menjadi perangkat lunak yang digunakan di komputer atau perangkat seluler itu sangat "hidup".
Tanpa mempertimbangkan kebijaksanaan dan spiritualitas dalam konteks ilmu komputer dan potensi konsekuensi dari kecerdasan buatan, kita masih dapat melihat kode statis secara keseluruhan dengan potensi untuk "melakukan kebaikan" atau "melakukan kejahatan". Keluaran ini hanya menemukan dirinya dalam proses penggunaan aplikasi oleh orang-orang. Pilihan jelas yang dibuat orang itulah yang memengaruhi sifat aplikasi. Mereka dapat dilihat dalam sistem lokal, menentukan dampak positif atau negatif pada sistem itu, atau berdasarkan seperangkat standar yang telah ditentukan sebelumnya. Namun, seperti halnya seorang jurnalis tidak dapat 100% tidak memihak dalam proses menulis artikel, demikian pula seorang insinyur dengan sengaja atau tidak sengaja menambahkan sifat niatnya ke dalam kode. Beberapa orang mungkin berpendapat bahwa menulis kode adalah proses logis, dan logika nyata tidak menyisakan ruang bagi alam.
Tapi saya yakin saat Anda membuat aturan, sekumpulan kode, atau semua kode, semuanya dijiwai dengan elemen sifat manusia. Dengan setiap aturan tambahan, penetrasi spesies semakin dalam. Semakin kompleks kodenya, semakin banyak sifat di dalamnya. Oleh karena itu, muncul pertanyaan: "Dapatkah sifat kode itu baik atau jahat?"
Jelas, virus yang dikembangkan oleh peretas yang dengan jahat menerobos pertahanan komputer Anda dan mendatangkan malapetaka dalam hidup Anda dipenuhi dengan sifat jahat. Tapi bagaimana dengan virus yang dibuat oleh orang baik untuk menyusup ke komputer organisasi teroris untuk mencegah serangan teroris? Apa sifatnya? Secara teknis itu bisa identik dengan mitranya yang jahat, hanya digunakan untuk tujuan "baik". Jadi sifatnya baik? Ini adalah keseluruhan paradoks etika malware. Tapi kita tidak bisa mengabaikannya, memikirkan tentang kode "jahat".
Menurut pendapat saya, ada kode yang secara inheren condong ke arah "kejahatan" dan ada kode yang secara inheren bias ke arah niat baik. Ini lebih penting dalam konteks komputer offline.
Di Kwikdesk, kami sedang mengembangkan kerangka kerja dan protokol AI berdasarkan sistem pakar / desain hibrid jaringan saraf saya, yang paling mirip dengan model biologis. Neuron memanifestasikan dirinya sebagai modul I / O dan perangkat virtual (dalam arti tertentu, agen otonom) yang dihubungkan oleh "akson", saluran data terenkripsi yang aman dan terpisah. Data ini didekripsi saat memasuki neuron dan setelah proses tertentu dienkripsi sebelum dikirim ke neuron berikutnya. Sebelum neuron dapat berkomunikasi satu sama lain melalui akson, pertukaran kunci antara peserta dan saluran harus dilakukan.
Saya percaya bahwa keamanan dan pemisahan harus dibangun ke dalam jaringan seperti itu dari tingkat terendah. Superstruktur mencerminkan kualitas komponen terkecilnya, jadi apa pun yang lebih kecil dari blok penyusun yang aman akan mengakibatkan pengoperasian keseluruhan jalur yang tidak aman. Untuk alasan ini, data harus dilindungi secara lokal dan didekripsi saat ditransfer secara lokal.
Implementasi dan jaminan
Dapat dimengerti bahwa kualitas hidup kita bersama dengan mesin yang semakin pintar dan lebih pintar adalah suatu kekhawatiran, dan saya sangat yakin bahwa kita harus mengambil tindakan untuk memastikan masa depan yang sehat bagi generasi yang akan datang. Ancaman terhadap mesin pintar berpotensi beragam, tetapi dapat dibagi menjadi beberapa kategori berikut:
Reservasi. Di tempat kerja, orang akan digantikan oleh mesin. Pergeseran ini telah berlangsung selama beberapa dekade dan hanya akan semakin cepat. Pendidikan yang memadai diperlukan untuk mempersiapkan masyarakat menghadapi masa depan di mana ratusan juta pekerjaan tradisional akan lenyap begitu saja. Ini rumit.
Keamanan. Kami mengandalkan mesin sepenuhnya dan akan terus mengandalkan. Karena kami semakin mempercayai mesin saat kami berpindah dari area aman ke area potensial berbahaya, kami mungkin menghadapi risiko kesalahan mesin atau kode berbahaya. Pikirkan tentang transportasi, misalnya.
Kesehatan. Perangkat diagnostik pribadi dan data medis berjaringan. AI akan terus berkembang dalam pengobatan pencegahan dan analisis data genetik dari banyak sumber. Sekali lagi, kita harus memiliki jaminan bahwa mesin ini tidak akan terlibat dalam subversi jahat atau membahayakan kita dengan cara apa pun.
Takdir. AI memprediksi dengan semakin akurat ke mana Anda akan pergi dan apa yang akan Anda lakukan. Saat area ini berkembang, dia akan tahu keputusan apa yang kita buat, ke mana kita akan pergi minggu depan, produk apa yang akan kita beli, atau bahkan ketika kita mati. Apakah kami ingin orang lain memiliki akses ke data ini?
Pengetahuan. Mesin secara de facto mengumpulkan pengetahuan. Tetapi jika mereka memperoleh pengetahuan lebih cepat daripada manusia yang dapat mengujinya, bagaimana kita dapat mempercayai integritasnya?
Sebagai kesimpulan, saya ingin mencatat bahwa pendekatan AI yang waspada dan bertanggung jawab untuk mengurangi potensi masalah dalam ledakan supernova teknologi adalah cara kami. Kami akan menjinakkan potensi AI dan berdoa agar hanya memberikan yang terbaik bagi umat manusia, atau kami akan kehabisan potensinya, yang akan mencerminkan yang terburuk dalam diri kita.
Ilya Khel
