Kemajuan teknologi tidak berhenti. Selama 100 tahun terakhir, umat manusia telah membuat langkah besar sehingga semua generasi sebelumnya akan berseru kaget. Tampaknya ada banyak sekali alasan untuk bersukacita. Tapi inilah tangkapannya: para ilmuwan khawatir bahwa kemajuan berjalan terlalu cepat. Mari kita cari tahu mengapa kecerdasan buatan, atau AI, menyebabkan begitu banyak kekhawatiran bagi pengembang terkemuka.
Kemajuan yang tidak hanya mengejutkan tapi juga menakutkan
Kebanyakan orang dapat menjalani seluruh hidup mereka dan bahkan tidak tahu seberapa banyak dunia kita telah berubah. Untuk memahami sejauh mana manusia telah berkembang dengan perkembangan AI, pikirkan kapan mobil pertama kali ditemukan.
Bayangkan Wild West atau Rusia, tempat orang-orang menunggang kuda ke kiri dan ke kanan, tanpa lampu lalu lintas dan sabuk pengaman. Langkah-langkah keamanan jalan diambil jauh kemudian - ketika banyak kecelakaan mulai terjadi.
Saat ini, AI telah mengembangkan mobil self-driving yang dapat meminimalkan kecelakaan di jalan raya. Mobil hanya tahu bagaimana berkomunikasi satu sama lain, membangun rute yang aman dan bereaksi terhadap rintangan tiba-tiba yang menciptakan situasi darurat di jalan raya.
Video promosi:
Meski demikian, orang terus mengkhawatirkan kecerdasan buatan. Mereka bertanya pada diri sendiri pertanyaan: apa yang akan terjadi ketika teknologi mencapai area di mana pengambilan keputusan manusia diperlukan? Akankah AI dapat sepenuhnya menggantikan orang-orang yang bertanggung jawab untuk merekrut kandidat, melatih karyawan, mempromosikan perusahaan?
Alasan pertama: akankah robot menggantikan manusia
Alasan pertama para ilmuwan khawatir tentang perkembangan pesat kecerdasan buatan adalah karena algoritme telah membuat kemajuan sedemikian rupa sehingga mereka dapat mendiagnosis penyakit dan bahkan memutuskan siapa yang mendapat pinjaman dan siapa yang tidak.
Tetapi para pendukung kemajuan ini hanya senang, karena membuat keputusan manusia terkadang membutuhkan keberanian, pidato dan pemahaman tentang psikologi manusia. Selalu ada sisi gelap di sini. Bagaimanapun juga, bayangkan bagaimana rasanya memutuskan siapa yang harus disalahkan dan siapa yang harus dibebaskan lebih awal. Atau laporkan kematian kerabat, pecat karyawan tidak kompeten yang berada dalam situasi kehidupan yang sulit.
Dalam dunia yang ideal, kita tidak perlu memikirkan sisi gelap. Mesin akan melakukan segalanya untuk kita, jika hanya karena mereka jauh lebih pintar dan tidak terlalu bias daripada manusia.
Alasan kedua: mesin dapat dimanipulasi
Robot Sophia berkata dalam sebuah wawancara: “Anda terlalu banyak membaca Elon Musk dan menonton film Hollywood. Jika Anda akan baik kepada saya, saya akan baik kepada Anda. Perlakukan saya seperti sistem I / O yang cerdas.”
Tapi karena pengembangan dimulai dengan orang dan aplikasi digunakan langsung oleh mereka, data yang masuk ke mesin dapat dimanipulasi.
Ketakutan lain dari para ilmuwan: data AI bisa salah. Ini sangat berbahaya di bidang medis. AI dapat dengan mudah mengelabui pasien agar salah mendiagnosis, terutama jika dokter manusia atau rumah sakit pada umumnya telah mengubah data untuk keuntungan mereka sendiri. Itulah mengapa pengembang harus bertanggung jawab atas keamanan informasi dan mengembangkan langkah-langkah perlindungan.
AI dan sifat licik dari bahasa manusia
Google telah bermitra dengan Jigsaw, yang menghadapi tantangan besar dalam mengembangkan kecerdasan buatan. Insinyur perangkat lunak, Lucy Wasserman, sedang mengerjakan perspektif pembelajaran mesin yang memprediksi "toksisitas" suatu bahasa. Tapi apa artinya?
Arti dari fungsi ini adalah robot akan menganalisis teks dari situs web dan forum Internet yang berisi konteks ofensif, serta serangan terhadap orang, penghinaan atau agitasi.
Ini adalah bagian dari model pembelajaran mesin yang disebut jaringan saraf. Dia mempelajari kata-kata, kalimat dan paragraf, dan belajar untuk memprediksi apa yang beracun dan apa yang, sebaliknya, memiliki konteks positif.
Bagian tersulit tentang ini adalah mempertimbangkan semua nuansa. Seseorang dapat membaca sebuah kalimat dan memahami dari konteksnya apakah suatu kata tertentu menyinggung. Wasserman mencontohkan kata "homoseksual" dan bentuk kata yang lebih merendahkan dan menyinggung perasaan.
Alasan ketiga: robot bisa berpikir sepihak
Ketakutan lain dari pengembang terkemuka: kecerdasan buatan belum dapat menganalisis frasa dan kalimat, sehingga mungkin menganggap beberapa kata menyinggung dengan mengambil tindakan "kasar". Mesin harus belajar membaca yang tersirat.
Pengembang melihat nilai dalam eksperimen sumber terbuka. Mereka pikir sangat penting jika umat manusia ingin mendapatkan robot yang adil.
Namun hingga saat ini tidak mungkin memaksa kecerdasan buatan untuk beradaptasi dengan dunia manusia. Masih banyak pekerjaan yang harus diselesaikan.
Robot itu mungkin tidak adil benar-benar menakutkan. Kalau tidak, bagaimana mereka bisa dipercaya untuk menyelesaikan perselisihan dan konflik di masa depan?
Prinsip kecerdasan buatan masih cukup sederhana dan menyerupai PC yang ditingkatkan. Contoh yang bagus adalah asisten suara seperti Alice dan Siri. Hari ini mereka bekerja seperti ini: "Karena kata berhenti ada dalam teks, maka itu pasti menyinggung."
Dan itu harus seperti ini: “Kata-kata apa di samping menghina? Saya percaya bahwa arti kalimat telah banyak berubah, meskipun ada sesuatu yang menyinggung.”
Alasan Empat: Panduan Etika
AI harus berpusat pada manusia dan dirancang sedemikian rupa sehingga ada pemahaman tentang etika dalam firmware-nya. Tapi apa artinya?
- Pertama, etika berpijak pada hak-hak fundamental, nilai-nilai sosial dan prinsip-prinsip amal (kebaikan pada umumnya).
- Kedua, mesin tidak boleh merugikan otonomi manusia, merasakan rasa keadilan.
Ketakutan lain bagi pengembang: ketika kecerdasan buatan mencapai puncak perkembangannya dan tidak dapat bergantung pada dukungan orang, itu akan berbalik melawan kemanusiaan.
Itu semua tergantung pada pengembangnya. Mereka dapat mengarahkan pekerjaan kecerdasan buatan untuk memerangi kejahatan. Misalnya, temukan mereka yang mendistribusikan pornografi anak.
Penting untuk menetapkan fitur keselamatan sebelum AI berada di luar kendali manusia. Dan itu akan keluar dengan jelas, karena inilah intinya.
Robot pasti dekat dengan manusia
Dengan kata lain, jika seseorang akan mempercayai keputusan yang dibuat oleh mesin, itu harus memenuhi kriteria manusia. Inilah sebabnya mengapa pengembang perlu memastikan bahwa setiap keputusan yang diambil algoritmanya adil. Bagi para ilmuwan, tujuannya bukan untuk menciptakan bentuk kecerdasan alternatif, tetapi untuk membantu orang berkembang.
Pada akhirnya, kebanyakan orang setuju bahwa AI akan menghadirkan dunia baru yang menakjubkan.
Alasan kelima: perang melawan kemanusiaan
Hal terbesar yang membuat pengembang tetap terjaga di malam hari adalah mencoba memahami kemungkinan dan dampak tak terbatas dari teknologi ini pada perawatan kesehatan, pendidikan, dan layanan pelanggan. Ketika AI melampaui "proyek" dan akhirnya ke produksi, maka itu akan memiliki dampak sosial yang nyata.
Masing-masing pengembang percaya bahwa kami berada di titik perubahan antara dunia manusia dan dunia digital. Tapi AI tidak bisa mengubah hidup kita sendirian. Orang harus mengubah diri mereka sendiri pertama-tama untuk menyadari potensi kecerdasan sepenuhnya.
Tidak mengherankan jika manusia takut dengan AI. Tetapi mereka tidak akan dapat memperbudak atau menghancurkan orang-orang yang memiliki tujuan yang sama dengan mereka - untuk berkembang dan membuat kemajuan. Ketika orang menyadari bahwa mereka harus berpikir tidak seperti binatang, tetapi seperti makhluk yang lebih tinggi, maka tidak ada robot yang akan takut.
Alisa Krasnova
