"The Rise of the Machines", "The Terminator Returns" … Banyak fiksi ilmiah dibangun di atas fakta bahwa komputer menjadi begitu pintar sehingga mereka mengerti bahwa mereka akan lebih baik tanpa seseorang. Dongeng? Bagaimana cara melihatnya. Pada tahun 2050, komputer rumah biasa akan dapat memproses informasi sebanyak yang dikumpulkan semua orang di bumi.
Tetapi 2050 dengan syarat bahwa mesin akan berkembang secara bertahap. Tidak seperti itu. Hubungan kita dengan dunia elektronik berkembang pesat. Suatu kali - seekor tikus dipasang ke mobil. Sekali - Internet muncul. Dulu - ada smartphone dengan tablet.
Terobosan berikutnya datang ketika komputer dapat memahami manusia. Ponsel cerdas sudah memiliki aplikasi seperti Siri dan Cortana yang dapat melakukan percakapan sederhana dengan kami. Tapi masalahnya adalah komputer mengerti, bukan apa yang kita katakan, tapi apa yang kita maksud! Contoh paling sederhana: frasa “Dia meninggalkan saya”, yang diucapkan oleh seorang wanita berlinang air mata dan atasan seorang pria memiliki arti yang sangat berbeda.
Jadi: segera setelah mesin belajar mengenali nuansa ucapan manusia, di satu sisi, tangan kita akan dilepaskan secara literal dan kiasan. Saya berbicara dengan komputer dan komputer melakukan segalanya. Di sisi lain, apakah kita tidak mendekati garis berbahaya, menghilangkan penghalang terakhir dalam komunikasi antara manusia dan besi yang tidak berjiwa?
Saya sudah lama ingin membicarakan hal ini dengan seorang ilmuwan terkenal, direktur penelitian linguistik di ABBYY, kepala departemen linguistik komputasi di Universitas Negeri Rusia untuk Humaniora dan Institut Fisika dan Teknologi Moskow, Vladimir Selegey. Tetapi ketika saya mengatakan kepadanya ketakutan apokaliptik saya, dia mengerutkan kening.
“Ya, fiksi ilmiah penuh dengan prediksi kelam tentang bagaimana mesin yang dilatih manusia akan berhasil tanpanya. Tetapi tidak jelas bagi saya mengapa peningkatan jumlah pengetahuan yang tertanam dalam program akan memancing komputer untuk membuat keputusan tanpa meminta izin dari seseorang?
Faktanya, masalahnya bukanlah bahwa komputer akan belajar bekerja tanpa orang, tetapi bahwa orang akan mau bekerja tanpa diri mereka sendiri ketika memecahkan masalah tertentu. Ini Chernobyl …
Video promosi:
Dan apa hubungannya Chernobyl dengan itu?
- Reaktor nuklir adalah model fisik yang sangat kompleks. Tampaknya semua parameter kontrol reaktor diketahui, semuanya mematuhi hukum fisik yang ketat, dan pengambilan keputusan dapat sepenuhnya dipercayakan kepada komputer. Tapi…
Pada tahun 1986, seminggu setelah kecelakaan itu, saya menghadiri seminar tentang penggunaan kecerdasan buatan dalam industri. Meski begitu, jelas bahwa dengan mempercayakan pengambilan keputusan ke komputer, kita menghadapi risiko yang serius. Biasanya program mengandung kesalahan. Bahkan satelit memiliki gangguan perangkat lunak.
Artinya, seseorang lebih dapat diandalkan daripada komputer, meskipun dia "berpikir" lebih cepat?
- Seseorang, selain yang lainnya, memiliki motivasi. Dia memecahkan masalahnya - pendidikan, prokreasi, karier, dia tahu bagaimana merasakan …
Tapi bisakah programmer yang licik menulis program yang akan mengajarkan mesin agresi …
- Anda dapat mencoba membuat, misalnya, robot militer yang akan membuat keputusan dengan sendirinya, menganalisis apa yang dilihat dan didengarnya. Dan itu akan sangat berbahaya. Tetapi bukan karena robot tiba-tiba memiliki keinginan untuk menghancurkan, seperti yang ditulis oleh penulis fiksi ilmiah. Namun karena kesalahan programmer, pengabaian beberapa faktor dapat menyebabkan perilaku robot tidak dapat diprediksi.
Namun sejauh ini kami masih sangat jauh dari kemampuan untuk membuat program belajar mandiri yang mampu menghasilkan pengetahuan yang benar-benar baru. Secara kasar, berpindah secara independen dari tabel perkalian ke kemampuan untuk menyelesaikan persamaan kompleks.
Pada paruh kedua abad ke-20, prediksi futuristik di bidang sains sangat populer. Segala sesuatu tentang kecerdasan komputer masuk ke dalam susu. Tidak ada yang meramalkan Internet, kebebasan akses informasi yang luar biasa, ponsel. Tetapi semua orang berbicara tentang memikirkan komputer.
Misalnya, di akhir tahun 60-an, sistem catur pertama kami KAISA berhasil tampil di Kejuaraan Dunia antar komputer dengan sukses. Diyakini bahwa agar sebuah mesin dapat mengalahkan seseorang, maka perlu dilakukan simulasi algoritma permainan manusia. Untuk meletakkan pikiran, intelek, intuisi yang sangat misterius yang membuat pemain catur membuat keputusan yang tepat.
Hari ini komputer mengalahkan seseorang. Tapi dia tidak pernah diajari intuisi. Satu miliar permainan yang dimainkan, semua pengalaman permainan, semua keputusan yang pernah dibuat oleh para pecatur telah dimuat ke dalam ingatannya. Dan mereka mengajari mereka untuk menggunakan ini saat memilih rencana permainan yang optimal, memberi mereka kecepatan yang luar biasa dalam penghitungan dan evaluasi opsi. Komputer mengalahkan juara dunia, tetapi tidak menikmatinya. Semuanya benar-benar berbeda dari manusia.
Tapi Anda adalah salah satu dari mereka yang hanya mengajari komputer untuk "menghidupkan kepala"
- Kami hanya mencoba untuk mengajarkan program untuk "memahami" teks sehingga mereka dapat mengekstrak informasi dari mereka, mengumpulkannya dan menggeneralisasikannya. Agar orang menerima pengetahuan yang disaring, dipilih dari miliaran sumber. Ini sangat sulit, karena seseorang sendiri tidak tahu betul bagaimana kemampuan bahasanya diatur, yang menjadi dasar pemahamannya tentang orang lain.
Terjemahan mesin statistik sekarang populer. Komputer tidak mengerti sama sekali tentang apa teks terjemahan itu, hanya tahu bagaimana menemukan varian yang paling mungkin dari menerjemahkan fragmen kecil (dalam beberapa kata), menganalisis volume besar terjemahan manusia yang disimpan dalam memorinya. Secara umum teksnya jelas. Tetapi akan sembrono untuk membuat keputusan yang bertanggung jawab atas dasar terjemahan semacam itu.
Oke, bisakah komputer menerjemahkan instruksi untuk saya?
- Instruksi? Apa ini berbahaya.
- Ya untuk lemari es sederhana!
- Bahkan ke lemari es! Saya ingin program kami menerjemahkan, mencoba memahami teks, memilih di antara opsi berdasarkan pengetahuan, dan bukan hanya karena korespondensi ini paling sering ditemukan di database kami.
Oke, katakanlah Anda memecahkan masalah dan menciptakan sistem yang dengannya komputer akan belajar memahami nuansa ucapan kita dan bahkan menerjemahkannya secara akurat ke bahasa lain. Dan kemudian bahaya baru mengancam orang - tidak perlu berpikir. Tidak perlu melatih ingatan, otak. Butuh informasi - tolong, Wikipedia. Anda perlu berbicara dengan orang asing - penerjemah …
- Semakin tinggi tingkat kecerdasan dan pengetahuan seseorang, semakin berguna baginya selanjutnya "asisten pintar". Dan semakin rendah, semakin banyak peluang muncul untuk tidak berpikir sama sekali. Teknologi komputer mengarah pada polarisasi masyarakat. Secara kasar, munculnya kalkulator tidak menyebabkan degenerasi matematikawan. Tetapi pada beberapa anak sekolah, jelas terjadi penurunan pada tingkat kemampuan yang sudah rendah.
- Tahukah Anda, bagi saya, indikator serius dari penurunan tingkat pendidikan adalah banyaknya orang yang buta huruf atau tidak mampu mengungkapkan pikiran dan perasaannya tanpa menggunakan pasangan
- Ya, orang mulai menulis kurang kompeten. Hanya karena, secara umum, lebih sedikit membaca teks yang diedit dan lebih banyak sumber daya yang ejaannya sangat kabur. Apakah ini membuat orang lebih bodoh? Mungkin tidak.
Apakah Anda melihat hubungan antara fakta bahwa seseorang yang buta huruf mengungkapkan pikirannya dalam bahasa aslinya, dan fakta bahwa dia menjadi lebih bodoh?
“Saya tidak akan pergi sejauh itu. Meskipun sudah jelas: karena anak-anak mulai jarang membaca, beberapa masalah muncul dengan transfer pengetahuan dan budaya antar generasi. Ini masalah. Hari ini kita melihat bahwa seorang anak sekolah modern dengan tingkat nilai yang sama dengan 30 tahun yang lalu lebih mengenal sastra.
Di sini! …
“… Tapi di sisi lain, dia mengetahui banyak hal lain dengan lebih baik, yang tidak seorangpun mengira mereka bisa tahu.
Apakah ini proses alami?
- Iya. Selain itu, untuk pertama kalinya dalam sejarah umat manusia, pengetahuan tidak dapat ditransfer dari orang yang lebih tua ke yang lebih muda, seperti yang telah terjadi selama berabad-abad. Terjadi transfer ilmu dari yang lebih muda ke yang lebih tua, yang sebelumnya sama sekali bukan karakteristik budaya manusia. Seorang anak mengajari ayah atau ibunya bekerja di depan komputer, dengan telepon genggam, merupakan sumber berbagai ilmu bagi orang tuanya. Dan bahkan lebih banyak anak bepergian ke seluruh dunia. Seringkali mereka menjadi sumber pengetahuan geografis dan budaya.
Dengar, tapi di sini semuanya dimulai dengan komputer. Mereka membebaskan orang bahkan dari kebutuhan menghafal aturan dasar tata bahasa
- Baru pada awal 90-an, saya bekerja di tim yang mengembangkan salah satu sistem pemeriksa ejaan pertama untuk bahasa Rusia. Apakah melakukan ini membantu atau berbahaya? Sangat berguna dari sudut pandang saya. Sistem ini memungkinkan pembuatan dokumen lebih cepat. Dan kemudian semuanya tergantung pada tingkat tanggung jawab orang tersebut. Siapa bilang setelah mobil tidak perlu dilakukan pengecekan sama sekali? Sistem ini hanya membantu membuatnya jauh lebih efisien.
Tapi kami percaya komputer
- Ini hanya berarti bahwa orang yang membuat program tidak memberi tahu Anda bahwa ada banyak fenomena yang tidak dapat diverifikasi mesin. Negosiasi, misalnya.
Teknologi baru, sayangnya, sering kali menyebabkan hilangnya keterampilan tradisional. Saya telah melakukan perbaikan di apartemen. Saya ingin memasang jendela kayu, yang sudah dipasang sebelumnya. Tapi ini ternyata mustahil. Semuanya memasang jendela kaca ganda. Orang-orang, sayangnya, berhenti melakukan banyak hal dengan tangan mereka. Apa yang harus dilakukan, itulah cara hidup bekerja. Sayangnya.
Jadi kamu konformis?
- Tidak. Saya percaya bahwa melakukan hal-hal yang benar-benar merugikan itu tidak baik. Tetapi ketika Anda mengalami untung dan rugi, Anda perlu menilai risikonya … Jika Anda membuat narkoba, Anda tidak berpikir bahwa tidak hanya orang baik, tetapi juga orang jahat akan bertahan sebagai akibat dari penggunaannya.
Dalam kasus kami, bersamaan dengan perkembangan teknologi, perlu untuk terlibat dalam pelatihan bagi mereka yang menggunakannya. Konsekuensi negatif dari teknologi baru tercermin terutama pada mereka yang tidak melakukan pekerjaannya dengan baik di tingkat teknologi mana pun.
Ambil obat, misalnya. Kami ingin membantu dokter mengambil keputusan, kami membuat sistem pakar komputer berdasarkan analisis dari sejumlah besar diagnosis andal yang dibuat oleh dokter terbaik. Ini memberi kesempatan kepada seorang profesional untuk beralih ke volume pengetahuan yang lebih besar daripada yang dimilikinya. Tapi keputusan terakhir ada di tangannya, bukan komputernya! Bagi seorang dokter yang buruk, semuanya berbeda - dia akan mempercayai apa yang tidak dapat dia periksa dengan andal. Tetapi secara rata-rata, dengan munculnya teknologi seperti itu, menurut saya pengobatan masih menjadi lebih baik, bukan lebih buruk.
Nah, kami yakin bahwa akan ada lebih banyak manfaat daripada kerugian dari sistem intelektual pemahaman seseorang dengan komputer. Tapi kapan dia akan muncul?
- Ini adalah tugas yang sangat sulit yang tidak dapat diselesaikan dengan segera. Diperlukan untuk mengajarkan pengetahuan komputer tentang bahasa dan pengetahuan tentang dunia, metode inferensi dan perbandingan nilai. Sesuatu yang kita tahu bagaimana melakukannya sekarang, sesuatu akan memakan waktu bertahun-tahun. Misalnya, kami membutuhkan data yang dapat diandalkan tentang penggunaan bahasa, dengan mempertimbangkan perbedaan individu dan sosial. Dan perbedaan ini sangat signifikan. Misalnya, kami membuat proyek khusus yang didedikasikan untuk perbedaan regional dalam bahasa Rusia. Mengumpulkan kamus, di mana hampir 10 ribu kata, yang merupakan norma bagi penduduk hanya wilayah tertentu di negara kita
Siapa kita?
- Ini adalah proyek bersama yang disebut Bahasa Kota-Kota Rusia, yang melibatkan spesialis ABBYY, ilmuwan linguistik, peminat dari berbagai bagian Rusia, dan penutur bahasa Rusia di luar negeri. Kami menganalisis bahasa media regional, jejaring sosial, keputusan, dan keputusan otoritas lokal. Dan ini hanya sebagian kecil dari pengetahuan yang perlu diajarkan ke komputer!
Apa perbedaan mendasar antara pendekatan Anda terhadap terjemahan dan sistem yang digunakan Google, misalnya?
- Sistem statistik tidak membangun struktur linguistik. Mereka mencari terjemahan yang cocok untuk fragmen kecil dari 5-7 kata. Tetapi bahasanya diatur sedemikian rupa sehingga sering kali kata-kata terkait ditempatkan lebih jauh, dan jika hubungan ini tidak diperhitungkan, kesalahan muncul. Tetapi seringkali detail seperti itu penting dalam penerjemahan, pengabaian yang dapat sepenuhnya mengubah artinya. Untuk memperhitungkan semuanya, selama analisis perlu untuk mengidentifikasi seluruh sistem koneksi linguistik antar kata, yang disebut struktur kalimat. Kami tidak menerjemahkan potongan kalimat dari bahasa ke bahasa, kami mencoba mengidentifikasi struktur semantik kalimat, dan kemudian mensintesis struktur ini dengan menggunakan bahasa lain.
Tetapi struktur semantik ini digunakan tidak hanya dan tidak banyak digunakan untuk tujuan penerjemahan mesin. Mereka juga dibutuhkan untuk secara efektif memecahkan masalah pencarian cerdas dan analisis informasi, yang lebih penting saat ini bagi ABBYY sebagai perusahaan komersial. Misalnya, solusi pertama yang dirilis baru-baru ini untuk pasar korporat didasarkan pada teknologi ini: mereka hanya memungkinkan Anda untuk mencari dan menganalisis data dalam arus besar informasi yang disimpan dalam organisasi.
Dan bahasa mana, dari sudut pandang Anda, yang lebih sulit dimengerti?
- Secara umum diterima bahwa yang lebih sulit adalah bahasa di mana Anda perlu mempelajari lebih banyak aturan. Namun dalam kasus pemahaman komputer, ini tidak terjadi.
Sesuatu yang sulit bagi seseorang, misalnya, sistem infleksi yang kaya dalam bahasa Rusia atau Lituania, menyederhanakan tugas komputer pada tahap analisis tertentu.
Sebagai contoh, bahasa Mandarin sangat sulit karena tidak ada morfologi di dalamnya, dan oleh karena itu komputer menghadapi sejumlah besar ambiguitas. Oleh karena itu, untuk analisis komputer tentang bahasa Mandarin, sangat penting untuk menggunakan pengetahuan tentang dunia, yang lebih penting daripada, misalnya, saat menganalisis bahasa dengan morfologi yang dikembangkan.
Kami berhasil bekerja dengan bahasa Rusia, Jerman, Inggris, Prancis, Spanyol, Cina. Analisis bahasa dibagi menjadi beberapa tahap. Beberapa tahapan memiliki kekhususan, kesulitan untuk satu bahasa, beberapa untuk yang lain. Namun pada dasarnya, teknologi yang kami gunakan dapat diterapkan ke semua bahasa.
Menurut Anda, kapan saatnya kita akan dapat menerima terjemahan yang cepat dan dapat dimengerti di komputer secara paralel dengan percakapan kita. Katakanlah kita sedang berbicara sekarang, dan segera mendapatkan transkrip percakapan kita dalam bahasa Spanyol?
- Ini akan menjadi mungkin segera. Saya tidak berpikir itu dalam dua tahun. Tapi … Apa yang dibutuhkan untuk mengatasi masalah ini? Kami perlu meningkatkan sistem analisis ucapan kami. Kita belum bisa melakukan percakapan spontan, memisahkannya dari kebisingan dan mendapatkan teks yang diinginkan. Dan ada kemajuan ke arah ini setiap tahun.
Tetapi tetap saja akan ada hal-hal yang tidak dapat ditafsirkan oleh mesin secara jelas. Dan di sini keakuratan pemahaman dan terjemahan akan bergantung pada ketersediaan sistem pengetahuan tentang dunia, pada mekanisme inferensi logis.
Tetapi bagaimanapun juga, bahaya kepercayaan penuh pada program semacam itu akan tetap ada. Salah jika berpikir bahwa, katakanlah, dalam lima tahun, Anda dapat mendiktekan surat ke komputer, itu akan menerjemahkannya, mengirimkannya ke mitra bisnis Anda, dan semuanya akan baik-baik saja. Tidak ada yang menjamin bahwa mesin tidak akan melewatkan "tidak" di suatu tempat atau membuat kesalahan lain, setelah itu hubungan bisnis Anda dapat dianggap selesai.
Artinya, seseorang sebagai pengontrol masih harus?
- Pastinya. Mempercayai teknologi secara membabi buta itu berbahaya.
