Pelajaran terbesar yang bisa dipetik dari 70 tahun penelitian AI adalah bahwa metode umum yang menggunakan komputasi pada akhirnya adalah yang paling efisien - dan dengan margin yang lebar. Alasan utama untuk ini adalah Hukum Moore. Atau lebih tepatnya, generalisasinya: pengurangan biaya yang terus menerus dan eksponensial dalam biaya prosesor komputasi. "Pelajaran pahit" ini dibagikan oleh Richard Sutton, seorang ilmuwan komputer Kanada. Lebih jauh - dari orang pertama.
Mengapa penelitian kecerdasan buatan terhenti selama 70 tahun?
Sebagian besar penelitian AI telah dilakukan seolah-olah komputasi yang tersedia untuk agen itu persisten (dan dalam hal ini, menggunakan pengetahuan manusia akan menjadi satu-satunya cara untuk meningkatkan kinerja). Namun seiring waktu - jauh lebih banyak daripada yang dibutuhkan proyek penelitian biasa - tak terelakkan, lebih banyak komputasi tersedia. Dalam mencari perbaikan yang dapat membantu dalam jangka pendek, para ilmuwan mencoba untuk memaksimalkan pengetahuan manusia di bidang ini, tetapi satu-satunya hal yang penting dalam jangka panjang adalah peningkatan penggunaan komputasi. Kedua aspek ini seharusnya tidak bertentangan satu sama lain, tetapi dalam praktiknya mereka melakukannya. Waktu yang dihabiskan untuk salah satu dari mereka tidak sama dengan waktu yang dihabiskan untuk yang lain. Ada kewajiban psikologis untuk berinvestasi dalam satu pendekatan atau lainnya. Dan pendekatan pengetahuan manusia cenderung memperumit metode sedemikian rupa sehingga menjadi kurang cocok untuk memanfaatkan metode umum yang menggunakan komputasi.
Ada banyak contoh peneliti AI yang terlambat memahami pelajaran pahit ini. Akan bermanfaat untuk mempertimbangkan beberapa contoh yang paling menonjol.
Dalam catur komputer, metode yang mengalahkan juara dunia Kasparov pada 1997 didasarkan pada pencarian mendalam dan masif. Pada saat itu, mereka dipandang cemas oleh sebagian besar peneliti catur komputer yang menggunakan metode berdasarkan pemahaman manusia tentang struktur spesifik catur. Ketika pendekatan yang lebih sederhana dan berbasis pencarian dengan perangkat keras dan perangkat lunak khusus terbukti jauh lebih efektif, para peneliti yang membangun pemahaman manusia tentang catur tidak mengaku kalah. Mereka berkata, “Kali ini pendekatan brute-force mungkin menang, tetapi itu tidak akan menjadi strategi keseluruhan dan tentunya orang tidak bermain catur dengan cara itu. Para ilmuwan ini menginginkan metode berbasis manusia untuk menang, dan sangat kecewa jika tidak berhasil.
Video promosi:
Gambaran serupa tentang kemajuan penelitian terlihat di komputer pergi, hanya dengan penundaan 20 tahun lagi. Awalnya, upaya besar dilakukan untuk menghindari pencarian menggunakan pengetahuan manusia atau gameplay, tetapi semua upaya ini tidak diperlukan atau bahkan lebih buruk setelah pencarian diterapkan secara efektif dan dalam skala besar. Penting juga untuk menggunakan pembelajaran dalam proses bermain mandiri untuk mempelajari fungsi nilai (seperti yang terjadi di banyak permainan lainnya dan bahkan dalam catur, hanya pembelajaran tidak memainkan peran besar dalam program 1997, yang mengalahkan juara dunia untuk pertama kalinya). Belajar bermain dengan diri sendiri, belajar secara keseluruhan, seperti pencarian yang memungkinkan Anda menerapkan serangkaian besar perhitungan. Pencarian dan pembelajaran adalah dua kelas teknik terpenting yang melibatkan komputasi dalam jumlah besar dalam penelitian AI. Di komputer pergiSeperti dalam catur komputer, upaya awal para peneliti ditujukan untuk menggunakan pemahaman manusia (sehingga ada lebih sedikit pencarian), dan lebih banyak keberhasilan dicapai hanya di kemudian hari, melalui penggunaan pencarian dan pembelajaran.
Di bidang pengenalan suara, kompetisi yang disponsori DARPA diadakan pada tahun 1970-an. Peserta mempresentasikan berbagai metode yang memanfaatkan pengetahuan manusia - pengetahuan tentang kata-kata atau fonem, saluran vokal manusia, dan sebagainya. Di sisi lain barikade, terdapat metode yang lebih baru, bersifat statistik dan melakukan lebih banyak komputasi, berdasarkan Hidden Markov Model (HMM). Sekali lagi, metode statistik menang atas metode berbasis pengetahuan. Hal ini menyebabkan perubahan besar dalam semua pemrosesan bahasa alami, secara bertahap diperkenalkan selama beberapa dekade, hingga akhirnya statistik dan komputasi mulai mendominasi lapangan. Munculnya pembelajaran mendalam baru-baru ini dalam pengenalan ucapan adalah langkah terbaru ke arah yang konsisten ini. Pembelajaran mendalam bahkan lebih sedikit bergantung pada pengetahuan manusia dan menggunakan lebih banyak komputasi, bersama dengan pelatihan pada kumpulan sampel yang sangat besar, dan menghasilkan sistem pengenalan ucapan yang luar biasa.
Richard Sutton, ilmuwan komputer Kanada.
Seperti dalam permainan, para ilmuwan selalu mencoba untuk membuat sistem yang akan bekerja seperti yang mereka bayangkan di kepala mereka - mereka mencoba memasukkan pengetahuan ini ke dalam sistem mereka - tetapi semuanya ternyata sangat tidak produktif, para ilmuwan hanya membuang-buang waktu sementara - karena Hukum Moore - semakin banyak kalkulasi masif tersedia dan menemukan aplikasi yang sangat baik.
Gambaran serupa terjadi di bidang computer vision. Metode pertama dianggap sebagai pencarian untuk kontur tertentu, silinder umum, atau menggunakan kemampuan SIFT (transformasi fitur skala-invariant). Tapi hari ini semua ini dibuang ke tungku. Jaringan neural deep learning modern hanya menggunakan konsep konvolusi dan invarian tertentu dan berkinerja jauh lebih baik.
Ini adalah pelajaran yang bagus.
Ke mana pun kita melihat, kita terus melakukan kesalahan yang sama di mana pun. Untuk melihat ini dan menghadapinya secara efektif, Anda perlu memahami mengapa kesalahan ini begitu menarik. Kita harus belajar pelajaran pahit bahwa membangun cara kita berpikir dari cara berpikir kita tidak akan berhasil dalam jangka panjang. Pelajaran pahit berdasarkan observasi sejarah menunjukkan bahwa: 1) peneliti AI telah sering mencoba untuk membangun pengetahuan menjadi agen mereka; 2) selalu membantu dalam jangka pendek dan memberikan kepuasan bagi ilmuwan; 3) tetapi dalam jangka panjang, semuanya terhenti dan menghambat kemajuan lebih lanjut; 4) kemajuan yang mengganggu pasti datang dengan pendekatan yang berlawanan, berdasarkan penghitungan penskalaan melalui pencarian dan pembelajaran. Sukses memiliki rasa pahit dan seringkali tidak terserap sepenuhnya.karena ini adalah keberhasilan komputasi, bukan keberhasilan pendekatan yang berpusat pada manusia.
Satu hal yang dapat dipelajari dari pelajaran pahit ini adalah kekuatan luar biasa dari metode tujuan umum, metode yang terus berkembang seiring dengan pertumbuhan komputasi bahkan ketika komputasi yang tersedia menjadi sangat besar. Dua metode yang tampaknya menskalakan secara sewenang-wenang dengan cara ini adalah mencari dan belajar.
Hal kedua yang harus dipelajari dari pelajaran pahit ini adalah bahwa isi sebenarnya dari pikiran sangatlah kompleks dan tidak perlu; kita harus berhenti mencoba menemukan cara sederhana untuk memahami isi pikiran, mirip dengan cara sederhana untuk memahami ruang, objek, banyak agen atau kesimetrian. Mereka semua adalah bagian dari dunia luar yang kompleks dan sewenang-wenang. Kita tidak boleh mencoba membangunnya, karena kompleksitasnya tidak terbatas; kita harus mengembangkan metode meta yang dapat menemukan dan menangkap kompleksitas yang berubah-ubah ini. Metode-metode ini dapat menemukan perkiraan yang baik, tetapi pencariannya harus dilakukan dengan metode kami, bukan oleh kami. Kami membutuhkan agen AI yang dapat menemukan dengan cara yang sama seperti kami, dan tidak berisi apa yang telah kami temukan. Membangun dari penemuan kami hanya mempersulit proses penemuan dan pencarian.
Ilya Khel
