Ketika putra pertama saya baru berusia dua tahun, dia sudah menyukai mobil, tahu semua merek dan model (bahkan lebih dari saya, terima kasih kepada teman-teman saya), dapat mengenalinya dari sebagian kecil gambar. Semua orang berkata: jenius. Meskipun mereka mencatat bahwa pengetahuan ini tidak berguna sama sekali. Dan putranya, sementara itu, tidur dengan mereka, menggulungnya, menempatkannya tepat dalam satu baris atau dalam bujur sangkar.
Ketika dia berusia 4 tahun, dia belajar berhitung, dan pada usia 5 dia sudah bisa mengalikan dan menjumlahkan 1000. Kami bahkan memainkan Latihan Matematika (permainan ini di Android - Saya suka menghitung di kereta bawah tanah setelah bekerja), dan pada titik tertentu dia menjadi saya lakukan saja. Dan di waktu luangnya, dia menghitung hingga satu juta, yang membekukan orang-orang di sekitarnya. Jenius! - kata mereka, tapi kami curiga itu kurang tepat.
Ngomong-ngomong, di pasar dia membantu ibunya dengan cukup baik - dia menghitung jumlah total lebih cepat daripada penjual dengan kalkulator.
Pada saat yang sama, dia tidak pernah bermain di lapangan, tidak berkomunikasi dengan teman sebayanya, tidak bergaul dengan baik dengan anak-anak dan guru di taman kanak-kanak. Secara umum, dia adalah anak kecil yang pendiam.
Langkah selanjutnya adalah geografi - kami mencoba menyalurkan kecintaan pada angka di suatu tempat, dan memberi putra kami atlas Soviet lama. Dia terjun ke dalamnya selama sebulan, dan setelah itu dia mulai mengajukan pertanyaan rumit dengan gaya:
- Ayah, menurutmu negara mana yang memiliki wilayah yang luas: Pakistan atau Mozambik?
“Mungkin Mozambik,” jawab saya.
- Tapi tidak! Luas wilayah Pakistan mencapai 2.350 km2 lebih, - jawab sang putra dengan senang hati.
Video promosi:
Pada saat yang sama, dia sama sekali tidak tertarik pada orang-orang yang mendiami negara-negara ini, atau bahasa, pakaian, atau musik rakyat mereka. Hanya nomor telanjang: luas, populasi, volume cadangan mineral, dll.
Semua orang kembali mengagumi. "Pandai melampaui usianya," kata mereka, tetapi sekali lagi saya khawatir, karena Saya mengerti bahwa ini adalah pengetahuan yang sama sekali tidak berguna, tidak terikat dengan pengalaman hidup, dan yang sulit untuk terus dikembangkan. Aplikasi terbaik dari semua yang saya temukan adalah proposal untuk menghitung berapa banyak mobil yang akan muat di tempat parkir jika negara tertentu digulung dengan aspal (tanpa memperhitungkan medan pegunungan), tetapi saya segera berhenti, karena itu berbau genosida.
Menariknya, pada saat ini topik mobil benar-benar hilang, putranya bahkan tidak ingat nama mobil favoritnya dari koleksinya yang sangat besar, yang mulai kami distribusikan dengan kehilangan minat. Dan kemudian dia mulai menghitung lebih lambat dalam pikirannya dan segera melupakan kuadrat negara. Pada saat yang sama, dia mulai lebih banyak berkomunikasi dengan teman-temannya, menjadi lebih banyak kontak. Kejeniusan berlalu, teman-teman berhenti mengagumi, putranya menjadi murid yang baik dengan kegemaran pada matematika dan sains eksakta.
Pengulangan adalah ibu dari pembelajaran
Tampaknya untuk apa semua ini. Ini terlihat pada banyak anak. Orang tua mereka menyatakan kepada semua orang bahwa anak-anak mereka jenius, nenek mengagumi dan memuji anak-anak atas "pengetahuan" mereka. Dan kemudian mereka tumbuh menjadi anak-anak biasa, cukup pintar, tidak lebih jenius dari pada anak dari teman ibuku.
Saat mempelajari jaringan saraf, saya menemukan fenomena serupa, dan menurut saya kesimpulan tertentu dapat diambil dari analogi ini. Saya bukan ahli biologi atau ahli saraf. Lebih jauh - tebakan saya tanpa klaim menjadi sangat ilmiah. Saya akan senang menerima komentar dari para profesional.
Ketika saya mencoba memahami bagaimana anak saya belajar berhitung lebih cepat dari saya, sangat keren (dia menyelesaikan level dalam Latihan Matematika dalam 20,4 detik, sementara rekor saya adalah 21,9), saya menyadari bahwa dia tidak menghitung sama sekali. Dia ingat bahwa ketika 55 + 17 muncul, Anda perlu mengklik 72. Pada 45 + 38, Anda perlu mengklik 83, dan seterusnya. Awalnya, tentu saja, dia menghitung, tetapi lompatan dalam kecepatan terjadi pada saat dia mampu mengingat semua kombinasi. Dan dengan cukup cepat dia mulai menghafal bukan prasasti tertentu, tetapi kombinasi simbol. Inilah yang mereka ajarkan di sekolah, mempelajari tabel perkalian - ingat tabel korespondensi MxN -> P.
Ternyata dia menganggap sebagian besar informasi persis sebagai koneksi antara data masukan dan data keluaran, dan algoritme yang sangat umum yang biasa kita gunakan untuk menggulir untuk mendapatkan jawaban tidak hanya direduksi menjadi algoritme khusus yang sangat tajam untuk menghitung angka dua digit. Dia melakukan beberapa tugas yang sangat baik, tetapi jauh lebih lambat. Itu. apa yang semua orang anggap sangat keren sebenarnya hanya disimulasikan oleh jaringan saraf terlatih untuk tugas tertentu.
Pengetahuan ekstra
Mengapa beberapa anak memiliki kemampuan menghafal dengan cara ini, sementara yang lainnya tidak?
Bayangkan bidang minat anak (di sini kita mendekati pertanyaan secara kualitatif, tanpa pengukuran apa pun). Di sebelah kiri adalah bidang minat anak biasa, dan di sebelah kanan adalah bidang minat anak yang "berbakat". Seperti yang diharapkan, minat utama terkonsentrasi di bidang yang memiliki bakat khusus. Namun untuk urusan sehari-hari dan komunikasi dengan teman sebaya, fokusnya tidak lagi cukup. Dia menganggap pengetahuan ini tidak berguna.
Kepentingan anak biasa berusia 5 tahun.
Kepentingan seorang anak "brilian" berusia 5 tahun.
Pada anak-anak seperti itu, otak menganalisa dan melakukan pelatihan hanya pada topik-topik tertentu. Melalui pelatihan, jaringan saraf di otak harus belajar untuk berhasil mengklasifikasikan data yang masuk. Tetapi otak memiliki banyak sekali neuron yang dapat digunakan. Jauh lebih banyak daripada yang diperlukan untuk pekerjaan normal dengan tugas-tugas sederhana seperti itu. Biasanya, anak-anak memecahkan banyak masalah berbeda dalam hidup, tetapi di sini semua sumber daya yang sama dimasukkan ke dalam rentang tugas yang lebih sempit. Dan pelatihan dalam mode ini dengan mudah mengarah pada apa yang oleh para profesional ML disebut overfitting. Jaringan, menggunakan banyak koefisien (neuron), telah dilatih sedemikian rupa sehingga selalu memberikan jawaban yang benar-benar diperlukan (tetapi dapat memberikan omong kosong sama sekali pada data masukan perantara, tetapi tidak ada yang melihatnya). Dengan demikian, pelatihan tidak mengarah pada fakta bahwa otak memilih karakteristik utama dan mengingatnya, tetapi pada fakta bahwa otak menyesuaikan banyak koefisien,untuk memberikan hasil yang akurat atas data yang sudah diketahui (seperti pada gambar di sebelah kanan). Selain itu, otak telah belajar begitu-begitu tentang topik lain, setelah kurang terlatih (seperti pada gambar di sebelah kiri).
Apa itu underfitting dan overfitting?
Bagi mereka yang tidak berada dalam subjek, saya akan memberi tahu Anda secara singkat. Saat melatih jaringan saraf, tugasnya adalah memilih sejumlah parameter (bobot komunikasi antar neuron) sehingga jaringan merespons data pelatihan (sampel pelatihan) sedekat dan seakurat mungkin.
Jika ada terlalu sedikit parameter seperti itu, maka jaringan tidak akan dapat mempertimbangkan detail sampel, yang akan menghasilkan jawaban yang sangat kasar dan rata-rata yang tidak berfungsi dengan baik bahkan pada sampel pelatihan. Mirip dengan gambar di kiri atas. Ini kurang pas.
Dengan jumlah parameter yang memadai, jaringan akan memberikan hasil yang baik, "menelan" penyimpangan yang kuat dalam data pelatihan. Jaringan seperti itu akan merespons dengan baik tidak hanya untuk sampel pelatihan, tetapi juga untuk nilai antara lainnya. Seperti gambar tengah di atas.
Tetapi jika jaringan diberikan terlalu banyak parameter yang dapat dikonfigurasi, maka jaringan akan melatih dirinya sendiri untuk mereproduksi bahkan penyimpangan dan fluktuasi yang kuat (termasuk yang disebabkan oleh kesalahan), yang dapat menyebabkan omong kosong saat mencoba mendapatkan respons ke data masukan bukan dari sampel pelatihan. Sesuatu seperti gambar di sebelah kanan atas. Itu terlalu pas.
Contoh ilustrasi sederhana.
Misalkan Anda memiliki banyak titik (lingkaran biru). Anda perlu menggambar kurva yang halus untuk memprediksi posisi titik lainnya. Jika kita mengambil, misalnya, polinomial, maka pada derajat kecil (hingga 3 atau 4), kurva halus kita akan cukup akurat (kurva biru). Dalam hal ini, kurva biru tidak boleh melewati titik awal (titik biru).
Namun, jika jumlah koefisien (dan karenanya derajat polinomialnya) ditingkatkan, maka akurasi melewatkan titik biru akan meningkat (atau bahkan akan ada 100% hit), tetapi perilaku antara titik-titik ini menjadi tidak dapat diprediksi (lihat bagaimana kurva merah berfluktuasi).
Tampak bagi saya bahwa kecenderungan anak terhadap topik tertentu (obsesi) dan ketidaktahuan total tentang topik lainnya yang mengarah pada fakta bahwa ketika mengajar terlalu banyak "koefisien" diberikan untuk topik-topik ini.
Mempertimbangkan bahwa jaringan dikonfigurasi untuk data masukan tertentu dan tidak menyoroti "fitur", tetapi dengan bodoh "mengingat" data masukan, tidak dapat digunakan dengan data masukan yang sedikit berbeda. Penerapan jaringan semacam itu sangat sempit. Seiring bertambahnya usia, cakrawala melebar, fokus menjadi kabur, dan tidak ada lagi kesempatan untuk menetapkan jumlah neuron yang sama untuk tugas yang sama - neuron mulai digunakan dalam tugas baru yang lebih penting bagi anak. "Pengaturan" runtuhnya jaringan overfitted, anak menjadi "normal", kejeniusan menghilang.
Tentu saja, jika seorang anak memiliki keterampilan yang berguna dan dapat dikembangkan (misalnya, musik atau olahraga), maka “kejeniusan” -nya dapat dipertahankan untuk waktu yang lama, bahkan membawa keterampilan tersebut ke tingkat profesional. Tetapi dalam banyak kasus ini tidak berhasil, dan tidak akan ada jejak keterampilan lama selama 8-10 tahun.
kesimpulan
- apakah kamu memiliki anak yang jenius? itu akan berlalu;)
- pandangan dan "genius" adalah hal-hal yang saling terkait, dan mereka terhubung secara tepat melalui mekanisme pembelajaran
- "jenius" yang tampak ini kemungkinan besar bukanlah jenius sama sekali, tetapi efek dari pelatihan otak yang terlalu kuat pada tugas tertentu tanpa memahaminya - hanya semua sumber daya yang dikhususkan untuk tugas ini
- saat mengoreksi minat sempit anak, kejeniusannya menghilang
- Jika anak Anda "jenius" dan sedikit lebih pendiam daripada teman sebayanya, Anda perlu mengembangkan keterampilan yang sama ini lebih jauh dengan hati-hati, secara aktif mengembangkan cakrawala Anda secara paralel, dan tidak berfokus pada keterampilan "keren" yang biasanya tidak berguna ini.
Penulis: Sergey Poltorak
