Ilmuwan dan pemrogram telah berhenti memahami bagaimana kecerdasan buatan membuat keputusan. Masalah ini diumumkan oleh beberapa spesialis di konferensi AI utama - Sistem Pemrosesan Informasi Neural - yang diadakan di Long Beach (California).
Para ahli yang diwawancarai oleh Quartz mengatakan mereka perlu bertindak sebelum sistem menjadi terlalu rumit.
“Kami tidak ingin mengambil keputusan AI begitu saja tanpa memahami logika mereka,” kata Jason Yosinski dari Uber. "Agar masyarakat dapat menerima model pembelajaran mesin, kami perlu tahu bagaimana AI sampai pada kesimpulan tertentu."
Masalah yang oleh banyak ahli disebut sebagai “kotak hitam” ini sebenarnya sangat serius. Pengalaman sebelumnya telah menunjukkan bahwa AI memiliki kecenderungan untuk membuat keputusan yang bias dan menarik analogi di tempat yang tidak semestinya. Karena jaringan saraf saat ini secara bertahap menyusup ke penegakan hukum, sistem perawatan kesehatan, penelitian ilmiah, dan algoritme yang menentukan apa yang Anda lihat di umpan berita Facebook, kesalahan AI bisa sangat merugikan.
Sebagai contoh, Kiri Wagstaff, pakar AI di Jet Propolusion Lab (NASA), mengutip misi ke Mars. Perangkat tersebut terletak 200 juta mil dari Bumi dan menelan biaya ratusan juta dolar, jadi setiap kesalahan dalam pekerjaan AI tidak dapat diterima.
“Orang-orang perlu tahu apa yang dilakukan AI dan mengapa. Kalau tidak, bagaimana mereka bisa mempercayainya untuk mengontrol peralatan mahal?”Kata Wagstaff.
Saat ini, ilmuwan tersebut sedang mengerjakan algoritme yang menyortir gambar yang diambil oleh berbagai pesawat ruang angkasa NASA. Karena jumlah gambar mencapai jutaan, komputer memungkinkan Anda menyortir dan menyorot gambar yang paling menarik tanpa menghabiskan banyak waktu untuk proses ini. Masalahnya, bagaimanapun, terletak pada kenyataan bahwa seringkali hanya AI saja yang tahu mengapa gambar tertentu yang dipilihnya tidak biasa.
Jadi, Wagstaff menyimpulkan, jika ada kesalahan di dalam algoritma ini, suatu saat mungkin akan melewatkan informasi yang sangat penting.
Video promosi:
“Pada dasarnya, komputer memberi Anda gambar dan berkata, 'Lihat, ini menarik.' Tetapi Anda tidak selalu dapat memahami mengapa ini menarik: karena warna, bentuk benda atau lokasinya di ruang angkasa - Anda mungkin tidak mengetahui hal ini, kata ilmuwan tersebut.
Hannah Wallach, peneliti senior di Microsoft, setuju dengan kesimpulan rekan-rekannya.
“Saat pembelajaran mesin menjadi lebih luas dan taruhannya meningkat, kita tidak dapat lagi melihat sistem ini sebagai kotak hitam. Kita perlu memahami apa yang terjadi di dalam diri mereka dan apa yang mereka lakukan,”kata peneliti.
Para ilmuwan untungnya mencoba menemukan metode untuk memahami logika kecerdasan buatan. Dengan demikian, peneliti Google Mitra Raghu menyajikan laporan yang menggambarkan proses pelacakan tindakan individu "neuron" dari jaringan saraf. Menganalisis jutaan operasi, dia dapat menemukan "neuron" buatan mana yang berfokus pada kesalahpahaman, dan mematikannya. Ini membuktikan bahwa menerjemahkan pekerjaan jaringan saraf ke dalam bentuk yang dapat diakses oleh pemahaman manusia bukanlah tugas yang mustahil.
Pilihan lain untuk memecahkan masalah adalah dengan secara teratur menguji keterampilan yang dikembangkan oleh kecerdasan buatan.
“Ini seperti guru sekolah meminta anak-anak untuk menceritakan kembali dengan kata-kata mereka sendiri apa yang mereka pahami dari penjelasan guru,” kata Wagstaff.
Dengan demikian, pentingnya memahami bagian dalam algoritme tidak hanya untuk mencegah penjelajah hipotetis agar tidak jatuh dari batu Mars; menyadari apa kegagalannya, Anda dapat membuat sistem yang ada menjadi lebih baik.
"Jika sistem Anda tidak berfungsi dan Anda tidak tahu alasannya, maka sangat sulit untuk melakukan sesuatu tentangnya," kata Yosinski. "Jika Anda tahu apa yang terjadi, maka situasinya selalu bisa diperbaiki."
Bahan bekas dari situs hightech.fm
