Pakar Amerika sedang mengembangkan jaringan saraf yang dapat menjelaskan keputusan yang dibuat oleh robot tempur. Ini akan meningkatkan tingkat kepercayaan manusia pada "tentara elektronik".
Proyek Artificial Intelligence yang Dapat Dijelaskan, atau hanya XAI (Explainable Artificial Intelligence), akan memungkinkan manusia dan robot untuk lebih memahami satu sama lain. Jaringan saraf XAI akan membangun rantai logis "penalaran" robot dan menunjukkan kepada orang tersebut mengapa mesin membuat keputusan seperti itu - misalnya, untuk melepaskan tembakan ke target tertentu.
Pengembangan sedang dilakukan untuk membuat unit tempur robot-manusia campuran di Angkatan Darat AS. Sejauh ini, sulit dibayangkan, tetapi dalam beberapa dekade robot akan menjadi tentara yang lengkap - sama seperti manusia. Selain itu, mereka mampu menggantikan seseorang dalam situasi di mana mungkin perlu menembaki target yang hidup. Pengganti seperti itu secara resmi akan membebaskan seseorang dari tanggung jawab untuk membuat keputusan yang mematikan, tetapi itu tidak akan dapat menghilangkan keraguan dan penyesalannya, dan juga dapat menyebabkan ketidakpercayaan pada robot. Anda tidak pernah tahu - mungkin robot sebenarnya adalah maniak elektronik yang suka membunuh?
Proyek XAI harus menyelesaikan masalah ini dalam interaksi manusia-robot. Berkat pengenalan sistem baru, militer (mereka yang masih hidup) akan dapat memahami dengan kriteria apa mesin telah mengevaluasi objek atau orang ini atau itu sebagai ancaman. Selain itu, XAI akan memudahkan robot tempur untuk beradaptasi dengan realitas konflik militer tertentu dan mengurangi tingkat kekejaman yang tidak masuk akal.
Perkembangan baru akan bermanfaat tidak hanya untuk militer. Ini juga dapat digunakan di lingkungan sipil - dalam industri, sistem keamanan, dan kedokteran. Contoh penggunaan tersebut diberikan oleh Bill Ferguson, seorang spesialis terkemuka di Raytheon, yang secara langsung terlibat dalam pengembangan jaringan saraf. “Jika kecerdasan buatan mendeteksi tanda-tanda kanker paru-paru pada sinar-X, dokter dapat mengetahui mengapa mesin memutuskan demikian. Komputer akan menyorot semua area mencurigakan yang mungkin telah diabaikan oleh dokter, salah mengira sebagai artefak gambar. Setelah itu, dokter akan dapat menentukan sendiri apakah perlu mengoreksi diagnosis, atau apakah jaringan saraf salah,”jelas ilmuwan tersebut.
