Departemen Pertahanan AS telah merumuskan dan mengadopsi prinsip-prinsip etika, yang dipandu oleh sistem kecerdasan buatan militer yang akan dikembangkan dan diterapkan di negara tersebut. Menurut Pentagon, dalam merumuskan prinsip-prinsip, militer dipandu oleh Konstitusi AS, bab kesepuluh dari Kode AS (menjelaskan peran angkatan bersenjata), hukum dan kebiasaan perang, serta perjanjian internasional dan "norma dan nilai yang mapan".
Perkembangan aktif di bidang pembuatan sistem kecerdasan buatan telah mengarah pada fakta bahwa sistem semacam itu secara bertahap mulai diperkenalkan ke dalam senjata dan peralatan militer. Secara khusus, sistem sedang dikembangkan yang memungkinkan drone secara otomatis mendeteksi dan memprioritaskan target, atau drone bertindak sebagai budak pesawat berawak. Sistem kecerdasan buatan yang mampu mendekripsi transmisi radio juga sedang dikembangkan. Kecerdasan buatan akan menjadi semakin penting dalam perkembangan militer di masa depan.
Pengenalan aktif sistem kecerdasan buatan ke dalam senjata dan peralatan militer menimbulkan banyak pertanyaan etis. Secara khusus, belum jelas seberapa sah menggunakan sistem senjata otonom dalam perang dan jenis ancaman apa yang mereka berikan kepada warga sipil yang terperangkap di zona pertempuran.
Secara total, Pentagon telah merumuskan lima prinsip etika untuk penggunaan sistem kecerdasan buatan untuk keperluan militer:
- Tanggung jawab. Personel militer harus mengevaluasi aktivitas kecerdasan buatan dengan hati-hati, tetap bertanggung jawab penuh atas desain, penyebaran, dan penggunaan sistem kecerdasan buatan.
- Ketidakberpihakan. Departemen Pertahanan AS harus mengambil langkah-langkah untuk meminimalkan penyimpangan yang tidak diinginkan dalam kemampuan sistem kecerdasan buatan.
- Ketertelusuran. Sistem kecerdasan buatan militer dan kemampuannya harus dirancang dan digunakan sedemikian rupa sehingga personel memiliki tingkat pemahaman yang memadai tentang teknologi, proses pengembangan, dan aplikasi. Metodologi, data dan dokumentasi yang terkait dengan sistem kecerdasan buatan yang digunakan harus tersedia untuk personel militer.
- Keandalan. Kemampuan sistem kecerdasan buatan militer harus tidak ambigu dan dirumuskan dengan jelas. Keamanan dan keefektifan kemampuan tersebut harus diverifikasi dengan pengujian dan divalidasi sepanjang masa layanannya.
- Subordinasi. Sistem AI militer harus sepenuhnya melakukan tugas yang dimaksudkan, tetapi militer harus dapat mendeteksi dan mencegah efek kecerdasan buatan yang tidak diinginkan. Pihak militer juga harus dapat menonaktifkan atau mematikan sistem kecerdasan buatan yang mengalami kelainan.
Pentagon juga telah menunjuk Pusat Gabungan untuk Kecerdasan Buatan untuk bertanggung jawab menerapkan prinsip-prinsip penggunaan sistem kecerdasan buatan. Secara total, Departemen Pertahanan AS menghabiskan 15 bulan berkonsultasi dengan pengembang dan organisasi ilmiah, serta merumuskan prinsip-prinsip penggunaan sistem kecerdasan buatan. Pada saat yang sama, beberapa ahli mencatat ketidakjelasan formulasi yang diadopsi dan kurangnya seperangkat aturan yang jelas tentang apa yang harus dan tidak boleh dilakukan militer ketika mengembangkan dan menggunakan sistem kecerdasan buatan.
Sychev dengan mudah
