Berita bahwa otomatisasi cepat atau lambat akan mulai merampas pekerjaan orang secara besar-besaran dan meninggalkan mereka di belakang pagar utilitas sosial sepertinya tidak akan membangkitkan emosi positif seseorang yang melihat ke masa depan. Acara-acara seperti "The Terminator" atau, misalnya, "World of the Wild West" yang segar menambah bahan bakar ke dalam api, yang juga berkontribusi pada masalah celengan umum, tetapi dari sudut pandang mengembangkan kecerdasan buatan yang "tidak bersahabat".
Apakah ketakutan ini nyata? Mungkin. Atau mungkin ini hanya histeria yang dibuat-buat. Namun bagaimanapun, Institute of Electrical and Electronics Engineers (IEEE) yakin bahwa pengembangan AI dan sistem otomasi harus "konsisten dengan rasa hormat dan kepatuhan penuh dengan nilai-nilai moral manusia dan prinsip-prinsip etika."
Lembaga tersebut mempresentasikan idenya dalam bentuk dokumen setebal 136 halaman berjudul "Ethically Aligned Design", yang merupakan semacam "standar" untuk desain, produksi dan pengembangan robot dan kecerdasan buatan. Dokumen tersebut dikembangkan dengan bantuan lebih dari 100 pakar dunia di bidang AI, hukum, etika, filsafat, dan politik. Dengan kata lain, dengan partisipasi dari para akademisi, ilmuwan, dan perwakilan sektor pemerintah yang paling terkemuka.
“Dengan menyediakan para ahli dan pengembang praktik terbaik untuk membangun produk, layanan, dan sistem otomatis dan cerdas yang menghormati prinsip etika manusia, kita akan dapat mengatasi ketakutan kita akan teknologi ini dan fokus pada manfaat yang dapat diberikan oleh teknologi ini bagi umat manusia. tidak hanya di masa depan, tetapi hari ini, kata Konstantinos Karachalios, Direktur Pelaksana Asosiasi Standar IEEE, dalam sebuah pernyataan.
IEEE mencatat bahwa inisiatif ini sepenuhnya terbuka dan mereka siap untuk proposal dan diskusi tentang masalah yang menarik dari para insinyur, pengembang dan perancang sistem otomasi dan pengembangan AI. Pada saat yang sama, mereka siap untuk melakukan dialog yang matang, karena umpan balik tentang masalah ini adalah salah satu aspek terpenting dalam pengembangan standar yang dibahas.
Berkenaan dengan proposal yang dijelaskan dalam dokumen itu sendiri, termasuk pertimbangan metodologi penelitian dan pengembangan; menjelaskan kekhawatiran tentang pembuatan "kotak hitam". Dengan kata lain, dokumen tersebut memperingatkan AI dan industri otomasi terhadap pengembangan kepemilikan.
Video promosi:
Dari sudut pandang yang lebih mendasar, apa yang diusulkan IEEE menimbulkan beberapa pertanyaan menarik sekaligus, yang paling penting, mungkin, adalah sebagai berikut: apakah mungkin untuk memprogram moralitas sama sekali? Apakah benar-benar mungkin untuk menyesuaikan AI dan teknologi otomasi dengan "standar dan nilai manusia dan sosial" yang dirujuk oleh dokumen IEEE?
Namun, IEEE menekankan pentingnya dan perlunya standar. Bagaimanapun, terima kasih kepada mereka, kami akan dapat memastikan bahwa orang-orang pada akhirnya tidak akan menderita saat membuat dan mengembangkan teknologi baru.
“Standar akan mampu memberikan kontrol industri atas teknologi cerdas dan otonom. Sistem cerdas menjadi lebih kompleks dan karena itu perilakunya yang tidak terprogram bisa menjadi berbahaya. Untuk mengatasi masalah ini, pengawasan prosedur untuk pengembangan sistem cerdas dan otonom diperlukan."
“Peneliti dan pengembang yang terlibat dalam pengembangan dan implementasi sistem otonom dan cerdas harus menghadapi serangkaian tindakan kepatuhan yang lebih progresif dan kompleks untuk masalah keselamatan moral dan teknis. Oleh karena itu, mereka harus mendekati pekerjaan mereka dengan lebih bertanggung jawab”.
Jika Anda melihat situasi secara keseluruhan, IEEE telah mengambil langkah yang sangat penting dan memang perlu menuju "humanisasi" sistem otonom dan cerdas.
NIKOLAY KHIZHNYAK
