Banyak orang takut akan pemberontakan robot di masa depan, menyerukan penghentian pengembangan kecerdasan buatan untuk menghindari skenario negatif di masa depan. Tetapi dalam industri yang terkait dengan pengembangan robotika, banyak orang dan uang terlibat, jadi tidak ada yang akan menghentikan pengembangan teknologi semacam itu. Bisakah kita menghadapi kiamat karena kreasi kita, dan adakah cara untuk mencegah pemberontakan mesin?
Beberapa waktu lalu, Science Alert mempublikasikan artikel oleh para ahli dari dunia sains, yang membahas tentang pengembangan algoritme khusus yang akan membantu mencegah perilaku robot yang tidak terkontrol dengan kecerdasan buatan di masa mendatang. Menurut para ilmuwan, robot tidak dapat membahayakan manusia karena metode ini.
Para ilmuwan sendiri menyebut algoritme mereka Seldonian. Tapi apa artinya? Algoritma akan mampu menganalisis perilaku yang tidak dapat diterima untuk mesin dan akan secara maksimal melindungi manusia dari tindakan negatif robot, namun algoritma tersebut tidak mengandung konsep perilaku baik dan buruk, sehingga tidak semua ahli percaya pada fungsi pelindung dari algoritma.
Pengembang sistem baru tersebut menceritakan tentang pengoperasian algoritme menggunakan salah satu contohnya, yaitu mengontrol pompa insulin menggunakan sistem otomatis. Jika jumlah insulin dalam darah pasien berkurang ke tingkat yang sangat rendah, algoritme menyarankan tindakan yang diperlukan untuk menyelamatkan orang tersebut.
Beberapa waktu lalu, sejumlah ilmuwan menyatakan keprihatinannya atas pengembangan senjata nuklir berbasis kecerdasan buatan. Jika sistem seperti itu membuat keputusannya sendiri, maka ini bisa menyebabkan kiamat di Bumi. Jangan lupa tentang tindakan peretas yang dapat meretas sistem semacam itu dan tidak ada algoritme pelindung yang akan membantu dalam kasus ini. Dengan demikian, dapat dianggap bahwa tidak ada perlindungan yang ideal terhadap ancaman dunia modern di bidang pengembangan robot dan kecerdasan buatan.
