Para peneliti di Massachusetts Institute of Technology (MIT) telah mengembangkan teknik untuk mengelabui kecerdasan buatan (AI) analisis teks, Wired melaporkan pada 23 Februari.
Para peneliti telah memperhatikan bahwa sedikit perubahan dalam sebuah frasa, yang dapat dimengerti seseorang, dapat menipu AI. Mereka mengembangkan algoritme untuk mengganti kata dengan sinonim dan mengelabui teks pengenalan AI. Nuansanya adalah algoritma penyerang itu sendiri menggunakan AI untuk memilih sinonim.
Sebagai contoh, ungkapan "Karakter, yang diperankan dalam situasi yang dibuat-buat, benar-benar terasing dari kenyataan." ("Karakter yang dimainkan dalam situasi yang dibuat-buat benar-benar tidak berhubungan dengan kenyataan"), yang merupakan ulasan negatif dari film tersebut.
Jika kita mengganti kata-kata di dalamnya dengan sinonim, maka frase "Karakter, yang dilemparkan dalam keadaan yang direkayasa secara mustahil, sepenuhnya terasing dari kenyataan" ("Karakter yang dimainkan dalam keadaan sangat terampil benar-benar terpisah dari kenyataan"), maka AI menganggap ulasan tersebut positif.
Jenis sistem AI lain juga dapat ditipu; dalam hal ini, kerentanan terutama ditunjukkan dalam sistem pengenalan gambar dan ucapan.
Para peneliti mencatat bahwa korupsi data halus seperti itu dapat menipu AI dan digunakan untuk menyerang sistem, yang menjadi signifikan ketika AI menyebar di bidang keuangan, perawatan kesehatan, dan lainnya.
