Ilmuwan dari University of Chicago (AS) melakukan penelitian, di mana mereka menunjukkan bagaimana AI dapat digunakan untuk menulis ulasan palsu yang kompleks. Ulasan semacam itu tidak dapat dibedakan dari ulasan asli dengan metode modern, dan pembaca yang tidak curiga menganggapnya sangat andal.
Ulasan restoran dibuat menggunakan jaringan saraf berulang (teknik pembelajaran mendalam) yang sebelumnya dilatih pada ribuan ulasan kehidupan nyata yang tersedia di web.
Menurut para peneliti, ulasan yang dihasilkan hampir tidak dapat dibedakan dari ulasan asli. Jadi, penulis karya tersebut menunjukkan bahwa pengguna tidak hanya tidak mengenali ulasan palsu, tetapi juga menganggapnya bermanfaat seperti ulasan asli yang ditulis oleh orang.
Yang terakhir ini mungkin yang paling mengkhawatirkan. Karena ini pada dasarnya berarti bahwa ulasan yang ditulis oleh AI memenuhi fungsi utamanya - mereka sengaja memengaruhi opini orang.
Perlu dicatat bahwa plagiarisme jarang ditemukan dalam ulasan semacam itu (menggunakan perangkat lunak). Hal ini disebabkan oleh fakta bahwa AI membuatnya berdasarkan karakter, dan tidak mengambil kata-kata dari ulasan nyata.
Saat ini ada industri bawah tanah yang cukup besar di mana orang menulis ulasan palsu (untuk mendapatkan uang). Namun, seperti dicatat oleh profesor Universitas Chicago Ben Y. Zhao dalam sebuah wawancara dengan Business Insider, pengenalan AI dapat merusaknya. Ilmuwan mengatakan bahwa dia belum mengetahui tentang penggunaan algoritma semacam itu di industri ini. Tetapi tidak ada jaminan bahwa seseorang tidak akan menemukan sesuatu yang serupa dan tidak akan menggunakannya untuk keuntungan pribadi.
Pada saat yang sama, para peneliti menulis bahwa respon jaringan saraf masih belum ideal. Ternyata algoritme tersebut menggunakan sekumpulan karakter yang lebih kecil - dan ini tidak sulit untuk dilihat. Namun, menurut penulis penelitian ini, jaringan saraf masa depan mungkin lebih kompleks, dan oleh karena itu, umpan balik yang mereka hasilkan akan lebih sulit dideteksi.
Zhao mencatat bahwa ini bukan hanya tentang ulasan restoran palsu: teknologi seperti itu umumnya dapat menggoyahkan keyakinan kita tentang apa yang nyata dan yang tidak.
Video promosi:
Teks penelitian dapat ditemukan di sini.
