Kampanye untuk pemilihan presiden di Amerika Serikat telah secara resmi dimulai, yang pada gilirannya berarti banyak cara aneh dan berbahaya di mana teknologi mendistorsi politik. Salah satu ancaman terbesar adalah kepribadian artifisial yang terlibat dalam perselisihan politik. Di satu sisi, teknologi pembuatan teks berbasis kecerdasan buatan berkembang lebih cepat dari sebelumnya, di sisi lain, chatbot di jejaring sosial hampir mencapai kesempurnaan. "Orang-orang" yang dihasilkan komputer ini akan segera menenggelamkan diskusi manusia nyata di web.
Perangkat lunak pembuatan teks cukup berkembang dengan baik untuk menipu siapa saja. Komputer sangat baik dalam menulis berita, terutama tentang olahraga dan keuangan, menasihati klien di situs investasi, menulis artikel menarik tentang topik berita lainnya (meskipun ada batasan).
Pada saat yang sama, algoritme sudah ada yang dapat menghasilkan konten yang tidak dapat dibedakan dari kiriman pengguna biasa. Pada 2017, FCC mengadakan debat publik tentang rencananya untuk mengakhiri netralitas internet. 22 juta komentar yang mengejutkan diterima tentang topik ini. Banyak dari mereka - mungkin setengah - palsu, dengan penyerangnya menggunakan data ID curian. Beberapa komentar tidak sopan, 1,3 juta dibuat dari template yang sama - beberapa kata diubah di dalamnya untuk membuat pesan menjadi unik.
Dan teknologi di bidang ini sedang berkembang secara aktif. Dalam eksperimennya, peneliti Harvard Max Weiss menggunakan perangkat lunak penghasil teks untuk membuat 1.000 komentar sebagai tanggapan atas inisiatif Medicaid pemerintah. Semua komentar ini unik dan sepertinya ditulis oleh orang-orang nyata yang mendukung posisi politik tertentu. Mereka berhasil mengelabui administrator Medicaid.gov agar mengira bahwa mereka adalah ketakutan sejati terhadap orang sungguhan. Dalam penelitiannya, Weiss kemudian mengungkapkan bahwa komentar itu palsu dan meminta komentar itu untuk dihapus. Tetapi orang atau kelompok penyusup lain yang mengikuti jalan ini tidak mungkin memiliki moral yang tinggi.
Chatbots telah ditampilkan dalam diskusi media sosial selama bertahun-tahun. Menurut satu perkiraan, sekitar seperlima dari semua tweet tentang pemilihan presiden 2016 diterbitkan oleh bot, dan sekitar sepertiga suara untuk Brexit di tahun yang sama. Dalam laporan dari Universitas Oxford tahun lalu, para peneliti menemukan bukti bahwa bot digunakan untuk menyebarkan propaganda di 50 negara. Biasanya, ini adalah program sederhana, semboyan berulang tanpa berpikir: misalnya, seperempat juta tweet pro-Saudi "Kami semua percaya pada Mohammed bin Salman" setelah pembunuhan Jamal Khashoggi pada 2018. Menemukan bot yang lebih baik jauh lebih sulit. Dan mengukur keefektifan bot ini sulit. Mereka semua mendistorsi opini publik dan kepercayaan pada debat politik yang beralasan. Faktanya,kita semua berada di tengah-tengah eksperimen sosial baru.
Selama bertahun-tahun, bot algoritmik telah mengembangkan seluruh kepribadian. Mereka memiliki nama palsu, biografi palsu, dan foto palsu, terkadang dibuat dengan komputer. Alih-alih memuntahkan propaganda tanpa henti, mereka hanya memposting pesan sesekali. Peneliti mungkin menemukan bahwa mereka adalah bot dan bukan manusia berdasarkan pola posting, tetapi teknologi bot terus meningkat setiap saat, melampaui upaya untuk melacaknya. Bot masa depan akan lebih baik menyamar sebagai kelompok sosial orang, propaganda akan dijalin secara halus menjadi tweet tentang topik yang terkait dengan kelompok sosial ini.
Segera, Sims yang dikendalikan oleh program tersebut akan dapat menulis surat yang dipersonalisasi ke surat kabar, di PM kepada pejabat terpilih, memberikan komentar yang dipersonalisasi untuk proses pembuatan aturan publik, dan berbicara dengan cerdas tentang masalah politik di media sosial. Mereka dapat mengomentari kiriman di jejaring sosial, situs berita, dll. Karakter permanen akan dibuat yang tampak nyata bahkan bagi mereka yang mempelajarinya. Mereka akan dapat menampilkan diri di media sosial dan mengirim teks yang dipersonalisasi. Mereka akan mereplikasi jutaan dan mengirim miliaran pesan, panjang dan pendek, sepanjang waktu. Bersama-sama, mereka dapat menghilangkan perdebatan nyata apa pun di Internet. Tidak hanya di media sosial, tapi dimanapun ada komentar.
Mungkin karakter ini akan dikendalikan oleh penyusup asing. Mungkin ini adalah kelompok politik internal. Mungkin kandidat itu sendiri. Kemungkinan besar, semua orang akan menggunakannya. Pelajaran terpenting dari pemilu 2016 tentang disinformasi bukanlah disinformasi yang dipublikasikan; tetapi murah dan mudah memberikan informasi yang salah kepada orang lain. Kemajuan teknologi masa depan akan membuat semua ini semakin terjangkau.
Video promosi:
Masa depan kita akan menjadi debat politik yang penuh kekerasan di mana sebagian besar bot akan berdebat dengan bot lain. Ini tidak seperti yang kita bayangkan ketika kita memuji pasar untuk ide atau proses politik demokratis. Agar demokrasi berjalan dengan baik, dibutuhkan dua hal: informasi dan representasi. Karakter buatan mengenai kedua hal tersebut.
Solusi untuk masalah tersebut belum jelas. Kami dapat mencoba mengatur penggunaan bot - undang-undang California yang diusulkan mengharuskan bot untuk mengidentifikasi diri mereka sendiri - tetapi ini hanya efektif terhadap kampanye influencer yang sah seperti iklan. Pengaruh tersembunyi akan jauh lebih sulit dideteksi. Pertahanan yang paling jelas adalah pengembangan dan standarisasi metode otentikasi yang lebih baik. Jika jejaring sosial yakin bahwa ada orang sungguhan di balik setiap akun, mereka akan lebih mampu menyingkirkan orang palsu. Tetapi akun palsu sudah dibuat secara teratur menggunakan data dari orang sungguhan tanpa sepengetahuan atau persetujuan mereka. Kami tidak memiliki sistem autentikasi yang melindungi privasi dan dapat menjangkau miliaran pengguna.
Kami hanya bisa berharap bahwa kemampuan kami untuk mengidentifikasi kepribadian artifisial akan mengejar kemampuan kami untuk menutupi mereka. Tapi untuk saat ini, penyerang selalu selangkah lebih maju.
Pada akhirnya, keputusan apa pun harus non-teknis. Kita harus mengakui keterbatasan debat politik di Internet dan sekali lagi memprioritaskan komunikasi tatap muka. Lebih sulit untuk mengotomatiskan dan kami tahu bahwa orang yang kami ajak bicara adalah orang sungguhan. Namun sejauh ini pergeseran budaya ini tampak seperti solusi yang sama sekali tidak realistis, dan upaya disinformasi tersebar luas di seluruh dunia dan dilakukan di lebih dari 70 negara. Ini adalah cara propaganda yang normal di negara-negara dengan rezim otoriter, dan menjadi cara untuk melakukan kampanye politik.
Karakter buatan adalah masa depan propaganda. Dan meskipun mereka bisa jadi tidak efektif dalam membawa diskusi ke penyebut tertentu, mereka dapat dengan mudah menenggelamkan diskusi sepenuhnya.
BRUCE SCHNEIER adalah Rekan Peneliti dan Dosen di Harvard Kennedy School.
