Sebentar lagi, bangsa Indonesia akan memasuki masa pemilu untuk memilih pemimpin negeri. Pemilu kali ini semakin istimewa karena serentak dilakukan untuk pemimpin di level negara, provinsi, dan kabupaten.
Namun satu hal yang perlu dicermati, pemilu kali ini dilakukan di tengah lajunya perkembangan teknologi Artificial Intelligence (AI). Teknologi AI memang bukan yang baru, namun berkembang dengan luar biasa dalam beberapa bulan terakhir. Kualitas konten hasil AI (baik dalam bentuk teks, foto, dan video) semakin sulit dibedakan dengan aslinya. Hal ini tentu saja membuka potensi misinformasi dan penyalahgunaan yang sangat tinggi.
Berikut adalah beberapa contoh konten berbasis AI yang perlu dicermati.
1. Deepfake. Deepfake adalah konten yang menggunakan wajah seseorang yang dipadukan dengan konten fake atau buatan. Contohnya seperti di bawah ini, ketika deepfake digunakan untuk mengubah esensi konferensi pers Presiden AS, Joe Biden.
Teknologi deepfake memang bukan hal baru. Namun saat ini, teknologi AI memungkinkan hasil yang sangat akurat dengan cara yang relatif mudah. Situs deepfakesweb.com, misalnya, menawarkan video deepfake cuma dengan biaya US$19, Anda bisa membuat video deepfake.
Caranya pun mudah, cukup dengan mengunggah beberapa video asli dari tokoh yang ingin dipalsukan. Mengingat tokoh politik memiliki jejak digital yang panjang, video dengan wajah mereka dapat dengan mudah didapatkan dan disalahgunakan.
Selain video, foto tokoh politik pun dengan mudah dapat dimanipulasi. Caranya pun tidak perlu menggunakan software image editing, cukup dengan bermodalkan prompt. Dengan cara semudah itu, bisa dibayangkan gelombang foto palsu yang mungkin dapat terjadi.
2. Social Bot. Social bot adalah software yang secara sistematis menghujani media sosial dengan konten disinformasi. Bot ini mencoba merasuki setiap ruang percakapan di media sosial dengan harapan mengubah persepsi publik akan sebuah isu.
Social bot di era AI diprediksi akan semakin sulit dibendung karena beberapa faktor. Yang utama adalah AI memungkinkan social bot beroperasi dengan skala dan kecepatan yang jauh lebih tinggi. Teknologi AI juga memungkinkan konten yang lebih humanis, karena dapat memahami konteks percakapan dengan lebih baik.
Dalam konteks konten berbentuk teks, AI juga bisa digunakan untuk membuat artikel misinformasi. Lagi-lagi, keunggulan teknologi AI adalah kemampuannya membuat artikel yang “menarik” dan meyakinkan dalam skala yang besar.
3. Microtargeting. Microtargeting di sini artinya menyasar kelompok kecil yang memiliki ketertarikan yang sama. Dalam konteks misinformasi, microtargeting efektif dalam menyebarkan berita bohong yang relevan dengan kelompok tersebut. Contohnya kelompok yang peduli dengan kesehatan akan dijejali berita bohong tentang kandidat yang anti vaksin.
Di era AI, microtargeting dapat semakin fokus memilah segmen-segmen dari masyarakat. Lalu dikombinasikan dengan kemampuan AI membuat konten yang humanis, proses microtargeting ini pun akan semakin efektif.
Demikian beberapa potensi penyalahgunaan AI yang dapat terjadi di musim pemilu seperti saat ini. Ada baiknya semua pihak yang berkepentingan memahami risiko yang mungkin terjadi dan mengambil langkah yang diperlukan.