Amerika Serikat (AS) dan Indonesia akan memasuki tahun politik pada tahun depan untuk menentukan presiden dan wakil presiden terbaru termasuk juga wakil rakyat yang akan duduk di parlemen.
Biasanya, penyeberan berita hoaks sangat masif selama tahun-tahun politik. Baru-baru ini seorang ilmuwan dalam bidang AI mengembangkan sebuah alat propaganda berbasis artificial intelligene (AI) untuk menyoroti potensi bahaya disinformasi yang dapat dihasilkan oleh AI.
Peneliti ini mengungkapkan cara bagaimana mesin propaganda AI itu beroperasi dan mengelabui korbannya melalui sebuah video di saluran YouTube pribadinya, dengan menggunakan identitas anonim dan nama saluran YouTube 'Nea Paw'.
Peneliti itu mengaku sebagai seorang profesional di bidang keamanan siber dan alat propaganda politik itu diberi nama "Counter Cloud".
Di saluran YouTube Nea Paw, telah diposting video berjudul "CounterCloud - Eksperimen Disinformasi Berkekuatan AI" yang telah ditonton lebih dari delapan ribu kali.
Counter Cloud itu bertujuan untuk menghasilkan disinformasi dengan bantuan teknologi OpenAI ChatGPT.
Nea Paw juga menjelaskan bahwa proyek semacam ini dapat dilakukan dengan biaya sekitar Rp6 juta per bulan, yang relatif terjangkau bagi mereka yang berniat mengeksploitasi disinformasi AI.
Cara operasi Counter Cloud cukup sederhana, yaitu dengan memasukkan sebuah artikel ke dalam Chatbot AI dan memberikan instruksi untuk membuat artikel yang serupa. Dengan cara ini, Chatbot AI akan menghasilkan teks dengan sudut pandang yang berbeda, termasuk cerita palsu dan propaganda seperti dikutip Insider.
Dalam video Nea Paw, peneliti itu juga memperkenalkan modul terpisah yang disebut 'Gatekeeper'.
Modul ini bertugas merespons artikel propaganda yang ada dengan cara mendukungnya, mirip dengan sistem komentar di platform media sosial seperti Instagram dan YouTube. Gatekeeper bahkan dapat menciptakan banyak identitas palsu.
Dalam waktu dua bulan, seseorang dapat memiliki alat AI seperti ini yang mampu menghasilkan konten palsu yang terlihat sangat meyakinkan hingga 90%. Namun, dia belum mempublikasikan model ini secara luas di internet karena khawatir akan penyalahgunaan.
CEO Open AI, Sam Altman, juga memberikan tanggapannya terhadap temuan ini dan mengatakan bahwa hal ini merupakan masalah yang sangat penting dan berpotensi berdampak besar.