Sebuah penelitian terbaru New York University's Center on Technology Policy mengungkapkan bahwa penggunaan AI generatif dalam iklan politik berdampak negatif terhadap kepercayaan pemilih. Studi itu melibatkan seribu peserta yang menonton iklan kampanye kandidat fiksi. Sebagian iklan menyertakan penjelasan bahwa AI digunakan dan iklan lainnya tidak. Hasilnya menunjukkan bahwa pemilih cenderung memberikan penilaian lebih rendah terhadap kandidat yang diketahui menggunakan AI dalam pembuatan iklan.
Penelitian itu dilakukan di tengah kekhawatiran meningkat tentang dampak AI pada kampanye politik, terutama menjelang pemilu AS. Beberapa negara bagian bahkan mewajibkan pengungkapan penggunaan AI generatif dalam iklan politik untuk mencegah penyebaran informasi menyesatkan.
Hasil penelitian menunjukkan bahwa pengungkapan itu justru memicu reaksi negatif dari penonton, mengindikasikan ketidakpercayaan terhadap teknologi yang mungkin memanipulasi opini publik. Peneliti juga menguji dua bentuk pengungkapan berbeda, terinspirasi oleh undang-undang dari Michigan dan Florida, yang mengharuskan pengungkapan manipulasi AI. Peserta cenderung lebih memilih pengungkapan yang lebih luas untuk semua jenis penggunaan AI.
Seiring dengan meningkatnya penggunaan AI dan semakin banyak negara bagian yang memberlakukan aturan agar kandidat politik mengungkapkan penggunaan teknologi ini dalam iklan mereka. Meskipun demikian, penelitian ini mengungkapkan bahwa pengungkapan tersebut dapat merugikan kandidat, karena pemilih menganggap mereka kurang dapat dipercaya dan kurang menarik.
Hukuman Keras
OpenAI akan memberikan sanksi tegas kepada pengembang ChatGPT, Dean.Bot usai ketahuan menggunakan ChatGPT untuk kepentingan kampanye politik yaitu meniru tokoh politik Dean Philips. Sejatinya chatbot Dean.Bot sejatinya tidak meniru sepenuhnya kandidat politik hanya sekadar memperagakan sang tokoh tanpa mengetahui isi pikirannya.
Tak hanya Dean.Bot, perusahaan teknologi AI Delphi juga mendapatkan sanksi dari OpenAI walaupun ChatGPT hanya melakukan simulasi tanpa mengakses pemikiran asli tokoh tersebut. Meskipun hanyalah simulasi, OpenAI menegaskan larangan penggunaan platform untuk kampanye politik.
Delphi meminta maaf atas gangguan laman resminya dan menghadapi pembatasan oleh OpenAI terkait dean.bot. Delphi memiliki keinginan untuk terus berinovasi dalam mengembangkan platform chatbot AI yang bisa diandalkan sehingga para penggunanya bisa merasakan pengalaman terbaik seperti dikutip Engadget.
"Semua orang akan memakai aplikasi untuk berkampanye dan berlobi. Namun chatbot dilarang untuk meniru salah satu kandidat yang mana hal ini sangat diperhatikan." bunyi pernyataan OpenAI.
Bikin Berita Hoaks
Menjelang tahun pemilihan umum (pemilu), muncul kekhawatiran teknologi AI dapat digunakan untuk memproduksi berita hoaks dan mendekriditkan salah satu pasangan calon pemimpin.
Michael Wooldridge (Seorang Direktur Penelitian AI Institut Alan Turing Inggris) mengatakan berita-berita hoaks bakal banyak beredar di media sosial dan Internet menjelang pemilu di Inggris dan Amerika Serikat (AS).