Menanggulangi salah satu area artificial intelligence (AI) dengan risiko tinggi, yaitu deepfake, IBM mendorong para pengambil kebijakan memprioritaskan tiga hal untuk mengatur risiko, bukan mengatur algoritma AI.
Sekitar bulan Oktober tahun lalu, masyarakat Indonesia dikejutkan dengan munculnya video Presiden Joko Widodo yang berpidato menggunakan bahasa Mandarin. Namun Direktur Jenderal Aplikasi Informatika Kementerian Komunikasi dan Informatika (Kemenkominfo) Semuel Abrijani Pangerapan segera menegaskan bahwa itu adalah video editan yang menyesatkan.
Kemudian di Amerika Serikat, kasus serupa menimpa Presiden Joe Biden ketika suaranya dipalsukan/dikloning untuk menyesatkan para pemilih dalam Pemilihan Presiden di AS. Kasus lain adalah peniruan musisi Drake dan Weeknd dengan memanfaatkan AI generatif.
Di Spanyol, AI generatif digunakan untuk mengubah foto-foto anak di bawah umur menjadi konten pornografi. Contoh lain datang dari Hong Kong. Seorang pekerja keuangan di sebuah perusahaan multinasional ditipu untuk membayar US$25 juta (Rp392,97 miliar) kepada penipu menggunakan teknologi deepfake. Menurut polisi Hong Kong, penipu itu menyamar menggunakan deepfake sebagai kepala keuangan perusahaan dalam panggilan konferensi video.
Inilah risiko nyata dari deepfake yang menggunakan teknologi artificial intelligence (AI), khsusunya AI generatif. Di acara IBM ASEAN AI Mastercalss, Christina Montgomery, VP & Chief Privace and Trust Officer, IBM menyebut deepfake sebagai salah satu tantangan paling mendesak untuk ditangani.
Menurutnya, yang dibutuhkan saat ini untuk menanggulangi risiko AI adalah solusi teknis dan hukum. Salah satu langkah yang diambil IBM adalah meneken Munich Tech Accord, yaitu perjanjian teknologi untuk memerangi penggunaan AI untuk penipuan dalam Pemilu 2024 di berbagai kawasan dan negara.
Untuk melakukan mitigasi terhadap bahaya deepfake, IBM menyarankan kepada para pembuat kebijakan untuk memprioritaskan tiga hal.
1. Melindungi pemilu
IBM menyarankan para pembuat kebijakan untuk melarang penyebaran konten-konten deepfake yang menipu terkait pemilu. Pendekatan kebijakan lainnya adalah memungkinkan kandidat yang menjadi sasaran konten buatan AI yang menipu untuk meminta ganti rugi atau menghapus konten yang menipu.
2. Melindungi para kreator
Para pengambil kebijakan harus meminta pertanggungjawaban terhadap orang yang melakukan produksi pemalsuan yang tidak sah atas penampilan dan kemiripan dengan kreator, serta meminta pertanggungjawaban platform jika mereka dengan sengaja menyebarkan konten yang tidak berijin tersebut.
3. Melindungi privasi masyarakat