Bak pedang bermata dua, teknologi artificial intelligence (AI) dapat membawa manfaat dan mudarat. Salah satu penggunaan AI yang merugikan adalah perannya dalam aktivitas penipuan konsumen yang dilakukan para penjahat siber.
Melalu wawancara tertulis dengan InfoKomputer, Scott Jarkoff, Director, Strategic Threat Advisory Group, APJ & EMEA, CrowdStrike memaparkan bagaimana kemampuan AI generatif “meringankan” kerja para penjahat siber sehingga mereka semakin mudah melancarkan serangannya.
Keberagaman bahasa di Asia Tenggara, ternyata secara tidak langsung menghambat penjahat siber dari seluruh dunia yang ingin menipu konsumen. Memang ada tool penerjemah, tapi pada umumnya alat-alat tersebut tidak memiliki cukup kemampuan untuk mereplikasi gaya dan istilah dalam bahasa lokal. Walhasil, output-nya pun menjadi kurang realistis.
Pesan Phishing Kian Sulit Dikenali
Kehadiran generative AI atau AI generatif seperti “berkah” bagi para penjahat siber karena mereka dapat memanfaatkan model bahasa besar (LLM) untuk menghasilkan pesan tertulis, visual, atau audio yang nyaris tidak dapat dibedakan dari konten aslinya. Tak hanya itu, konten-konten ini dapat dibuat secara instan sehingga memungkinkan penjahat siber merespons pesan dari korbannya secara real-time.
“Hal yang membuat AI generatif sangat berbahaya adalah teknologi ini dapat mempelajari gaya dari berbagai bahasa, dialek, bahkan bahasa gaul dan bahasa sehari-hari dari kumpulan data yang besar, sehingga memungkinkan pelaku menghasilkan komunikasi yang terdengar autentik. Dengan adanya AI generatif, para penjahat siber skala besar dapat membuat konten dengan mudah, bahkan dapat dimanfaatkan oleh orang awam untuk mengeksploitasinya,” Scott Jarkoff menjelaskan.
Sebelum era AI generatif, mengindentifikasi pesan atau email yang mengandung phising terbilang lebih mudah dengan memerhatikan petunjuk-petunjuk, seperti kesalahan ejaan atau tata bahasa. Selain itu, para penjahat siber umumnya mengirimkan email phishing berbahasa global, seperti bahasa Inggris karena alasan skala ekonomi.
“Namun kini, dengan AI generatif yang canggih, kesalahan yang ada pada pesan tersebut dapat diminimalisasi dan kemampuan untuk menerjemahkan konten ke berbagai bahasa secara cepat juga meningkat pesat,” ujar Jarkoff.
Potensi Disinformasi
Tidak hanya teks, AI generatif juga punya kemampuan membuat gambar dan video yang sangat realistis. Dan kemampuan ini dimanfaatkan para pelaku kejahatan siber untuk menyebarkan disinformasi. Menurut Jarkoff, kampanye-kampanye dengan muatan disinformasi ini digencarkan untuk mengganggu layanan dan menimbulkan kekacauan.
Scott Jarkoff mengungkapkan potensi kerusakan yang lebih besar dengan memasangkan AI generatif alat komunikasi massa, seperti platform media sosial. Kombinasi dua kekuatan ini memungkinkan kelompok kejahatan teroganisir, kelompok teroris bahkan negara untuk secara anonim dan cepat menyebarkan berita manipulatif, memengaruhi persepsi publik, dan mengganggu wacana sipil.
Salah satu contoh kampanye operasi informasi yang berhasil memanfaatkan gambar buatan AI generatif dan meraih kepopuleran datang dari kelompok China-nexus Adversaries. Scott Jarkoff mengingatkan bahwa kelompok ini kemungkinan besar akan memanfaatkan teknologi AI generatif untuk melakukan operasi informasi China di negara-negara di dalam dan sekitar Asia Tenggara.