Trend Micro memprediksi terjadinya “tsunami” taktik social engineering canggih dan pencurian identitas yang memanfaatkan generatif artificial intelligence atau AI generatif sehingga serangan kian sulit dideteksi.
Prediksi tersebut bersumber dari laporan terbaru Trend Micro yang berjudul Critical Scalability: Trend Micro Security. Dalam laporan tersebut, perusahaan keamanan siber global ini memperingatkan bahwa generative AI (GenAI) berpotensi menjadi alat yang digunakan para pelaku kejahatan siber untuk meningkatkan serangan siber pada tahun 2024.
Seperti banyak teknologi baru lainnya, AI adalah pedang bermata dua dan dampaknya terhadap dimensi sosial serangan siber akan semakin terlihat pada tahun 2024. GenAI diperkirakan akan mendisrupsi pasar phishing pada tahun 2024 karena semakin banyak digunakan dan kualitasnya juga meningkat, ditambah lagi dengan dukungan penggunaan Generative Adversarial Networks (GAN).
Trend Micro memperkirakan transformasi ini akan memungkinkan pembuatan konten audio dan video yang sangat realistis dengan biaya yang lebih hemat. Dan hal ini dapat berujung pada meningkatnya gelombang baru business email compromise (BEC), penculikan virtual, dan penipuan lainnya.
Menurut Laksana Budiwiyono, Country Manager, Trend Micro Indonesia, large language model (LLM) yang canggih dan menguasai berbagai bahasa akan menjadi ancaman yang signifikan karena mereka mampu menghilangkan indikator khas phishing, seperti format yang janggal atau kesalahan tata bahasa, sehingga semakin sulit untuk dideteksi.
“Perusahaan-perusahaan di Indonesia harus melakukan transisi dari pelatihan phishing konvensional dan memberikan prioritas ke penerapan pengendalian keamanan modern. Pertahanan canggih ini tidak hanya melampaui kemampuan manusia dalam mendeteksi tetapi juga memastikan ketahanan atau resiliensi terhadap taktik baru itu. Inisiatif semacam itu sangat penting seiring dengan kemajuan AI di negara ini, yang diperkirakan akan memberikan kontribusi hingga US$366 miliar terhadap PDB pada tahun 2030," jelas Laksana.
Model AI Jadi Sasaran
Di sisi lain, model AI sendiri diperkirakan Trend Micro juga akan menghadapi serangan pada tahun 2024. Model machine learning berbasis cloud yang terspesialisasi yang akan jadi sasaran karena AI generatif dan LLM sulit diutak-atik.
Dataset pelatihan yang lebih terfokus akan menjadi lebih menyasar pada penyusupan data dengan hasil antara lain pengambilan data yang sensitif hingga merusak fraud filter dan bahkan hal-hal yang terhubung. Dan untuk melakukan serangan semacam itu, menurut Trend Micro, hanya membutuhkan biaya kurang dari US$100.
Tak pelak, tren ini, pada gilirannya akan meningkatkan pengawasan berdasarkan regulasi dan mendorong pengambilan tindakan sendiri oleh sektor keamanan siber.
"Di tahun mendatang, industri siber akan mulai mengungguli pemerintah dalam hal mengembangkan kebijakan atau peraturan khusus keamanan siber terkait AI," ujar Laksana Budiwiyono seraya menambahkan bahwa industri siber bergerak cepat untuk mengatur diri sendiri dengan basis partisipasi.
Inilah beberapa tren lain yang diungkap Trend Micro dalam laporan prediksi 2024 dan harus diwaspadai: