Ancaman dan serangan siber berbasis artificial intelligence (AI) semakin nyata. Bagaimana para pemimpin keamanan di organisasi/CISO dapat menyikapi dan menghadapinya?
Awal tahun 2024, dunia keuangan Hong Kong dibuat geger oleh sebuah kasus penipuan deepfake yang didukung teknologi AI. Pelaku kejahatan menggunakan teknologi ini untuk mengelabui seorang karyawan di perusahaan multinasional. Kerugian akibat kasus ini mencapai US$25,6 juta.
Kasus tersebut bak sebuah tamparan keras bagi dunia keamanan siber dan seketika menyadarkan kita bahwa ancaman siber dengan AI bukan lagi sekadar hype, tapi sudah terjadi di depan mata.
Shannon Murphy, Global Security and Risk Strategist,Trend Micro, mengatakan bahwa keberhasilan serangan tersebut menunjukkan bahwa skenario spekulatif yang pernah dibahas beberapa waktu sebelumnya kini telah menjadi kenyataan.
Insiden yang melibatkan AI ini pun tak pelak menambah kecemasan para pemimpin keamanan di organisasi, Chief Information Security Officer/ CISO. Pasalnya teknologi ini membuka peluang baru bagi para penjahat siber untuk melancarkan serangan yang lebih canggih, rumit, dan berbahaya. Belum lagi ancaman tradisional, seperti ransomware, phishing, dan BEC, yang tak pernah surut.
Shannon menjelaskan, ada tiga alasan utama yang membuat para pemimpin keamanan mengkhawatirkan AI. Pertama, AI dapat membuat serangan phishing yang lebih meyakinkan dan meningkat volumenya. Persoalan lain yang tak kalah pelik adalah penggunaan aplikasi dan tool AI yang tak terkendali. “Sehingga para pemimpin keamanan ini dihadapkan pada tantangan visibilitas (kemudahan tim keamanan untuk memantau aktivitas). Para CISO juga ingin memiliki cara untuk mengatur akses,” jelasnya.
Di sisi lain, para analis keamanan juga ingin memanfaatkan teknologi AI untuk meningkatkan kemampuan deteksi dan penanganan scam. Sebagai konsekuensinya, para CISO pun memerlukan kontrol terhadap cara penerapan AI di pusat operasi keamanan (SOC).
Ancaman Berbasis AI & Cara Menangkalnya
Berangkat dari kekhawatiran tersebut tentang artificial intelligence, ada dua hal yang menjadi perhatian para pemimpin keamanan: keamanan untuk AI dan AI untuk keamanan.
Keamanan untuk AI, menurut Shannon, adalah bagaimana mengamankan aplikasi AI yang kita gunakan. Dan dari perspektif ancaman, ada tiga ancaman yang perlu menjadi perhatian CISO. Pertama adalah penggunaan AI untuk social engineering dan fraud, yang mencakup serangan phishing, deep fake, dan audio fake.
Khususnya deepfake, Shannon melihat teknologi ini tidak hanya menyajikan output dengan resolusi tinggi tapi juga menggunakan teknologi generative adversarial network (GAN) sehingga antara gerak bibir, gerak tubuh, dan lain-lain terlihat sangat sinkron.
Risiko lain yang disampaikan Shannon Murphy dalam kesempatan wawancara khusus dengan InfoKomputer adalah penggunaan layanan "reconnaissance-as-a-service" oleh kelompok kejahatan siber. Para penjahat siber mengumpulkan data dari berbagai sumber online seperti LinkedIn, dan platform media sosial, seperti X, untuk membangun profil seorang eksekutif. Data tersebut kemudian dijual kepada kelompok lain untuk digunakan dalam kampanye serangan phishing atau pembuatan deep fake yang sangat meyakinkan.