CrowdStrike Ungkap Bahaya dan Potensi AI Generatif Bagi Keamanan Siber

Liana Threestayanti - Rabu, 20 Maret 2024 | 13:00 WIB

Bak pedang bermata dua, teknologi artificial intelligence (AI) dapat membawa manfaat dan mudarat. Salah satu penggunaan AI yang merugikan adalah perannya dalam aktivitas penipuan konsumen yang dilakukan para penjahat siber.

Melalu wawancara tertulis dengan InfoKomputer, Scott Jarkoff, Director, Strategic Threat Advisory Group, APJ & EMEA, CrowdStrike memaparkan bagaimana kemampuan AI generatif “meringankan” kerja para penjahat siber sehingga mereka semakin mudah melancarkan serangannya.

Keberagaman bahasa di Asia Tenggara, ternyata secara tidak langsung menghambat penjahat siber dari seluruh dunia yang ingin menipu konsumen. Memang ada tool penerjemah, tapi pada umumnya alat-alat tersebut tidak memiliki cukup kemampuan untuk mereplikasi gaya dan istilah dalam bahasa lokal. Walhasil, output-nya pun menjadi kurang realistis.

Pesan Phishing Kian Sulit Dikenali

Kehadiran generative AI atau AI generatif seperti “berkah” bagi para penjahat siber karena mereka dapat memanfaatkan model bahasa besar (LLM) untuk menghasilkan pesan tertulis, visual, atau audio yang nyaris tidak dapat dibedakan dari konten aslinya. Tak hanya itu, konten-konten ini dapat dibuat secara instan sehingga memungkinkan penjahat siber merespons pesan dari korbannya secara real-time.

“Hal yang membuat AI generatif sangat berbahaya adalah teknologi ini dapat mempelajari gaya dari berbagai bahasa, dialek, bahkan bahasa gaul dan bahasa sehari-hari dari kumpulan data yang besar, sehingga memungkinkan pelaku menghasilkan komunikasi yang terdengar autentik. Dengan adanya AI generatif, para penjahat siber skala besar dapat membuat konten dengan mudah, bahkan dapat dimanfaatkan oleh orang awam untuk mengeksploitasinya,” Scott Jarkoff menjelaskan.

Sebelum era AI generatif, mengindentifikasi pesan atau email yang mengandung phising terbilang lebih mudah dengan memerhatikan petunjuk-petunjuk, seperti kesalahan ejaan atau tata bahasa. Selain itu, para penjahat siber umumnya mengirimkan email phishing berbahasa global, seperti bahasa Inggris karena alasan skala ekonomi.

“Namun kini, dengan AI generatif yang canggih, kesalahan yang ada pada pesan tersebut dapat diminimalisasi dan kemampuan untuk menerjemahkan konten ke berbagai bahasa secara cepat juga meningkat pesat,” ujar Jarkoff.

Potensi Disinformasi

Tidak hanya teks, AI generatif juga punya kemampuan membuat gambar dan video yang sangat realistis. Dan kemampuan ini dimanfaatkan para pelaku kejahatan siber untuk menyebarkan disinformasi. Menurut Jarkoff, kampanye-kampanye dengan muatan disinformasi ini digencarkan untuk mengganggu layanan dan menimbulkan kekacauan.

Scott Jarkoff mengungkapkan potensi kerusakan yang lebih besar dengan memasangkan AI generatif alat komunikasi massa, seperti platform media sosial. Kombinasi dua kekuatan ini memungkinkan kelompok kejahatan teroganisir, kelompok teroris bahkan negara untuk secara anonim dan cepat menyebarkan berita manipulatif, memengaruhi persepsi publik, dan mengganggu wacana sipil.

Salah satu contoh kampanye operasi informasi yang berhasil memanfaatkan gambar buatan AI generatif dan meraih kepopuleran datang dari kelompok China-nexus Adversaries. Scott Jarkoff mengingatkan bahwa kelompok ini kemungkinan besar akan memanfaatkan teknologi AI generatif untuk melakukan operasi informasi China di negara-negara di dalam dan sekitar Asia Tenggara.

Langkah-langkah Antisipasi Ancaman Siber Gen AI

CrowdStrike menyarankan sejumlah langkah yang dapat dilakukan organisasi dan perusahaan untuk mengantisipasi ancaman siber yang lebih canggih akibat penggunaan AI generatif.

1. Bersikap kritis

Dalam menggunakan AI generatif, sikap kritis dibutuhkan terutama dalam memperoleh, melatih, maupun mengatur teknologi tersebut. Tim keamanan yang menggunakan AI generatif juga harus menyadari risiko dan mematuhi prinsip-prinsip utama akurasi, privasi, dan keamanan guna memastikan pemakaian etis dan bertanggung jawab.

2. Waspadai informasi yang tidak akurat

Ketika memakai AI generatif, organisasi harus waspada terhadap informasi yang tidak akurat, terutama informasi mengenai keamanan yang dapat memberikan risiko berbahaya. Oleh karena itu, adalah penting untuk memahami sumber data dan memahami bahwa jawaban dari AI generatif dapat diaudit.

3. Pahami data yang dibagikan ke pihak ketiga

Dari sudut pandang privasi, pengguna juga harus memahami data apa yang dibagikan ke pihak ketiga dan data apa yang mereka bawa melalui model bahasa yang digunakan.

4. Pertimbangkan risiko internal dan eksternal

Dalam hal keamanan siber, organisasi dan perusahaan perlu mempertimbangkan risiko internal dan eksternal akibat eksposur data yang tidak sah, serangan dari pihak lain, prompt injection, atau kebocoran prompt.

Di luar itu, CrowdStrike menekankan pentingnya peran manusia dalam pendekatan keamanan. “Terutama dalam penggunaan AI generatif, kemampuan manusia dalam memberikan konteks dan memvalidasi kebenaran menjadi krusial,” jelas Scott Jarkoff.

AI Generatif untuk Keamanan Siber

CrowdStrike sendiri telah memanfaatkan AI generatif. Bahkan menurut penuturan Scott, penyedia solusi endpoint protection berbasis cloud ini telah menggunakan artificial intelligence atau kecerdasan buatan untuk keamanan siber lebih dari satu dekade.

Dengan perkembangan AI generatif saat ini, CrowdStrike pun mengembangkan Charlotte AI sebagai mesin yang mendukung portofolio kemampuan AI generatifnya di seluruh platform.

“Kami memprioritaskan privasi data, meminimalisir halusinasi, dan memastikan pengawasan manusia karena kami memahami bahwa informasi yang ditampilkan Charlotte AI kepada para analis akan memainkan peran penting dalam menginformasikan keputusan mereka,” jelas Scott Jarkoff.

Melalui Charlotte AI, pengguna dapat memperoleh actionable insight secara real time sehingga pengguna dari kalangan analis keamanan siber dapat mengambil keputusan berbasis risiko dengan lebih baik tanpa melihat tingkat keahlian mereka.

Dengan kemudahan menemukan informasi penting dengan cepat dan tepat melalui Charlotte AI, para analis dapat bekerja lebih cepat dan memanfaatkan fungsionalitas terbaru dan kecerdasan real-time dari platform CrowdStrike Falcon.