Sri Lanka - AI (artificial intelligence) kini menjadi teknologi yang banyak diterapkan oleh perusahaan atau organisasi untuk mendukung bisnisnya. Di sisi lain, teknologi ini juga semakin dimanfaatkan oleh penjahat siber untuk melancarkan aksinya.
Dalam ajang Kaspersky Cybersecurity Weekend 2024 yang digelar di Sri Lanka baru-baru ini, satu hal yang disorot dalam pertemuan puncak tersebut adalah meningkatnya peran AI dalam kejahatan siber yang mampu meningkatkan serangan rekayasa sosial dengan membuat email yang terdengar lebih alami dan masukan untuk serangan phishing, pembuatan kata sandi, pembuatan kode malware, dan bahkan melakukan serangan kata sandi.
Munculnya AI juga berarti bahwa penjahat siber berpotensi menargetkan korban potensial melalui serangan adversarial, dengan membuat modifikasi kecil pada file sehingga sistem AI dapat dimanipulasi untuk menganggap suatu malware sebagai file yang aman.
Untuk lebih meningkatkan keamanan dan tingkat deteksi, Kaspersky mengatakan bahwa mereka meniru serangan adversarial pada model deteksi malware mereka sendiri.
“Serangan terkait AI mengalami pertumbuhan yang pesat saat ini. Beberapa di antaranya masih memerlukan ilmuwan data yang sangat terampil dan upaya yang signifikan, tetapi yang lainnya sudah diterapkan dalam perangkat yang tersedia untuk umum,” ujar Alexey Antonov, Kepala Ilmuwan Data di Kaspersky.
Ia pun menyoroti dua bagian utama. Pertama adalah AI ofensif - di mana musuh menggunakan teknik canggih untuk mempercepat rutinitas mereka atau menemukan vektor ancaman baru untuk menerapkannya.
“Deep fake, yang menyebar luas tahun ini, hanyalah salah satu contohnya,” cetus Alexey.
Kedua adalah kerentanan AI - beberapa model AI dapat dipaksa oleh musuh untuk melakukan hal-hal yang dibatasi atau tidak terduga. Sebagai contoh - sejumlah serangan cepat pada model bahasa besar yang muncul tahun lalu.
“Di Kaspersky, kami telah meneliti semua masalah ini selama bertahun-tahun untuk menciptakan perlindungan yang andal bagi pelanggan kami,” ucap Alexey.
Lebih lanjut, Kaspersky telah memanfaatkan AI untuk mendeteksi serangan berbahaya dan ancaman yang muncul, terutama melihat jumlah potensi malware yang terjadi dengan 411.000 sampel malware unik terdeteksi setiap hari pada tahun 2024 saja dan ini peningkatan dari 403.000 setiap hari pada tahun 2023.
Pada konferensi tersebut, Adrian Hia, Managing Director, wilayah Asia Pasifik di Kaspersky juga menyoroti bagaimana penyedia keamanan siber dan organisasi perlu menyesuaikan postur keamanan siber mereka dan menyadari konsekuensi regulasi di wilayah tempat mereka beroperasi.
“Bagi banyak organisasi, integrasi AI tidak dapat dihindari, dengan kemampuannya yang tak ternilai untuk memproses kumpulan data besar, tetapi para pemangku kepentingan perlu menyadari kepatuhan data terutama jika dikombinasikan dengan penggunaan AI. Kebijakan perlu diterapkan terkait bagaimana data rahasia diperlakukan dan aspek apa dari data tersebut yang dapat diakses oleh AI sambil tetap mematuhi hukum dan peraturan yang menjadi kewajiban organisasi di area tempat mereka beroperasi.” kata Adrian.
“Perhatian utama lain yang harus dipertimbangkan organisasi di era sekarang adalah ketahanan siber. Praktik terbaik untuk ketahanan atau resistensi memerlukan telemetri dan pencatatan informasi untuk mengidentifikasi dan menanggapi insiden dengan cepat serta kebijakan respons insiden yang komprehensif untuk memastikan pemulihan yang tepat waktu jika terjadi serangan siber,” imbuh Adrian.