Ancaman lain yang juga banyak dibahas adalah GPT jahat (malicious GPT) dan tidak diatur (ungoverned) yang dapat digunakan untuk mengembangkan kode malware baru. “Saya belum benar-benar melihat hal ini terwujud dengan cara yang sangat berarti,” jelasnya seraya menyebut WormGPT sebagai contoh. GPT jahat ini sempat tersedia tetapi hanya bertahan dua minggu karena pengembangnya menariknya dari internet setelah mendapat perhatian media.
Meski begitu, Shannon mengingatkan bahwa para penjahat siber berpotensi meretas aplikasi dan tool AI yang sah. “Mereka bisa saja melakukan teknik prompting yang iteratif dan spesifik untuk membuat tool AI yang sah, misalnya ChatGPT, untuk berperilaku dengan cara yang seharusnya tidak dilakukan,” paparnya.
FraudGPT dan Dark Bard pun sempat menjadi pembicaraan di dunia keamanan siber. Namun menurut Shannon, keduanya bisa dikategorikan sebagai vaporware, artinya kedua tool AI ini sebenarnya tidak pernah benar-benar ada atau hanya sekadar konsep tanpa implementasi nyata.
Untuk mengamankan data dan aplikasi perusahaan dari kejahatan berbasis AI, Shannon menyarankan pengamanan gateway AI yang memungkinkan akses ke berbagai aplikasi untuk berbagai kebutuhan, dengan prinsip zero trust. Hal ini penting karena banyak industri besar seperti ritel, keuangan, dan kesehatan mulai mengembangkan aplikasi AI sendiri.
Ia juga menyoroti pentingnya melindungi staf yang menggunakan aplikasi AI, seperti ChatGPT, Salesforce, Einstein, dan Canva.”Setiap penyedia SaaS adalah perusahaan AI. Oleh karena itu, kita harus lebih proaktif dalam mengelola kontrol (terhadap aplikasi-aplikasi tersebut,” tegasnya.
Kecerdasan Buatan untuk Jaga Keamanan
Selanjutnya, Shannon menjelaskan bagaimana teknologi artificial intelligence dapat dimanfaatkan untuk membantu tugas-tugas keamanan, seperti pada operasional TI, SOC, dan cloud.
Satu contoh pemanfaatan AI yang mulai marak adalah chatbot. “Trend Micro mempunyai AI cyber assistant yang dinamai Companion, dan kami mempunyai banyak use case yang luar biasa dengan Companion. Salah satu favorit saya adalah script deobfuscation,” kata Shannon.
Chatbot AI ini dapat membantu analis keamanan, baik senior maupun junior, untuk mengetahui dengan cepat apakah sebuah baris perintah PowerShell berpotensi berbahaya atau tidak. Dengan bantuan Companion, para analis tidak perlu membuang waktu untuk menganalisis skrip secara manual. “Ini memungkinkan mereka untuk tetap fokus pada penanganan ancaman keamanan dengan efisien,” jelas Shannon.
Ia juga menjelaskan kegunaan Companion dalam menangani peringatan keamanan yang kompleks. Ketika seorang analis keamanan menghadapi peringatan, misalnya terkait email, endpoint, dan beban kerja cloud, Companion dapat memberikan panduan tentang langkah apa yang harus diambil selanjutnya untuk merespons ancaman tersebut. Ini memberikan nilai tambah bagi analis keamanan dengan membantu mereka merespons ancaman dengan lebih efektif dan efisien.
Selanjutnya, Shannon juga membahas evolusi penggunaan AI dalam konteks keamanan siber, dari pengalaman menggunakan AI yang dipandu pengguna (user-driven AI experience) menjadi pengalaman pengguna yang didorong AI (AI-driven user experiences).
Dengan evolusi ini, AI akan secara otomatis menyajikan prioritas berdasarkan pengetahuan yang dimilikinya tentang lingkungan keamanan. Misalnya, ketika pengguna masuk platform keamanan berbasis cloud Trend Vision One, AI akan menampilkan tiga prioritas teratas yang harus segera ditangani, tanpa perlu meminta informasi.