Microsoft dan OpenAI baru-baru ini mengungkapkan bahwa para hacker (peretas) mulai menggunakan teknologi LLMs (large language models) seperti ChatGPT untuk menyempurnakan dan meningkatkan kemampuan mereka dalam melakukan cyber attack (serangan siber).
Dalam penelitian yang baru saja dipublikasikan, Microsoft dan OpenAI telah mendeteksi upaya kelompok-kelompok hacker yang didukung oleh negara Rusia, Korea Utara, Iran, dan Tiongkok yang menggunakan tools seperti ChatGPT untuk meneliti target, meningkatkan skrip, dan membantu membangun teknik social engineering.
“Kelompok penjahat siber, pelaku ancaman negara, dan musuh lainnya sedang mengeksplorasi dan menguji berbagai teknologi AI yang berbeda-beda saat teknologi tersebut muncul, dalam upaya untuk memahami nilai potensial bagi operasi mereka dan kontrol keamanan yang mungkin perlu mereka hindari,” kata Microsoft dalam sebuah blog-nya.
Kelompok Strontium, yang terkait dengan intelijen militer Rusia, telah ditemukan menggunakan LLMs "untuk memahami protokol komunikasi satelit, teknologi pencitraan radar, dan parameter teknis tertentu."
Kelompok hacker, yang juga dikenal sebagai APT28 atau Fancy Bear, telah aktif selama perang Rusia-Ukraina dan sebelumnya terlibat dalam penargetan kampanye kepresidenan Hillary Clinton pada tahun 2016.
Kelompok ini juga telah menggunakan LLMs untuk membantu "tugas-tugas skrip dasar, termasuk memanipulasi file, pemilihan data, dan multiprocessing, untuk mengotomatisasi atau mengoptimalkan operasi teknis," menurut Microsoft.
Sedangkan kelompok hacker asal Korea Utara, yang dikenal sebagai Thallium, diketahui telah menggunakan LLMs untuk meneliti kerentanan yang dilaporkan secara publik dan organisasi target, untuk membantu dalam tugas-tugas skrip dasar, dan menyusun konten untuk kampanye phishing.
Microsoft mengatakan bahwa kelompok hacker Iran yang dikenal sebagai Curium juga telah menggunakan LLMs untuk membuat email phishing dan bahkan kode untuk menghindari deteksi oleh aplikasi antivirus.
Hacker yang berafiliasi dengan pemerintah Tiongkok juga menggunakan LLMs untuk penelitian, pembuatan skrip, penerjemahan, dan untuk menyempurnakan tools yang sudah ada.
Ada kekhawatiran berbagai pihak tentang penggunaan AI dalam serangan siber, terutama karena tools AI seperti WormGPT dan FraudGPT telah muncul untuk membantu pembuatan email berbahaya dan tools untuk meretas.
Seorang pejabat senior di Badan Keamanan Nasional juga memperingatkan bulan lalu bahwa para hacker kini menggunakan AI untuk membuat email phishing mereka terlihat lebih meyakinkan.
Microsoft dan OpenAI belum mendeteksi adanya "serangan signifikan" yang menggunakan teknologi LLMs, tetapi kedua perusahaan ini telah menutup semua akun dan aset yang terkait dengan kelompok hacker tersebut.
"Pada saat yang sama, kami merasa ini adalah penelitian yang penting untuk dipublikasikan untuk mengekspos gerakan bertahap tahap awal yang kami amati dilakukan oleh para pelaku ancaman yang terkenal, dan berbagi informasi tentang bagaimana kami memblokir dan melawan mereka dengan komunitas pertahanan," kata Microsoft, dikutip dari The Verge.