OpenAI telah menggagalkan berbagai operasi kejahatan siber yang memanfaatkan chatbot AI ChatGPT untuk tujuan berbahaya. Modusnya, para penjahat siber menggunakan chatbot AI itu untuk mengembangkan dan men-debug malware, menyebarkan informasi palsu, menghindari deteksi, serta melancarkan serangan spear-phishing.
Hal itu menandai pertama kalinya OpenAI mengonfirmasi bahwa teknologi AI generatif kerap disalahgunakan untuk kejahatan siber. Berdasarkan laporan dari Bleeping Computer, tanda-tanda pertama penggunaan ChatGPT untuk malware terdeteksi pada April 2024 oleh Proofpoint, yang mencurigai kelompok Scully Spider (TA547) menyebarkan loader PowerShell berbasis AI.
Peneliti di HP Wolf juga menemukan penjahat siber menargetkan pengguna di Prancis dengan bantuan AI untuk membuat skrip dalam serangan multistep. Laporan terbaru OpenAI juga mengidentifikasi aktor ancaman dari Tiongkok dan Iran yang menggunakan ChatGPT untuk meningkatkan efektivitas operasi siber mereka.
Salah satu aktor ancaman yang diungkap OpenAI adalah SweetSpecter, kelompok siber asal China itu menargetkan pemerintah Asia. Mereka menggunakan email phishing dengan lampiran ZIP berbahaya yang berpotensi memicu infeksi SugarGh0st RAT pada sistem korban, dengan bantuan akun-akun ChatGPT yang menganalisis skrip dan kerentanan.
Kasus lain melibatkan kelompok ancaman "CyberAv3ngers" yang berafiliasi dengan Korps Pengawal Revolusi Islam Iran, yang menggunakan ChatGPT untuk mengembangkan skrip dan kode, serta merencanakan aktivitas pasca-kompromi, termasuk mencuri kata sandi pengguna pada sistem MacOS.
Malware yang dibuat dengan bantuan ChatGPT dapat mencuri kontak, log panggilan, file, dan riwayat penelusuran, serta melacak lokasi korban. STORM-0817, salah satu kelompok siber lainnya, menggunakan ChatGPT untuk mengembangkan kode server yang menangani koneksi dari perangkat yang telah dikompromikan. Semua akun yang digunakan oleh aktor ancaman tersebut telah diblokir, dan OpenAI telah membagikan informasi terkait, termasuk alamat IP, dengan mitra keamanan siber.
Baca Juga: Microsoft Mulai Hentikan Pembaruan Keamanan Windows 10, Ini Solusinya