Layanan Digital Footprint Intelligence Kaspersky menemukan hampir 3000 postingan dark web yang sebagian besar membahas penggunaan ChatGPT dan LLM lainnya untuk aktivitas ilegal. Para penjahat siber ini sedang menjajaki skema, mulai dari menciptakan alternatif berbahaya dari chatbot hingga melakukan jailbreak pada chatbot asli dan seterusnya.
Akun dan layanan ChatGPT hasil curian yang menawarkan pembuatan otomatisnya secara massal juga membanjiri saluran dark web mencapai 3000 postingan lainnya. Pada tahun 2023, layanan Kaspersky Digital Footprint Intelligence menemukan hampir 3000 postingan di dark web, membahas penggunaan ChatGPT untuk tujuan ilegal atau berbicara tentang alat yang mengandalkan teknologi AI. Meskipun obrolan mencapai puncaknya pada bulan Maret, diskusi terus berlanjut.
Dinamika diskusi dark web tentang penggunaan ChatGPT atau alat AI lainnya. Sumber: Kaspersky Digital Footprint Intelligence
Alisa Kulishenko (Analis Jejak Digital di Kaspersky) mengatakan aktor ancaman menjajaki berbagai skema untuk mengimplementasikan ChatGPT dan AI. Topiknya sering kali mencakup pengembangan malware dan jenis penggunaan model bahasa terlarang lainnya, seperti pemrosesan data pengguna yang dicuri, penguraian file dari perangkat yang terinfeksi, dan lainnya.
"Popularitas alat AI telah menyebabkan integrasi respons otomatis dari ChatGPT atau sejenisnya ke dalam beberapa forum penjahat dunia maya," katanya.
Selain itu, pelaku ancaman cenderung membagikan jailbreak melalui berbagai saluran dark web – serangkaian perintah khusus yang dapat membuka fungsionalitas tambahan – dan merancang cara untuk mengeksploitasi alat yang sah, seperti alat untuk pentesting, berdasarkan model untuk tujuan berbahaya.
Selain chatbot dan kecerdasan buatan yang disebutkan, banyak perhatian juga tertuju pada proyek seperti XXXGPT, FraudGPT, dan lainnya. Model bahasa ini dipasarkan di dark web sebagai alternatif ChatGPT, dengan fungsionalitas tambahan dan tidak adanya batasan asli.
Akun ChatGPT hasil curian untuk dijual
Ancaman lain bagi pengguna dan perusahaan adalah pasar akun ChatGPT versi berbayar. Pada tahun 2023, 3000 postingan lainnya (selain yang disebutkan sebelumnya) yang mengiklankan penjualan akun ChatGPT diidentifikasi di dark web dan saluran bayangan Telegram.
Postingan ini mendistribusikan akun curian atau mempromosikan layanan registrasi otomatis secara besar-besaran dengan membuat akun berdasarkan permintaan. Khususnya, postingan tertentu berulang kali dipublikasikan di berbagai saluran dark web.
Dinamika postingan dark web yang menawarkan akun ChatGPT curian atau layanan registrasi otomatis. Sumber: Kaspersky Digital Footrpint Intelligence
Alisa mengungkapkan teknologi AI pada dasarnya tidak berbahaya, penjahat dunia maya mencoba menemukan cara yang efisien dalam menggunakan model bahasa, sehingga memicu tren untuk menjadikannya ancaman dunia maya dan, dalam beberapa kasus, berpotensi meningkatkan jumlah serangan siber.
"Kecil kemungkinan AI generatif dan chatbots akan merevolusi lanskap serangan pada tahun 2024," ujarnya.
Penelitian terperinci disajikan di situs web resmi Kaspersky Digital Footprint Intelligence. Untuk menghindari ancaman terkait aktivitas penjahat dunia maya di segmen bayangan internet, ada baiknya menerapkan langkah-langkah keamanan berikut:
Gunakan Kaspersky Digital Footprint Intelligence membantu analis keamanan mengeksplorasi pandangan musuh terhadap sumber daya perusahaan mereka, dan segera menemukan vektor serangan potensial yang tersedia bagi mereka. Hal ini juga membantu meningkatkan kesadaran tentang ancaman yang ada dari penjahat dunia maya untuk menyesuaikan pertahanan Anda atau mengambil tindakan penanggulangan dan eliminasi secara tepat waktu.
Pilih solusi keamanan titik akhir yang andal seperti Kaspersky Endpoint Security for Business yang dilengkapi dengan kemampuan deteksi berbasis perilaku dan kontrol anomali untuk perlindungan efektif terhadap ancaman yang diketahui dan tidak diketahui.
Layanan khusus dapat membantu memerangi serangan tingkat tinggi. Layanan Kaspersky Managed Detection and Response dapat membantu mengidentifikasi dan menghentikan intrusi pada tahap awal, sebelum pelaku mencapai tujuannya. Jika mengalami suatu insiden, layanan Kaspersky Incident Response akan membantu Anda merespons dan meminimalkan konsekuensinya, khususnya - mengidentifikasi node yang disusupi dan melindungi infrastruktur dari serangan serupa di masa mendatang.
Baca Juga: Teknologi AI Generatif Mengancam Operasional dan Keuntungan Netflix
Baca Juga: Kemampuan TSMC Mentok, NVIDIA Lobi Intel Bantu Produksi Chip AI