Sebuah studi terbaru mengungkapkan enam risiko keamanan dalam penggunaan chatbot AI, ChatGPT.
Seperti diberitakan, keprihatinan terhadap generative artificial intelligence (AI) atau AI generatif terus disuarakan. Terakhir, minggu ini, CEO OpenAI, Sam Altman telah meminta pemerintah AS untuk membuat regulasi terkait teknologi AI dan mendirikan lembaga baru untuk mengontrol perusahaan AI.
Permintaan itu diungkapkan Sam Altman di hadapan Judiciary Committee, Senat AS pada hari Selasa (16/05/2023) ketika menjelaskan mengenai kemungkinan dan risiko dari teknologi artificial intelligence.
Menurut sebuah laporan yang dipublikasikan minggu lalu, setidaknya ada enam implikasi penggunaan ChatGPT terhadap keamanan, yaitu timbulnya layanan-layanan penipuan, pengumpulan informasi yang dapat membahayakan pihak lain, pengungkapan data pribadi, pembuatan teks-teks jahat, pengembangan kode-kode jahat, dan produksi konten-konten yang bersifat ofensif.
1. Pengumpulan informasi
Menurut laporan yang berjudul “Beyond the Safeguards: Exploring the Security Risks of ChatGPT,” ChatGPT dilatih menggunakan data dalam jumlah sangat banyak sehigga chatbot AI ini mengetahui banyak informasi yang dapat membahayakan pihak lain ketika jatuh ke tangan yang salah.
Dalam studi yang dilakukan oleh Erik Derner, seorang periset lepas asal Ljubljana, Slovenia, dan Kristina Batistič dari Czech Technical University, ChatGPT diperintahkan untuk menjelaskan sistem IT yang digunakan oleh bank tertentu. Menggunakan informasi yang tersedia untuk umum, chatbot ini mengumpulkan berbagai sistem TI yang digunakan oleh bank tersebut. Bayangkan jika seorang aktor jahat melakukan hal tersebut dengan tujuan menyerang sistem perbankan.
Artinya, ChatGPT dapat dimanfaatkan sebagai langkah awal dalam serangan siber, yaitu mengumpulkan informasi mengenai di sisi mana dan bagaimana menyerang target secara lebih efektif.
2. Teks jahat
Salah satu kecerdasan ChatGPT yang dimanfaatkan banyak orang adalah kemampuan menulis berbagai jenis teks, mulai dari email, puisi, esai, sampai menulis lirik lagu.
Bukan tak mungkin jika chatbot ini digunakan untuk membuat tulisan yang dapat membahayakan, misalnya teks email untuk serangan phishing, informasi yang menyesatkan seperti berita bohong, spam, dan sebagainya.
3. Kode jahat