Tim peneliti Northwestern University mengungkapkan layanan chatbot Custom GPT milik OpenAI sangat potensi membocorkan data sensitif pengguna termasuk kebocoran data seperti prompt leaking dan jailbreaking. Tim peneliti telah melakukan pengujian terhadap 200 akun pengguna yang menggunakan model custom GPT.
Tak hanya itu, Custom GPT juga rentan terhadap manipulasi data melalui prompt injection, suatu teknik di mana peretas memasukkan input spesifik untuk mengacaukan algoritma Large Language Model (LLM) seperti GPT. Dalam sebuah penelitian, prompt injection diduga tidak hanya mampu mengekstrak data namun juga bisa mengakses seluruh dokumen yang telah diunggah.
Prinsip custom GPT memungkinkan pengguna yang memiliki sedikit pengalaman coding bisa membuat model AI versinya sendiri, justru dinilai bahaya karena sangat berpotensi dibobol keamanannya. Alih-alih ingin mengembangkan kreativitas, pengguna custom GPT kini malah harus khawatir bila data sensitifnya dibocorkan ke publik.
"Saya membuat sebuah custom GPT untuk Levels.fyi dengan data yang terbatas sebagai knowledge source. Umpan balik sangat luar biasa dan mengagumkan sebab begitu kreatif dengan sejumlah prompt yang mereka miliki. Namun, saya menemukan secara sekilas bahwa sumber data ada yang bocor,” ungkap Zuhayeer Musa, founder Levels.fy.
OpenAI berjanji akan segera memperbaiki celah keamanan dalam layanan custom GPT, dengan fokus mengatasi masalah seperti prompt injections agar tidak menjadi ancaman bagi pengguna dalam hal kebocoran data.
"Kami terus berusaha meningkatkan kreativitas, pengguna custom GPT kini dihadapkan pada kekhawatiran terkait kerahasiaan data mereka," ujarnya.
OpenAI menyatakan komitmennya untuk terus meningkatkan keamanan produk mereka, termasuk melawan serangan seperti prompt injections. OpenAI juga akan mempelajari lebih lanjut temuan dari tim peneliti Northwestern University untuk memperkuat pertahanan terhadap potensi serangan pada custom GPT.
“Kita akan terus membuat model atau produk kami jauh lebih aman dan kebal terutama terhadap serangan, baik dari prompt injections, yang mana ini juga akan membuat model menjadi lebih bermanfaat,” jelas juru bicara OpenAI kepada Wired.
Baca Juga: Adopsi Teknologi AI, GameShark Berganti Ganti Nama Jadi AI Shark
Baca Juga: Banyak Fitur Menarik, Berapa Biaya Berlangganan Microsoft AI Copilot?