Sepak terjang ChatGPT masih terus jadi pembicaraan. Di samping kemampuan yang mengundang kekaguman, chatbot besutan OpenAI ini juga mengundang sejumlah kontroversi yang perlu diperhatikan.
Tak lama setelah diluncurkan, ChatGPT mendapat reaksi dari dunia pendidikan. Departemen Pendidikan New York City, AS, memblokir akses penggunaan chatbot ini di jaringan dan perangkat di lingkungan sekolah. Langkah ini ditempuh guna mencegah murid menyontek dengan memanfaatkan chatbot ini
Kemudian di bulan Desember 2022, tim peneliti dari Check Point Research mengungkap temuan di forum hacker tentang membuat kode jahat dengan ChatGPT. Penyedia solusi cyber threat intelligence ini juga memperlihatkan kemampuan chatbot untuk membuat email phishing.
Mengantisipasi hal ini, OpenAI sudah melatih chatbot-nya untuk tidak melayani permintaan-permintaan yang dikategorikan “inappropriate” atau tidak pantas.
Namun masih ada isu-isu kontroversial lainnya sehubungan dengan ChatGPT. Inilah lima di antaranya, yang kami rangkum dari beberapa sumber.
1. Akurasi dan misinformasi
OpenAI sudah mewanti-wanti kemungkinan ini dengan menuliskan peringkatan bahwa chatbot AI-nya terkadang menulis jawaban yang terdengar masuk akal tetapi sebenarnya salah atau tidak masuk akal. Kelemahan ini tentu menjadi berbahaya ketika pengguna meminta saran atau nasihat yang berkaitan dengan, misalnya topik medis.
Sebagai informasi, tidak seperti Siri dan Alexa, ChatGPT tidak menggunakan internet untuk mencari jawaban. Text generator ini merangkai jawaban berdasarkan latihan yang ia peroleh.
Untuk meningkatkan akurasi chatbot ini, OpenAI telah menerapkan beberapa langkah, misalnya melatihnya dengan berbagai data teks, termasuk artikel berita, buku, dan postingan di media sosial. Selain itu, OpenAI juga telah menerapkan beberapa teknik untuk membantu model AI ini memahami konteks, seperti penggunaan self-attention mechanism dan transfer learning.
2. Potensi bias
ChatGPT dilatih menggunakan sekumpulan data, baik data baru maupun data lama dari seluruh dunia. Ketika ada bias pada data tersebut, chatbot ini berpotensi merefleksikannya pada jawaban-jawaban yang ia berikan.
Mengatasi isu yang disebut OpenAI sebagai perilaku bias ini, OpenAI meminta user memberikan feedback terhadap output yang buruk.