OpenAI sukses memperkenalkan chatbot artificial intelligence (AI) atau kecerdasan buatan ChatGPT di pasar dan menginspirasi perusahaan teknologi lainnya meluncurkan produk serupa.
ChatGPT sukses membantu penggunanya dalam bekerja dan belajar serta menjadi rujukan orang dalam mencari informasi di dunia maya.
Namun, yang perlu Anda garis bawahi adalah tidak semua informasi yang diberikan ChatGPT adalah benar.
Sebuah penelitian Purdue University mengungkapkan ChatGPT sering melakukan kesalahan dan pengguna ChatGPT perlu berhati-hati dalam menghindari memasukkan data pribadi.
Para peneliti telah menguji kemampuan ChatGPT dengan sejumlah pertanyaan seputar pemrograman perangkat lunak. Hasilnya, setengah dari rekomendasi yang diberikan oleh ChatGPT adalah salah.
"Kami menganalisis gaya linguistik dan sentimen dari tanggapan yang diberikan. Hasilnya, performa ChatGPT mengecewakan," ujar peneliti itu seperti dikutip Techspot.
ChatGPT hanya mampu menjawab 48 persen pertanyaan dengan benar dan 77 persen dari jawaban yang diberikan sangat membingungkan.
"Selama penelitian kami, kami menyadari bahwa kesalahan dalam jawaban ChatGPT hanya terlihat jelas ketika kesalahan tersebut nyata. Pengguna hanya dapat mengidentifikasi kesalahan tersebut dalam kasus yang terbuka," ungkap peneliti Samia Kabir, David Udo-Imeh, Bonan Kou, serta asisten profesor Tianyi Zhang.
Menurut Zhang, ketika kesalahan tidak dapat langsung divalidasi atau memerlukan IDE atau dokumen eksternal, pengguna sering gagal mengenali ketidakakuratan atau meremehkan tingkat kesalahan yang terdapat dalam jawaban.
Sebagian besar kesalahan dalam jawaban ini disebabkan oleh keterbatasan ChatGPT dalam memahami konteks yang mendasari pertanyaan. Temuan baru ini jelas menggugah pemikiran banyak orang bahwa tidak semua informasi yang dihasilkan oleh ChatGPT adalah benar.
Google sendiri telah memberi peringatan kepada karyawan mengenai risiko chatbot, termasuk Bard yang mereka miliki.
Ketika ditanya mengenai alasan tersebut, perusahaan menyatakan bahwa Bard dapat menghasilkan saran kode yang tidak diinginkan.
| Penulis | : | Adam Rizal |
| Editor | : | Adam Rizal |
Artikel ini merupakan bagian dari Lestari, program KG Media yang merupakan suatu rencana aksi global, bertujuan untuk menghapus kemiskinan, mengurangi kesenjangan dan melindungi lingkungan.
KOMENTAR