Meski demikian, kemampuan canggih yang dimiliki ChatGPT juga dinilai memiliki berbagai resiko yang perlu diperhatikan.
Dosen pada Kelompok Keahlian Informatika, Sekolah Teknik Elektro dan Informatika (STEI) ITB, Dr. Eng. Ayu Purwarianti, S.T, M.T., mengungkapkan adanya beberapa risiko yang harus dipertimbangkan ketika menggunakan ChatGPT.
Beberapa resiko itu misalnya seputar regulasi, isu plagiarisme, dan etika dalam pemanfaatan ChatGPT, khususnya dalam ruang lingkup akademik.
“Sebenarnya ChatGPT bermanfaat banget buat membantu kita belajar, tapi memang harus berhati-hati akan tujuan kita menggunakannya. Kalau misalnya mahasiswa disuruh bikin esai dengan tujuan supaya bisa memiliki kemampuan analisis yang lebih tinggi, serta lebih kritis dan kreatif maka jangan menggunakan ChatGPT. Silakan membuat esai dengan kalimat sendiri dan nanti dibandingkan dengan hasil ChatGPT,” jelas Ayu.
Ia juga mengingatkan orang-orang untuk lebih bijak lagi dalam menggunakan ChatGPT sebagai alat untuk belajar, karena risiko ChatGPT juga sangat banyak.
Resiko pertama, tidak akuratnya informasi dan jawaban yang diberikan oleh ChatGPT. Sehingga, diharapkan agar pengguna melakukan validasi atau mencari sumber lain yang lebih tepercaya dalam mencari suatu informasi.
Kemudian risiko kedua, terkait plagiarisme yang mana kita tidak tahu sumber data dan jawaban yang diberikan oleh ChatGPT.
“Sehingga untuk beberapa kasus yang terkait dengan hak cipta, seperti pembuatan buku dan copywriting, jangan memberikan ChatGPT untuk melakukan take over karena tetap tanggung jawab terakhir ada pada manusia,” ujar Ayu.
Risiko ketiga, dapat menimbulkan potential misuse. “Karena ChatGPT dapat kita tanya untuk membuat kode program seperti jailbreak atau sesuatu yang memang untuk menelusuri security,” cetus Ayu.
Tetapi dengan semua risiko yang ada, Ayu menilai sangat sulit juga untuk menahan pengembangan ChatGPT.
Hal itu karena saat ini juga malah banyak perusahaan teknologi yang berlomba-lomba dalam mengembangkan inovasi seperti ChatGPT dengan harga yang lebih rendah.
Lebih lanjut, European Union (EU) menganggap ChatGPT sebagai sesuatu yang high risk, dan di Indonesia sendiri belum ada aturan atau regulasi spesifik terkait penggunaan ChatGPT.