OpenAI dikomplain kelompok advokasi perlindungan data Eropa, noyb, atas ketidakmampuan perusahaan yang digawangi Sam Altman itu dalam memperbaiki informasi tidak akurat yang diberikan ChatGPT.
Menurut kelompok tersebut, kegagalan OpenAI dalam memastikan akurasi data pribadi yang diproses oleh ChatGPT tersebut merupakan pelanggaran terhadap Peraturan Perlindungan Data Umum (GDPR) di Uni Eropa.
“Membuat informasi palsu saja itu cukup bermasalah. Namun jika menyangkut informasi palsu tentang individu, dapat mengudang konsekuensi yang serius,” ujar Maartje de Graaf, Pengacara Perlindungan Data, noyb, seperti dikutip dari AI News.
GDPR mensyaratkan bahwa data pribadi harus akurat, dan individu berhak memperbaiki data yang tidak akurat, serta berhak mengakses informasi tentang data yang diproses dan asalnya.
OpenAI sendiri secara terbuka telah mengakui ketidakmampuannya untuk memperbaiki informasi yang tidak akurat yang dihasilkan oleh ChatGPT atau mengungkapkan sumber data yang digunakan untuk melatih model tersebut.
“Akurasi faktual dalam model bahasa besar masih menjadi area penelitian aktif,” OpenAI memberikan argumentasinya.
Noyb menyoroti laporan New York Times yang menemukan bahwa chatbot, seperti ChatGPT, “menciptakan informasi setidaknya 3 persen, dan (bisa) mencapai 27 persen.” Dalam pengaduannya, noyb mengutip contoh kasus di mana ChatGPT berulang kali memberikan tanggal lahir yang salah untuk pelapor.
Menuru noyb, si pelapor, yang merupakan tokoh masyarakat, sudah mengajukan permintaan perbaikan. Namun permintaan perbaikan atau penghapusan data itu ditolak oleh OpenAI dengan alasan data tidak dapat diperbaiki.
OpenAI mengeklaim bisa saja menyaring atau memblokir data pada prompt tertentu, tapi tindakan tersebut akan membuat ChatGPT menyaring semua informasi tentang individu tersebut.
OpenAI juga disebut noyb gagal menanggapi permintaan akses pengadu secara memadai. Padahal permintaan akses tersebut wajib dipenuhi oleh semua perusahaan, menurut GDPR.
“Sangat mungkin untuk menyimpan catatan data pelatihan yang digunakan, untuk setidaknya mendapatkan gambaran tentang sumber informasi,” ujar Maartje de Graaf. Menurutnya, sekelompok perusahaan berpikir bahwa produknya tidak harus mematuhi hukum karena embel-embel inovasi.
Dalam komplainnya, noyb meminta Otoritas Perlindungan Data Austria untuk menyelidiki praktik pemrosesan data OpenAI, memastikan kepatuhan dengan GDPR, dan menerapkan langkah-langkah untuk menjamin kepatuhan di masa depan, termasuk kemungkinan denda.