Layanan Google Gemini AI dilaporkan melanggar privasi pengguna dengan mengakses dan membaca dokumen pribadi pengguna di Google Drive tanpa izin eksplisit. Informasi ini berasal dari laporan Kevin Bankston di platform X. Awalnya, Ia mencoba menyuruh Gemini AI untuk mengakses dokumen pribadinya di Google Drive dan ternyata berhasil, menunjukkan bahwa Gemini AI telah mengakses area privasi tersebut.
"Masalah ini sangat serius, terutama bagi perusahaan sebesar Google, karena menunjukkan kurangnya kontrol terhadap informasi pribadi yang sensitif. Masalah ini terjadi di layanan cloud Google Drive dan bukan secara khusus di Google Docs, meskipun kemungkinan besar juga dapat mempengaruhi Docs," katanya.
Seharusnya, layanan Google Drive tidak bisa diakses secara langsung karena sangat menuntut privasi pengguna. Namun, menurut AI Gemini, pengaturan privasi yang seharusnya tersedia tidak dapat diakses. Ada kemungkinan AI “berhalusinasi” atau ada bugs pada sistem internal Google.
Bankston menemukan pengaturan yang seharusnya mengatur Gemini AI, tetapi pengaturan ini sudah dinonaktifkan dan berada di tempat yang berbeda dari yang diarahkan oleh bot Gemini. Masalah terjadi setelah pengguna menekan tombol Gemini pada setidaknya satu dokumen di Google Drive, dan kemudian secara otomatis memicu AI Gemini untuk semua file dengan tipe yang sama.
Bankston menduga masalah ini mungkin disebabkan oleh pengaktifannya terhadap Google Workspace Labs pada tahun 2023, yang mungkin menimpa pengaturan AI Gemini yang dimaksudkan. Meskipun masalah ini mungkin terbatas pada pengguna Google Workspace Labs, dampaknya cukup signifikan karena berkaitan dengan informasi sensitif.
Hal ini sangat mengkhawatirkan, karena Google dinilai gagal menjaga prinsip persetujuan pengguna secara mendetail, terutama dalam menangani informasi sensitif. Masalah privasi ini harus segera ditangani oleh Google untuk menjaga kepercayaan pengguna terhadap layanan mereka.
Baca Juga: Amazon Pastikan Asisten AI Rufus Tersedia untuk Pelanggan di AS