Oleh: Sherlie Karnidta, Country Manager Indonesia, Cloudera
Ketika banyak organisasi menggunakan AI untuk meningkatkan kinerja dan proses bisnis, privasi data pun menjadi semakin rumit dan penting.
Salah satu dari kemajuan AI saat ini adalah munculnya apa yang disebut agentic AI atau agen AI. Agen ini dirancang untuk menjalankan berbagai tugas secara otonom tanpa intervensi manusia, dan sesuai dengan namanya, agen AI bertindak dengan inisiatif sendiri.
Agen AI sudah diadopsi dan digunakan secara luas di berbagai industri. Di sektor keuangan, misalnya, agen AI bisa memonitor berbagai tren pasar secara mandiri, menguraikan sinyal-sinyal trading, menyesuaikan strategi, dan melakukan mitigasi risiko secara real time.
Agen-agen AI juga digunakan di sektor publik untuk meningkatkan kinerja pemerintahan, antara lain, mempermudah evaluasi kelayakan pemberian dana hibah, dan memberikan layanan kependudukan yang lebih personal.
Namun untuk dapat memberikan semua manfaat itu, agen AI akan sangat tergantung pada data pribadi dalam jumlah besar. Fakta ini pada akhirnya memunculkan kekhawatiran yang tinggi terhadap privasi dan meningkatkan ketidakpercayaan konsumen terhadap cara organisasi mengelola informasi pribadi mereka. Hal ini akan semakin serius ketika agen AI menjadi mainstream di sektor-sektor yang sangat penting dan data pribadi sangat berharga, seperti layanan kesehatan dan keuangan.
Menurut studi Understanding Asia dari Ipsos, meskipun AI membangkitkan optimisme, ada kekhawatiran yang tinggi terkait AI, privasi digital, dan keamanan. Menurut studi ini, tujuh dari 10 konsumen di Asia Pasifik khawatir dengan cara perusahaan mengumpulkan informasi pribadi mereka, dan hal ini sangat dirasakan terutama di Singapura (81%).
Di Indonesia, selain kekhawatiran akan ancaman AI terhadap dunia kerja dan potensi penggunaannya sebagai alat kejahatan, teknologi AI juga dikhawatirkan akan menimbulkan masalah keamanan data dan privasi yang membuka potensi penyalahgunaan data. Karena itulah pemerintah merilis sebuah panduan penggunaan AI yang etis sebagai langkah mitigasi potensi ancaman AI terhadap perubahan sosial, ekonomi, dan bahkan pertahanan. Panduan ini akan memastikan bahwa teknologi AI digunakan dengan mengedepankan prinsip-prinsip etika, kehati-hatian, keselamatan, dan berorientasi pada dampak positifnya.
Bertepatan dengan Data Privacy Day baru-baru ini, perusahaan harus menyadari bahwa penerapan kebijakan privasi data dan tata kelola yang kuat tidak boleh jadi sekadar sebuah perenungan, tapi merupakan elemen mendasar dari inovasi yang berkelanjutan dan bertanggungjawab.
Mengenali dan Melindungi Informasi Penting
Langkah pertama dan terpenting dalam menjaga kepercayaan konsumen adalah melindungi informasi penting dan personally identifiable information (PII) atau informasi yang dapat diidentifikasi secara pribadi. Sementara itu, di mata AI, semua data adalah sama dan akan digunakan secara serampangan, kecuali parameter yang tepat diterapkan. Memakai agen AI tanpa perlindungan data yang kuat akan menyebabkan informasi sensitif rentan terhadap penyalahgunaan.
Oleh karena itu, organisasi harus berinvestasi di platform data yang aman dan terkelola dengan baik, yang menerapkan strategi enkripsi dan tokenization yang komprehensif.
| Penulis | : | Liana Threestayanti |
| Editor | : | Liana Threestayanti |
KOMENTAR