Masyarakat Sebagai Target AI
AI kini banyak dimanfaatkan untuk membuat konten, termasuk konten iklan. Dengan dukungan AI, perusahaan dapat memanfaatkan big data untuk menyesuaikan pesan iklan dengan preferensi individu, sehingga menciptakan konten yang lebih relevan bagi audiens.
Personalisasi ini tidak hanya meningkatkan pengalaman pengguna secara keseluruhan, tetapi juga menghasilkan iklan dengan konsep unik dan menarik minat mereka. Bahkan, 37% responden mengatakan tertarik dengan iklan yang didukung oleh AI dan menganggapnya sebagai bagian dari pengalaman digital mereka.
Selain itu, lebih dari sekedar personalisasi iklan dan marketing, AI juga kerap digunakan untuk proses pengambilan keputusan algoritmik di berbagai sektor, seperti persetujuan pinjaman dan rekrutmen kerja. Dengan tujuan untuk pengambilan keputusan secara lebih cepat dan berbasis data, pemanfaatan AI yang berbasis mesin pembelajaran ini pun memunculkan kekhawatiran akan risiko bias dan diskriminasi dalam penerapannya.
Risiko yang Dibawa oleh AI
AI merupakan pedang bermata dua. Selain menawarkan potensi yang sangat besar, pemanfaatan teknologi ini juga memiliki segudang risiko. Tak hanya ancaman terhadap berkurangnya lapangan pekerjaan di Indonesia, AI juga menimbulkan kekhawatiran dari sisi privasi, keamanan, hingga bias.
Teknologi AI yang berasal dari machine learning membawa risiko bias dan diskriminasi ketika dimanfaatkan untuk pengambilan keputusan dalam konteks perekrutan tenaga kerja, persetujuan pinjaman, dan peradilan pidana.
Sementara itu, pengumpulan dan pemanfaatan data pribadi secara ekstensif untuk pengaplikasian teknologi AI menimbulkan pertanyaan tentang privasi data. Hal ini berpotensi pada pelanggaran data hingga penyalahgunaan informasi pribadi.
Lebih dari itu, semakin canggihnya serangan siber yang didukung AI pun turut membawa ancaman serius terhadap keamanan online. Dengan minimnya keterampilan literasi internet yang diajarkan dalam sistem pendidikan di Indonesia, risiko penipuan yang didukung AI menjadi semakin meresahkan.
Untuk itu, Populix menyarankan agar perusahaan-perusahaan di Indonesia perlu mengambil serangkaian upaya untuk memastikan penggunaan AI yang bertanggung jawab.
Misalnya, untuk mengurangi risiko bias dalam penggunaan AI, perusahaan dapat melakukan audit pada data yang digunakan untuk melatih model AI. Selain itu, penting untuk memastikan bahwa pengumpulan data dan pelabelan data bersifat netral serta mencakup representatif demografi yang merata.
Pada tahap desain dan pengembangan model AI, Populix memberikan saran agar perusahaan juga menetapkan pedoman etika yang jelas dan sejalan dengan nilai-nilai masyarakat dan standar hukum yang berlaku, serta melakukan uji coba dan pengecekan secara berkala untuk mendeteksi masalah-masalah keamanan dan privasi yang berpotensi timbul di kemudian hari.
Hal terakhir yang perlu diperhatikan oleh perusahaan adalah memastikan transparansi dengan memberikan penjelasan terperinci mengenai cara sistem AI beroperasi dan mengambil keputusan. Dengan menerapkan serangkaian upaya-upaya ini, perusahaan-perusahaan di Indonesia diharapkan dapat semakin berkembang dengan dukungan dan penerapan AI yang bertanggung jawab.
Whitepaper ini disusun berdasarkan hasil penelitian yang dilakukan dengan menggabungkan beberapa metode, termasuk interview, review literatur, dan survei online pada bulan September 2023.
Survei dilakukan selama 2 minggu secara online melalui platform Poplite by Populix terhadap total 1.246 responden laki-laki dan perempuan Gen Z dan Milenial di Indonesia.
Baca juga: McKinsey: Adopsi AI Generatif, Manajemen Perlu Jawab 4 Pertanyaan Ini
Baca juga: Bos Nvidia Peringatkan AI Kalahkan Kecerdasan Manusia 5 Tahun Lagi
| Penulis | : | Liana Threestayanti |
| Editor | : | Liana Threestayanti |
KOMENTAR