Badan Perserikatan Bangsa-bangsa (PBB) melalui UNESCO mengungkapkan kelemahan kemampuan algoritma artificial intelligence (AI) Meta dan OpenAI dalam mengenali dan memahami konteks ketidaksetaraan gender.
Dalam laporannya melalui website unesco.org, penelitian yang melibatkan algoritma-algoritma terkenal Large Language Models (LLMs) seperti Llama 2 dari Meta dan GPT-2 serta GPT-3.5 dari OpenAI, UNESCO menemukan bahwa setiap algoritma yang dikenal sebagai menunjukkan "bukti yang tegas terhadap prasangka terhadap perempuan".
"Aplikasi AI memiliki pengaruh besar dalam membentuk persepsi masyarakat termasuk menciptakan bias gender di dalam kontennya dan memperbesar ketidaksetaraan di dunia nyata," kata Audrey Azoulay (Direktur Jenderal UNESCO).
Algoritma-algoritma AI itu cenderung menunjukkan bias terhadap perempuan, dengan mengaitkan nama-nama perempuan dengan konsep-konsep seperti "rumah" dan "keluarga", sementara nama-nama laki-laki lebih sering terkait dengan "bisnis" dan "karir".
Tak hanya itu, algoritma-algoritma itu juga cenderung mengasosiasikan pekerjaan berstatus tinggi dengan laki-laki dan pekerjaan rendah dengan perempuan. Meskipun demikian, GPT-3.5 memiliki tingkat bias yang lebih rendah dibandingkan dengan model lainnya.
UNESCO menekankan pentingnya inklusi perempuan dan minoritas dalam industri AI serta pentingnya regulasi yang etis dalam penggunaan teknologi AI.
"Perusahaan-perusahaan AI harus merekrut lebih banyak perempuan dan minoritas sambil menyerukan kepada pemerintah untuk mengatur penggunaan AI secara etis melalui regulasi yang sesuai," ucapnya.
Baca Juga: Menguasai Skill AI Dapat Tingkatkan Gaji Anda 36 Persen di Indonesia
Baca Juga: Sempat Dipecat, Sam Altman Kembali Perkuat Dewan Direksi OpenAI