Ketika permainan game online berlangsung seperti Mobile Legends dan Call of Duty, sering terjadi ada beberapa pemain yang melontarkan makian atau kata-kata kasar ke pemain lainnya untuk mengungkapkan kekesalannya.
Apalagi, jika permainan berakhir kalah atau ada beberapa pemain yang melakukan kecurangan, ungkapan kata-kata kotor sering terdengar dan menciptakan lingkungan bermain yang tidak sehat.
Baru-baru ini Activision menggandeng Modulate untuk menyelesaikan masalah ini di game Call of Duty.
Modulate memiliki sistem AI ToxMod yang mampu mengidentifikasi ancaman seperti ujaran kebencian, radikalisasi, dan tindakan yang merugikan secara real-time.
Sistem AI ToxMod memiliki tiga tahap yaitu triase, analisis, dan eskalasi. ToxMod mendengarkan semua percakapan suara dan menandai percakapan yang memerlukan perhatian lebih lanjut.
Michael Vance, Chief Technology Officer Activision mengatakan integrasi ToxMod dapat membantu dalam mencegah respons yang beracun secara keseluruhan, dan akan bekerja berdampingan dengan sistem pelaporan yang sudah ada yang berfokus pada teks.
"Mengatasi gangguan dalam obrolan suara, khususnya, telah menjadi tantangan besar dalam dunia game," katanya.
Kemudian, data-data yang dicatat oleh ToxMod akan disimpan di server. Sedangkan, data-data lainnya diproses langsung di perangkat pemain.
Berkat sistem AI ini, Modulate berhasil melakukan evaluasi segala hal, termasuk intonasi dan emosi, menganalisis tidak hanya "apa yang dikatakan, tetapi juga bagaimana kata-kata tersebut diucapkan dan bagaimana pemain lain meresponsnya"
Sistem AI ini akan memberitahu moderator tentang insiden yang paling tidak menyenangkan, dan kemudian moderatorlah yang mengambil tindakan lebih lanjut. Menurut perusahaan, ini adalah "solusi moderasi suara asli" satu-satunya yang tersedia saat ini, yang telah berhasil melindungi "puluhan juta pemain".
"Melalui kolaborasi ini, kami kini menghadirkan teknologi machine learning yang paling canggih dari Modulate yang dapat diimplementasikan secara real-time secara global," ucapnya.
Michael mengatakan, "Cara ini adalah langkah signifikan dalam menciptakan dan mempertahankan pengalaman bermain yang menyenangkan, adil, dan bersahabat bagi semua pemain."
Tahun lalu, Activision telah memungkinkan tim moderasi game untuk membisukan pemain yang menggunakan bahasa kasar dalam obrolan suara dan teks.
ToxMod saat ini telah tersedia sebagai rilis beta dalam bahasa Inggris di Amerika Utara untuk Call of Duty: Modern Warfare II dan Call of Duty: Warzone. Rilis global di seluruh dunia, kecuali di Asia, direncanakan bersamaan dengan peluncuran Call of Duty: Modern Warfare III pada tanggal 10 November.
Baca Juga: Google BigQuery Studio Mampu Analisis dan Kelola Data AI Secara Masif
Baca Juga: Jualan Produk ChatGPT dll, Berapa 'Cuan' OpenAI dalam Sebulan?