Ketika permainan game online berlangsung seperti Mobile Legends dan Call of Duty, sering terjadi ada beberapa pemain yang melontarkan makian atau kata-kata kasar ke pemain lainnya untuk mengungkapkan kekesalannya.
Apalagi, jika permainan berakhir kalah atau ada beberapa pemain yang melakukan kecurangan, ungkapan kata-kata kotor sering terdengar dan menciptakan lingkungan bermain yang tidak sehat.
Baru-baru ini Activision menggandeng Modulate untuk menyelesaikan masalah ini di game Call of Duty.
Modulate memiliki sistem AI ToxMod yang mampu mengidentifikasi ancaman seperti ujaran kebencian, radikalisasi, dan tindakan yang merugikan secara real-time.
Sistem AI ToxMod memiliki tiga tahap yaitu triase, analisis, dan eskalasi. ToxMod mendengarkan semua percakapan suara dan menandai percakapan yang memerlukan perhatian lebih lanjut.
Michael Vance, Chief Technology Officer Activision mengatakan integrasi ToxMod dapat membantu dalam mencegah respons yang beracun secara keseluruhan, dan akan bekerja berdampingan dengan sistem pelaporan yang sudah ada yang berfokus pada teks.
"Mengatasi gangguan dalam obrolan suara, khususnya, telah menjadi tantangan besar dalam dunia game," katanya.
Kemudian, data-data yang dicatat oleh ToxMod akan disimpan di server. Sedangkan, data-data lainnya diproses langsung di perangkat pemain.
Berkat sistem AI ini, Modulate berhasil melakukan evaluasi segala hal, termasuk intonasi dan emosi, menganalisis tidak hanya "apa yang dikatakan, tetapi juga bagaimana kata-kata tersebut diucapkan dan bagaimana pemain lain meresponsnya"
Sistem AI ini akan memberitahu moderator tentang insiden yang paling tidak menyenangkan, dan kemudian moderatorlah yang mengambil tindakan lebih lanjut. Menurut perusahaan, ini adalah "solusi moderasi suara asli" satu-satunya yang tersedia saat ini, yang telah berhasil melindungi "puluhan juta pemain".
"Melalui kolaborasi ini, kami kini menghadirkan teknologi machine learning yang paling canggih dari Modulate yang dapat diimplementasikan secara real-time secara global," ucapnya.
Michael mengatakan, "Cara ini adalah langkah signifikan dalam menciptakan dan mempertahankan pengalaman bermain yang menyenangkan, adil, dan bersahabat bagi semua pemain."