Potensi Bahaya dari VALL-E
Dikembangkannya VALL-E tentunya membuktikan kemajuan pesat dalam bidang artificial intelligence.
Namun, di sisi lain juga menimbulkan kekhawatiran bagi sebagian pihak lantaran ada potensi bahaya yang dapat ditimbulkan.
Pasalnya, suara seseorang yang direkam menggunakan VALL-E dan direplikasi bisa saja digunakan untuk tindak kejahatan.
Misalnya, VALL-E bisa dimanfaatkan penjahat siber untuk menciptakan deepfake, dengan memakai suara dari politisi atau selebriti kemudian digabungkan dengan foto asli mereka untuk menyebarkan disinformasi atau memicu kemarahan di publik.
Selain itu, Patrick Harr selaku CEO SlashNext, mengatakan bahwa teknologi VALL-E juga bisa menjadi senjata untuk penjahat siber, yang dapat digunakan untuk kampanye vishing – serangan menggunakan panggilan telepon palsu atau pesan suara yang dianggap berasal dari kontak yang diketahui korbannya.
"Teknologi ini bisa sangat berbahaya jika berada di tangan yang salah," kata Harr, sebagaimana dikutip dari The Register.
Para peneliti di Microsoft menyadari potensi resiko berbahaya tersebut. Mereka pun mengatakan akan membuat alat pendeteksi untuk mengetahui apakah sebuah rekaman suara merupakan suara asli pembicaranya atau dibuat menggunakan VALL-E.
"Karena VALL-E dapat mereplikasi ucapan seseorang, ini dapat membawa risiko potensial dalam penyalahgunaan, seperti memalsukan identifikasi suara atau meniru identitas pembicara tertentu. Untuk mengurangi risiko tersebut, dimungkinkan untuk membangun alat deteksi untuk membedakan apakah rekaman suara direplikasi oleh VALL-E. Kami juga akan mempraktikkan Prinsip AI di Microsoft untuk mengembangkan VALL-E lebih lanjut," jelas Microsoft.
Baca Juga: Aktor Ryan Reynolds Bikin Iklan Pakai ChatGPT, Hasilnya Mencengangkan!
Baca Juga: Lagi Viral, Apa Itu ChatGPT dan Bagaimana Cara Menggunakannya?