Melaney Ricardo, selebriti dan presenter Indonesia adalah salah satu korban dari bahaya teknologi deepfake ini.
“Penipu tersebut menggunakan kecanggihan AI untuk meniru suara dan gambar saya dari YouTube, seolah-olah saya mendukung produk penurun berat badan yang mereka jual. Bahkan keluarga saya, yang dekat dan kenal baik dengan saya, sempat menghubungi saya dan bertanya apakah produk tersebut benar-benar efektif," ungkap Melaney dalam acara VIDA Executive Summit 2024.
"Ini menunjukkan betapa meyakinkannya endorsement tersebut sehingga keluarga saya sendiri tidak bisa mengenali bahwa itu sebenarnya adalah video rekayasa dari hasil AI. Bayangkan betapa banyak orang di luar sana yang tidak mengenal saya secara pribadi bisa terjebak untuk membeli produk yang kemungkinan mengandung unsur-unsur berbahaya,” tambahnya.
Lebih lanjut, dalam lanskap keamanan siber saat ini, Mikko menyampaikan bahwa serangan siber kini tidak lagi dilakukan oleh individu, melainkan oleh kelompok-kelompok kriminal yang sangat terorganisir.
Kelompok-kelompok ini memanfaatkan teknologi terbaru, menyesuaikan serangan, dan membentuk kemitraan strategis untuk memaksimalkan keuntungan material.
Kejahatan siber telah berkembang menjadi sebuah model bisnis layaknya perusahaan-perusahaan pada umumnya.
Di satu sisi, Indonesia sendiri menghadapi jumlah serangan siber yang mencengangkan, mencapai 279,84 juta pada tahun 2023, menurut data dari Badan Siber dan Sandi Negara (BSSN). Hal ini menyoroti tingkat ancaman yang cukup tinggi.
Mikko menyatakan, “Jika organisasi kriminal ini adalah perusahaan yang sah, mereka akan dianggap sebagai unicorn karena pendapatan, profitabilitas, dan pertumbuhannya yang sangat signifikan. Namun, berbeda dengan perusahaan teknologi yang sukses, organisasi ini tidak akan pernah melantai di bursa saham atau mencari strategi keluar. Situasi ini menekankan betapa besar skala masalah kejahatan siber saat ini.”
Selain itu, organisasi kriminal ini peduli akan branding dan mulai membangun citra mereka dengan nama, situs web, dan logo. Hal ini mencerminkan betapa besarnya kehadiran mereka dalam lanskap kriminal global.
“Maka dari itu, penting bagi perusahaan untuk mengadopsi solusi canggih guna mengatasi ancaman yang dapat membahayakan operasi mereka dan mengancam keamanan pelanggan mereka,” pungkasnya.
Baca Juga: Mantan Desainer Legendaris iPhone Garap Hardware AI Pesanan OpenAI