Apple mengambil langkah tegas dengan menghapus tiga aplikasi dari App Store yang terbukti mempromosikan kemampuan untuk membuat konten pornografi berbasis AI. Menurut laporan yang diterbitkan oleh 404 Media melalui AppleInsider pada tanggal 30 April, aplikasi-aplikasi ini menjanjikan kemampuan "membuka pakaian perempuan secara gratis" dalam iklan mereka di Instagram dan situs-situs dewasa.
Meskipun terdaftar sebagai "pembuat seni" di App Store, aplikasi-aplikasi ini sebenarnya memiliki fungsi yang jauh lebih kontroversial karena menciptakan gambar telanjang tanpa persetujuan menggunakan AI. Fungsi ini memanfaatkan AI untuk merekonstruksi gambar tubuh telanjang di bawah pakaian, yang berpotensi digunakan untuk tindakan pemerasan atau pelecehan terhadap perempuan.
Aplikasi-aplikasi ini telah tersedia di App Store sejak tahun 2022 dan awalnya tidak mencurigakan tetapi ternyata pengembangnya mempromosikan kemampuan pornografi tersebut di situs dewasa tanpa sepengetahuan Apple dan Google.
Meskipun awalnya Apple dan Google mengizinkan keberadaan aplikasi-aplikasi ini di toko aplikasi mereka dengan syarat menghentikan iklan di situs dewasa, Google baru-baru ini mencabut salah satu aplikasi tersebut dari Play Store setelah terus menayangkan iklan di situs dewasa.
Keputusan ini datang menjelang konferensi WWDC yang akan diadakan pada bulan Juni 2024, di mana Apple diharapkan akan mengumumkan perkembangan AI pada iOS 18 dan Siri. Langkah ini diambil sebagai bagian dari upaya Apple untuk menjaga citra positif mereka, terutama setelah keputusan mereka untuk melisensikan artikel dari penerbit untuk melatih AI generatif mereka.
Kasus ini menyoroti urgensi regulasi yang lebih ketat dalam penggunaan AI, terutama terkait pembuatan dan distribusi konten yang dianggap tidak etis atau membahayakan privasi individu. Diskusi yang mendalam tentang batas-batas etis penggunaan AI diperlukan untuk mencegah penyalahgunaan teknologi ini di masa mendatang.
Peristiwa ini tidak hanya memengaruhi reputasi Apple dan Google sebagai pelindung data pengguna, tetapi juga memicu diskusi lebih lanjut tentang implementasi AI dalam masyarakat. Di tengah perkembangan teknologi AI yang pesat, perusahaan teknologi besar harus proaktif dalam mengaudit dan memonitor aplikasi yang diizinkan di platform mereka, guna memastikan kepatuhan terhadap norma etika dan hukum yang berlaku.
Baca Juga: Saingi AS, China Berikan Subsidi ke Perusahaan Agar Beli Chip Lokal
Baca Juga: Alasan Kehadiran Starlink Tak Bakal Mengancam Bisnis PJI Lokal
| Penulis | : | Adam Rizal |
| Editor | : | Adam Rizal |
KOMENTAR