Para Jaksa Agung dari semua 50 negara bagian di Amerika Serikat (AS) mengambil langkah tegas menangani masalah pelecehan seksual terhadap anak (CSAM) yang dibantu artificial intelligence (AI) atau kecerdasan buatan.
Saat ini banyak para pelaku kejahatan menggunakan teknologi AI untuk menciptakan gambar palsu yang sangat realistis atau konten deep fake.
Apalagi, kejahatan yang disebabkan AI sangat sulit dituntut walaupun pihak berwajib gencar menyelesaikan kasus pelanggaran terhadap anak-anak di internet.
"Kami sangat prihatin terhadap potensi eksploitasi terhadap anak-anak yang menjadi subjek foto deepfake, baik secara fisik maupun tidak, serta distribusi gambar-gambar seksual yang merugikan," tulis pernyataan resmi jaksa agung seperti dikutip Tech Crunch.
Pelecehan seksual di internet adalah ancaman serius terhadap kesejahteraan fisik, psikologis, dan emosional anak-anak yang menjadi korban, serta orang tua mereka.
Para penandatangan surat ini mendesak Kongres untuk membentuk sebuah komite yang bertugas menyelidiki solusi untuk mengatasi risiko CSAM yang dihasilkan oleh AI.
Meskipun pelarangan konten semacam ini sudah diterapkan oleh platform media sosial besar, masih ada celah untuk penyebaran konten tersebut.
Sebagai contoh, pada Maret 2023, sebuah aplikasi yang mampu mengubah wajah menjadi video menampilkan lebih dari 230 iklan di Facebook, Instagram, dan Messenger sebelum dihapus oleh Meta setelah pemberitahuan dari reporter NBC News, Kat Tenbarge.
Jaksa Agung dari 50 negara bagian Amerika Serikat berharap agar anggota parlemen membentuk sebuah komisi khusus yang akan menyelidiki dampak AI terhadap eksploitasi terhadap anak-anak.
Dalam surat mereka kepada Kongres, mereka menekankan perlunya komisi ini untuk mengembangkan solusi yang dapat mencegah pembuatan CSAM oleh AI dan memperluas pembatasan yang ada untuk mencakup CSAM yang dihasilkan oleh AI.
Pemerintah Amerika Serikat juga sedang mengevaluasi risiko-risiko terkait AI. Setelah pemerintahan Biden mengumumkan rencana untuk mempromosikan AI yang etis pada bulan Mei, Senat mengadakan sidang untuk membahas regulasi AI dengan serius.
Sementara itu, di Eropa, Parlemen Eropa telah mengesahkan undang-undang baru yang mengatur penggunaan AI berisiko tinggi. Meskipun undang-undang ini telah diusulkan sejak April 2021, sejumlah kritik mengatakan bahwa undang-undang tersebut tidak cukup melindungi migran dan pengungsi dari dampak AI.
Hal ini menunjukkan perlunya tindakan regulasi yang lebih tegas terhadap AI, terutama dalam menghadapi dampak buruk yang paling meresahkan bagi masyarakat.
Membuat deepfake pornografi yang menggambarkan orang sungguhan merupakan tindakan ilegal di beberapa wilayah Amerika Serikat.
Dilansir The Register, awal tahun 2023 ini, jaksa di Long Island, New York, mendakwa seorang pria karena membuat dan membagikan deepfake seksual eksplisit yang menggambarkan lebih dari selusin wanita di bawah umur.
Pelaku menggunakan gambar-gambar yang diambil dari profil media sosial para korbannya. Materi buatan mesin ini kemudian dibagikan ke situs-situs porno bersama dengan informasi pribadi korban beserta pernyataan profokator untuk melecehkan mereka.
Atas tindakannya ini, pelaku yang merupakan pria berusia 22 tahun itu divonis enam bulan penjara dan diberi masa percobaan sepuluh tahun dengan kondisi pelaku kejahatan seksual yang berat.
Baca Juga: Sepak Terjang Apple Kembangkan AI, Habiskan Dana Investasi Besar
Baca Juga: Platform IBM WatsonX Bantu Perusahaan Adopsi Teknologi AI Generatif