Para Jaksa Agung dari semua 50 negara bagian di Amerika Serikat (AS) mengambil langkah tegas menangani masalah pelecehan seksual terhadap anak (CSAM) yang dibantu artificial intelligence (AI) atau kecerdasan buatan.
Saat ini banyak para pelaku kejahatan menggunakan teknologi AI untuk menciptakan gambar palsu yang sangat realistis atau konten deep fake.
Apalagi, kejahatan yang disebabkan AI sangat sulit dituntut walaupun pihak berwajib gencar menyelesaikan kasus pelanggaran terhadap anak-anak di internet.
"Kami sangat prihatin terhadap potensi eksploitasi terhadap anak-anak yang menjadi subjek foto deepfake, baik secara fisik maupun tidak, serta distribusi gambar-gambar seksual yang merugikan," tulis pernyataan resmi jaksa agung seperti dikutip Tech Crunch.
Pelecehan seksual di internet adalah ancaman serius terhadap kesejahteraan fisik, psikologis, dan emosional anak-anak yang menjadi korban, serta orang tua mereka.
Para penandatangan surat ini mendesak Kongres untuk membentuk sebuah komite yang bertugas menyelidiki solusi untuk mengatasi risiko CSAM yang dihasilkan oleh AI.
Meskipun pelarangan konten semacam ini sudah diterapkan oleh platform media sosial besar, masih ada celah untuk penyebaran konten tersebut.
Sebagai contoh, pada Maret 2023, sebuah aplikasi yang mampu mengubah wajah menjadi video menampilkan lebih dari 230 iklan di Facebook, Instagram, dan Messenger sebelum dihapus oleh Meta setelah pemberitahuan dari reporter NBC News, Kat Tenbarge.
Jaksa Agung dari 50 negara bagian Amerika Serikat berharap agar anggota parlemen membentuk sebuah komisi khusus yang akan menyelidiki dampak AI terhadap eksploitasi terhadap anak-anak.
Dalam surat mereka kepada Kongres, mereka menekankan perlunya komisi ini untuk mengembangkan solusi yang dapat mencegah pembuatan CSAM oleh AI dan memperluas pembatasan yang ada untuk mencakup CSAM yang dihasilkan oleh AI.
Pemerintah Amerika Serikat juga sedang mengevaluasi risiko-risiko terkait AI. Setelah pemerintahan Biden mengumumkan rencana untuk mempromosikan AI yang etis pada bulan Mei, Senat mengadakan sidang untuk membahas regulasi AI dengan serius.
Sementara itu, di Eropa, Parlemen Eropa telah mengesahkan undang-undang baru yang mengatur penggunaan AI berisiko tinggi. Meskipun undang-undang ini telah diusulkan sejak April 2021, sejumlah kritik mengatakan bahwa undang-undang tersebut tidak cukup melindungi migran dan pengungsi dari dampak AI.