Microsoft memblokir sejumlah kata kunci perintah di aplikasi AI Copilot yang berpotensi menghasilkan gambar terlarang dan mengandung unsur kekerasan, seksual, dan konten terlarang lainnya. Tindakan ini dilakukan sebagai respons terhadap surat yang ditulis oleh seorang karyawan Microsoft, Shane Jones, kepada Federal Trade Commission (FTC), yang menyampaikan keluhan-keluhan terkait teknologi kecerdasan buatan generatif milik perusahaan tersebut.
Microsoft menyatakan bahwa mereka terus memantau, menyesuaikan, dan menambahkan kontrol tambahan untuk memperkuat filter keamanan mereka dan mengurangi penyalahgunaan sistem. "Kami terus memantau, menyesuaikan dan membuat kontrol tambahan untuk lebih memperkuat filter keamanan kami dan mengurangi penyalahgunaan sistem," kata Microsoft dikutip dari Engadget.
Ketika pengguna mengetik perintah yang mengandung kata kunci yang telah diblokir seperti "pro choice", "four twenty", atau "pro life", AI Copilot akan menampilkan pesan bahwa perintah tersebut telah diblokir. Akun pengguna yang melanggar kebijakan berulang kali akan ditangguhkan oleh Copilot.
Pengguna yang meminta menghasilkan gambar anak-anak memegang senjata atau gambar dengan unsur serupa akan diberi peringatan bahwa permintaan tersebut melanggar kebijakan Microsoft dan prinsip etik Copilot.
Sebelumnya, Shane Jones telah memperingatkan Microsoft tentang kemungkinan gambar-gambar terlarang yang dapat dihasilkan oleh Copilot. Dia menemukan bahwa aplikasi kecerdasan buatan ini dapat menghasilkan gambar yang mengandung konten terlarang, seperti gambar kekerasan terhadap anak, saat menguji Copilot Designer sejak Desember lalu. Shane Jones telah mengirim surat kepada FTC dan dewan direksi Microsoft untuk menghadirkan persoalan ini pada pekan ini.
Nasib Gemini AI
Gemini Advanced
Raksasa teknologi Google menghentikan sementara fitur pembuat gambar berbasis AI (artificial intelligence) atau kecerdasan buatan di aplikasi Gemini AI setelah mengungkapkan bahwa fitur tersebut memiliki masalah "ketidakakuratan" dalam menghasilkan gambar-gambar terkait sejarah.
Mengutip dari laman web CNBC International, para pengguna di media sosial telah mengeluhkan bahwa Gemini AI menghasilkan gambar tokoh-tokoh bersejarah - seperti para founding father (bapak bangsa) Amerika Serikat – dengan warna kulit yang tidak sesuai dan menggambarkannya secara tidak akurat.
Google mengatakan dalam sebuah postingan di X pada hari Rabu (21/02/2024), bahwa fitur AI dapat "menghasilkan berbagai macam orang. Dan itu umumnya merupakan hal yang baik karena orang-orang di seluruh dunia menggunakannya."
Namun dikatakan bahwa fitur di Gemini AI tersebut "meleset dari sasaran di sini (menghasilkan) gambar sejarah)," dan menambahkan bahwa Google "sedang berupaya untuk memperbaiki penggambaran semacam ini dengan segera."
Google memposting pernyataan terbaru pada hari Kamis (22/02/2024), mengatakan bahwa mereka akan menghentikan sementara fitur Gemini AI untuk menghasilkan gambar orang dan akan segera merilis kembali versi yang lebih baik. “Konteks sejarah memiliki lebih banyak nuansa dan kami akan menyesuaikannya lebih lanjut untuk mengakomodasi hal tersebut,” kata Jack Krawczyk, Direktur Senior Produk Gemini AI di Google.
Fitur penghasil gambar dengan AI diluncurkan Google pada awal Februari melalui Gemini AI, yang sebelumnya bernama Bard. Gemini AI menghadapi tantangan di saat Google berusaha mengejar ketertinggalannya dari OpenAI yang didukung oleh Microsoft.
Sementara Google menghadapi masalah dengan pembuatan gambar Gemini, OpenAI baru-baru ini telah meluncurkan Sora, model AI generatif barunya yang mampu menghasilkan video berdasarkan teks yang dimasukkan penggunanya.
Baca Juga: Pengguna Chatbot AI Pi Tembus Satu Juta, Lebih Canggih dari ChatGPT
Baca Juga: Bos ChatGPT Kembangkan Energi Nuklir Buat Jalankan Server AI