"Hai kamera, ini muka saya. Bisa melihatnya?" tanya Joy Buolamwini, ilmuwan komputer berdarah Ghana-Amerika di depan kamera facial recognition atau pengenal wajah. Buolamwini yang memiliki kulit hitam karena keturunan Ghana yang dimilikinya, tak bisa dikenali oleh kamera. "Kamu (kamera) bisa melihat wajahnya?" tanya Buolamwini lagi, saat rekan kulit putihnya ganti melihat ke arah kamera pengenal wajah.
Kamera kini berhasil mengidentifikasi. "Kalau wajahku?", coba Buolamwini lagi dengan memperlihatkan wajahnya tampa kacamata atau aksesoris lainnya. Kamera pengenal wajah tetap gagal mendeteksi wajahnya.
Wajah Buolamwini baru bisa dikenali kamera pengenal wajah, saat ia mengenakan topeng bewarna putih. Itu adalah sepenggal gambaran presentasi Buolamwini di acara Ted Talk berjudul "How I'm Fighting Bias in Algorithms" saat mengupas bagaimana algoritma teknologi facial recognition sangat bias terhadap ras.
Video itu tayang sejak Maret 2017 silam, jauh sebelum aksi protes rasial bergema di beberapa negara Amerika dan negara Eropa lain beberapa pekan terakhir. Aksi protes itu merupakan respons atas kematian George Floyd, pria kulit hitam yang meregang nyawa, saat oknum polisi kulit putih Minneapolis menindih lehernya dengan dengkul. "Saya tidak bisa bernafas," ucap Floyd, di detik-detik terakhir kematiannya. Video kekerasan oknum polisi itupun viral dan membuat amuk warganet, dan merembet ke aksi protes di dunia nyata. Slogan "Black lives matter" pun bergaung di mana pun.
Jadi perhatian perusahaan teknologi Isu rasial ini ternyata menjadi perhatian perusahaan Silicon Valley. Tidak hanya sekadar mengecam, mereka pun sampai melakukan langkah bisnis yang bisa dibilang berani.
Salah satunya melarang penggunaan teknologi facial recognition buatan mereka, yang sudah lama disinyalir bias ras tertentu. Dimulai dari IBM yang langsung mengumumkan bahwa mereka berhenti dari bisnis facial recognition.
Arvind Krishna, CEO IBM beralasan teknologi itu bisa digunakan untuk menargetkan kaum minoritas, atau melanggar HAM. Tak berapa lama setelah pengumuman IBM, Amazon ikut melakukan langkah serupa, tapi lebih lunak. Perusahaan teknologi milik Jeff Bezos itu melarang kepolisian AS menggunakan Rekognition, teknologi pengenal wajah buatannya. Tapi pihak lain - non kepolisian - masih boleh menggunakannya.
"Kami menerapkan moratorium selama satu tahun terhadap polisi terkait penggunaan teknologi pengenalan wajah besutan Amazon (Rekognition)," ujar pihak Amazon.
Sehari berselang, Microsoft ikut-ikutan. Seperti Amazon, Microsoft juga membatasi kepolisian AS menggunakan teknologi pengenal wajah buatannya. Microsoft tidak akan lagi menjual teknologi facial recogniton ke kepolisian AS, sampai ada regulasinya.
Seperti Amazon, Microsoft masih memperbolehkan departemen lain menggunakan teknologinya, dengan sejumlah syarat yang sedang dirancang. Perusahaan yang bermarkas di Seattle itu berencana membuat poin-poin tinjauan yang lebih jauh dari apa yang ada saat ini.
Peninjauan itu akan dipakai untuk menentukan apakah teknologi pengenal wajah akan dipakai untuk kepentingan di luar penegakan hukum.
"Intinya kami ingin melindungi hak asasi orang-orang sembari teknologi ini digunakan," jelas Presiden Microsoft, Brad Smith.