Demonstrasi sederhana ini langsug mengumpulkan lebih dari 185 ribu orang yang menyukai dan lebih dari 50 ribu retweet. Pengguna lain kemudian mempelajari tes yang lebih komprehensif untuk menangani variabel dan lebih memperkuat kasus terhadap algoritma di baliknya.
Seorang di antaranya bahkan menggunakan karakter kartun dalam bentuk Carl dan Lenny dari The Simpsons. Dalam hal ini algoritma memilih Lenny, yang berwarna kuning, bukan Carl, yang berkulit hitam.
Pada Senin Pagi, tampaknya Twitter telah membuat beberapa perubahan pada algoritmanya tersebut. Tampak dari foto Colin Madland sacara uruh bersama rekannya yang berkulit hitam.
Demonstrasi Twitter tidak diragukan lagi membantu dalam menyediakan kasus untuk dipelajari oleh Twitter, tapi penyelidikan skala besar dengan ukuran sampel yang besar dan analisis ilmiah diperlukan untuk menentukan apakah, dan sejauh mana, algoritma tersebut bias.
Eksperimen sebelumnya telah menemukan cara sistem kecerdasan buatan mengumpulkan data sering kali menjadikannya rasis dan seksis. Menurut Irene Chen, mahasiswa PhD dari dari Massachusetts Institute of Technology, AS, ini bermula dari kurangnya keragaman set data yang sering digunakan untuk melatih sistem AI.
Namun, menurut yang menulis makalah tentang topik tersebut dengan profesor MIT David Sontag dan rekan pascadoktoral Fredrik D. Johansson mengatakan, algoritma hanya sebagus data yang mereka gunakan.
"Penelitian kami menunjukkan bahwa Anda sering kali dapat membuat perbedaan yang lebih besar dengan data yang lebih baik," kata Chen.