Produsen chatbot artificial intelligence (AI) atau kecerdasan buatan ChatGPT OpenAI melihat teknologi AI berpotensi memiliki dampak buruk bagi kehidupan manusia di masa depan. Karena bisa saja, jika AI itu ditangan orang yang salah seperti pengembangan AI untuk menyebar virus komputer atau pembuatan senjata, maka itu dapat merugikan umat manusia.
Karena itu, OpenAI pun membentuk tim untuk melakukan mitigasi risiko teknologi AI. Tim itu akan melakukan terobosan ilmiah dan teknis untuk bisa mengendalikan sistem AI yang jauh lebih pintar daripada manusia seperti dikutip TechSpot.
OpenAI yakin superintelligence atau kecerdasan buatan super akan menjadi teknologi paling canggih yang pernah ditemukan dan dapat membantu menyelesaikan banyak masalah dunia.
Dibalik kecanggihan teknologi, teknologi itu bisa menyerang balik manusia karena dapat dikendalikan penjahat siber tertentu untuk tujuan jahat. Jika ini terjadi, akan menyebabkan ketidakberdayaan umat manusia atau bahkan kepunahan manusia.
“Saat ini, kami tidak memiliki solusi untuk mengendalikan AI yang berpotensi superintelligent, dan mencegahnya menjadi jahat,” tulis salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike, co-head tim OpenAI.
OpenAI yakin dapat menyelesaikan tantangan teknis superintelijen dalam 4 tahun dan tidak ada jaminan akan berhasil. OpenAI sekarang telah mempekerjakan peneliti dan insinyur untuk bergabung dengan tim mereka.
"Penyelarasan superintelligence pada dasarnya adalah masalah pembelajaran mesin, dan menurut kami pakar pembelajaran mesin yang hebat bahkan jika mereka belum mengerjakan penyelarasan akan sangat penting untuk menyelesaikannya," jelas Sutskever dan Leike.
"Kami berencana membagikan hasil dari upaya ini secara luas dan memandang kontribusi terhadap penyelarasan dan keamanan model non-OpenAI sebagai bagian penting dari pekerjaan kami," lanjut mereka.
Rancangan Undang-undang
Ilustrasi Artificial Intelligence (AI).
Mayoritas perusahaan mengkritisi dan menuliskan nota protes terhadap rancangan undang-undang (RUU) artificial intelligence (AI) di Uni Eropa karena dapat membahayakan daya saing dan kedaulatan teknologi Eropa.
Nota protes itu ditandatangani oleh Yann LeCun, yang bekerja di Meta termasuk para eksekutif perusahaan lainnya seperti perusahaan telekomunikasi Spanyol Cellnex, perusahaan perangkat lunak Perancis Mirakl, dan bank investasi Jerman Berenberg, demikian Reuters melaporkan.