Produsen chatbot artificial intelligence (AI) atau kecerdasan buatan ChatGPT OpenAI melihat teknologi AI berpotensi memiliki dampak buruk bagi kehidupan manusia di masa depan. Karena bisa saja, jika AI itu ditangan orang yang salah seperti pengembangan AI untuk menyebar virus komputer atau pembuatan senjata, maka itu dapat merugikan umat manusia.
Karena itu, OpenAI pun membentuk tim untuk melakukan mitigasi risiko teknologi AI. Tim itu akan melakukan terobosan ilmiah dan teknis untuk bisa mengendalikan sistem AI yang jauh lebih pintar daripada manusia seperti dikutip TechSpot.
OpenAI yakin superintelligence atau kecerdasan buatan super akan menjadi teknologi paling canggih yang pernah ditemukan dan dapat membantu menyelesaikan banyak masalah dunia.
Dibalik kecanggihan teknologi, teknologi itu bisa menyerang balik manusia karena dapat dikendalikan penjahat siber tertentu untuk tujuan jahat. Jika ini terjadi, akan menyebabkan ketidakberdayaan umat manusia atau bahkan kepunahan manusia.
“Saat ini, kami tidak memiliki solusi untuk mengendalikan AI yang berpotensi superintelligent, dan mencegahnya menjadi jahat,” tulis salah satu pendiri OpenAI Ilya Sutskever dan Jan Leike, co-head tim OpenAI.
OpenAI yakin dapat menyelesaikan tantangan teknis superintelijen dalam 4 tahun dan tidak ada jaminan akan berhasil. OpenAI sekarang telah mempekerjakan peneliti dan insinyur untuk bergabung dengan tim mereka.
"Penyelarasan superintelligence pada dasarnya adalah masalah pembelajaran mesin, dan menurut kami pakar pembelajaran mesin yang hebat bahkan jika mereka belum mengerjakan penyelarasan akan sangat penting untuk menyelesaikannya," jelas Sutskever dan Leike.
"Kami berencana membagikan hasil dari upaya ini secara luas dan memandang kontribusi terhadap penyelarasan dan keamanan model non-OpenAI sebagai bagian penting dari pekerjaan kami," lanjut mereka.
Rancangan Undang-undang
Mayoritas perusahaan mengkritisi dan menuliskan nota protes terhadap rancangan undang-undang (RUU) artificial intelligence (AI) di Uni Eropa karena dapat membahayakan daya saing dan kedaulatan teknologi Eropa.
Nota protes itu ditandatangani oleh Yann LeCun, yang bekerja di Meta termasuk para eksekutif perusahaan lainnya seperti perusahaan telekomunikasi Spanyol Cellnex, perusahaan perangkat lunak Perancis Mirakl, dan bank investasi Jerman Berenberg, demikian Reuters melaporkan.
Sebelumnya, anggota parlemen Uni Eropa menyetujui seperangkat aturan RUU AI. RUU itu mengharuskan sistem seperti ChatGPT mengungkapkan konten yang dihasilkan AI, membantu membedakan apa yang disebut gambar palsu dari yang asli, dan memastikan perlindungan terhadap konten ilegal.
Sejak ChatGPT menjadi populer, beberapa surat terbuka telah dikeluarkan untuk menyerukan regulasi AI dan meningkatkan "risiko kepunahan AI". Penandatangan surat sebelumnya termasuk Elon Musk, CEO OpenAI Sam Altman, dan Geoffrey Hinton dan Yoshua Bengio - dua dari tiga yang disebut "ayah baptis AI".
Cedric O, Mantan Menteri Digital Prancis menyatakan pihaknya membidik versi Parlemen Eropa karena mereka memutuskan untuk beralih dari pendekatan berbasis risiko ke pendekatan berbasis teknologi, yang tidak ada dalam teks awal.
RUU itu juga memperingatkan teknologi seperti AI generatif akan diatur secara ketat. Perusahaan yang mengembangkan sistem semacam itu juga akan menghadapi biaya kepatuhan yang tinggi dan risiko kewajiban yang tidak proporsional. Peraturan tersebut dapat menyebabkan perusahaan yang sangat inovatif memindahkan aktivitas mereka ke luar negeri dan investor menarik modal mereka dari pengembangan AI Eropa secara umum.
| Source | : | TechSpot |
| Penulis | : | Adam Rizal |
| Editor | : | Adam Rizal |
KOMENTAR