OpenAI mengumumkan pembentukan tim khusus yang akan bertugas untuk memantau dan mengelola resiko dari superintelligence AI (Artficial Intelligence).
Superintelligence AI adalah model AI yang diprediksi bakal lebih pintar daripada manusia yang paling berbakat dan cerdas sekalipun, unggul di berbagai bidang keahlian, serta kemampuannya bukan di satu domain saja seperti beberapa model AI yang sudah ada saat ini.
OpenAI sendiri percaya model AI seperti itu bisa tiba di dunia sebelum akhir dekade ini. "Superintelligence akan menjadi teknologi paling berpengaruh yang pernah ditemukan manusia, dan dapat membantu kita memecahkan banyak masalah paling penting di dunia," tulis OpenAI dalam blog resminya.
“Tetapi kekuatan superintelligence yang sangat besar juga bisa sangat berbahaya, dan dapat menyebabkan ketidakberdayaan umat manusia atau bahkan kepunahan manusia,” sambungnya.
Untuk mengelola resiko ini, OpenAI menilai diperlukannya lembaga baru untuk tata kelola dan penyelesaian masalah untuk penyelarasan superintelligence.
Tim khusus baru yang disebut dengan Superalignment itu bakal dipimpin oleh Chief of Scientist OpenAI Ilya Sutskever dan Head of Alignment di laboratorium penelitian, Jan Leike.
Selain itu, OpenAI juga mengungkapkan bakal mendedikasikan 20 persen dari daya komputasi yang dimiliki saat ini untuk fokus digunakan mendukung inisiatif tersebut, dengan tujuan mengembangkan sistem automated alignment researcher.
Sistem seperti itu dinilai akan membantu OpenAI dalam memastikan superintelligence aman untuk digunakan dan selaras dengan nilai-nilai kemanusiaan.
“Meskipun ini adalah tujuan yang sangat ambisius dan kami tidak menjamin berhasil, kami optimis bahwa upaya yang terfokus dan terpadu dapat menyelesaikan masalah ini,” tulis OpenAI.
“Ada banyak ide yang menjanjikan dalam eksperimen pendahuluan, kami memiliki metrik yang semakin berguna untuk kemajuan, dan kami dapat menggunakan model saat ini untuk mempelajari banyak masalah ini secara empiris,” sambungnya.
Pihak OpenAI senderi menargetkan dapat memecahkan tantangan teknis inti dari penyelarasan superintelligence dalam empat tahun. OpenAI pun akan membagikan road map (peta jalan) di masa depan.
Untuk mendukung tim ini, saat ini OpenAI juga sedang mencari peneliti dan insinyur Machine Learning (ML) untuk bergabung.
Pengumuman OpenAI ini sendiri datang di saat pemerintah di seluruh dunia tengah mempertimbangkan bagaimana mengatur industri AI yang baru lahir.