Akhirnya, Badan Perserikatan Bangsa-bangsa (PBB) meresmikan Badan Penasihat Tingkat Tinggi untuk Kecerdasan Buatan (High-Level Advisory Body on Artificial Intelligence).
"Langkah ini diambil untuk memperbaiki tata kelola global terhadap perkembangan pesat teknologi AI," kata Sekretaris Jenderal Perserikatan Bangsa-Bangsa (PBB) Antonio Guterres.
Guterres mengakui teknologi AI memiliki potensi luar biasa dalam mendorong kemajuan manusia, tetapi juga dapat menimbulkan kerugian. Dalam berbagai aspek, seperti prediksi dan penanganan krisis, pelayanan kesehatan masyarakat, dan pendidikan, AI dapat meningkatkan upaya pemerintah, masyarakat sipil, dan PBB secara menyeluruh.
"AI dapat mempercepat tindakan iklim dan pencapaian Tujuan Pembangunan Berkelanjutan (SDG) hingga tahun 2030," katanya.
Namun, Guterres menekankan bahwa penggunaan teknologi AI harus bertanggung jawab dan dapat diakses oleh semua, termasuk negara-negara berkembang yang membutuhkannya. Saat ini, keahlian di bidang AI masih terpusat pada beberapa perusahaan dan negara, yang dapat memperdalam kesenjangan global dan digital.
Selain manfaatnya, AI juga membawa potensi risiko seperti penyebaran informasi yang keliru, bias, diskriminasi, pelanggaran privasi, penipuan, dan pelanggaran hak asasi manusia lainnya.
Guterres menyoroti bahaya bahwa penyalahgunaan AI dapat merusak kepercayaan terhadap institusi, melemahkan kohesi sosial, dan mengancam demokrasi. Karena itu, PBB telah mengadvokasi diskusi global yang melibatkan berbagai disiplin ilmu dan pemangku kepentingan, dengan tujuan memaksimalkan manfaat AI bagi semua dan meredam risikonya.
Badan penasihat ini akan beroperasi dengan prinsip-prinsip dasar yang inklusif dan didasarkan pada nilai-nilai universal yang tercantum dalam Piagam PBB. Mereka akan menghasilkan rekomendasi di tiga area kunci pada akhir tahun, yaitu tata kelola AI internasional, pemahaman bersama mengenai risiko dan tantangan, serta peluang inti untuk memanfaatkan AI guna mempercepat pencapaian SDG.
Rekomendasi dari badan penasihat ini akan berperan penting dalam persiapan acara Summit of the Future pada September tahun depan, terutama dalam konteks perundingan seputar Global Digital Compact.
Larang Senjata AI
Teknologi Artificial Intelligence (AI) dapa dikembangkan menjadi senjata mematikan
Perserikatan Bangsa-Bangsa (PBB) akan melarang penggunaan teknologi artificial intelligence (AI) atau kecerdasan buatan senjata otonom di medan perang karena banyak menimbulkan permasalahan.
Sekretaris Jenderal PBB Antonio Guterres meminta Dewan Keamanan PBB untuk membuat regulasi tentang larangan penggunaan senjata AI di medan perang, mengingat saat ini negara-negara berlomba-lomba mengembangkan AI
”Penyalahgunaan AI oleh teroris atau kejahatan lain bisa memicu kerusakan dan kematian, menyebarkan trauma yang tidak terbayangkan,” katanya dalam sidang DK PBB seperti dikutip Reuters.
Ia pun mengusulkan PBB untuk membuat peraturan yang mengikat soal larangan total penggunaan senjata otonom berbasis AI dan mengajak negara-negara untuk membuat panduan tentang tata cara penggunaan AI yang bertanggung jawab.
"Tidak ada negara tidak akan tersentuh AI. Kita harus terlibat dalam koalisi besar internasional,” katanya.
Penggunaan senjata otonom yang berbasis AI dapat meningkatkan akurasi serangan karena sudah mengolah data-data. Tentunya, penggunaan senjata otonom itu akan menggunakan peran manusia sebagai tentara dalam menyerang sasaranSiapa pun yang masuk kategori sebagai sasaran, maka akan diserang. AI tidak akan ragu memutuskan serangan, sekalipun sasarannya anak kecil.
Diplomat China di PBB Zhang Jun mengatakan regulasi apa pun yang akan dikeluarkan PBB perlu mempertimbangkan masukan semua negara. PBB tidak boleh menghambat upaya sejumlah negara mencapai kemajuan.
"China mendukung inovasi teknologi termasuk AI untuk kebaikan bagi umat manusia," katanya.
Senjata Kimia
Tak bisa dipungkiri teknologi artificial intelligence (AI) atau kecerdasan buatan akan memainkan peran penting dalam pengembangan inovasi teknologi di masa depan. Teknologi AI memberikan dampak signifikan terhadap kemaslahatan masyarakat.
Sebaliknya, teknologi AI dapat sangat mematikan tergantung kepada siapa pihak yang mengembangkannya.
Baru-baru ini, para ilmuwan memperingatkan teknologi AI dapat dikembangkan menjadi senjata kimia dan biologi yang sangat mematikan. Apalagi, belum ada regulasi dan yang mengatur pengembangan teknologi AI di dunia.
Swiss Federal Institute for Nuclear, Biological and Chemical Protection meminta para ilmuwan untuk mempelajari apakah AI dapat digunakan oleh orang-orang dengan motif tertentu. Hasilnya, teknologi AI dapat memanipulasi 40.000 senyawa beracun dalam waktu enam jam.
"Teknologi ini dapat membantu penemuan obat antibiotik dan obat-obatan lainnya untuk melawan infeksi Covid-19. Tapi, teknologi AI ini juga dapat dimanipulasi untuk mencari senyawa saraf yang beracun," kata penulis utama Fabio Urbina dalam jurnal Nature Machine Intelligence seperti dikutip Daily Mail.
Ironisnya, teknologi AI dapat menghasilkan senyawa yang lebih beracun dari senjata saraf VX yang dikembangkan oleh Defence Science and Technology Lab Inggris pada tahun 1950-an, yang menyebabkan kematian dengan mematikan sistem saraf dan otot.
"Kekhawatiran kami adalah betapa mudahnya seseorang dengan kepentingan jahat memanfaatkan teknologi ini," kata Fabio yang juga merupakan CEO dari Collaboration Pharmaceuticals di North Carolina, Amerika Serikat.
Solusinya, para ilmuwan ini meminta pihak pemerintah dan swasta untuk mengawasi dan mengevaluasi penggunaan teknologi AI secara ketat.
Minta Diatur Regulasi
Teknologi artificial intelligence (AI) atau kecerdasan buatan akan menjadi penentu inovasi dan perkembangan teknologi di masa depan, mengingat saat ini perusahaan teknologi raksasa hingga negara fokus mengembangkan artificial intelligence yang lebih canggih untuk berbagai kepentingan.
Sayangnya, pengembangan artificial intelligence tidak diatur oleh regulasi global sehingga rentan disalah gunakan.
Bisa saja, teknologi artificial intelligence ikut digunakan dalam pengembangan senjata militer yang bisa memusnahkan ras manusia.
CEO Nvidia Corp Jensen Huang mendorong artificial intelligence diatur oleh regulasi dan norma sosial karena rentan disalah gunakan. Teknologi artificial intelligence bisa digunakan untuk kebaikan dan merugikan orang lain tergantung oleh pihak yang menggunakan dan mengembangkannya.
"Jika Anda melihat inovasi artificial intelligence dapat membuat hidup nyaman dan menakjubkan untuk masyarakat tetapi teknologi (artificial intelligence) itu bisa jadi membahayakan," kata Huang dalam sebuah acara di Swedia seperti dikutip Reuters.
Huang mendesak adanya badan standarisasi teknis untuk memastikan pengembangan sistem artificial intelligence aman seperti bidang kedokteran yang membuat regulasi praktik aman.
Tentunya, Huang meminta pihak yang mengembangkan artificial intelligence untuk mengedepankan aspek hukum dan norma sosial sehingga teknologi AI memberikan kebaikan dan manfaat kepada manusia.
"Semuanya berevolusi sekarang. Semoga AI bisa membawa kita ke tempat yang lebih baik," kata Huang.
Huang adalah salah seorang tokoh penting bidang artificial intelligence (AI) karena Chip Nvidia banyak digunakan oleh perangkat komputer, termasuk komputer super yang dikembangkan Microsoft untuk OpenAI, startup yang membuat ChatGPT.
Baca Juga: Lenovo dan NVIDIA Kompak Kembangkan Layanan Bisnis Berbasis AI
Baca Juga: Bos Microsoft: AI Bantu Manusia Berinteraksi dengan Cara Baru