Peneliti China mengungkapkan celah keamanan chatbot artificiaI intelligence (AI) atau kecerdasan buatan seperti ChatGPT, Bard, dan Bing Chat yang banyak digunakan oleh perusahaan besar seperti Google, Microsoft, dan Baidu. Hasilnya, model chatbot AI itu rentan terhadap serangan siber yang menggunakan gambar manipulatif dan mampu mengelabui filter bawaan yang seharusnya bisa menyaring konten-konten berbahaya. Sebagai contoh, model seperti ChatGPT dapat salah mengidentifikasi objek atau gagal mendeteksi konten berbahaya.
Misalnya, para peneliti di Beijing telah mengidentifikasi kerentanan yang signifikan dalam model AI seperti ChatGPT. Saat diserang, model-model ini dapat salah mengira panda raksasa sebagai manusia atau gagal mendeteksi konten berbahaya, sehingga menyoroti kelemahan keamanan kritis dalam sistem AI komersial.
Bard yang memiliki kemampuan mendeteksi wajah dan konten-konten yang tidak pantas juga dapat dikelabui dan menghasilkan deskripsi konten yang tidak tepat. "Kita perlu mengendalikan risiko teknis yang lebih kuat dalam tata kelola AI," kata Wu Zhaohui (Wakil Menteri Sains dan Teknologi China) menyoroti kekhawatiran ini di KTT Keamanan AI Global di Inggris.
Para peneliti mengungkapkan adanya ketidakseimbangan antara serangan dan pertahanan terhadap model AI, dengan perluasan solusi pertahanan yang inovatif. Para peneliti pun merekomendasikan pertahanan berbasis pra-pemrosesan sebagai solusi potensial, terutama untuk model berskala besar.
"Cara Ini bertujuan memastikan ketahanan terhadap serangan musuh, mendorong penelitian lebih lanjut dalam keamanan AI. Temuan ini menekankan pentingnya infrastruktur keamanan teknologi AI untuk memastikan lingkungan digital yang lebih aman bagi pengguna global," pungkasnya.
Salah satu tantangan utama yang disoroti oleh penelitian ini adalah adanya ketidakseimbangan antara upaya yang berfokus pada menyerang dan mempertahankan model AI. Meskipun serangan musuh telah mendapatkan perhatian yang signifikan, masih terdapat kekurangan dalam strategi pertahanan yang kuat. Metode pertahanan tradisional mungkin mengorbankan akurasi dan sumber daya komputasi, sehingga pencarian solusi inovatif menjadi penting.
"Ketika model-model ini semakin terintegrasi ke dalam aplikasi sehari-hari, penting untuk memperkuat pertahanan mereka terhadap eksploitasi jahat, memastikan lanskap digital yang lebih aman dan terjamin bagi pengguna di seluruh dunia," ujarnya.
Sulit Bersaing
Ilustrasi ChatGPT.
Peluncuran GPT-4 Turbo dari OpenAI telah menarik perhatian, terutama di China, di mana para peneliti AI juga menetapkan benchmark baru di bidangnya. Kemajuan ini menandakan adanya perubahan penting, mendorong AI ke era di mana pemahaman dan menghasilkan bahasa manusia menjadi semakin canggih.
GPT-4 Turbo, gagasan OpenAI, telah meningkatkan kemampuan AI, dengan kemampuan mengingat sejumlah besar informasi tekstual dan menawarkan kepada pengembang cara yang lebih hemat biaya untuk membuat aplikasi. Terobosan ini tidak luput dari perhatian di China, tempat raksasa teknologi seperti Baidu dan Alibaba bersiap menghadapi tantangan tersebut.
perusahaan-perusahaan tersebut tidak hanya mengejar ketertinggalan tetapi juga memikirkan kembali strategi mereka untuk menyamai atau melampaui fitur-fitur model AI canggih ini. Inti pembicaraannya adalah pertanyaan tentang bagaimana mengimbangi kemajuan pesat tersebut.
Perusahaan-perusahaan dapat memilih untuk menyempurnakan model dasar mereka atau membuat solusi AI khusus untuk kebutuhan industri tertentu. Ini bukan sekadar kompetisi teknologi; ini adalah perlombaan untuk inovasi dan penerapan di seluruh industri.
Kebutuhan mendesak China akan talenta AI menggarisbawahi kebutuhan akan inovasi dalam menghadapi perkembangan internasional seperti GPT-4 Turbo. Meskipun pemerintah China menyadari potensi peningkatan ekonomi yang dapat diberikan oleh AI, pemerintah China tetap waspada terhadap tata kelola teknologinya.
Namun, upaya AI lokal China menghadapi kendala karena peraturan internet ketat yang membatasi akses ke alat AI asing seperti ChatGPT. Hal ini menciptakan ruang unik bagi solusi AI domestik untuk berkembang dan memenuhi kebutuhan spesifik pasar China.
Baca Juga: Microsoft Bakal Hadirkan Asisten Pribadi AI Copilot ke Windows 10
Baca Juga: Samsung Galaxy AI Bisa Terjemahkan Panggilan Telepon Secara Langsung