Find Us On Social Media :

Apa saja Inovasi AI Manage Engine?, Chatbot AI hingga Pengembangan LLM

By Adam Rizal, Jumat, 7 Juli 2023 | 07:00 WIB

Ramprakash Ramamoorthy, Director of AI Research at Zoho Corporation

Teknologi artificial intelligence (AI) atau kecerdasan buatan memegang peranan penting dalam pengembangan riset dan pengembangan (RnD) ManageEngine. ManageEngine, Divisi Manajemen TI Perusahaan dari Zoho Corporation menggunakan teknologi AI dalam menciptakan inovasi dan meningkatkan pelayanan untuk produk-produknya.

Ramprakash Ramamoorthy, Director of AI Research at Zoho Corporation mengatakan ManageEngine telah melibatkan dan mengembangkan teknologi AI secara mandiri lebih dari 10 tahun untuk produk-produknya di pasar.

"Semua solusi AI kami dibuat secara internal tetapi kami telah memberikan opsi kepada pelanggan bila ingin menggunakan teknologi GPT milik OpenAI. Jika mereka ingin, sekali lagi, kami adalah perusahaan yang sangat sadar akan privasi. Perusahaan harus membayar AI terbuka, mendapatkan kunci GPT obrolan mereka dan kemudian menaruhnya di sana sehingga konteksnya tidak tercampur dengan pelanggan lain," katanya.

Sebagai perusahaan IT ternama di dunia, ManageEngine mempunyai road map dalam pengembangan AI-nya. Dalam jangka menengah, ManageEngine memiliki serangkaian LLM yang tersedia dalamdan pelanggan dapat mengintegrasikannya mirip dengan pihak ketiga lainnya. Dalam jangka panjang, ManageEngine akan membangun model bahasa besar (LLM) nya secara mandiri sehingga tidak bergantung dengan pihak ketiga.

"Jadi, kami tidak akan memiliki LLM yang melakukan segalanya, tetapi kami akan memiliki LLM yang dapat mengidentifikasi malware dan dapat menganalisa informasi dari faktur serta pesanan pembelian di inventaris meja layanan Anda," ujarnya.

ManageEngine juga mengembangkan Chatbot AI sendiri berbasis GPT yang bertugas di lingkungan internal perusahaan Zoho. Chatbot AI ManageEngine dapat melakukan banyak hal, mulai dari service desk hingga bidang end point yang memungkinkan Anda mengajukan pertanyaan.

"Chatbot kami tidak dibangun dengan model LLM. Ini hanya model yang kecil dan berhasil. Kami juga sedang mengembangkan LLM kami sendiri," ucapnya.

Tantangan Pengembangan AI

Ramprakash mengakui tantangan utama pengembangan AI adalah ketersediaan data, mengingat ManageEngine adalah perusahaan yang mengedepankan privasi. Banyak pengembangan AI terjadi di area di mana Anda terus menambahkan lebih banyak data ke model-model AI ini tetapi algoritmanya setidaknya sudah berumur 10 tahun.

Sebagai contoh, arsitektur transformator, yang menjadi dasar model bahasa besar ini berasal dari tahun 2017 karena memang tidak banyak inovasi yang terjadi di bidang algoritma.

"Jadi, satu hal yang kami kerjakan di mesin pengelola adalah mencoba melihat apakah kami dapat membawa lebih banyak algoritme yang membutuhkan lebih sedikit data untuk melatih atau memberikan tingkat akurasi yang sama," ujarnya.

Tantangan lainnya adalah ketersediaan pasokan komponen GPU AI yang mahal dan langka di pasar yang berdampak kepada kualitas komputasi AI yang rendah.