Cloudera memperluas kerja samanya dengan NVIDIA guna mengakselerasi penyebaran aplikasi artificial intelligence (AI) generatif dengan mengintegrasikan microservice AI dari NVIDIA dengan Cloudera Data Platform (CDP).
Integrasi ini bertujuan membantu bisnis membangun dan menyesuaikan skala dari model bahasa besar (LLM) yang disesuaikan (customized) dengan menggunakan data perusahaan.
Cloudera nantinya akan memanfaatkan NVIDIA AI Enterprise, termasuk microservice NVIDIA Inference Manager (NIM), untuk menggali wawasan atau insight dari lebih dari 25 exabyte data yang tersimpan di CDP. Selanjutnya, informasi dalam jumlah sangat besar ini akan dimasukkan ke Cloudera Machine Learning untuk mendukung kinerja aplikasi AI generatif.
Data enterprise dipadukan dengan platform full-stack yang komprehensif dan dioptimalkan untujk model bahasa besar/LLM memainkan peran penting dalam mempercepat aplikasi AI generatif dari tahap pilot hingga produksi.
“Cloudera mengintegrasikan microservices NVIDIA NIM dan CUDA-X untuk mendukung Cloudera Machine Learning, membantu pelanggan mengubah hype AI menjadi realita bisnis,” ujar Priyank Patel, Vice President of AI/ML Products di Cloudera.
Hubungkan Data dan Model AI
Salah satu tantangan utama dalam enterprise AI adalah menyambungkan foundation model dengan data yang relevan dengan bisnis. Padahal koneksi ini dibutuhkan agar aplikasi AI generatif dapat memberikan output yang lebih akurat dan sesuai konteks.
Microservice NVIDIA NIM dan NeMo Retriever menjawab tantangan itu dengan memungkinkan para developer menautkan LLM dengan data enterprise terstruktur maupun tak terstruktur, baik dari dokumen teks, gambar dan visualisasi.
Cloudera Machine Learning akan menawarkan kemampuan NIM model-serving terintegrasi untuk meningkatkan kinerja inferencing dan mencapai fault tolerance, latensi yang rendah, dan auto scaling di lingkungan hybrid cloud maupun multicloud. Sementara NeMo Retriever diklaim Cloudera akan menyederhanakan pengembangan aplikasi retrieval-augmented generation (RAG), yang akan meningkatkan akurasi AI generatif.
“Enterprise sangat bersemangat untuk memanfaatkan data masif mereka untuk generative AI dalam rangka mengembangkan copilots dan tools produktivitas yang disesuaikan,” kata Justin Boitano, Vice President of Enterprise Products, NVIDIA.
Ia melanjutkan, integrasi microservices NVIDIA NIM ke dalam Cloudera Data Platform menawarkan para pengembang cara penggunaan LLM yang lebih mudah dan fleksibel untuk mendorong transformasi bisnis.
Memberdayakan Enterprise
Dengan menyederhanakan proses mulai dari data sampai dengan penyebaran aplikasi AI generatif, Cloudera dan NVIDIA berupaya mempercecpat adopsi aplikasi-aplikasi AI generatif, seperti coding coding assistant, chatbot, peringkas dokumen (document summarisers), dan tool untuk semantic search.
Sebelumnya, Cloudera bekerja sama dengan NVIDIA dalam pemanfaatan akselerasi GPU melalui integrasi NVIDIA RAPIDS Accelerator for Apache Spark ke CDP.
“Selain untuk memberikan kemampuan generative AI dan performa yang kuat bagi pelanggan, integrasi ini akan memberdayakan enterprise untuk mengambil keputusan yang lebih akurat dan tepat waktu, sekaligus melakukan mitigasi terhadap ketidakakuratan, halusinasi, dan kesalahan dalam prediksi – semuanya adalah faktor yang sangat penting dalam bernavigasi di area data hari ini,” ujar Priyank Patel mengenai manfaat bisnis yang akan diraih perusahaan melalui integrasi ini.
"Kekuatan NVIDIA dalam komputasi AI melengkapi keahlian Cloudera yang ekstensif dalam manajemen data," komentar Remus Lim, Senior Vice President of Asia Pacific and Japan di Cloudera.
Menurutnya, kemitraan dengan NVIDIA ini memungkinkan pelanggan Cloudera membuat model yang menghasilkan data dan insight yang sangat akurat dan dipercaya oleh perusahaan untuk mengoperasikan lingkungan ML yang benar-benar aman dan dapat memenuhi kebutuhan yang terus berkembang.
Cloudera akan memerkan kemampuan AI generatif terbarunya di ajang NVIDIA GTC, yang berlangsung pada 18-21 Maret di San Jose McEnery Convention Center di San Jose, California, AS.
Baca juga: Ini Cara Terbaru Cloudera Bantu Maksimalkan Data Perusahaan untuk AI
Baca juga: CrowdStrike Ungkap Bahaya dan Potensi AI Generatif Bagi Keamanan Siber