Cloudera memperluas kerja samanya dengan NVIDIA guna mengakselerasi penyebaran aplikasi artificial intelligence (AI) generatif dengan mengintegrasikan microservice AI dari NVIDIA dengan Cloudera Data Platform (CDP).
Integrasi ini bertujuan membantu bisnis membangun dan menyesuaikan skala dari model bahasa besar (LLM) yang disesuaikan (customized) dengan menggunakan data perusahaan.
Cloudera nantinya akan memanfaatkan NVIDIA AI Enterprise, termasuk microservice NVIDIA Inference Manager (NIM), untuk menggali wawasan atau insight dari lebih dari 25 exabyte data yang tersimpan di CDP. Selanjutnya, informasi dalam jumlah sangat besar ini akan dimasukkan ke Cloudera Machine Learning untuk mendukung kinerja aplikasi AI generatif.
Data enterprise dipadukan dengan platform full-stack yang komprehensif dan dioptimalkan untujk model bahasa besar/LLM memainkan peran penting dalam mempercepat aplikasi AI generatif dari tahap pilot hingga produksi.
“Cloudera mengintegrasikan microservices NVIDIA NIM dan CUDA-X untuk mendukung Cloudera Machine Learning, membantu pelanggan mengubah hype AI menjadi realita bisnis,” ujar Priyank Patel, Vice President of AI/ML Products di Cloudera.
Hubungkan Data dan Model AI
Salah satu tantangan utama dalam enterprise AI adalah menyambungkan foundation model dengan data yang relevan dengan bisnis. Padahal koneksi ini dibutuhkan agar aplikasi AI generatif dapat memberikan output yang lebih akurat dan sesuai konteks.
Microservice NVIDIA NIM dan NeMo Retriever menjawab tantangan itu dengan memungkinkan para developer menautkan LLM dengan data enterprise terstruktur maupun tak terstruktur, baik dari dokumen teks, gambar dan visualisasi.
Cloudera Machine Learning akan menawarkan kemampuan NIM model-serving terintegrasi untuk meningkatkan kinerja inferencing dan mencapai fault tolerance, latensi yang rendah, dan auto scaling di lingkungan hybrid cloud maupun multicloud. Sementara NeMo Retriever diklaim Cloudera akan menyederhanakan pengembangan aplikasi retrieval-augmented generation (RAG), yang akan meningkatkan akurasi AI generatif.
“Enterprise sangat bersemangat untuk memanfaatkan data masif mereka untuk generative AI dalam rangka mengembangkan copilots dan tools produktivitas yang disesuaikan,” kata Justin Boitano, Vice President of Enterprise Products, NVIDIA.
Ia melanjutkan, integrasi microservices NVIDIA NIM ke dalam Cloudera Data Platform menawarkan para pengembang cara penggunaan LLM yang lebih mudah dan fleksibel untuk mendorong transformasi bisnis.
Memberdayakan Enterprise