Merespons makin maraknya adopsi artificial intelligence (AI), termasuk AI generatif, di lingkungan perusahaan, Nutanix menghadirkan solusi Nutanix GPT-in-a-Box untuk memudahkan perusahaan yang ingin segera memulai inovasi AI dan machine learning dengan memastikan data perusahaan tetap aman.
Tersedia mulai hari ini, solusi Nutanix GPT-in-a-Box datang berupa platform full stack dan software-defined, dengan layanan yang akan membantu organisasi mengukur dan mengonfigurasi infrastruktur hardware dan software yang sesuai untuk men-deploy large language model, menggunakan framework AI dan MLOps open source di Nutanix Cloud Platform.
Solusi ini dihadirkan Nutanix untuk memudahkan pelanggan mendapatkan infrastruktur yang AI-ready ketika mereka perlu menyempurnakan dan menjalankan model bahasa generative pre-trained transformers, atau yang dikenal sebagai GPT, termasuk LLM di edge atau di data center-nya.
Langkah Nutanix untuk menyediakan solusi ini dilatarbelakangi tantangan yang dihadapi banyak perusahaan saat ini, yaitu memanfaatkan aplikasi AI dan AI/ML dengan cepat efisien dan aman. Salah satu tantangan yang kerap dialami perusahaan adalah saat mereka harus membangun AI yang tidak bisa dijalankan di public cloud karena alasan kedaulatan, tata kelola, dan privasi data. Misalnya menjalankan AI untuk transkripsi dokumen internal dan menganalisis laporan perusahaan.
Bukan hanya itu. Organisasi yang akan menggunakan AI-ready stack terkadang terkendala dengan persoalan “bagaimana memberikan dukungan terbaik bagi para administrator machine learning dan data scientist.” Sementara investasi AI memakan biaya yang sangat besar sehingga tak jarang perusahaan terpaksa menghentikan proyek AI-nya.
Greg Macatee, Senior Research Analyst, Infrastructure Systems, Platforms and Technologies Group, IDC memaparkan kesulitan perusahaan dalam mendesain dan men-deploy solusi AI. “Mereka mengalami kesulitan dalam menyeimbangkan keahlian yang dibutuhkan untuk memasang, mengonfigurasi dan menjalankan workload AI dengan isu keamanan data dan proteksi terhadap IP perusahaan, semua harus dilakukan dengan tetap menjaga biaya,” jelas Macatee.
Dengan GPT-in-a-Box, menurutnya, Nutanix menyediakan solusi turnkey yang mudah digunakan pelanggan untuk mulai mengaplikasikan AI, termasuk AI generatif, di edge maupun data center dengan tetap menjaga kontrol terhadap data.
“Membantu pelanggan mengatasi tantangan terbesar TI adalah inti dari apa yang kami lakukan, mulai dari mengelola kompleksitas multicloud yang terus meningkat, hingga tantangan perlindungan data, dan sekarang, adopsi solusi AI generatif dengan tetap menjaga privasi data dan kepatuhan,” ujar Thomas Cornely, SVP, Product Management, Nutanix.
Cornley menegaskan bahwa solusi Nutanix GPT-in-a-Box bertujuan menjawab tantangan-tantangan utama dalam adopsi AI generatif dan membantu perusahaan memulai inovasi AI.
Solusi Nutanix GPT-in-a-Box mencakup:
- Platform Nutanix Cloud Infrastructure™, dengan solusi Nutanix Files Storage™ dan Objects Storage™, Nutanix AHV® hypervisor dan Kubernetes, yang juga menyediakan akselerasi NVIDIA GPU yang dapat diatur skalanya.
- Layanan Nutanix untuk membantu pelanggan mengukur klaster dan men-deploy stack dengan framework deep learning serta MLOps open source, inference server, dan LLM, seperti Llama2, Falcon, dan MPT.
- Kemampuan bagi para data scientists dan admin ML untuk langsung menggunakan model-model AI yang tersedia, dengan aplikasi sesuai pilihan, terminal UI, atau CLI standar.
- Platform ini juga dapat dimanfaatkan untuk menjalankan model GPT lainnya, serta menyempurnakannya menggunakan data internal yang tersimpan di layanan Nutanix Files atau Object Storage.
Tidak hanya menyediakan solusi, Nutanix juga menegaskan dukungannya terhadap strategi AI para pelanggannya melalui keterlibatan Nutanix dalam komunitas AI. Beberapa kontribusi Nutanix dalam komunitas AI, seperti partisipasi dalam dewan penasihat MLCommons (standar AI); sebagai co-founder dan technical leadership dalam mendefinisikan ML Storage Benchmarks dan Medicine Benchmarks; sebagai co-chair dari Kuberflow (MLOps) Training dan kelompok kerja AutoML pada Cloud Native Computing Foundation (CNCF).