Nvidia akan meluncurkan chipset AI terbaru GH200 yang paling powerful dan premium tahun depan, menyusul banyaknya perusahaan yang menjalankan model-model AI yang besar.
"Chipset ini mampu menangani beban kerja AI generatif yang paling kompleks yang mencakup model bahasa yang besar, sistem pemberi rekomendasi, dan basis data vektor," tulis Nvidia.
GH200 akan memiliki GPU yang sama dengan H100, yang saat ini merupakan penawaran AI Nvidia yang paling kuat dan populer, tetapi memiliki kapasitas memori tiga kali lipat.
Perusahaan mengatakan sistem yang menggunakan GH200 akan dimulai pada kuartal kedua tahun 2024. Nvidia tidak mengungkapkan harga untuk GH200; lini H100 saat ini dijual dengan harga sekitar $40.000.
Model AI yang kompleks membutuhkan GPU yang kuat sehingga sistem dapat melakukan komputasi yang diperlukan untuk menghasilkan teks atau foto kud. Menjalankan model-model AI ini membutuhkan banyak sekali daya pemrosesan, dan bahkan dengan chip H100 Nvidia, beberapa model harus "memecah" model di antara GPU lain agar dapat berjalan.
Nvidia hampir memonopoli GPU berkemampuan AI generatif. Penyedia cloud seperti AWS, Azure, dan Google semuanya menggunakan GPU H100 Tensor Core Nvidia dan menambahkan layanan untuk membantu klien menjalankan proyek yang menggunakan model bahasa yang besar untuk membedakan diri mereka.
Microsoft dan Nvidia juga bermitra untuk membangun superkomputer baru, meskipun Microsoft sendiri dilaporkan ingin memproduksi chip AI.
Nvidia juga menghadapi persaingan dari AMD, yang ingin meningkatkan produksi untuk GPU AI-nya sendiri pada kuartal keempat tahun ini.
Penulis | : | Adam Rizal |
Editor | : | Adam Rizal |
KOMENTAR