Find Us On Social Media :

Garap Enterprise, Superkomputer NVIDIA Punya Ribuan Chip AI GPU H100

By Adam Rizal, Selasa, 20 Februari 2024 | 10:00 WIB

Canggih! Superkomputer NVIDIA Punya Ribuan Chip AI GPU H100

NVIDIA baru-baru ini memamerkan superkomputer AI terbaru dan terkencangnya 'Eos' yang didesain untuk pengembangan artificiaI intelligence (AI) atau kecerdasan buatan level enterprise. NVIDIA Eos tersebut berada di urutan ke-9 dalam daftar superkomputer terkencang di dunia. Superkomputer itu diperkuat dengan total 576 sistem DGX yang masing-masingnya terdiri dari delapan GPU H100.

Secara total, superkomputer itu memiliki 4.608 GPU H100 dan 1.152 prosesor Intel Xeon Platinum 8480C yang punya 56 core per prosesor. Spesifikasi itu membuat Eos mampu memberikan performa 121.4 FP64 PetaFLOPS untuk HPC dan 18.4 FP8 ExaFLOPS untuk AI.

Selain hardware yang luar biasa, NVIDIA Eos juga memiliki software yang mumpuni untuk pengembangan dan penerapan AI. Superkomputer EOS itu dapat menangani berbagai pengaplikasian, mulai dari AI generatif seperti ChatGPT hingga menjalankan pabrik dengan AI. Dari segi jaringan juga tidak kalah hebat, superkomputer NVIDIA itu menggunakan sistem jaringan Mellanox Quantum-2 InfiniBand dari NVIDIA dengan teknologi In-Network Computing, membuat superkomputer tersebut memiliki kecepatan transfer data hingga 400 Gb/s.

Membayangkan berapa harga dari “Pabrik AI” mungkin tidak akan pernah ada dalam pikiran kalian. Untuk GPU H100-nya saja satu unitnya seharga hingga Rp600 juta. Bayangkan angka tersebut dikali 4.608, belum lagi prosesor serta infrastruktur lainnya.

Gandeng Israel 

Nvidia Corp sedang membuat superkomputer artificial intelligence (AI) atau kecerdasan buatan tercanggih di dunia sekaligus memenuhi permintaan pelanggan yang meroket akan aplikasi AI. Nvidia akan menghabiskan ratusan juta dolar untuk membangun superkomputer yang berbasis AI dan cloud itu. Nvidia memperkirakan superkomputer itu akan beroperasi di Israel pada akhir 2023.

Gilad Shainer (Wakil Presiden Senior di Nvidia) mengatakan Nvidia menggandeng 800 startup di Israel dan puluhan ribu insinyur perangkat lunak. Sistem yang disebut Israel-1 ini diperkirakan dapat memberikan kinerja hingga delapan exaflops komputasi AI, sehingga menjadikannya salah satu superkomputer AI tercepat di dunia. Satu exaflop memiliki kemampuan untuk melakukan 1 kuintiliun - atau 1.000.000.000.000.000.000 - perhitungan per detik.

"Teknologi AI adalah teknologi paling penting dalam hidup kita dan untuk mengembangkan aplikasi AI dan generative AI lainnya kita membutuhkan unit pemrosesan grafis (GPU) yang besar," katanya seperti dikutip Reuters.

Ia mencatat perusahaan-perusahaan di Israel akan memiliki akses ke superkomputer yang belum mereka miliki saat ini. "Teknologi AI generatif ada di mana-mana sekarang. Anda perlu dapat menjalankan pelatihan pada dataset yang besar," kata Shainer kepada Reuters.

Sistem ini dikembangkan oleh tim bekas Mellanox. Nvidia membeli perusahaan desainer chip Israel, Mellanox Technologies dengan harga hampir 7 miliar dolar AS atau Rp105 triliun mengalahkan tawaran Intel Corp. Shainer mengatakan prioritas pertama Nvidia untuk superkomputer ini adalah mitra mereka di Israel. "Mungkin kami akan menggunakan sistem ini untuk bekerja dengan mitra di luar Israel di masa mendatang," katanya.

Nvidia mengumumkan bahwa mereka telah bekerja sama dengan University of Bristol di Britania Raya untuk membangun superkomputer baru menggunakan chip Nvidia yang baru, yang akan bersaing dengan Intel dan Advanced Micro Devices Inc.

Baca Juga: Jalankan Tugas AI, Apple Tingkatkan Kemampuan Neural Engine iPhone 16

 Baca Juga: Penyebab Penjualan iPhone 15 Series Kurang Laku di Pasar China