Find Us On Social Media :

Percepat Kinerja AI, NVIDIA Hadirkan Jaringan Ethernet Spectrum-X

By Adam Rizal, Rabu, 29 November 2023 | 09:00 WIB

Ilustrasi Chip Nvidia.

NVIDIA menghadirkan ketersediaan teknologi jaringan Ethernet Spectrum-X yang akan terintegrasi dengan Dell, HPE, dan Lenovo dalam server mereka untuk mempercepat beban kerja AI generatif. NVIDIA Spectrum-X menawarkan jaringan Ethernet baru dengan kinerja 1,6x lebih tinggi dibandingkan Ethernet tradisional. Server baru dari ketiga produsen ini menggabungkan Spectrum-X dengan GPU NVIDIA Tensor Core, perangkat lunak NVIDIA AI Enterprise, dan perangkat lunak NVIDIA AI Workbench.

Jensen Huang (Pendiri dan CEO NVIDIA) mengatakan teknologi AI generatif dan komputasi yang dipercepat mendorong transisi generasi ketika perusahaan meningkatkan pusat data mereka untuk melayani beban kerja ini.

"Jaringan ini akan menjadi katalis untuk gelombang sistem baru, mempercepat peralihan ke era AI generatif," katanya.

Michael Dell (CEO Dell Technologies) mengatakan kolaborasi mereka dengan NVIDIA menyediakan infrastruktur dan perangkat lunak untuk ekstraksi cepat dan aman dari data pelanggan. Para pemimpin perusahaan lainnya, seperti Antonio Neri dari HPE dan Yuanqing Yang dari Lenovo, juga menyoroti pentingnya komputasi dan jaringan yang dipercepat dalam mendukung AI generatif.

“Melalui kolaborasi kami, Dell Technologies dan NVIDIA menyediakan infrastruktur dan perangkat lunak yang dibutuhkan pelanggan untuk mengekstrak intelijen dari data mereka dengan cepat dan aman," ujarnya.

Spectrum-X mengintegrasikan switch Ethernet Spectrum-4, BlueField-3 SuperNIC, dan perangkat lunak akselerasi. Spectrum-4, sebagai switch Ethernet 51Tb/dtk pertama di dunia untuk AI, menawarkan throughput data efektif dalam skala besar. BlueField-3 SuperNIC dirancang untuk komputasi paralel masif dan meningkatkan kinerja pelatihan AI dan inferensi.

Spectrum-4 adalah switch Ethernet 51Tb/dtk pertama di dunia untuk AI, memberikan throughput data yang sangat efektif dalam skala besar dan dalam beban sekaligus meminimalkan kemacetan jaringan untuk beban kerja cloud AI multi-tenant. Teknologi peruteannya yang cerdas dan disesuaikan memungkinkan pemanfaatan infrastruktur jaringan secara maksimal setiap saat.

BlueField-3 SuperNIC dirancang untuk komputasi paralel masif yang intensif jaringan, menawarkan konektivitas jaringan RDMA hingga 400 Gb/s melalui Converged Ethernet (RoCE) antara server GPU dan meningkatkan kinerja untuk pelatihan AI dan lalu lintas inferensi pada jaringan timur-barat di dalam gugus.

"Sistem baru ini dilengkapi dengan NVIDIA AI Enterprise dan NVIDIA AI Workbench, diharapkan tersedia pada kuartal pertama tahun depan," ujarnya.

“AI generatif dapat mendorong transformasi yang belum pernah terjadi sebelumnya, namun memberikan tuntutan yang belum pernah terjadi sebelumnya pada infrastruktur perusahaan,” kata Yuanqing Yang, ketua dan CEO Lenovo.

NVIDIA AI Enterprise menyediakan kerangka kerja, model terlatih, dan alat pengembangan untuk AI produksi yang aman, stabil, dan didukung. NVIDIA AI Workbench memungkinkan pengembang dengan cepat membuat, menguji, dan menyesuaikan model AI generatif.

Baca Juga: Punya Banyak Fitur AI, Samsung Galaxy S24 Series Dipanggil 'AI Phone'

 Baca Juga: Wow! Teknologi AI Berpotensi Dorong Ekonomi Indonesia Rp5.673 Triliun