Intel memperkenalkan Intel Gaudi 3 accelerator yang memberikan performa, keterbukaan dan pilihan untuk generative AI (GenAI) enterprise. Intel juga mengumumkan jajaran sistem-sistem AI baru yang skalabel dan terbuka, produk-produk generasi berikutnya dan kolaborasi strategis untuk mempercepat pengadopsian GenAI.
Saat ini hanya 10 persen perusahaan skala enterprise sukses menjadikan proyek-proyek GenAI menjadi produk pada tahun lalu, penawaran terbaru dari Intel ini menjawab berbagai tantangan yang dihadapi perusahaan-perusahaan dalam meningkatkan inisiatif AI mereka.
“Inovasi terus berkembangan dengan kecepatan yang belum pernah terjadi sebelumnya. Hal ini dimungkinkan oleh teknologi silikon dan setiap perusahaan dengan cepat menjadi sebuah perusahaan AI,” kata CEO Intel Pat Gelsinger.
“Intel menghadirkan AI di mana saja di lingkungan enterprise, dari PC hingga data center dan edge. Platform Gaudi, Xeon dan Core Ultra kami yang terbaru menghadirkan rangkaian solusi kohesif dan fleksibel yang dirancang khusus untuk memenuhi kebutuhan yang terus berubah dari para pelanggan dan mitra kami serta memanfaatan berbagai peluang yang luar biasa besar di depan mata," ujarnya.
Kemampuan Gaudi 3
Berbagai perusahaan berupaya meningkatkan GenAI dari proyek uji coba menjadi produk. Karena itu, perusahaan membutuhkan solusi-solusi yang siap digunakan serta dibangun dengan prosesor berkinerja tinggi yang hemat energi dan hemat biaya seperti Intel Gaudi 3 AI accelerator, yang juga bisa menjawab kebutuhan akan kompleksitas, fragmentasi, keamanan data dan ketaatan terhadap peraturan.
Intel Gaudi 3 AI accelerator akan menjadi sumber kekuatan bagi sistem-sistem AI yang memiliki hingga puluhan akselerator yang terhubung melalui Ethernet standar umum. Intel Gaudi 3 menjanjikan kemampuan komputasi AI empat kali lipat untuk BF16 dan peningkatan bandwidth memori sebesar 1.5 kali lipat dibandingkan produk pendahulunya. Akselerator ini akan memberikan lompatan yang signifikan dalam pelatihan dan inferensi AI bagi perusaahaan-perusahaan global yang ingin menerapkan GenAI dalam skala besar.
Dibandingkan dengan Nvidia H100, Intel Gaudi 3 secara rata-rata3 diproyeksikan bisa melakukan pelatihan 50 persen lebih capat dalam model-model Llama2 dengan parameter 7B dan 13B, dan model parameter GPT-3 175B. Selain itu, throughput inferensi Intel Gaudi 3 accelerator secara-rata-rata1 diproyeksikan akan mengungguli H100 sebesar 50 persen and 40 persen untuk rerata2 efisiensi daya inferensi dalam parameter Llama 7B dan 70B, dan model-model parameter Falcon 180B.
Intel Gaudi 3 menyediakan software terbuka berbasis komunitas dan jaringan Ethernet standar industri. Intel Gaudi 3 juga memungkinkan perusahaan-perusahaan untuk secara fleksibel melakukan peningkatan dari single node ke cluster, super-cluster dan mega-cluster dengan ribuan node, sehingga mendukung inferensi, fine-tuning dan pelatihan dengan skala terbesar.
Intel Gaudi 3 akan tersedia bagi para OEM—termasuk Dell Technologies, HPE, Lenovo dan Supermicro—pada kuartal kedua 2024.
Baca Juga: Intel Umumkan Program Pengembang Software dan Vendor Hardware AI PC
Baca Juga: Apa Keuntungan Pengembang Ikut AI Acceleration Program dari Intel?
| Penulis | : | Adam Rizal |
| Editor | : | Adam Rizal |
KOMENTAR