Boros! Total Konsumsi Listrik Chip AI NVIDIA H100 Setara Satu Negara

Adam Rizal - Sabtu, 30 Desember 2023 | 09:00 WIB

Ilustrasi Chip Nvidia.

Laporan terbaru mengungkapkan konsumsi listrik GPU AI NVIDIA H100 secara global setara dengan total konsumsi listrik negara-negara kecil seperti Guatemala atau Lithuania. Diprediksi, penggunaan GPU AI NVIDIA H100 akan mencapai 3,5 juta unit di tahun mendatang.

Menurut pengamat pasar Stock Talk, GPU AI NVIDIA H100 akan mengonsumsi sekitar 13.000 GWh per tahun untuk menjalankannya. Angka itu masih jauh dari lonjakan konsumsi listrik saat tren crypto mining pada 2020. Tren tambang crypto kala itu dilaporkan telah menyebabkan lonjakan konsumsi listrik hingga 173 terawatt / hours. Sebagai informasi, NVIDIA H100 biasa digunakan untuk data center dan pelatihan model AI.

Selain itu, NVIDIA memiliki rencana menjual 1,5-2 juta unit GPU NVIDIA H100 hingga 2024 kemungkinan akan lebih meningkatkan jumlah dan konsumsi listriknya. Jadi bisa diprediksi konsumsi listriknya begitu besar, apalagi ini didorong dengan booming-nya tren pengembangan AI secara global.

Hitungan itu baru dari sisi NVIDIA H100 saja, sementara mereka juga punya model GPU AI lainnya seperti A100 dan HGX. Dapat dipastikan jumlah NVIDIA H100 sendiri di pasaran, termasuk konsumsi listriknya, bakal meningkat.

NVIDIA ketiban 'durian runtuh' dengan meningkatnya tren artificiaI intelligence (AI) atau kecerdasan buatan. Laporan keuangan terbaru, NVIDIA melaporkan pendapatannya yang meroket hingga 588 persen pada kuartal ketiga tahun 2023, mencapai $18,12 miliar. Meskipun dikenal sebagai produsen kartu grafis, NVIDIA berhasil diversifikasi dengan produk-produk seperti peralatan pusat data dan chip AI seperti H100.

Laporan keuangan mencerminkan popularitas yang meningkat untuk produk AI mereka, terutama dengan pendapatan sebesar USD14,5 miliar dari penjualan perangkat keras yang mendukung teknologi AI seperti dikutip Gizmochina.

Meskipun target pendapatan kuartal ini adalah USD20 miliar, NVIDIA mencatat laba bersih yang mengesankan sebesar USD10 miliar, menunjukkan pertumbuhan yang signifikan, meski tantangan embargo di beberapa negara masih menjadi hambatan untuk mencapai target tersebut.

Chip AI

Saat ini NVIDIA menghadapi peraturan ekspor baru dari AS yang membatasi NVIDIA mengekspor chip artificial intelligence (AI) atau kecerdasan buatan ke China. Karena itu, Nvidia pun mengembangkan tiga chip AI baru khusus untuk pasar China setelah pembatasan ekspor chip sebelumnya.

Sebelumnya, produk pasar China seperti NVIDIA A800 dan H800 tidak memenuhi syarat ekspor berdasarkan aturan baru dan berpotensi mengakibatkan kerugian pesanan senilai USD 5 Miliar. NVIDIA A800 sendiri merupakan versi pasar China dari NVIDIA A100. NVIDIA H800 sendiri merupakan versi pasar china dari NVIDIA H100 seperti dikutip Gizmochina.

Sebagai respons, NVIDIA merancang chip AI terbaru seperti HGX H20, L20, dan L2 yang memenuhi pembatasan daya komputasi. Ketiga model chip AI itu dinilai telah memenuhi pembatasan daya komputasi yang baru ditetapkan oleh pemerintah AS untuk ekspor chip ke China. Chip HGX H20 merupakan model dengan kemampuan komputasi tertinggi di antara ketiganya.

Meskipun demikian, perusahaan teknologi China seperti Baidu dan Huawei mulai merancang semikonduktor sendiri untuk mengantisipasi masalah impor chip dari AS. Namun, NVIDIA optimistis chip AI nya bakal tetap diborong perusahaan asal China karena NVIDIA memiliki reputasi dan perangkat lunak AI yang kuat.

Rumor menyebutkan kalau NVIDIA akan mengumumkan chip baru pada 16 November dan mulai menjualnya sebelum akhir tahun. Akan tetapi perusahaan klien yang akan menggunakan chip AI baru NVIDIA ini, kemungkinan bakal lebih banyak chip. Ini karena daya komputasinya memang dibuat lebih rendah dibandingkan chip NVIDIA versi sebelumnya.