Find Us On Social Media :

Nvidia Kekurangan Stok GPU Akibat Permintaan Tinggi Chip AI

By Adam Rizal, Kamis, 25 Mei 2023 | 10:00 WIB

Melalui NeMo, Nvidia membantu perusahaan mewujudkan ChatGPT sendiri

Penjualan GPU Nvidia laris manis di pasar menyusul banyak perusahaan yang mengembangkan teknologi artificial intelligence (AI).

Perusahaan melihat chip GPU Nvidia sangat bagus dan kompatibel dengan alat atau solusi berbasis AI.

Dampaknya, Nvidia akan menghadapi kekurangan stok hingga akhir tahun ini dan harus memenuhi permintaan pasar yang tinggi. Karena itu, Nvidia akan menggandeng TSMC untuk meningkatkan produksi chip GPU.

Teknologi chip Nvidia memiliki peran penting dibalik kemajuan teknologi AI yang menjadi dasar ChatGPT dan model berbasis AI lainnya. Saat ini chip AI Nvidia yaitu A100 dijual seharga USD40.000 seperti dikutip Gizmochina.

Selain itu, Nvidia juga akan menambah pesanannya ke pembuat chip kontrak terbesar di dunia, TSMC karena GPU A100-nya berdasarkan proses 7nm. Sedangkan H100 berdasarkan proses TSMC 4nm yang lebih canggih.

Nvidia menjual versi modifikasi dari GPU A100 dan H100 yang dijuluki A800 dan H800 (untuk menghindari sanksi AS) dengan harga 40 persen lebih tinggi dari harga aslinya.

Kekayaan Meroket

Nvidia

Pertumbuhan layanan artificial intelligence (AI) atau kecerdasan buatan yang pesat beberapa tahun terakhir menjadi berkah bagi perusahaan semi konduktor Nvidia.

TrendForce mengungkapkan chatbot canggih ChatGPT membutuhkan lebih dari 30.000 kartu grafis A100 Nvidia untuk menjalankan komputasinya. Tak hanya itu, Nvidia juga mendulang keuntungan yang besar dari penambangan mata uang kripto.

TrendForce memperkirakan ChatGPT memerlukan sekitar 20.000 unit chip GPU A100 untuk memproses data pelatihan.

Namun kebutuhan GPU Nvidia itu bisa saja meningkat lebih dari 30.000 unit, menyusul penyebaran ChatGPT dari OpenAI dan model Generative Pre-Trained Transformer (GPT) secara komersial.

Sebagai informasi, GPU A100 memiliki harga antara USD10.000 atau Rp150 jutaan hingga USD15.000 atau Rp230 jutaan, tergantung pada konfigurasi dan bentuknya. Karena itu, Nvidia bisa meraup USD300 juta atau Rp4.5 Triliun dari penjualan chipset GPU saja.

Nvidia juga menjual A100 sebagai bagian dari sistem DGX A100, yang memiliki delapan akselerator dengan harga USD199.000 atau Rp2 miliaran seperti dilansir tomshardware.

OpenAI juga akan membeli A100 secara individual dan menumpuknya menjadi cluster. Namun, DGX A100 adalah pilihan yang menarik bagi bisnis kecil yang ingin mencoba-coba AI.

Meskipun A100 sangat bagus untuk AI, Nvidia sudah mulai mengirimkan H100 (Hopper), pengganti langsung untuk A100. Menurut spesifikasi yang tertera, H100 memberikan kinerja hingga tiga kali lebih tinggi dari pendahulunya.

Selain itu, H100 bahkan lebih baik dalam skalabilitas daripada A100 dan menawarkan throughput hingga sembilan kali lebih tinggi dalam pelatihan AI. Namun, H100 memiliki harga yang jauh lebih tinggi, dengan listing menunjukkan bahwa akselerator Hopper berharga lebih dari $32.000.

Laporan pendapatan terbaru Nvidia mengungkap bahwa bisnis pusat data perusahaan, termasuk akselerator AI, meningkat 11% dibanding tahun lalu dan menghasilkan penjualan lebih dari $3,6 miliar selama kuartal tersebut.

Angka-angka tersebut kemungkinan akan melonjak segera ketika pemain besar seperti Microsoft ikut bermain. Microsoft sedang dalam proses mengintegrasikan ChatGPT ke Bing dan Edge.

Mengingat ukuran basis pengguna (praktis semua orang yang menggunakan Windows), Microsoft mungkin harus mengeluarkan miliaran untuk melakukan peningkatan dalam beberapa bulan dan tahun mendatang.

Nvidia bukan satu-satunya pilihan di pasar AI, karena Intel dan AMD juga menawarkan akselerator AI pesaing. Kemudian ada juga perusahaan seperti Google dan Amazon, dengan solusi AI mereka sendiri.

Selama kejayaan mata uang kripto, para penambang membeli setiap kartu grafis dan  membantu menyumbang kekurangan kartu grafis.