Pertumbuhan layanan artificial intelligence (AI) atau kecerdasan buatan yang pesat beberapa tahun terakhir menjadi berkah bagi perusahaan semi konduktor Nvidia.
TrendForce mengungkapkan chatbot canggih ChatGPT membutuhkan lebih dari 30.000 kartu grafis A100 Nvidia untuk menjalankan komputasinya. Tak hanya itu, Nvidia juga mendulang keuntungan yang besar dari penambangan mata uang kripto.
TrendForce memperkirakan ChatGPT memerlukan sekitar 20.000 unit chip GPU A100 untuk memproses data pelatihan.
Namun kebutuhan GPU Nvidia itu bisa saja meningkat lebih dari 30.000 unit, menyusul penyebaran ChatGPT dari OpenAI dan model Generative Pre-Trained Transformer (GPT) secara komersial.
Sebagai informasi, GPU A100 memiliki harga antara USD10.000 atau Rp150 jutaan hingga USD15.000 atau Rp230 jutaan, tergantung pada konfigurasi dan bentuknya. Karena itu, Nvidia bisa meraup USD300 juta atau Rp4.5 Triliun dari penjualan chipset GPU saja.
Nvidia juga menjual A100 sebagai bagian dari sistem DGX A100, yang memiliki delapan akselerator dengan harga USD199.000 atau Rp2 miliaran seperti dilansir tomshardware.
OpenAI juga akan membeli A100 secara individual dan menumpuknya menjadi cluster. Namun, DGX A100 adalah pilihan yang menarik bagi bisnis kecil yang ingin mencoba-coba AI.
Meskipun A100 sangat bagus untuk AI, Nvidia sudah mulai mengirimkan H100 (Hopper), pengganti langsung untuk A100. Menurut spesifikasi yang tertera, H100 memberikan kinerja hingga tiga kali lebih tinggi dari pendahulunya.
Selain itu, H100 bahkan lebih baik dalam skalabilitas daripada A100 dan menawarkan throughput hingga sembilan kali lebih tinggi dalam pelatihan AI. Namun, H100 memiliki harga yang jauh lebih tinggi, dengan listing menunjukkan bahwa akselerator Hopper berharga lebih dari $32.000.
Laporan pendapatan terbaru Nvidia mengungkap bahwa bisnis pusat data perusahaan, termasuk akselerator AI, meningkat 11% dibanding tahun lalu dan menghasilkan penjualan lebih dari $3,6 miliar selama kuartal tersebut.
Angka-angka tersebut kemungkinan akan melonjak segera ketika pemain besar seperti Microsoft ikut bermain. Microsoft sedang dalam proses mengintegrasikan ChatGPT ke Bing dan Edge.
Mengingat ukuran basis pengguna (praktis semua orang yang menggunakan Windows), Microsoft mungkin harus mengeluarkan miliaran untuk melakukan peningkatan dalam beberapa bulan dan tahun mendatang.
Nvidia bukan satu-satunya pilihan di pasar AI, karena Intel dan AMD juga menawarkan akselerator AI pesaing. Kemudian ada juga perusahaan seperti Google dan Amazon, dengan solusi AI mereka sendiri.
Selama kejayaan mata uang kripto, para penambang membeli setiap kartu grafis dan membantu menyumbang kekurangan kartu grafis.