Mahal Sekali, Berapa Biaya Operasional ChatGPT dalam Sehari?

Adam Rizal - Jumat, 21 April 2023 | 09:00 WIB

Ilustrasi ChatGPT

Saat ini chatbot artificial intelligence (AI) atau kecerdasan buatan ChatGPT menjadi primadona di masyarakat karena dapat membantu banyak hal. Namun, tahukah Anda berapa rupiah yang harus dikeluarkan OpenAI untuk menjalankan ChatGPT dalam seharinya?

ChatGPT mungkin telah memicu revolusi AI tetapi terbukti biaya operasionalnya sangat mahal untuk dipelihara.

Dylan Patel (Kepala Analis Perusahaan Riset SemiAnalysis) mengatakan OpenAI harus mengeluarkan biaya sekitar USD700.000 atau Rp10 miliar per hari untuk menjaga chatbot ChatGPT tetap aktif dan berjalan.

Menurut Windows Central, biaya operasional ChatGPT sangat mahal dan Microsoft lebih memilih mengembangkan chip AI miliknya sendiri untuk membantu pemeliharaan operasi ChatGPT milik OpenAI.

ChatGPT sukses meraih 100 juta pengguna aktif sejak Januari yang merupakan sebuah prestasi gemilang, mengingat para kompetitornya membutuhkan waktu bertahun-tahun untuk meraih jumlah pengguna tersebut.

Masalah lainnya, ChatGPT juga menghadapi trafik yang tinggi dan masalah kapasitas data yang memperlambat dan merusak servernya. Karena itu, OpenAI memperkenalkan layanan ChatGPT Plus berbayar dengan biaya USD20 atau Rp283 ribu per bulan.

Saat ini OpenAI menggunakan GPU Nvidia untuk mempertahankan tidak hanya proses ChatGPT-nya sendiri, tetapi juga merek-merek yang bermitra dengannya. Analis industri memperkirakan perusahaan kemungkinan akan membutuhkan tambahan 30.000 GPU dari Nvidia untuk mempertahankan kinerja komersialnya selama sisa tahun 2023.

Dengan Microsoft sebagai salah satu kolaborator dan investor utamanya, OpenAI mungkin akan melihat merek teknologi tersebut untuk membantu mengembangkan perangkat keras guna menurunkan biaya operasional ChatGPT.

Menurut Windows Central, Microsoft sudah memiliki chip AI ini dalam pengerjaan. Diberi nama kode Athena, saat ini sedang diuji secara internal dengan tim merek sendiri. Chip ini diharapkan akan diperkenalkan tahun depan untuk layanan Azure AI Microsoft.

Belum ada kabar mengenai bagaimana atau kapan chip ini akan mengalir ke OpenAI dan ChatGPT, tetapi asumsinya adalah akan demikian. Hubungannya berasal dari fakta bahwa ChatGPT didukung oleh layanan Azure seperti dilansir Digital Trends.

Chip AI mungkin tidak sepenuhnya menggantikan GPU Nvidia, tetapi dapat membantu mengurangi permintaan perangkat keras, sehingga mengurangi biaya menjalankan ChatGPT, Windows Central menambahkan.