Sebuah perusahaan startup teknologi asal China, Baichuan Intelligent mengembangkan model bahasa besar (LLM) Baichuan-13B untuk menantang teknologi artificial intelligence (AI) atau kecerdasan buatan ChatGPT milik OpenAI. Baichuan akan menjadi pengembang model bahasa besar (LLM) paling menjanjikan di China karena Baichuan dikembangkan Wang Xiaochuan, seorang ahli ilmu komputer dari Universitas Tsinghua, yang mendirikan penyedia mesin pencarian Sogou.
Pada 2021, Wang mengundurkan diri dari Sogou dan mendirikan Baichuan pada April tahun ini. Baichuan sukses mengumpulkan dana sebesar 50 juta dolar AS (Rp 753,8 milyar) dari para investor.
Baichuan-13 adalah model 13 miliar parameter dengan basis arsitektur Transformer yang juga mendasari ChatGPT. Model LLM itu dilatih dengan data berbahasa China dan Inggris. Nantinya, Baichuan-13B bersifat open source dan dioptimalkan untuk aplikasi komersial.Saat ini, model dasar Baichuan-13B tersedia gratis bagi akademisi dan pengembang yang telah mendapatkan persetujuan resmi untuk menggunakannya.
Baichuan-13 dilatih dengan 1,4 triliun token. Sebagai perbandingan, model LLaMa besutan Meta menggunakan 1 triliun token untuk model 13 miliar parameternya."Kami yakin dalam memperkenalkan LLM berskala besar yang sebanding dengan GPT-3.5 milik OpenAI pada akhir tahun ini," kata Wang seperti dikutip Tech Crunch.
Baichuan-13B dapat menawarkan variasi yang mampu beroperasi pada perangkat keras kelas konsumen termasuk kartu grafis Nvidia 3090.
Teknologi artificial intelligence (AI) atau kecerdasan buatan akan memegang peranan penting di masa depan. Tak heran setiap negara di dunia berlomba-lomba mengembangkan inovasi AI. Akademi AI Beijing (Beijing Academy of Artificial Intelligence/BAAI) itu menunjukkan komitmen China untuk mengembangkan sebuah model bahasa besar (large language model/LLM) generalis yang menggunakan isyarat visual untuk melakukan tugas-tugas segmentasi acak.
Kepala Institut Informasi Ilmiah dan Teknis China (Institute of Scientific and Technical Information of China/ISTIC) Zhao Zhiyun menyampaikan teknologi LLM China telah berkembang pesat bersama berbagai jalur teknis dalam beberapa tahun terakhir.
"AI memiliki pengaruh besar di dalam industri termasuk pemrosesan bahasa alami (natural language processing) dan visi mesin," kata Zhao.
Penerapan LLM untuk tujuan umum di China sedang meluas dari sektor perkantoran dan hiburan ke bidang-bidang seperti perawatan kesehatan, sektor industri, dan pendidikan, menurut sebuah laporan yang dirilis oleh ISTIC. Laporan itu juga menyatakan bahwa saat ini, ada 14 daerah setingkat provinsi di China sedang mengerjakan pengembangan LLM, termasuk 38 pengembangan di antaranya dilakukan di Beijing dan 20 lainnya di Provinsi Guangdong, China selatan.
"Kami mengumpulkan sumber daya inovasi AI untuk melakukan penelitian pada algoritma dan teknologi utama LLM," ujarnya.
Menurut sebuah rencana yang baru-baru ini dirilis oleh Beijing untuk mendorong inovasi dan pengembangan AI, skala industri inti AI di kota itu diperkirakan akan mencapai 300 miliar yuan (1 yuan = Rp2.083) pada 2025.
Shanghai telah merilis serangkaian kebijakan untuk mendukung partisipasi perusahaan swasta dalam pembangunan infrastruktur AI seperti data dan daya komputasi. Distrik Xuhui di Shanghai secara aktif membina dan memperkenalkan sejumlah tim penelitian dalam membangun sebuah pusat (highland) klaster ekologi dan aplikasi inovatif LLM.