Meta Platforms mengumumkan proyek data center dan chip mandiri untuk mengembangkan program artificial intelligence (AI) atau kecerdasan buatan sekaligus menjadi bagian dari program Meta Training and Inference Accelerator (MTIA).
Chip MTIA akan menjadi inference pada proses AI yaitu algoritma yang dilatih dengan jumlah data besar untuk memberikan penilaian.
Joel Coburn (Seorang Insinyur Software Meta) mengatakan Meta menggunakan unit pemrosesan grafis, atau GPU, untuk tugas inference, tetapi mereka menemukan bahwa GPU kurang cocok untuk pekerjaan inference.
"Efisiensi masih rendah walaupun optimasi perangkat lunaknya meningkat signifikan. Fenomena ini membuat penggunaan GPU sangat sulit dan mahal dalam praktiknya. Inilah sebabnya mengapa kita membutuhkan MTIA," ujarnya.
Nantinya, chip ini akan digunakan untuk mendukung tugas-tugas terkait metaverse, seperti virtual reality dan augmented reality, serta generative AI yang sedang berkembang, yang umumnya mengacu pada perangkat lunak AI yang dapat membuat teks, gambar, dan video yang menarik.
Selain itu, Meta mengatakan telah menyelesaikan fase kedua pembangunan superkomputernya yang dijuluki Research SuperCluster, atau RSC, yang diumumkan perusahaan tahun lalu.
Meta menggunakan superkomputer, yang berisi 16.000 GPU Nvidia A100, antara lain untuk melatih model bahasa LLaMA perusahaan.
Meta telah mengungkapkan model bahasa LLaMA terbesarnya, LLaMA 65B yang berisi 65 miliar parameter dan dilatih dengan 1,4 triliun token.
Hal itu mengacu pada data yang digunakan untuk pelatihan AI. Sebagai perbandingan, Model PaLM 2 Google dilatih dengan 3,6 triliun token dan berisi 340 miliar parameter.
Fokus AI dan Reels
Strategis Bisnis Meta Tingkatkan Keuntungan Tahun Ini, Fokus AI dan Reels
Komunitas di Meta terus bertumbuh selama 20 tahun hingga mencapai 3 miliar orang di seluruh dunia yang menggunakan setidaknya 1 dari aplikasi-aplikasi Meta setiap harinya, dan 3,8 miliar setiap bulannya. Pelaku bisnis merupakan komunitas yang penting bagi Meta karena mereka semakin terhubung dan bertemu dengan berbagai kesempatan serta pelanggan yang lebih luas melalui fitur-fitur yang dapat mendukung perjalanan bisnis mereka.