Seiring perkembangan adopsi teknologi artificial intelligence (AI), pasar chip AI accelerator pun ikut marak. Yang menarik, ada sejumlah perusahaan startup yang mencoba menantang nama-nama besar seperti Intel, Nvidia, dan Google.
Dari sejumlah inovasi yang diumumkan Google di ajang Google I/O 2024, salah satu yang mencuri perhatian adalah dirilisnya tensor processing unit (TPU) generasi ke-6 yang dinamai Trillium. Dengan efisiensi energi dan kinerja peak compute yang ditawarkan Google, chip AI ini diperkirakan GlobalData akan semakin memanaskan suasana kompetisi di pasar akselerator AI.
Teknologi untuk menangani workload AI dan machine learning ini tumbuh pesat didorong oleh meningkatnya penggunaan aplikasi AI generatif dan diprediksi akan menjadi teknologi yang transformasional dengan dampak jangka panjang.
Meski pasar masih didominasi oleh para pemain besar, perusahaan startup mulai menantang pemain lama, menurut Technology Foresights, innovation intelligence platform milik perusahaan data dan analitik GlobalData.
TPU sendiri merupakan hardware yang khusus dirancang untuk mengakselerasi pemrosesan model-model AI dan machine learning. Awalnya dikembangkan oleh Google untuk digunakan dengan kerangka kerja TensorFlow, TPU kini berkembang menjadi kelas yang lebih luas dari chip akselerator AI yang digunakan untuk menjalankan neural network dan model machine learning) lainnya dalam operasi kompleks, mulai dari swakemudi hingga penemuan obat.
Ada beberapa insight dari Technology Foresights yang diungkap GlobalData. Pertama adalah lanskap inovasi TPU yang semakin dinamis, terutama dengan masuknya 17 perusahaan baru ke pasar dan mengajukan paten baru. Tren ini memperlihatkan minat dan investasi yang besar pada teknologi TPU.
Kedua, GlobalData juga mencatat adanya perubahan fokus inovasi, yaitu bergeser ke arah penanganan proses AI secara efisien pada perangkat edge. Perangkat edge merupakan perangkat yang ada di bagian ujung jaringan, seperti smartphone, sensor IoT, dan perangkat lain yang membutuhkan komputasi di tempat.
Sebanyak 24% dari semua paten menyebutkan use case untuk edge computing, yang kemudian diikuti kasus penggunaan untuk keperluan swakemudi (autonomous driving) dan solusi lainnya. Hal ini, menurut GlobalData, menunjukkan adanya perhatian yang signifikan terhadap pengembangan teknologi TPU untuk mendukung edge computing.
“Peningkatan adopsi AI generatif telah menyebabkan persaingan yang sengit untuk chip akselerator AI yang unggul. Meskipun pasar didominasi oleh pemain besar seperti Google, Nvidia, dan Intel, ada tanda-tanda yang jelas bahwa startup semakin mendisrupsi dominasi tersebut. Selain itu, perusahaan seperti Tesla dan Apple juga sedang membangun kemampuan internal mereka, seperti yang terlihat dari peta kepemimpinan inovasi di Technology Foresights,” jelas Sourabh Nyalkalkar, Practice Head of Innovation Products, GlobalData.
Meta Platforms, yang sedang mengembangkan model bahasa besar Llama untuk solusi AI generatif, memperkenalkan chip akselerator AI miliknya sendiri bulan lalu. Sementara itu, Samsung mendapatkan kontrak besar senilai $750 juta dari Naver Corp. untuk memasok chip akselerator AI edge. Kedua perusahaan tersebut diakui sebagai pemimpin dalam chip akselerator AI oleh Technology Foresights.
Dari kacamata global, Amerika Serikat memimpin dalam hal inovasi chip akselerator AI, diikuti oleh Cina dan Korea Selatan. Di antara perusahaan-perusahaan asal Cina, Huawei berada di posisi terdepan dengan chip seri Ascend, diikuti oleh Alibaba, Baidu, dan lain-lain.
Belakangan ini, sebanyak 20% dari paten untuk teknologi chip akselerator AI diajukan oleh startup. Misalnya Hailo, perusahaan startup asal Israel yang mengkhususkan diri pada pengembangan chip untuk perangkat edge dan baru-baru ini memperoleh suntikan dana sebesar US$120 juta.