Arm KleidiAI memudahkan suatu pengembang peranti lunak untuk menghadirkan AI pada peranti lunaknya yang berjalan secara optimal pada prosesor-prosesor dengan arsitektur Arm. Pengembang itu “cukup” membuat peranti lunaknya, saat menggunakan AI, memanggil Arm KleidiAI untuk memanfaatkan berbagai fitur perihal AI yang tersedia pada prosesor-prosesor dengan arsitetur Arm bersangkutan. Dengan banyaknya yang menggunakan cip berarsitektur Arm plus KleidiAI dan sejenisnya, Arm sesumbar bahwa masa depan AI dibangun di atas Arm; masa depan AI ditenagai oleh Arm.
Arm pun mencontohkan bahwa pada salah satu generative AI yang menggunakan Llama, KleidiAI berhasil meningkatkan kinerja sebesar 190%. Peningkatan kinerja berkat Arm KleidiAI yang sebesar 190% ini diklaim sepenuhnya berkat Arm KleidiAI. Pasalnya, peranti keras yang digunakan adalah sama, bukan yang berbeda atau baru. Ke depannya Arm yakin peningkatan kinerja yang ditawarkan akan lebih tinggi lagi sejalan dengan makin familiernya para pengembang peranti lunak memakai Arm KleidiAI. Arm mengantisipasi lebih dari 100 miliar perangkat berasitektur Arm siap untuk AI pada akhir tahun 2025 berkat Kleidi.
Arm CSS for Client adalah kelanjutan dari Arm TCS yang merupakan platform untuk membantu para pengembang peranti keras seperti yang telah disebutkan tadi. Tahun lalu, seperti yang bisa dilihat di sini, Arm mengungkapkan TCS23 (TCS 2023). Terdapat sejumlah hal yang dikedepankan Arm untuk CSS for Client pada COMPUTEX 2024. Dua di antaranya adalah CPU dan GPU baru, yakni Arm Cortex-X925 dan Arm Immortalis-G925. Sebenarnya, unsur CPU dari Arm CSS for Client juga mencakup sejumlah CPU lain, begitu pula unsur GPU yang mencakup sejumlah GPU lain. Namun, yang disorot adalah Arm Cortex-X925 dan Arm Immortalis-G925, keduanya adalah yang tertinggi.
Chris Bergey (Senior Vice President and General Manager, Client Line of Business, Arm) menjelaskan mengenai Arm CSS for Client pada COMPUTEX 2024 yang antara lain menawarkan peningkatan kinerja dan efisiensi energi.
“Untuk platform generasi berikutnya ini, CPU Arm baru ini menghadirkan IPC Arm tertinggi dengan peningkatan lebih dari dua digit dalam instructions per clock. Kami mengambil kepemimpinan kami pada GPU dan memajukannya lebih jauh dengan peningkatan pada ray tracing, tambahan kinerja, dan efisiensi,” jelas Chris Bergey (Senior Vice President and General Manager, Client Line of Business, Arm).
Adapun Arm TCS sendiri, dulu disebutkan hadir sebagai cara untuk mengatasi tantangan-tantangan dalam mendesain SoC dengan melihat domain komputasi secara keseluruhan agar beroleh peningkatan kinerja yang lebih baik. Arm TCS23 yang diungkapkan tahun lalu, unsur CPU-nya menawarkan beberapa CPU, yakni Arm Cortex-X4, Arm Cortex-A720, dan Arm Cortex-A520. Sementara, unsur GPU-nya menawarkan Arm Immortalis-G720, Arm Mali-G720, dan Arm Mali-G620. Varian tertinggi adalah Arm Cortex-X4 dan Arm Immortalis-G720. Arm TCS23 menyasar berbagai perangkat seperti STB (set-top box), smart TV, smartphone, dan laptop.
Sebagai CPU yang paling tinggi pada Arm CSS for Client (tahun ini), Arm Cortex-X925 memiliki nama yang sedikit berbeda dari sebelumnya yang Arm Cortex-X4, Arm Cortex-X3, dan seterusnya. Arm berdalih hal ini untuk menegaskan arsitektur Armv9.2 yang dipakai plus peningkatan antargenerasi yang paling tinggi yang dihadirkan Arm Cortex-X925. Arm Cortex-X925 diklaim bisa memberikan kinerja yang lebih tinggi sebesar 41% dibandingkan Arm Cortex-X4 pada TinyLlama untuk TTFT (time to first token). Kinerja AI yang lebih tinggi memang menjadi salah satu unggulan dari Arm Cortex-X925, begitu juga Arm Immortalis-G925.
Selain kinerja AI, Arm pun mengeklaim Cortex-X925 bisa memberikan kinerja yang lebih tinggi sebesar 36% dibandingkan smartphone premium Android tahun 2023 pada Geekbench 6.2 untuk single core. Namun, kinerja single core Arm Cortex-X925 pada Geekbench 6.2 yang bisa lebih tinggi 36% dari smartphone premium Android tahun 2023 ini, dicapai bukan hanya karena peningkatan IPC (instructions per cycle/clock) melainkan berkat frekuensi kerja alias clock yang lebih tinggi pula.
Arm Cortex-X925 diklaim bisa memberikan kinerja yang lebih baik dibandingkan CPU generasi sebelumnya, termasuk untuk AI. Arm Cortex-X925 misalnya bisa memberikan kinerja yang lebih tinggi sebesar 41% dibandingkan Arm Cortex-X4 pada TinyLlama untuk TTFT (time to first token).
Seperti Arm Cortex-X925, Arm Immortalis-G925 juga disebutkan menawarkan peningkatan kinerja yang signifikan dibandingkan generasi sebelumnya. Arm mengeklaim Immortalis-G925 bisa memberikan peningkatan kinerja rata-rata sebanyak 37% dibandingkan Arm Immortalis-G720 untuk aplikasi grafis. Sementara AI, Arm menyebutkan Immortalis-G925 bisa memberikan peningkatan kinerja rata-rata sejumlah 34% (di situs Arm dituliskan 36%) dibandingkan Immortalis-G720 untuk inference. Namun peningkatan ini diperoleh dengan membandingkan antara Arm Reference Platforms: Arm Immortalis-G925 yang memiliki empat belas core dengan Arm Immortalis-G720 yang memiliki dua belas core.
Adapun untuk gim seluler, Arm Immortalis-G925 diklaim bisa memberikan peningkatan kinerja rata-rata sebanyak 46% dibandingkan Arm Immortalis-G720. Khusus untuk ray tracing, Arm Immortalis-G925 disebutkan bisa memberikan peningkatan kinerja hingga 52% dibandingkan Arm Immortalis-G720. Menariknya lagi, untuk kinerja yang sama dengan Arm Immortalis-G720 dalam menjalankan sejumlah gim seluler populer, Arm Immortalis-G925 membutuhkan energi yang lebih hemat 30%.
Selain itu, Arm menekankan pula bahwa untuk para CPU dan GPU, CSS for Client menyertakan implementasi-implementasi fisik yang siap produksi pada technology node kelas 3 nm sejumlah pabrik fabrikasi semikonduktor. Arm menjelaskan aneka implementasi yang dimaksud membolehkan para mitranya untuk mendapatkan seluruh manfaat dari technology node kelas 3 nm sembari membolehkan desain-desain silikon yang fleksibel dan bisa dilakukan kustomisasi.