Akhir bulan lalu, sebelum COMPUTEX 2023, Intel secara hibrida membagikan sedikit detail mengenai lini prosesor untuk klien barunya yang akan meluncur semester kedua tahun ini. Memiliki codename Intel Meteor Lake, lini prosesor yang bila mengikuti penamaan Intel sebelumnya sewajarnya adalah Intel Core Generasi ke-14 tersebut, menambahkan unit pemrosesan yang disebut dengan VPU melengkapi CPU dan GPU. Intel VPU ini diklaim merupakan unit khusus untuk AI inference sehingga membuat Intel Meteor Lake memiliki kinerja sehubungan AI (artificial intelligence) yang lebih mumpuni dibandingkan sebelumnya.
Seperti yang InfoKomputer sampaikan di sini, Intel Meteor Lake memakai advanced packaging technology yang disebut Intel Foveros. Penggunaan Intel Foveros adalah untuk menggabungkan berbagai tile alias chiplet yang menenagai Intel Meteor Lake. Pada Intel Meteor Lake terdapat antara lain tile CPU, tile Graphics/GPU, dan tile SOC. Pendekatan disaggregated alias terpilah ini berbeda dengan sebelumnya. Pada Intel Core Generasi ke-13 dengan codename Intel Raptor Lake U misalnya, CPU dan GPU terletak pada satu die, hanya PCH yang terpisah terletak pada die yang berbeda. Intel pun menyebut Intel Meteor Lake sebagai inflection point alias titik belok bagi lini prosesor untuk kliennya karena bisa dibilang yang pertama menggunakan pendekatan seperti ini.
Namun, seperti yang dituliskan di atas, fitur yang paling dikedepankan Intel pada kesempatan ini adalah Intel VPU. Intel menyebutkan, Intel VPU pada Intel Meteor Lake adalah IP (intellectual property) generasi ketiga yang berasal dari Movidius yang diakuisisi Intel beberapa tahun lalu. Menilik Intel Movidius VPU, VPU merupakan singkatan dari vision processing unit. Namun, Intel, setidaknya melalui salah satu rekayasawannya, juga pernah menyebutkan VPU sebagai singkatan dari versatile processing unit. Singkatan dari apapun, Intel VPU didefinisikan Intel sebagai dedicated low power AI engine. Dengan kata lain, Intel VPU tidak hanya bisa mengakselerasi AI inference tertentu melainkan juga melakukannya secara hemat daya.
Intel menambahkan unit pemrosesan yang disebut dengan VPU melengkapi CPU dan GPU pada Intel Meteor Lake. Intel VPU diklaim merupakan unit khusus untuk AI inference tertentu sehingga membuat Intel Meteor Lake bisa memiliki kinerja AI inference yang lebih baik.
Sebenarnya, Intel VPU sudah hadir pada prosesor tertentu yang masuk pada Intel Core Generasi ke-13. Pada Intel Meteor Lake sendiri, Intel memastikan Intel VPU akan hadir pada seluruh SKU-nya. Belakangan pemanfaatan AI memang makin populer. Generative AI alias AI generatif contohnya kini sedang ramai diperbincangkan dan digunakan. Meksipun begitu, bukan berarti Intel berfokus ke AI dan menghadirkan Intel VPU karena kehebohan itu. Intel sudah menawarkan akselerasi terhadap AI pada lini prosesor untuk klien gerenasi sebelumnya, Intel Core generasi sebelumnya, seperti misalnya Intel DL Boost (Deep Learning Boost) yang sudah tersedia sejak Intel Core Generasi ke-10 dengan codename Intel Ice Lake.
AI Makin Dimanfaatkan
Makin banyaknya pemanfaatan AI antara lain terlihat dari makin banyaknya penggunaan digital voice assistant seperti Google Assistant dan Amazon Alexa. Mengutip Statista, banyaknya jumlah digital voice assistant di dunia pada tahun 2024 diperkirakan mencapai 8,4 miliar, meningkat pesat dari tahun 2019 yang sebanyak 3,25 miliar. Jumlah yang lebih banyak dari penduduk dunia yang diperkirakan pada tahun 2024 itu adalah karena sebagian penduduk ada yang menggunakan lebih dari satu digital voice assistant dan sebagian lagi tidak atau belum menggunakan. MarketsandMarkets pun memprediksikan bahwa pasar AI global pada tahun 2027 akan sebesar US$407 miliar, jauh lebih besar dari tahun 2022 yang diperkirakan sejumlah US$86,9 miliar.
Tak hanya jumlah pemanfaatan dan nilai pasarnya yang meningkat, kemampuan komputasi untuk suatu model penggunaan AI yang sama pun terus meningkat berhubung menawarkan hasil yang lebih baik — menawarkan pengalaman pengguna yang lebih baik. Ambil contoh peredeman suara latar misalnya saat melakukan konferensi video. Intel menyebutkan model AI yang digunakan untuk keperluan ini meningkat menjadi berpuluh-puluh kali pada tahun 2023 dibandingkan tahun 2021 lalu. Secara spesifik Intel menyebutkan model yang digunakan untuk peredeman kebisingan secara dinamis meningkat menjadi sekitar lima puluh kali pada tahun 2023 dibandingkan tahun 2021. Begitu pula untuk segmentasi latar yang menjadi sepuluh kalinya. Segmentasi latar contohnya dipakai untuk mengaburkan tampilan latar saat konferensi video.
Memang bisa saja AI inference yang dimaksud dijalankan di cloud, tetapi umumnya latensi yang ditawarkan akan lebih tinggi dari bila dijalankan di perangkat secara langsung. Begitu pula dengan biaya dan — bisa diperdebatkan — privasi. Hal-hal ini sedikit banyak membuat AI inference makin banyak yang bermigrasi dari cloud ke perangkat. Bermigrasi ke perangkat juga mencakup yang sebagian berjalan di perangkat dan sebagian lain di cloud. Kehadiran Intel VPU tentunya sejalan dengan migrasi ke perangkat yang dimaksud. Apalagi Intel VPU tidak hanya menawarkan kinerja komputasi yang lebih mumpuni dalam menjalankan AI inference tertentu, melainkan juga melakukannya dengan daya yang lebih hemat.
Intel VPU dan Lainnya
Intel menambahkan bahwa Intel VPU sebagai dedicated low power AI engine bukan serta merta mengambil alih menjalankan seluruh AI inference dari CPU dan GPU. Intel memastikan bahwa AI inference pada Intel Meteor Lake akan dibagi antara Intel VPU, CPU, dan GPU plus unit lain seperti Intel GNA (Gaussian & Neural Accelerator). Jadi, dibagi antara Intel VPU dan lainnya. Intel mengatakan bahwa Intel VPU cocok untuk AI inference yang berlangsung dalam waktu lama dan kontinu. Sementara, CPU untuk AI inference tunggal yang ringan dan butuh latensi rendah serta GPU untuk AI inference yang butuh komputasi tinggi. Adapun Intel GNA bisa dibilang mirip Intel VPU, tetapi untuk AI inference yang lebih sederhana.
“Itu sebenarnya adalah suatu arsitektur heterogen untuk kami dan kami memiliki aneka perkakas untuk membolehkan Anda mendistribusikan para beban kerja. Jadi bisa diharapkan perihal tersebut ke depannya dan Anda tahu, beban-beban kerja akan mendarat ke yang sesuai,” jelas John Rayfield (Vice President and General Manager of Client AI, Intel; kiri) mengenai beban kerja sehubungan AI pada Intel Meteor Lake yang akan bisa diletakkan pada unit (CPU, GPU, maupun Intel VPU) yang paling sesuai untuk beban kerja tersebut.
Salah satu AI inference yang diklaim cocok dijalankan pada Intel VPU adalah mengaburkan tampilan latar saat konferensi video plus aneka fitur lain sehubungan konferensi video tersebut, seperti auto framing dan pengenalan gestur. Intel mengatakan Intel VPU memberikan komputasi yang lebih bertenaga untuk AI inference yang dimaksud plus menjalankannya dengan daya yang lebih hemat. Dengannya pengguna akan mendapatkan hasil yang lebih baik dus pengalaman pengguna yang lebih baik, serta konsumsi daya yang lebih hemat dus umur baterai yang lebih panjang bila memakai laptop dan sejenisnya yang tidak terhubung ke jala-jala listrik. Mengenai hasil yang lebih baik, bisa Anda lihat lebih jelas pada Gambar 1.
Intel pun memastikan dukungan sehubungan peranti lunak yang membolehkan pengembang peranti lunak dus berbagai peranti lunak untuk memanfaatkan Intel VPU. Intel ingin pula terus mengembangkan ekosistem untuk Intel VPU sehingga nantinya para aplikasi tidak hanya bisa bertransisi memanfaatkan Intel VPU secara lancar, melainkan juga menghadirkan pengalaman-pengalaman pengguna baru memanfaatkan Intel VPU tersebut. Sedang populer saat ini, salah satu pengalaman pengguna baru yang diangkat Intel adalah sehubungan generative AI.
Gambar 1. Perbandingan hasil pengaburan latar tingkat lanjut saat konferensi video memanfaatkan Intel VPU (kanan) dengan yang bisa dan tidak memanfaatkan Intel VPU. Terlihat yang memanfaatan Intel VPU memberikan hasil dus pengalaman pengguna yang lebih baik.
Adapun peluncuran secara resmi Intel Meteor Lake, Intel tidak memberikan bocoran secara spesifik. Intel hanya menyebutkan Intel Meteor Lake akan meluncur secara resmi pada tahun 2023 ini tanpa mengatakan secara spesifik bulannya. Menilik Intel Core Generasi ke-13 yang diluncurkan secara resmi pada Intel Innovation 2022 yang berlangsung September 2022 lalu, bisa saja Intel Meteor Lake akan diluncurkan pada Intel Innovation 2023. Intel Innovation 2023 sendiri dijadwalkan pada September 2023 yang akan datang.