Memang bisa saja AI inference yang dimaksud dijalankan di cloud, tetapi umumnya latensi yang ditawarkan akan lebih tinggi dari bila dijalankan di perangkat secara langsung. Begitu pula dengan biaya dan — bisa diperdebatkan — privasi. Hal-hal ini sedikit banyak membuat AI inference makin banyak yang bermigrasi dari cloud ke perangkat. Bermigrasi ke perangkat juga mencakup yang sebagian berjalan di perangkat dan sebagian lain di cloud. Kehadiran Intel VPU tentunya sejalan dengan migrasi ke perangkat yang dimaksud. Apalagi Intel VPU tidak hanya menawarkan kinerja komputasi yang lebih mumpuni dalam menjalankan AI inference tertentu, melainkan juga melakukannya dengan daya yang lebih hemat.
Intel VPU dan Lainnya
Intel menambahkan bahwa Intel VPU sebagai dedicated low power AI engine bukan serta merta mengambil alih menjalankan seluruh AI inference dari CPU dan GPU. Intel memastikan bahwa AI inference pada Intel Meteor Lake akan dibagi antara Intel VPU, CPU, dan GPU plus unit lain seperti Intel GNA (Gaussian & Neural Accelerator). Jadi, dibagi antara Intel VPU dan lainnya. Intel mengatakan bahwa Intel VPU cocok untuk AI inference yang berlangsung dalam waktu lama dan kontinu. Sementara, CPU untuk AI inference tunggal yang ringan dan butuh latensi rendah serta GPU untuk AI inference yang butuh komputasi tinggi. Adapun Intel GNA bisa dibilang mirip Intel VPU, tetapi untuk AI inference yang lebih sederhana.
“Itu sebenarnya adalah suatu arsitektur heterogen untuk kami dan kami memiliki aneka perkakas untuk membolehkan Anda mendistribusikan para beban kerja. Jadi bisa diharapkan perihal tersebut ke depannya dan Anda tahu, beban-beban kerja akan mendarat ke yang sesuai,” jelas John Rayfield (Vice President and General Manager of Client AI, Intel; kiri) mengenai beban kerja sehubungan AI pada Intel Meteor Lake yang akan bisa diletakkan pada unit (CPU, GPU, maupun Intel VPU) yang paling sesuai untuk beban kerja tersebut.
Salah satu AI inference yang diklaim cocok dijalankan pada Intel VPU adalah mengaburkan tampilan latar saat konferensi video plus aneka fitur lain sehubungan konferensi video tersebut, seperti auto framing dan pengenalan gestur. Intel mengatakan Intel VPU memberikan komputasi yang lebih bertenaga untuk AI inference yang dimaksud plus menjalankannya dengan daya yang lebih hemat. Dengannya pengguna akan mendapatkan hasil yang lebih baik dus pengalaman pengguna yang lebih baik, serta konsumsi daya yang lebih hemat dus umur baterai yang lebih panjang bila memakai laptop dan sejenisnya yang tidak terhubung ke jala-jala listrik. Mengenai hasil yang lebih baik, bisa Anda lihat lebih jelas pada Gambar 1.
Intel pun memastikan dukungan sehubungan peranti lunak yang membolehkan pengembang peranti lunak dus berbagai peranti lunak untuk memanfaatkan Intel VPU. Intel ingin pula terus mengembangkan ekosistem untuk Intel VPU sehingga nantinya para aplikasi tidak hanya bisa bertransisi memanfaatkan Intel VPU secara lancar, melainkan juga menghadirkan pengalaman-pengalaman pengguna baru memanfaatkan Intel VPU tersebut. Sedang populer saat ini, salah satu pengalaman pengguna baru yang diangkat Intel adalah sehubungan generative AI.
Gambar 1. Perbandingan hasil pengaburan latar tingkat lanjut saat konferensi video memanfaatkan Intel VPU (kanan) dengan yang bisa dan tidak memanfaatkan Intel VPU. Terlihat yang memanfaatan Intel VPU memberikan hasil dus pengalaman pengguna yang lebih baik.
Adapun peluncuran secara resmi Intel Meteor Lake, Intel tidak memberikan bocoran secara spesifik. Intel hanya menyebutkan Intel Meteor Lake akan meluncur secara resmi pada tahun 2023 ini tanpa mengatakan secara spesifik bulannya. Menilik Intel Core Generasi ke-13 yang diluncurkan secara resmi pada Intel Innovation 2022 yang berlangsung September 2022 lalu, bisa saja Intel Meteor Lake akan diluncurkan pada Intel Innovation 2023. Intel Innovation 2023 sendiri dijadwalkan pada September 2023 yang akan datang.