Meta dan Qualcomm menggarap model bahasa besar Llama 2 Meta langsung di perangkat (on-device) untuk menghilangkan kebutuhan akan ketergantungan pada layanan cloud yang biayanya mahal.
Harapannya, para pengembang dapat menawarkan pengalaman yang lebih pribadi dan dipersonalisasi kepada pengguna jika menjalankan model AI generatif seperti Llama 2 langsung pada ponsel, PC, headset VR/AR, dan kendaraan
Pelanggan, mitra, dan pengembang dapat menggunakan dan merasakan pengalaman AI Llama 2 untuk membangun asisten virtual pintar, alat produktivitas, platform pembuatan konten, dan aplikasi hiburan.
Durga Malladi (Wakil Presiden Senior, dan Manajer Umum Bisnis Teknologi, Perencanaan, dan Solusi Edge di Qualcomm Technologies) mengatakan Meta dan Qualcomm akan mengembangkan teknologi AI secara terbuka dan bertanggung jawab.
"Salah satu keunggulan AI dalam perangkat adalah kemampuannya untuk berfungsi di area tanpa konektivitas internet atau bahkan dalam mode pesawat," katanya. Malladi mengatakan Qualcomm berkomitmen mendorong inovasi dan memfasilitasi pengembangan AI untuk pengembang dari semua ukuran. "Kami ingin AI generatif berjalan mulus di perangkat cloud dan edge seperti ponsel, laptop, kendaraan, dan perangkat IoT," ujarnya.
Kolaborasi antara Meta dan Qualcomm Technologies dibangun di atas sejarah panjang mereka dalam mendorong inovasi teknologi untuk menghadirkan pengalaman perangkat premium. Kemitraan ini mencakup penelitian bersama dan upaya rekayasa produk yang ditujukan untuk mendukung ekosistem Llama.
Qualcomm Technologies berencana untuk menawarkan implementasi AI berbasis Llama 2 pada perangkat yang ditenagai oleh Snapdragon.
Pengembang dapat memulai dengan mengoptimalkan aplikasi mereka untuk AI di perangkat menggunakan Qualcomm AI Stack, seperangkat alat khusus yang memungkinkan pemrosesan AI yang lebih efisien di Snapdragon.
"Teknologi terobosan ini memungkinkan AI pada perangkat bahkan pada perangkat kecil, tipis, dan ringan," ucapnya.