Intel mengumumkan keinginan untuk menciptakan sebuah platform terbuka untuk enterprise AI, menyusul Intel telah menggandeng Anyscale, Articul8, DataStax, Domino, Hugging Face, KX Systems, MariaDB, MinIO, Qdrant, Red Hat, Redis, SAP, VMware, Yellowbrick dan Zilliz. Upaya di lingkungan industri yang luas ini bertujuan untuk mengembangkan sistem-sistem GenAI multivendor terbuka yang memberikan kemudahan dalam implementasi, kinerja dan nilai yang terbaik di kelasnya, yang didukung oleh retrieval-augmented generation (RAG).
RAG memungkinkan sumber data proprietary sangat besar yang berjalan dalam infrastruktur cloud standar dilengkapi dengan kemampuan LLM terbuka sehingga mempercepat penggunaan GenAI di perusahaan-perusahaan.
Sebagai langkah awal dalam upaya ini, Intel akan merilis implementasi acuan untuk GenAI pipeline dalam solusi-solusi berbasis Intel Xeon dan Gaudi yang aman, mempublikasikan kerangka kerja konseptual, dan terus menambah kapasitas infrastruktur dalam Intel Tiber Developer Cloud untuk pengembangan ekosistem dan validasi RAG dan pipeline di masa depan.
Intel mendorong partisipasi lebih lanjut dari ekosistem untuk bekerjasama dalam upaya terbuka ini guna memfasilitasi pengadopsian AI open perusahaan, memperluas cakupan solusi dan mengakselerasi hasil bisnis.
Roadmap AI yang Diperluas dan Pendekatan Ekosistem Terbuka dari Intel
Selain Intel Gaudi 3 accelerator, Intel memberikan informasi terbaru mengenai produk dan layanan generasi berikutnya di seluruh segmen enterprise AI.
Prosesor Intel® Xeon® 6 terbaru: Prosesor Intel Xeon menawarkan solusi-solusi yang berkinerja tinggi namun efisien untuk menjalankan solusi-solusi GenAI sat ini, termasuk RAG, yang menciptakan hasil sesuai bisnis yang spesifik dengan menggunakan data proprietary. Intel memperkenalkan brand baru untuk prosesor generasi berikutnya untuk data center, cloud dan edge: Intel Xeon 6. Prosesor Intel Xeon 6 processors dengan Efficient-core (E-core) terbaru akan memberikan efisiensi yang luar biasa dan akan diluncurkan pada kuartal ini, sedangkan Intel Xeon 6 dengan Performance-core (P-cores) akan menawarkan kinerja AI yang meningkat dan akan diluncurkan segera setelah prosesor E-core.
· Prosesor Intel Xeon 6 dengan E-core (nama sandi Sierra Forest):
o Peningkatan kinerja4 per watt 2.4x dan densitas5 rak 2.7x lebih baik dibandingkan dengan prosesor 2nd Gen Intel® Xeon®.
o Pelanggan dapat mengganti sistem lama dengan rasio hampir 3 banding 1, sehingga konsumsi energi berkurang secara drastis dan membantu memenuhi tujuan keberlanjutan6.
· Prosesor Intel Xeon 6 dengan P-core (nama sandi Granite Rapids):
o Menyertakan dukungan software untuk format data MXFP4, yang mengurangi next token latency hingga 6.5x dibandingkan prosesor 4th Gen Intel® Xeon® yang menggunakan FP16, dengan kemampuan menjalankan 70 miliar parameter model-model Llama-27.
Client, Edge dan Konektivitas: Intel mengumumkan momentum untuk client dan pembaruan pada roadmap untuk edge dan konektivitas, yang meliputi:
· Prosesor Intel® Core™ Ultra memberi kekuatan bagi kemampuan-kemampuan baru untuk produktivitas, keamanan dan kreasi konten, sehingga memberikan motivasi besar bagi perusahaan-perusahaan untuk melakukan penyegaran dalam armada PC mereka. Intel mengharapkan untuk mengirim 40 juta AI PC pada 2024, dengan lebih dari 230 desain, dari PC ultra tipis hingga perangkat game genggam.
· Keluarga prosesor client Next-generation Intel Core Ultra (nama sandi Lunar Lake), diluncurkan pada 2024, akan memiliki lebih dari 100 platform tera operations per second (TOPS) dan lebih dari 45 neural processing unit (NPU) TOPS untuk AI PC generasi berikutnya.
· Intel mengumumkan produk silikon edge terbaru dalam keluarga produk prosesor Intel Core Ultra, Intel® Core™ dan Intel® Atom processor dan keluarga produk graphics processing unit (GPU) Intel® Arc™, yang menyasar pasar-pasar utama yang mencakup ritel, manufaktur industri dan Kesehatan. Penambahan baru dalam portofolio edge AI Intel akan tersedia pada kuartal ini dan akan didukung oleh Intel® Tiber™ Edge Platform pada tahun ini.
· Melalui Ultra Ethernet Consortium (UEC), Intel memimpun jaringan Ethernet terbuka untuk AI fabrics, dengan memperkenalkan jajaran solusi-solusi Ethernet yang dioptimalkan untuk AI. Dirancang untuk mentransformasi proses scale-up dan scale-out AI fabrics berukuran besar, inovasi ini memungkinkan proses pelatihan dan inferensi untuk model-model yang semakin besar, dengan ukuran yang besarnya meningkat secara kelipatan dalam setiap generasinya. Lini produk tersebut mencakup Intel AI NIC, AI connectivity chiplets untuk integration ke dalam XPUs, sistem-sistem berbasis Gaudi, dan rangkaian desain AI interconnect acuan baik bersifat perangkat lunak maupun perangkat keras untuk Intel Foundry.
Baca Juga: Apa Keuntungan Pengembang Ikut AI Acceleration Program dari Intel?