Dengan bfloat16 kecepatan dalam melatih dan inference sehubungan AI bisa ditingkatkan secara signifikan dibandingkan FP32. Intel Xeon Scalable Generasi ke-3 merupakan prosesor server mainstream pertama yang mendukung bfloat16 secara peranti keras. Pada ResNet-50 (residual neural network dengan 50 layer) — AI yang populer untuk klasifikasi gambar — yang telah dioptimalkan, Intel mengklaim peningkatan yang ditawarkan Intel Xeon Scalable Generasi ke-3 berkat Intel DL (Deep Learning) Boost; yang kini mendukung bfloat16; dalam melatih model AI, bisa lebih dari 70% dibandingkan menggunakan FP32 memanfaatkan AVX-512 pada prosesor yang sama. Bila dibandingkan Intel Xeon Scalable Generasi ke-2, peningkatannya lebih dari 90%. Begitu pula untuk inference yang masing-masing memberikan peningkatan mendekati 80% dan mendekati 88%. Namun, untuk inference, penggunaan INT8 yang 8 bit tentunya juga didukung Intel Xeon Scalable bersangkutan adalah jauh lebih tinggi. Pengguna bisa memilih yang paling optimal untuknya.
Intel Xeon Scalable Generasi ke-3 yang diumumkan sendiri memiliki codename Cooper Lake dan lebih ditargetkan untuk sistem dengan empat soket sampai delapan soket. Intel Cooper Lake ini masih menggunakan arsitektur menyerupai generasi sebelumnya dan technology node 14 nm. Namun, soket yang dimanfaatkan berbeda, yakni LGA4189 dan bukannya LGA3647. Adapun untuk sistem dengan satu soket dan dua soket, Intel Xeon Scalable Generasi ke-3 dengan codename Ice Lake yang ditujukan untuk sistem seperti itu. Intel Xeon Scalable Generasi ke-3 dengan codename Ice Lake direncanakan menyusul hadir pada tahun ini juga. Intel Ice Lake telah menggunakan arsitektur baru dan technology node 10 nm.
Terdapat sebelas prosesor Intel Xeon Scalable Generasi ke-3 yang diumumkan, mulai dari Intel Xeon Gold 5318H yang merupakan varian terendah sampai Intel Xeon Platinum 8380HL yang merupakan varian tertinggi. Lebih lengkapnya mengenai kesebelas prosesor Intel Xeon Scalable Generasi ke-3 itu bisa dilihat pada tabel berikut.
Sementara, Intel Optane persistent memory seri 200 menawarkan bandwidth yang lebih tinggi sebesar 25% secara rata-rata dibandingkan Intel Optane persistent memory generasi sebelumnya. Bandwidth yang lebih besar itu memungkinkan Intel Optane persistent memory seri 200 untuk memberikan kinerja yang lebih baik dari sebelumnya. Intel Optane sendiri adalah suatu memori dengan jenis yang relatif baru. Intel Optane memungkinkan kecepatan yang lebih tinggi dari NAND flash memory dan kapasitas yang lebih besar dari DRAM. Alhasil Intel Optane cocok diletakkan di atas media simpan SSD dan di bawah memori utama. Adapun Intel Optane persistent memory seri 200 ditujukan untuk Intel Xeon Scalable Generasi ke-3
Terdapat dua kelompok Intel Optane, satu yang lebih sebagai media simpan dan satu lagi yang untuk menemani memori utama. Intel Optane persistent memory adalah yang disebut belakangan. Dengan Intel Optane persistent memory suatu sistem bisa memiliki "memori utama" berkapasitas lebih besar dengan biaya yang lebih ringan. Memang kecepatannya masih tertinggal dibandingkan DRAM, tetapi kapasitas tambahan yang diberikan bisa membantu dalam sejumlah skenario seperti in-memory computing — komputasi dengan data yang diinginkan disimpan di memori utama bukan di media simpan sehingga kecepatan komputasi meningkat. Selain itu, seperti namanya, Intel Optane persistent memory juga tetap menyimpan datanya meski kehilangan daya, tidak seperti DRAM. Intel pun mencontohkan query yang delapan kali lebih cepat pada Apache Spark memanfaatkan Intel Optane persistent memory dibandingkan menggunakan DRAM dan HDD saja. Terdapat tiga pilihan kapasitas Intel Optane persistent memory seri 200, yakni 128 GB, 256 GB, dan 512 GB.
Intel Xeon Scalable Generasi ke-3 sudah mulai dikapalkan ke konsumen sejak pengumuman dilakukan. Begitu pula dengan Intel Optane persistent memory seri 200. Selain prosesor dan memori yang bisa ditandem dengan memori utama, Intel juga mengumumkan sejumlah perangkat lain seperti SSD dan FPGA (Field-Programmable Gate Array).
KOMENTAR