Samsung belum lama ini mengumumkan di dunia bahwa dirinya telah berhasil mengembangkan HBM (high bandwidth memory) yang dilengkapi kemampuan komputasi AI (artificial intelligence). Samsung mengklaim perangkat memorinya tersebut sebagai HBM pertama di industri yang mengintegrasikan kemampuan seperti itu. Disebut dengan HBM-PIM (high bandwidth memory-processing-in-memory), perangkat memori ini mengintegrasikan kemampun komputasi AI yang biasanya terdapat pada perangkat terpisah seperti prosesor. Samsung mengklaim HBM-PIM menawarkan kinerja sistem yang lebih dari dua kalinya sistem konvensional serta mengurangi konsumsi energi lebih dari 70%.
"Terobosan HBM-PIM kami adalah solusi PIM yang bisa diprogram pertama di industri yang ditujukan untuk beragam beban kerja yang digerakkan AI seperti HPC, pelatihan, dan inference. Kami berencana untuk mengembangkan terobosan ini dengan berkolaborasi lebih jauh dengan para penyedia solusi AI untuk aplikasi-aplikasi yang ditenagai PIM yang lebih maju lagi," ujar Kwangil Park (Senior Vice President, Memory Product Planning, Samsung Electronics).
Kebanyakan sistem komputasi saat ini menggunakan prosesor dan memori utama terpisah. Pada sistem komputasi yang memanfaatkan prosesor dan memori utama terpisah, data harus bergerak bolak-balik antara prosesor dan memori utama. Karena terpisah, jalur yang menghubungkan keduanya untuk perpindahan data umumnya tidak secepat bila keduanya terintegrasi pada satu perangkat. Alhasil, sering terjadi bottleneck ketika menangani data yang berjumlah besar. Padahal, makin hari data yang dihasilkan di dunia pertumbuhannya makin tinggi seperti yang disampaikan di sini.
Seperti telah disebutkan, HBM-PIM berbeda karena "menggabungkan" prosesor dan memori utama pada satu perangkat. Samsung menyebutkan HBM-PIM meletakkan mesin AI yang dioptimalkan untuk DRAM dalam setiap bank memori pada HBM. Hal itu membuat perpindahan data yang minimal dan memungkinkan pemrosesan yang paralel. Bila HBM-PIM itu diaplikasikan pada HBM2 Aquabolt — HBM2 dari Samsung yang memiliki kecepatan transfer data 2,4 Gbps per pin dan mulai diproduksi tahun 2018, kinerja sistem yang lebih dari dua kalinya serta konsumsi energi yang lebih hemat lebih dari 70% tadi bisa direalisasikan.
Saat ini, Samsung HBM-PIM sedang diuji pada berbagai akselerator AI oleh aneka mitra. Samsung mengharapkan seluruh validasi akan selesai pada semester pertama tahun 2021 ini.