Amazon mengembangkan dua chip artificial intelligence (AI) atau kecerdasan buatan khusus yaitu Inferentia dan Trainium untuk melatih model bahasa besar (LLM) dan mempercepat adopsi AI generatif sekaligus menantang superchip Nvidia, Grace Hopper.
CEO AWS Adam Selipsky mengatakan para pelanggan Amazon Web Service (AWS) memiliki banyak alternatif chipset AI untuk melatih model LLM mereka.
"Saat ini seluruh dunia menginginkan lebih banyak chip AI generatif. Saya pikir Amazon berada dalam posisi yang tepat daripada siapa pun di Bumi untuk memasok chip AI ini ke pelanggan," katanya.
Chipset Trainium sendiri pertama kali hadir di pasaran pada 2021 dan Inferentia pada 2019. VP produk AWS Matt Wood mengatakan pelanggan dapat menggunakan Inferentia untuk memberikan inferensi pembelajaran mesin yang sangat murah, throughput tinggi dan latensi rendah.
"Trainium memberikan peningkatan sekitar 50 persen dalam hal performa harga dibandingkan dengan cara lain untuk melatih model pembelajaran mesin di AWS. Ini merupakan semua prediksi saat Anda mengetik perintah ke dalam model AI generatif Anda, di situlah semua diproses menjadi memberi Anda tanggapan," kata Wood.
Namun, belum diketahui pasti juga kapan dua chip khusus AI Amazon itu akan mulai di pasarkan secara global. Seperti yang diwartakan sebelumnya, Nvidia Grace Hopper baru saja diumumkan dan tersedia pada 2024.
Chip ini adalah terobosan percepatan CPU yang dirancang untuk mengatasi masalah paling kompleks di dunia, seperti LLM, sistem pemberi rekomendasi dan database vektor.
Fokus AI
Ilustrasi Kantor Amazon
Saat ini teknologi sedang berlomba-lomba mengembangkan teknologi artificial intelligence (AI) atau kecerdasan buatan tak terkecuali Amazon.
CEO Amazon Andy Jassy meminta semua unit bisnis di Amazon Web Services (AWS) mengembangkan teknologi generatif AI. Hal ini diungkapkan saat Jassy menyampaikan laporan pendapatan perusahaan pada kuartal II-2023.
"Amazon memiliki sejumlah infrastruktur dan layanan baru AWS yang mendukung generative AI," katanya.