Alasan Colossus Jadi Superkomputer AI Terkuat di Dunia Saat Ini

Adam Rizal - Kamis, 5 September 2024 | 09:30 WIB

Chatbot AI Grok

Startup xAI meluncurkan dan mengoperasikan superkomputer AI terkuat di dunia Colossus. Pemilik startup xAI Elon Musk mengklaim Colossus adalah superkomputer terkuat di dunia karena Colossus dibangun dengan 100.000 unit GPU Nvidia H100 dan selesai dalam waktu 122 hari. Jumlah GPU yang digunakan empat kali lebih banyak dibandingkan sistem AI terbesar saat ini, seperti milik Meta.

Musk juga merencanakan peningkatan kapasitas Colossus dengan menambah 50.000 unit GPU Nvidia H200, yang dua kali lebih kuat dari H100. xAI merancang Colossus untuk mampu melatih model bahasa besar (LLM) Grok-3, generasi baru dari chatbot AI yang dikembangkan xAI. Rencananya, Grok-3 akan hadir pada Desember 2024. LLM Grok ini merupakan otak dari chatbot AI Grok yang bisa dinikmati oleh pelanggan berbayar di X/Twitter.

LLM Grok pertama diperkenalkan oleh xAI pada 2023, sebagai respons atas keberhasilan para pesaingnya seperti GPT di ChatGPT, Gemini, Llama 3.1, dan Claude. Kemudian, xAI merilis LLM Grok-2 versi beta pada Agustus 2024. Grok-2 dilaporkan dilatih oleh 15.000 unit GPU Nvidia H100. Dengan Grok-2, chatbot AI di media sosial X (dahulu Twitter) ini menjanjikan peningkatan performa dibanding pendahulunya, serta dibekali kapabilitas baru untuk membuat (generate) gambar langsung dari X.

“Akhir pekan ini, tim @xAI meluncurkan klaster pelatihan Colossus 100k H100 kami secara daring. Dari awal hingga akhir, semuanya selesai dalam 122 hari. Colossus adalah sistem pelatihan AI terkuat di dunia," twit @elonmusk.

Pembangunan superkomputer itu menelan biaya miliaran dolar AS, dengan pendanaan sebesar 6 miliar dolar yang didapat xAI pada Mei lalu, melibatkan pemodal ventura seperti Andreessen Horowitz, Sequoia Capital, serta Fidelity dan Kingdom Holding dari Arab Saudi.

Terintegrasi X

Media sosial X akan memperkenalkan serangkaian fitur baru yang mengintegrasikan AI Grok ke dalam aplikasinya. Peneliti aplikasi independen, Nima Owji, mengungkapkan bahwa X sedang menguji beberapa fitur baru untuk mengintegrasikan Grok bagi penggunanya.

Penemuan ini pertama kali terungkap di situs web X pada 5 Juli 2024, meskipun fitur-fitur tersebut belum dirilis secara publik. Fitur-fitur ini berpotensi meningkatkan interaksi pengguna dengan AI.

Salah satu fitur baru memungkinkan pengguna menggunakan Grok melalui pop-up di sisi kanan layar saat menjelajahi X. Fitur ini mirip dengan pesan langsung (DM) yang dapat diakses dari layar beranda aplikasi melalui jendela kecil di atas layar.

Fitur pop-up ini mirip dengan cara perusahaan seperti Google dan Microsoft menggunakan chatbot dalam aplikasi produktivitas mereka, dengan akses chatbot AI yang sering tersedia di sidebar kanan layar.

Menurut TechCrunch, penempatan ini memudahkan pengguna untuk mengobrol dengan Grok untuk mencari informasi baru. Grok juga bisa digunakan untuk meneliti profil pengguna di X. Dengan mengklik tombol, pengguna dapat memperoleh informasi lebih lanjut tentang suatu akun, meskipun detail spesifiknya belum jelas.

Fitur menarik lainnya adalah kemampuan mencari informasi melalui Grok hanya dengan menyorot kata atau frasa dalam postingan di X. Pengguna dapat menyeret kursor melintasi istilah tertentu, lalu mengklik tombol Ask Grok yang muncul untuk memulai pencarian dengan chatbot.

Grok juga memiliki kemampuan penglihatan, memungkinkan pengguna mengunggah gambar dan mengajukan pertanyaan. X pertama kali menambahkan Grok ke aplikasinya pada 2023 untuk meningkatkan langganan berbayar pada paket Premium Plus. Namun, karena persaingan yang semakin ketat dari ChatGPT milik OpenAI, Gemini milik Google, dan lainnya, X memperluas akses ke Grok pada Maret 2024 untuk menyertakan pelanggan Premium tingkat menengah.

Menurut TestingCatalog, Grok juga dapat ditambahkan sebagai tab terpisah di X Pro untuk akun premium, memungkinkan pengguna berinteraksi dengan Grok saat menjelajahi konten di X dan berinteraksi dengan akun lain.