Di tengah memanasnya perlombaan artificial intelligence (AI), Red Hat memperluas kemampuannya di bidang AI dengan Red Hat OpenShift AI. Kehadiran platform ini diumumkan di gelaran Red Hat Summit 2023 yang berlangsung tanggal 23-25 Mei, 2023 di Boston, AS.
OpenShift sendiri telah menjadi solusi application container andalan Red Hat dalam satu dekade terakhir ini. Platform ini dibangun di atas Kubernetes, platform orkestrasi container berteknologi open source.
Seiring perkembangan pemanfaatan AI saat ini, Red Hat meluncurkan versi baru OpenShift yang sudah dioptimalkan untuk memungkinkan deployment AI dan machine learning. Tidak hanya berlandaskan OpenShift, OpenShift AI juga memanfaatkan kapablitas platform OpenShift Data Science untuk production dan deployment model AI.
CTO Red Hat, Chris Wright mengatakan bahwa Red Hat telah menghabiskan waktu dan energi dalam 10 hingga 20 tahun terakhir untuk membangun platform untuk aplikasi. “Dan hari ini adalah tentang menyatukan workload atau beban kerja data dengan platform yang sama yang kami gunakan untuk menghasilkan aplikasi dan menjalankan aplikasi,” ujarnya dalam acara APAC Media Roundtable.
Dengan OpenShift AI, Red Hat menghadirkan serangkaian tool yang memungkinkan perusahaan melakukan training, serving, dan monitoring yang dibutuhkan dalam pengembangan AI.
Menurut Chris, pendekatan dan teknologi ini telah dibuktikan oleh perusahaan induk Red Hat, yaitu IBM. Sebagai informasi, IBM memanfaatkan Red Hat OpenShift untuk membangun, melatih, dan mengelola foundation model watsonx yang baru saja dirilis.
Ada tiga kemampuan baru OpenShift AI yang disorot Red Hat. Pertama adalah kemampuan monitoring performa model AI dan metrik-metrik operasional melalui satu dashboard terpusat. Kemampuan ini memungkinkan para data scientist mengetahui ketika model mengalami penurunan kinerja (model drift) karena adanya perubahan pada data.
OpenShift AI juga menyediakan deployment pipeline untuk tracking eksperimen AI/ML dan automated machine learning workflow. Kemampuan ini memungkinkan data scientist maupun developer melakukan iterasi dengan lebih cepat pada proyek-proyek machine learning dan mengotomatisasi deployment dan update aplikasi.
Kemampuan lainnya adalah model serving yang sekarang mencakupkan GPU support untuk inferensi dan custom model serving runtime yang akan meningkatkan kinerja inferensi dan deployment foundation model yang lebih baik.