Adopsi AI Makin Marak, Apa Dampaknya pada Infrastruktur Pusat Data?

Liana Threestayanti - Senin, 9 Desember 2024 | 16:30 WIB

Data Center AI

Pemanfaatan teknologi artificial intelligence (AI) yang terus meningkat pada gilirannya akan mendorong transformasi pusat data atau data center guna mengakomodasi kekuatan komputasi yang lebih canggih.

Survei terbaru McKinsey memperlihatkan peningkatan penggunaan AI generatif. Sebanyak 65% responden survei mengaku organisasinya telah memanfaatkan AI generatif secara berkala. Angka tersebut meningkat hampir dua kali lipat dari persentase sepuluh bulan lalu.

Dalam konteks AI yang lebih luas, selaras dengan temuan di atas, McKinsey mengungkapkan adopsi AI melonjak hingga 72%. Padahal selama 6 tahun terakhir, angkanya tidak pernah banyak bergeser dari angka 50%.

Di tahun 2023, McKinsey mendapati bahwa adopsi AI di semua kawasan tidak pernah lebih dari 66%. Namun di 2024 ini, lebih dari dua pertiga responden di semua kawasan mengatakan bahwa organisasinya sudah menggunakan AI.

McKinsey juga menemukan bahwa AI memberikan manfaat signifikan pada berbagai fungsi bisnis. Fungsi sumber daya manusia (HR) merasakan pengurangan biaya terbesar, sementara peningkatan pendapatan lebih dari 5% terjadi di manajemen supply chain dan pemasaran. Pemanfaatan AI analitik juga banyak digunakan di operasi layanan untuk meningkatkan efisiensi.

Survei McKinsey juga menyampaikan prediksi bahwa secara teoritis, tool AI juga berpotensi meningkatkan produktivitas secara global dari US$2,6 triliun menjadi US$4,4 triliun.

Di sisi lain, teknologi AI, terutama AI generatif pun menghadirkan tuntutan baru bagi data center sebagai tempat aplikasi dan layanan berjalan.

“Desain data center masa depan akan semakin berfokus pada kebutuhan AI, dengan ruang khusus untuk server dengan performa tinggi, sistem pendinginan canggih, serta jaringan yang mendukung transfer data cepat dengan latensi rendah,” jelas Halim, Direktur, PT OMNI Data Center Indonesia.

Namun, menurut Hendrikus Gozali, Country Head ST Telemedia Global Data Centres (Indonesia), sejauh mana perubahan ini terjadi akan tergantung pada seberapa dalam AI diintegrasikan, baik dalam penawaran fasilitas maupun dalam operasional dan khususnya infrastruktur yang dibutuhkan.

Yang menarik, Halim juga melihat adanya peluang penggunaan teknologi edge computing untuk mengurangi beban pada pusat data utama, serta untuk mendukung aplikasi AI yang membutuhkan respons real-time.

Sementara Hendrikus menyebut peluang pemanfaatan AI dalam mengoptimalkan operasional data center, misalnya pemeliharaan prediktif dan manajemen beban kerja.

“Contohnya adalah kolaborasi STT GDC dengan Phaidra, yang memanfaatkan AI untuk meningkatkan efisiensi dan keberlanjutan, dengan menguji sistem kontrol otonom berbasis AI untuk pendinginan di fasilitas kami. STT GDC Indonesia menjadi operator data center pertama yang menguji sistem ini di Asia,” jelasnya.

Tantangan Kebutuhan Listrik dan Pengelolaan Panas

Dampak AI terhadap pusat data atau data center ini terutama dalam hal kebutuhan daya komputasi yang sangat besar. AI memerlukan server dengan GPU atau TPU yang mampu memroses model-model AI yang kompleks dan intensif. "AI membutuhkan kapasitas komputasi yang sangat besar dan kompleks," ujar Halim.

Walhasil infrastruktur data center harus mampu menangani beban kerja yang dinamis serta volume data yang besar. Selain itu, beban kerja AI yang terus meningkat mendorong operator data center untuk mengadopsi solusi komputasi dan penyimpanan yang lebih canggih guna memenuhi tuntutan ini.

Salah satu tantangan utama dari penerapan AI di data center adalah pengelolaan panas yang dihasilkan oleh server berkapasitas tinggi. Dengan semakin banyaknya penggunaan GPU dan TPU, "solusi pendinginan yang lebih baik – apakah itu pendinginan udara, cair, atau dengan sistem hybrid – harus dirancang untuk menangani beban panas ini,” jelas Hendrikus Gozali.

Ia menambahkan bahwa hal ini menjadi lebih kritikal di wilayah dengan iklim tropis, yang memiliki suhu dan kelembapan tinggi sehingga akan lebih sulit untuk menjaga efisiensi pendinginan.

Ia juga menyoroti inisiatif seperti Sustainable Tropical Data Centre Testbed (STDCT) di Singapura yang memperlihatkan betapa pentingnya solusi pendinginan yang inovatif dan berkelanjutan di kawasan dengan tantangan lingkungan yang unik.

Selain itu, AI juga menimbulkan tekanan yang lebih besar pada kapasitas daya listrik di data center. Beban kerja AI yang intensif membutuhkan lebih banyak daya, mendorong data center untuk mengembangkan kapasitas listrik yang jauh lebih besar dibandingkan satu dekade lalu. "Saat ini, data center membutuhkan kapasitas listrik yang lebih banyak daripada sebelumnya," kata Hendrikus. Sepuluh tahun yang lalu, fasilitas data centre biasanya menawarkan kapasitas dengan 10MW, tapi kampus dengan kapasitas di atas 100MW merupakan hal yang umum dijumpai saat ini.

Kondisi ini membuat konsumsi energi menjadi perhatian utama, sehingga operator data center harus menyeimbangkan antara memenuhi kebutuhan komputasi AI dan menjaga keberlanjutan operasional.

Investasi & Penyesuaian Infrastruktur

Dalam menghadapi perubahan yang disebabkan oleh perkembangan AI, kedua penyedia data center menekankan pentingnya investasi dan penyesuaian infrastruktur.

Halim menjelaskan bahwa OMNI Data Center Indonesia mempersiapkan infrastruktur untuk mendukung tren adopsi AI dengan berinvestasi pada perangkat keras berperforma tinggi, peningkatan sistem pendinginan, dan penyesuaian desain ruang data center untuk mengakomodasi kebutuhan energi dan pendinginan yang lebih tinggi.

“Kami juga mengembangkan solusi yang lebih fleksibel dan terukur (scalable), yang memungkinkan pelanggan kami untuk menyesuaikan kebutuhan komputasi mereka seiring dengan perkembangan teknologi AI,” ujarnya.

Sementara itu, Hendrikus menyoroti pentingnya memenuhi kebutuhan daya dan pendinginan canggih, seperti pendingin cair atau immersion, untuk mengelola keluaran panas yang tinggi dari perangkat keras AI. Ia juga menekankan pentingnya sistem distribusi daya yang kuat untuk mendukung konsumsi energi yang semakin tinggi. Menurut Hendrikus, STT GDC Indonesia juga memastikan kepatuhan terhadap standar infrastruktur data center internasional sebagai bukti komitmen terhadap keandalan dan kinerja.

Selain itu, perusahaan juga fokus pada pengembangan keterampilan staf dan kemitraan industri. "Kerja sama ini memungkinkan kami untuk tetap berada di garis depan teknologi dan praktik terbaik,” tandas Hendrikus.

Ini yang Dibutuhkan Data Center untuk AI

Saat ini, standar khusus untuk AI data center masih dalam tahap perkembangan dan menjadi topik diskusi di kalangan penyedia data center.

Menurut Halim, beberapa aspek yang dibahas mencakup efisiensi energi, pengelolaan panas, serta keamanan data dan privasi. “Sebagai penyedia layanan pusat data, kami terus memantau perkembangan ini dan berpartisipasi dalam diskusi industri untuk memastikan infrastruktur kami tetap relevan dan mendukung kebutuhan AI," katanya.

Sementara itu, Hendrikus menambahkan bahwa meskipun belum ada standar spesifik yang mendefinisikan data center siap AI, operator data center harus mempertimbangkan faktor-faktor penting seperti perangkat keras khusus AI yang memerlukan daya lebih tinggi, sistem distribusi daya yang mampu mendukung beban besar, serta solusi pendinginan yang inovatif.

"Peningkatan densitas daya juga menghasilkan lebih banyak panas, sehingga solusi pendinginan, seperti pendinginan cair, menjadi penting untuk mengelola beban panas secara efisien,” jelasnya.

Selain itu, jaringan berkinerja tinggi dengan latensi rendah juga menjadi kunci untuk memastikan infrastruktur berfungsi optimal dalam mendukung aplikasi AI, sementara keberlanjutan operasional menjadi aspek penting untuk jangka panjang.

Seiring perkembangan AI, perusahaan perlu menyesuaikan data centernya untuk mengakomodasinya. Infrastruktur yang efisien dan tepat akan mendukung adopsi teknologi ini, memastikan daya saing, dan memanfaatkan potensi AI secara optimal. Perusahaan yang beradaptasi dengan perubahan ini akan lebih siap menghadapi tantangan pasar dan menciptakan peluang baru di era digital yang semakin kompetitif.