Bulan Februari lalu, media massa ramai memberitakan aksi blokir oleh beberapa negara dan sejumlah perusahaan terhadap chatbot AI asal China, DeepSeek. Langkah ini ditempuh karena adanya kekhawatiran akan potensi kebocoran data sensitif di luar kendali organisasi.
Kejadian ini menegaskan kerentanan data perusahaan jika karyawan mengakses LLM (Large Language Model) tanpa mekanisme proteksi yang memadai.
Di tengah kekhawatiran itu, F5 memperkenalkan AI Gateway sebagai “guardrail” wajib bagi perusahaan yang hendak mengadopsi AI.
Dalam peluncuran solusi F5 Application Delivery and Security Platform, Surung Sinamo, Country Manager F5 Indonesia, menjelaskan bahwa AI Gateway dikembangkan untuk mencegah risiko kebocoran data dan penyalahgunaan model AI.
Melindungi Integritas Model AI
“AI Gateway ini sebenarnya berfungsi sebagai AI guardrails,” ujarnya. Salah satu fungsi utamanya adalah melindungi integritas model AI. Surung menekankan, “Salah satu fungsi AI Gateway ini memastikan LLM-nya itu, atau ‘otak’ dari AI-nya itu, ter-protect.”
Lebih jauh, AI Gateway juga mengatur akses ke LLM agar sesuai kebutuhan perusahaan. Tanpa guardrail, seorang pegawai bisa saja mengirimkan pertanyaan di luar konteks, misalnya mengakses chatbot untuk keperluan pribadi, padahal ia bekerja di lembaga yang merupakan entitas keuangan.
“AI Gateway ini memastikan akses terhadap LLM ini juga terkontrol. Jangan sampai prompt-nya terserah apa, padahal ini untuk kepentingan banking, misalnya,” jelas Surung kepada para wartawan yang hadir di sesi wawancara terbatas. Dengan demikian, perusahaan dapat menentukan data apa saja yang boleh diproses dan mengarahkan permintaan ke model yang tepat.
Menghindari Bill Shock, Menegakkan UU PDP
Fitur krusial lainnya adalah data masking otomatis. “Ada kemungkinan kalau guardrail-nya nggak perfect, bukan LLM-nya yang bermasalah, tapi guardrail-nya belum sempurna, sehingga PII data keluar. Nah, AI Gateway ini bisa memastikan PII data itu di-masking misalkan,” jelas Surung. Fitur ini secara aktif mencegah informasi pribadi pelanggan, seperti nomor rekening atau nomor telepon, terpapar ke model AI publik.
Lebih lanjut, AI Gateway juga menyediakan routing cerdas dan caching untuk efisiensi biaya. Surung memberikan contoh penggunaan fitur caching,“Misalkan, kalau pertanyaan A pernah diajukan oleh user lain, kenapa tidak menggunakan respons yang sudah ada saja melalui caching? Dengan demikian, kita bisa menekan penggunaan token yang berbiaya tinggi.” Cara ini akan menghindarkan perusahaan dari “bill shock” akibat konsumsi token LLM yang tak terkontrol.
Sementara, konteks lokal bagi AI Gateway diperkuat oleh UU PDP (Perlindungan Data Pribadi), yang mewajibkan setiap perusahaan untuk menjaga kerahasiaan dan integritas data pelanggan. Di era “shadow AI”, di mana karyawan bisa saja menggunakan LLM di luar pengawasan, AI Gateway F5 ini berperan sebagai mekanisme utama untuk menegakkan kebijakan tersebut. Tanpa proteksi semacam ini, potensi kebocoran data pelanggan atau rahasia perusahaan tidak hanya melanggar UU PDP, tetapi juga berisiko menimbulkan sanksi hukum dan kerugian reputasi.
| Penulis | : | Liana Threestayanti |
| Editor | : | Liana Threestayanti |
KOMENTAR