Google merilis framework keamanan artificial intelligence (AI) untuk melindungi model-model AI.
Saat teknologi baru muncul, cyber security dan privasi data biasanya adalah hal selanjutnya yang menjadi perhatian organisasi. Demikian pula dengan artificial intelligence.
Dalam blognya, Google menjelaskan bahwa Secure AI Framework dirancang untuk membantu mitigasi terhadap risiko-risiko spesifik pada sistem AI, seperti mencuri model AI, "meracuni" data yang digunakan untuk melatih model AI, memasukkan input jahat melalui prompt injection, dan mengekstraksi informasi konfidensial pada training data.
"Saat kemampuan AI semakin terintegrasi ke dalam produk di seluruh dunia, mengikuti framework yang berani dan bertanggung jawab akan menjadi semakin penting," kata Google.
Seperti dikutip dari Axios, Phil Venables, CISO, Google mengingatkan, walaupun mencari pendekatan-pendekatan yang lebih maju, orang harus ingat untuk mempunyai dasar-dasar yang baik.
Secure AI Framework dari Google ini terdiri dari enam elemen utama:
1.Menilai kontrol keamanan yang ada dapat dengan mudah diperluas ke sistem AI baru, seperti enkripsi data;
2.Memperluas penelitian threat intelligence yang ada untuk memasukkan ancaman khusus yang membidik sistem AI;
3.Mengadopsi otomatisasi ke dalam pertahanan siber perusahaan untuk merespons dengan cepat setiap aktivitas anomali yang membidik sistem AI;
4.Melakukan tinjauan rutin terhadap langkah-langkah keamanan yang diterapkan di lingkungan model AI;
5.Menguji keamanan sistem AI secara terus menerus melalui apa yang disebut uji penetrasi dan membuat perubahan berdasarkan temuan tersebut;
6.Membangun tim yang memahami risiko terkait AI untuk membantu mencari tahu di mana risiko AI harus berada dalam strategi keseluruhan organisasi untuk mitigasi risiko bisnis.