Adopsi artificial intelligence (AI) makin marak, Organisasi Kesehatan Dunia (WHO) merilis publikasi berisi panduan penyusunan regulasi penerapan kecerdasan buatan di bidang kesehatan.
Dalam publikasi tersebut, WHO menekankan tiga hal: pentingnya membangun keamanan dan efektivitas sistem AI, menyediakan sistem yang tepat dengan cepat bagi mereka yang membutuhkannya, dan mendorong dialog antarpemangku kepentingan, yaitu pengembang sistem AI, regulator, produsen, petugas kesehatan, dan pasien.
WHO meyakini bahwa AI akan mengubah sektor kesehatan. Organisasi dunia yang bernaung di bawah PBB ini mengakui potensi AI dalam meningkatkan kesehatan dengan cara memperkuat uji klinis; meningkatkan diagnosis medis, pengobatan, perawatan diri dan perawatan yang berpusat pada orang; dan menambah pengetahuan, keterampilan dan kompetensi profesional perawatan kesehatan. Salah satu manfaat AI di bidang kesehatan adalah menjawab tantangan kekurangan tenaga spesialis di bidang medis, misalnya ketika harus menafsirkan hasil scan terhadap retina dan gambar radiologi.
Salah satu keprihatinan yang disuarakan WHO adalah potensi AI mengakses informasi pribadi yang sensitif saat sedang menggunakan data kesehatan. Untuk itu, menurut WHO, penggunaan AI memerlukan kerangka hukum dan peraturan yang kuat untuk menjaga privasi, keamanan, dan integritas. Publikasi ini bertujuan membantu menyiapkan dan memelihara kerangka hukum dan aturan tersebut.
“Artificial intelligence sangat menjanjikan bagi kesehatan, tapi AI juga datang dengan tantangan serius, termasuk pengumpulan data yang tidak etis, ancaman keamanan siber, dan memperkuat bias atau misinformasi,” ujar Dr Tedros Adhanom Ghebreyesus, Direktur Jenderal WHO.
Dr Tedros menegaskan bahwa pedoman baru ini akan mendukung negara-negara dalam mengatur AI secara efektif, memanfaatkan potensinya, baik dalam mengobati kanker atau mendeteksi tuberkulosis, sekaligus meminimalkan risikonya.
Ada enam bidang regulasi AI untuk kesehatan yang diuraikan WHO dalam publikasi terbaru ini.
- Untuk menumbuhkan kepercayaan, publikasi ini menekankan pentingnya transparansi dan dokumentasi, seperti melalui pendokumentasian seluruh siklus hidup produk dan melacak proses pengembangan.
- Untuk manajemen risiko, permasalahan seperti ‘tujuan penggunaan’, ‘pembelajaran berkelanjutan’, intervensi manusia, model pelatihan, dan ancaman keamanan siber harus ditangani secara komprehensif, dengan model yang dibuat sesederhana mungkin.
- Validasi data secara eksternal dan memperjelas tujuan penggunaan AI dapat membantu menjamin keselamatan dan memfasilitasi peraturan.
- Komitmen terhadap kualitas data, seperti melalui evaluasi sistem secara ketat sebelum rilis, sangat penting untuk memastikan sistem tidak memperbesar bias dan kesalahan.
- Tantangan yang ditimbulkan oleh peraturan yang penting dan kompleks – seperti Peraturan Perlindungan Data Umum (GDPR) di Eropa dan Undang-Undang Portabilitas dan Akuntabilitas Asuransi Kesehatan (HIPAA) di Amerika Serikat – diatasi dengan penekanan pada pemahaman ruang lingkup yurisdiksi dan persyaratan persetujuan, demi kepentingan privasi dan perlindungan data.
- Membina kolaborasi antara badan pengawas, pasien, profesional kesehatan, perwakilan industri, dan mitra pemerintah, dapat membantu memastikan produk dan layanan tetap mematuhi peraturan sepanjang siklus hidupnya.
Sistem AI bersifat kompleks dan tidak hanya bergantung pada kode yang digunakan untuk membangunnya, tetapi juga pada data yang digunakan untuk melatihnya. Dan data tersebut berasal dari lingkungan klinis dan interaksi pengguna. Regulasi yang lebih baik dapat membantu mengelola risiko AI, terutama yang terkait bias dalam data pelatihan.
Prinsip-prinsip utama yang diuraikan WHO ini dapat diikuti oleh pemerintah dan otoritas pembuat regulasi ketika mengembangkan pedoman baru atau mengadaptasi pedoman yang ada tentang AI di tingkat nasional atau regional.
Baca juga: Teknologi AI di Divisi HR Perusahaan, Jadi Kawan atau Lawan?
Baca juga: Begini Cara Microsoft Gunakan Teknologi AI untuk Cybersecurity