TopCareer.id – Teknologi kecerdasan artifisial atau artificial intelligence (AI) mulai merambah bidang kesehatan. Namun, hal ini dirasa membutuhkan perhatian yang lebih serius.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria pun menekankan pentingnya pengembangan dan pengawasan melalui pendekatan sandbox.
Dia mengatakan, sebelum sebuah sistem AI diimplementasikan secara luas, dibutuhkan dulu tahapan pengujian dalam lingkungan terbatas dan terkontrol, sebelum terintegrasi ke sistem yang lebih besar.
“Saya kira penting sekali. AI itu harus lolos dulu dari proses ini,” kata Nezar kepada perwakilan Kelompok Kerja Komunikasi Risiko dan Pelibatan Masyarakat di Kantor Pusat Kementerian Komdigi, Jakarta, Jumat lalu.
“Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan, dengan trial yang dibuat,” imbuh Nezar, seperti dikutip dari siaran pers, Rabu (7/5/2025).
Baca Juga: Wamen Komdigi: AI Bakal Hilangkan Sejumlah Profesi, Tapi Juga Ciptakan Pekerjaan Baru
Ia menyebut, dalam proses sandboxing, para pemangku kepentingan bisa menilai berbagai aspek teknis dan etis, termasuk kesiapan operasional dan potensi dampaknya terhadap masyarakat.
Nezar mencontohkan proses yang dijalankan di Tiongkok, di mana mereka bisa mengungguli negara-negara maju lain karena melakukan sandboxing terlebih dulu di level domestik.
“China itu sudah sampai pada level advanced AI-nya, lebih banyak robot diciptakan dengan AI di sana untuk melakukan tugas-tugas,” kata Nezar.
Menurutnya, sebelum meluncur secara global, mereka melakukan percobaan dulu di pasar domestik, sehingga sudah dilakukan terlebih dulu sandboxing.
Nezar mengingatkan adanya tantangan lain dalam penerapan model Agentic AI, yang memiliki kemampuan mengambil keputusan secara mandiri.
Menurutnya, risiko merupakan bagian yang tak terpisahkan dari pengembangan teknologi canggih. Khusus di bidang kesehatan, risiko yang ditimbulkan AI tidak hanya bersifat teknis, tapi juga menyentuh aspek sosial dan etika.
“Kalau masih butuh campur tangan manusia, kita harus punya kebijakan soal human in the loop,” kata Nezar.
Baca Juga: Prediksi Elon Musk: Robot Bakal Ungguli Dokter Bedah dalam 5 Tahun
Wamenkomdigi menegaskan bahwa tantangan AI di sektor kesehatan sangatlah besar, sebagai contonhnya adalah soal disinformasi.
“Disinformasi misalnya, itu sektor kesehatan adalah yang tertinggi kedua setelah politik. Belum lagi ada bias dengan kepentingan komersial. Bisa saja muncul rekomendasi medis yang tidak pernah melewati uji klinis,” kata Nezar.
Nezar pun menekankan pentingnya pengembangan AI kesehatan yang berbasis pada data nasional yang telah dikurasi, serta divalidasi oleh para ahli dalam negeri.
“Dengan pendekatan ini, Indonesia bisa membangun sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila,” pungkasnya.
