Pemanfaatan AI di Sektor Kesehatan Harus Lewat Pengujian Ketat dan Etis

BATAMTODAY.COM, Jakarta - Pemerintah menyoroti pentingnya pengawasan ketat terhadap pemanfaatan kecerdasan artifisial (AI) di sektor kesehatan. Wakil Menteri Komunikasi dan Digital, Nezar Patria, menegaskan pendekatan sandboxing menjadi langkah krusial sebelum sistem AI diterapkan secara luas.

Menurut Nezar, sistem AI harus melewati proses uji coba terbatas dalam lingkungan terkontrol guna menilai kesesuaian regulasi, potensi risiko, dan kelayakan teknis sebelum diintegrasikan ke dalam sistem pelayanan kesehatan yang lebih besar.

"Saya kira penting sekali. AI itu harus lolos dulu dari proses ini. Di situ kita bisa lihat bagaimana sistem itu comply dengan regulasi, mitigasi risikonya seperti apa, dan apakah cocok dengan use case yang diajukan," ujar Nezar, saat menerima perwakilan Pokja Komunikasi Risiko dan Pelibatan Masyarakat (RCCE+) di Kantor Pusat Kementerian Komunikasi dan Digital, Jakarta Pusat, Jumat (2/5/2025).

Ia mencontohkan bagaimana Tiongkok berhasil memajukan teknologi AI melalui penerapan sandboxing di pasar domestik sebelum meluncurkannya secara global. "China itu sudah sampai pada level advanced AI. Mereka lebih banyak menciptakan robot untuk menjalankan tugas-tugas berbasis AI. Dan sebelum go global, mereka mencoba di pasar domestik dulu," jelas Nezar.

Namun demikian, tantangan tidak berhenti pada aspek teknis. Nezar menyoroti risiko dalam penerapan model Agentic AI, yaitu sistem AI yang mampu mengambil keputusan secara mandiri. Menurutnya, dalam konteks kesehatan, tantangan bukan hanya soal akurasi teknologi, tetapi juga dampaknya secara sosial dan etis.

"Kalau masih butuh campur tangan manusia, kita harus punya kebijakan soal human in the loop. Sektor kesehatan itu tantangannya besar sekali. Disinformasi, misalnya, itu sektor tertinggi kedua setelah politik. Belum lagi potensi bias komersial, seperti rekomendasi medis yang belum pernah melewati uji klinis," paparnya.

Untuk menjawab tantangan tersebut, Nezar menekankan perlunya pengembangan AI berbasis data nasional yang telah dikurasi dan divalidasi oleh tenaga ahli Indonesia. Menurutnya, hal ini menjadi kunci untuk menciptakan sistem yang bukan hanya canggih, tetapi juga aman, etis, dan sesuai nilai-nilai kebangsaan.

"Dengan pendekatan ini, Indonesia bisa membangun sistem AI yang tidak hanya inovatif, tetapi juga aman, etis, dan sesuai dengan nilai-nilai Pancasila," tutupnya.

Editor: Gokli

---