Wamenkomdigi Ingatkan Bahaya Deepfake AI, Penipuan Digital Kian Sulit Dideteksi

BATAMTODAY.COM, Jakarta - Perkembangan teknologi kecerdasan artifisial atau Artificial Intelligence (AI) dinilai membawa tantangan baru dalam dunia digital, terutama terkait meningkatnya ancaman penipuan berbasis teknologi. Kemampuan AI dalam menciptakan konten palsu yang menyerupai kenyataan membuat masyarakat semakin sulit membedakan informasi asli dan hasil rekayasa.

Wakil Menteri Komunikasi dan Digital, Nezar Patria, mengingatkan bahwa penyalahgunaan AI melalui teknologi deepfake telah menjadi persoalan serius yang perlu diantisipasi dari sisi etika maupun keamanan digital.

Peringatan tersebut disampaikan Nezar dalam Indonesia Ethical AI Summit yang berlangsung di Jakarta Selatan, Rabu (17/6/2026). "Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus," ujar Nezar.

Menurutnya, perkembangan AI berlangsung sangat cepat. Teknologi yang sebelumnya berfokus pada generative AI kini telah memasuki era agentic AI, yakni sistem yang mampu melakukan penalaran dan mengambil keputusan secara lebih mandiri.

Meski membawa banyak manfaat bagi berbagai sektor, kemajuan tersebut juga memunculkan berbagai risiko baru yang memerlukan perhatian dan pengawasan lebih ketat.

Dalam bidang keamanan siber, Nezar menyoroti meningkatnya penggunaan AI oleh pelaku kejahatan digital untuk melakukan penipuan (scam). Melalui teknologi deepfake, pelaku dapat menciptakan konten manipulatif yang tampak sangat nyata sehingga berpotensi menyesatkan masyarakat.

Ia menjelaskan bahwa hasil rekayasa AI saat ini telah berkembang menjadi fenomena yang dikenal sebagai synthetic reality atau realitas sintetik, yakni kondisi ketika batas antara fakta dan manipulasi digital semakin sulit dikenali. "Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," tegasnya.

Selain ancaman penipuan digital, Nezar juga menyoroti pentingnya penerapan prinsip human in the loop dalam pengembangan agentic AI. Prinsip tersebut menekankan bahwa keputusan penting yang dihasilkan sistem AI harus tetap berada dalam pengawasan manusia.

Menurutnya, sejumlah pakar teknologi telah mengusulkan penerapan protokol yang lebih ketat agar teknologi AI tidak mengambil keputusan strategis tanpa kontrol manusia. "Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," jelasnya.

Lebih lanjut, Nezar menegaskan bahwa penerapan etika dalam pengembangan AI tidak cukup hanya bersifat sukarela. Prinsip-prinsip seperti transparansi, akuntabilitas, dan keamanan harus menjadi bagian integral sejak tahap perancangan teknologi melalui pendekatan ethics by design.

"Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," katanya.

Karena itu, Kementerian Komunikasi dan Digital mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, serta komunitas pengguna AI untuk memperkuat tata kelola dan mitigasi risiko sejak tahap awal pengembangan.

Nezar menilai Indonesia Ethical AI Summit menjadi forum strategis untuk merumuskan arah kebijakan AI yang inovatif sekaligus bertanggung jawab, sehingga pemanfaatan teknologi dapat memberikan manfaat maksimal tanpa mengabaikan aspek keamanan dan etika.

"Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan dalam membuat kebijakan AI yang etis di Indonesia," pungkasnya.

Editor: Gokli

---