.webp)
Seiring dengan kemajuan teknologi kecerdasan artifisial (Artificial Intelligence/AI), tak sedikit penjahat yang memanfaatkan teknologi tersebut untuk melancarkan penipuan digital seperti deepfake yang mampu meniru wajah, suara, hingga video seseorang dengan tingkat kemiripan yang sangat tinggi.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria, mengatakan perkembangan AI telah membuat modus penipuan digital semakin kompleks dan berbahaya karena masyarakat sering kali kesulitan membedakan antara konten asli dan hasil rekayasa teknologi.
"Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus," ujar Nezar dikutip Kamis (18/6/2026).
SCROLL TO CONTINUE WITH CONTENT
Nezar menyebutkan adopsi AI saat ini berlangsung sangat cepat. Teknologi tersebut bahkan telah bergerak melampaui fase generative AI menuju era agentic AI, yakni sistem yang memiliki kemampuan lebih mandiri dalam melakukan penalaran dan pengambilan keputusan.
Meski menawarkan berbagai manfaat bagi dunia bisnis, pendidikan, kesehatan, hingga pemerintahan, kemajuan tersebut juga menghadirkan risiko baru yang perlu diantisipasi secara serius. Dalam konteks keamanan siber, Nezar menyoroti pemanfaatan AI oleh pelaku kejahatan digital untuk menjalankan berbagai modus scam atau penipuan online. Teknologi deepfake yang semakin canggih memungkinkan pelaku memalsukan identitas seseorang untuk mengelabui korban.
Menurutnya, hasil manipulasi AI kini telah berkembang menjadi apa yang disebut sebagai *synthetic reality* atau realitas sintetik, yakni konten digital yang tampak sangat nyata sehingga sulit dikenali sebagai hasil rekayasa.
"Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa," katanya.
Ia pun menilai peningkatan literasi digital masyarakat menjadi salah satu langkah penting untuk mengurangi risiko penyalahgunaan AI. Masyarakat perlu memahami bahwa foto, suara, maupun video yang beredar di ruang digital tidak selalu mencerminkan kondisi sebenarnya.
Selain ancaman penipuan digital, Nezar juga menyoroti perkembangan agentic AI yang memiliki kemampuan menjalankan tugas dan mengambil keputusan secara lebih mandiri dibandingkan generasi AI sebelumnya.
Disampaikannya, berbagai kalangan akademisi dan pakar teknologi telah mengusulkan penerapan protokol yang lebih ketat untuk memastikan keputusan penting tetap berada dalam kendali manusia.
"Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making," jelasnya.
Prinsip human in the loop mengharuskan adanya keterlibatan manusia dalam proses pengawasan dan pengambilan keputusan akhir, terutama untuk keputusan yang berdampak besar terhadap individu maupun masyarakat. Lebih jauh, Nezar menjelaskan pembahasan etika AI saat ini tidak lagi cukup dilakukan secara sukarela sebagaimana pada tahap awal perkembangan teknologi tersebut.
Ia menilai prinsip-prinsip seperti transparansi, akuntabilitas, keamanan, dan perlindungan pengguna harus menjadi bagian yang melekat sejak tahap perancangan teknologi melalui pendekatan ethics by design.
"Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI," tegasnya.
Untuk itu, pemerintah mendorong kolaborasi antara pengembang teknologi, pelaku industri, akademisi, dan komunitas pengguna AI dalam memperkuat tata kelola serta mitigasi risiko sejak tahap awal pengembangan.
"Semoga kita bisa merumuskan langkah-langkah yang tepat dan pemikiran dari forum ini mungkin bisa menjadi pertimbangan-pertimbangan dalam membuat satu kebijakan AI yang etis di Indonesia," pungkasnya.
