JAKARTA, Papuatengah.news – Perkembangan pesat teknologi Kecerdasan Artifisial (Artificial Intelligence/AI) membawa manfaat besar bagi berbagai sektor, namun di saat yang sama juga memunculkan ancaman baru berupa penyalahgunaan teknologi untuk penipuan digital melalui konten palsu yang sulit dibedakan dari aslinya.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, mengingatkan bahwa teknologi deepfake kini menjadi tantangan serius dalam aspek etika dan keamanan siber yang perlu diwaspadai oleh masyarakat.
“Sekarang suara kita bisa ditiru, gambar wajah kita bisa ditiru, dan tampil dalam bentuk deepfake video yang dihasilkan oleh AI dengan sangat mulus,” ujar Nezar dalam keterangan resminya.
Deepfake Semakin Sulit Dibedakan dari Konten Asli
Menurut Nezar, perkembangan AI saat ini berlangsung sangat cepat. Industri teknologi bahkan telah bergerak melampaui fase generative AI menuju pengembangan agentic AI yang memiliki kemampuan bernalar dan mengambil keputusan secara mandiri.
Ia menjelaskan bahwa para pelaku kejahatan siber mulai memanfaatkan teknologi AI untuk melakukan berbagai modus penipuan melalui rekayasa suara, gambar, maupun video yang tampak meyakinkan.
Fenomena ini dikenal sebagai synthetic reality atau realitas sintetik, yaitu kondisi ketika masyarakat semakin sulit membedakan antara informasi asli dan hasil manipulasi teknologi.
“Awamnya masyarakat kita tentang perkembangan AI ini membuat banyak yang terkecoh. Itu sebabnya scam saat ini luar biasa,” tegasnya.
Pentingnya Keterlibatan Manusia dalam Pengambilan Keputusan
Nezar menilai perkembangan agentic AI harus diimbangi dengan pengawasan yang ketat. Karena itu, ia menekankan pentingnya penerapan prinsip human in the loop, yaitu keterlibatan manusia dalam proses pengambilan keputusan yang dilakukan oleh sistem AI.
Menurutnya, prinsip tersebut diperlukan agar keputusan penting tidak sepenuhnya diserahkan kepada mesin tanpa kontrol manusia.
“Banyak pakar mengusulkan agar dilakukan satu protokol yang cukup ketat, termasuk menerapkan prinsip human in the loop dalam decision making,” jelasnya.
Dorong Penerapan AI yang Transparan dan Bertanggung Jawab
Lebih lanjut, Nezar menegaskan bahwa pengembangan AI tidak lagi cukup hanya mengandalkan komitmen sukarela. Aspek transparansi, akuntabilitas, dan keamanan harus menjadi bagian utama sejak tahap perancangan teknologi melalui pendekatan ethics by design.
“Transparency, accountability, safety, itu harus hadir di dalam implementasi, di dalam pengembangan satu produk AI,” katanya.
Melalui forum Indonesia Ethical AI Summit, Nezar mendorong kolaborasi antara pemerintah, pengembang teknologi, akademisi, pelaku industri, dan komunitas pengguna AI untuk memperkuat tata kelola teknologi serta memitigasi berbagai risiko yang mungkin muncul.
Ia berharap hasil diskusi dan rekomendasi dari forum tersebut dapat menjadi bahan pertimbangan dalam penyusunan kebijakan AI yang etis dan bertanggung jawab di Indonesia.
(Papuatengah.news)
Komentar