Wakil Menteri Komunikasi dan Informatika (Wamenkominfo) Nezar Patria mendesak platform digital global untuk segera mengimplementasikan fitur deteksi konten berbasis kecerdasan artifisial (AI). Langkah ini dianggap krusial dalam memerangi penyebaran hoaks, disinformasi, dan deepfake yang semakin meresahkan di era digital saat ini. Permintaan ini disampaikan mengingat tren penggunaan konten buatan AI yang terus meningkat pesat, namun di sisi lain, potensi penyalahgunaannya untuk tujuan negatif juga semakin mengkhawatirkan.
Dalam pernyataan resminya, Nezar Patria menekankan pentingnya peran aktif platform media sosial dalam menjaga ekosistem digital yang sehat dan terpercaya. "Kita berharap platform media sosial global juga bisa melakukan filter, atau setidaknya menyediakan fitur untuk mengecek apakah sebuah konten buatan AI atau bukan. Fitur ini sebaiknya bisa digunakan publik secara gratis," ujarnya, Rabu (10/9/2025).
Wamenkominfo menyoroti fenomena deepfake yang semakin mengkhawatirkan. Data dari Sensity AI menunjukkan peningkatan signifikan sebesar 550% dalam konten deepfake selama lima tahun terakhir. Nezar meyakini bahwa angka sebenarnya jauh lebih tinggi, mengingat kemudahan akses dan kemampuan aplikasi untuk membuat video atau foto deepfake yang semakin canggih.
"Saya yakin jumlahnya jauh lebih besar karena kemampuan aplikasi untuk membuat video atau foto deepfake kini sangat masif," ungkap Nezar, menggambarkan betapa mudahnya konten palsu dibuat dan disebarluaskan saat ini.
Nezar Patria meyakini bahwa platform digital memiliki kapabilitas teknologi yang mumpuni untuk mengatasi masalah ini. Dengan kekuatan komputasi dan algoritma yang mereka miliki, platform dapat mengembangkan fitur deteksi konten AI yang efektif dan akurat.
"Kalau kita meragukan satu isi konten, bisa dicek dengan kekuatan komputasi dan AI yang mereka punya. Misalnya di Meta atau Google, fitur seperti ini bisa jadi bagian layanan standar," tuturnya, menunjuk pada dua raksasa teknologi yang diharapkan dapat menjadi pelopor dalam inisiatif ini.
Lebih lanjut, Wamenkominfo menegaskan komitmen pemerintah untuk menyeimbangkan inovasi dengan regulasi yang ketat. Tujuannya adalah untuk memastikan bahwa pemanfaatan AI tidak disalahgunakan sebagai alat untuk menciptakan dan menyebarkan hoaks serta konten negatif lainnya. Pemerintah berupaya untuk menciptakan ekosistem AI yang etis, bermakna, dan bertanggung jawab.
"Pemerintah berupaya menyeimbangkan inovasi dengan regulasi agar pemanfaatan AI tidak disalahgunakan sebagai alat pembuat konten hoaks," tegas Nezar, menekankan pentingnya regulasi yang adaptif dan responsif terhadap perkembangan teknologi.
Sementara itu, Ketua Masyarakat Anti Fitnah Indonesia (Mafindo), Septiaji Eko Nugroho, mengungkapkan bahwa fenomena deepfake pertama kali muncul di Indonesia pada tahun 2023 dan sejak itu terus berkembang pesat. Konten deepfake seringkali disalahgunakan untuk berbagai tujuan jahat, termasuk penipuan digital dan penggiringan opini publik, terutama dalam isu-isu politik yang sensitif.
"Untuk isu politik juga ada tapi deepfake paling banyak digunakan untuk penipuan digital. Kalau ada konten hoaks bentuknya video yang muncul di tahun 2025 dengan tema penipuan digital, itu mayoritas adalah deepfake," jelasnya, menggambarkan bagaimana deepfake telah menjadi alat utama bagi pelaku kejahatan siber.
Septiaji menambahkan bahwa kemampuan deepfake untuk meniru suara dan wajah seseorang dengan sangat meyakinkan membuatnya sangat efektif dalam menipu korban. Video deepfake dapat digunakan untuk membuat pernyataan palsu atas nama tokoh publik, memanipulasi bukti, atau bahkan mencemarkan nama baik seseorang.
Menanggapi tantangan ini, pemerintah Indonesia telah memiliki sejumlah perangkat hukum yang relevan, seperti Undang-Undang Informasi dan Transaksi Elektronik (UU ITE), Undang-Undang Perlindungan Data Pribadi (UU PDP), Peraturan Pemerintah tentang Penyelenggaraan Sistem dan Transaksi Elektronik (PP PSTE), dan berbagai peraturan teknis lainnya. Namun, pemerintah menyadari bahwa regulasi yang ada masih perlu diperkuat dan disesuaikan dengan perkembangan teknologi AI yang sangat cepat.
Saat ini, pemerintah juga sedang menyiapkan regulasi khusus yang mengatur pemanfaatan AI secara etis, bermakna, dan bertanggung jawab. Regulasi ini diharapkan dapat memberikan panduan yang jelas bagi para pengembang, pengguna, dan penyedia layanan AI, serta melindungi masyarakat dari potensi dampak negatif AI.
Selain regulasi, Kementerian Kominfo juga aktif menggandeng berbagai pihak dalam ekosistem digital, termasuk Mafindo dan media massa, untuk menjalankan program cek fakta. Program ini bertujuan untuk mengidentifikasi dan membongkar hoaks serta disinformasi yang beredar di masyarakat, serta memberikan edukasi kepada masyarakat tentang cara mengenali dan menghindari konten palsu.
"Ruang digital ini milik kita bersama, maka kita perlu kerja sama yang erat untuk menjaga publik dari hoaks dan konten negatif," tegas Nezar Patria, menyerukan kolaborasi yang erat antara pemerintah, platform digital, masyarakat sipil, dan media massa.
Nezar Patria juga menekankan pentingnya literasi digital bagi masyarakat. Dengan meningkatkan kemampuan masyarakat dalam memilah dan memilih informasi, diharapkan masyarakat dapat lebih kritis dan tidak mudah termakan hoaks serta disinformasi. Kementerian Kominfo terus menggalakkan program-program literasi digital yang menyasar berbagai lapisan masyarakat, mulai dari pelajar, mahasiswa, hingga ibu rumah tangga dan lansia.
Selain itu, Wamenkominfo juga mendorong pengembangan teknologi deteksi hoaks dan deepfake oleh para peneliti dan pengembang lokal. Dengan memiliki teknologi sendiri, Indonesia dapat lebih mandiri dalam mengatasi masalah disinformasi dan tidak bergantung pada teknologi asing.
Pemerintah juga berencana untuk memberikan insentif bagi para pengembang teknologi deteksi hoaks dan deepfake, serta memfasilitasi kolaborasi antara peneliti, pengembang, dan industri. Tujuannya adalah untuk menciptakan ekosistem inovasi yang kondusif bagi pengembangan teknologi yang dapat melindungi masyarakat dari dampak negatif disinformasi.
Dalam menghadapi tantangan disinformasi di era digital, Nezar Patria mengajak seluruh elemen bangsa untuk bersatu padu dan berperan aktif dalam menjaga ruang digital yang sehat dan produktif. Dengan kerjasama yang erat dan komitmen yang kuat, Indonesia dapat mengatasi masalah disinformasi dan memanfaatkan teknologi AI untuk kemajuan bangsa.
Langkah-langkah yang diambil oleh pemerintah Indonesia ini sejalan dengan upaya global untuk mengatasi masalah disinformasi dan hoaks di era digital. Berbagai negara dan organisasi internasional juga sedang mengembangkan strategi dan teknologi untuk melawan disinformasi dan melindungi masyarakat dari dampak negatifnya.
Dengan adanya regulasi yang jelas, teknologi yang canggih, dan literasi digital yang memadai, diharapkan Indonesia dapat menjadi contoh bagi negara lain dalam mengatasi masalah disinformasi dan menciptakan ekosistem digital yang sehat dan terpercaya.