Gelombang kreativitas digital yang dipicu oleh kecerdasan buatan (AI) telah membuka pintu bagi berbagai inovasi, termasuk kemampuan untuk menghasilkan foto-foto yang tampak realistis, di mana pengguna dapat berinteraksi dengan idola mereka. Namun, euforia ini juga memunculkan kekhawatiran serius terkait etika dan privasi, terutama ketika AI digunakan untuk menciptakan konten yang melampaui batas kesopanan dan bahkan melanggar hukum.
Baru-baru ini, media sosial dihebohkan dengan serangkaian foto yang dihasilkan AI, menampilkan figur publik, khususnya pemain Tim Nasional Indonesia, dalam pose-pose yang intim dengan penggemar. Foto-foto tersebut, yang bergaya polaroid, menampilkan adegan yang cukup mesra, seperti merangkul layaknya pasangan kekasih. Konten semacam ini memicu perdebatan sengit di kalangan warganet, dengan banyak yang mengecam penyalahgunaan AI dan potensi dampaknya terhadap reputasi serta privasi individu yang bersangkutan.
Menanggapi fenomena ini, Kementerian Komunikasi dan Digital (Komdigi) angkat bicara, menyerukan kepada masyarakat untuk lebih berhati-hati dan bijak dalam memanfaatkan teknologi AI. Komdigi menekankan pentingnya mengedepankan norma etika yang berlaku dalam setiap interaksi digital, termasuk saat menggunakan AI untuk menghasilkan konten kreatif.
"Jadi itu etika. (Saat ini masih berlandaskan) surat edaran etika AI itu yang ada yang diterbitkan tahun lalu ya," ungkap Direktur Jenderal Pengawasan Ruang Digital Kementerian Komdigi, Alexander Sabar, saat ditemui awak media di Jakarta, Rabu (17/9/2025). Pernyataan ini menggarisbawahi bahwa meskipun AI menawarkan potensi besar untuk inovasi, penggunaannya harus tetap berpegang pada prinsip-prinsip moral dan hukum yang berlaku.
Komdigi menyadari bahwa regulasi yang ada saat ini, berupa surat edaran, mungkin belum cukup kuat untuk mengatasi tantangan yang muncul akibat perkembangan pesat AI. Oleh karena itu, pemerintah tengah berupaya untuk memperkuat kerangka hukum terkait AI melalui penerbitan Peraturan Presiden (Perpres). Proses regulasi ini dijadwalkan selesai pada September 2025.
"Gini, masalah AI ini kan masih berproses nih. Kita lagi menyiapkan aturan baru untuk roadmap-nya. Nanti, lebih lanjutnya nanti kita coba lihat peraturannya seperti apa. Tapi, panduan kita tetap dalam pengawasan Undang-Undang ITE," tutur Sabar. Pernyataan ini menunjukkan komitmen pemerintah untuk menciptakan lingkungan yang kondusif bagi pengembangan AI, sambil tetap memastikan bahwa teknologi ini digunakan secara bertanggung jawab dan tidak merugikan masyarakat.
Sabar juga menegaskan bahwa pelanggaran terhadap norma etika dan hukum dalam penggunaan AI dapat berakibat pada jeratan Undang-Undang Informasi dan Transaksi Elektronik (UU ITE). "Kalau konten itu mau pake AI, mau pake yang asli, ada pelanggaran terhadap Undang-Undang ITE, kita akan proses," tegasnya. Pesan ini jelas menunjukkan bahwa pemerintah tidak akan mentolerir penyalahgunaan AI yang melanggar hukum dan merugikan individu maupun masyarakat luas.
Pemerintah Indonesia saat ini tengah memprioritaskan penyelesaian penyusunan dua Perpres AI yang akan menjadi landasan penting dalam pengembangan dan pengaturan pemanfaatan teknologi tersebut di tanah air. Kedua Perpres ini diharapkan dapat memberikan kepastian hukum dan panduan yang jelas bagi para pelaku industri, peneliti, dan masyarakat umum dalam berinteraksi dengan AI.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi), Nezar Patria, menjelaskan bahwa saat ini terdapat dua rancangan Perpres yang dikerjakan secara simultan. Pertama, Perpres mengenai peta jalan AI nasional yang dituangkan dalam bentuk buku putih. Kedua, Perpres yang mengatur aspek keselamatan dan keamanan dalam pemakaian AI.
"Soal Perpres AI, kita lagi merampungkan draft peta jalan AI nasional dan juga melakukan drafting untuk peraturan presiden. Ada dua ya, yang pertama untuk mengukuhkan semacam buku putih untuk peta jalan AI, lalu yang kedua mengatur tentang keselamatan dan keamanan dalam pemakaian AI," kata Nezar, Senin (15/9/2025). Penjelasan ini memberikan gambaran yang lebih jelas tentang fokus dan tujuan dari kedua Perpres tersebut.
Perpres mengenai peta jalan AI nasional akan berfungsi sebagai panduan strategis bagi pengembangan AI di Indonesia, mengidentifikasi prioritas, peluang, dan tantangan yang perlu diatasi. Buku putih ini akan menjadi referensi penting bagi para pemangku kepentingan dalam merumuskan kebijakan, mengalokasikan sumber daya, dan mendorong inovasi di bidang AI.
Sementara itu, Perpres yang mengatur aspek keselamatan dan keamanan dalam pemakaian AI akan fokus pada mitigasi risiko dan potensi dampak negatif dari teknologi ini. Perpres ini akan mencakup ketentuan mengenai standar keamanan, audit, dan mekanisme pengawasan untuk memastikan bahwa AI digunakan secara bertanggung jawab dan tidak membahayakan masyarakat.
Dengan adanya kedua Perpres ini, pemerintah berharap dapat menciptakan ekosistem AI yang sehat dan berkelanjutan di Indonesia. Ekosistem ini akan mendorong inovasi, menciptakan lapangan kerja baru, dan meningkatkan daya saing bangsa, sambil tetap melindungi hak-hak individu dan menjaga keamanan serta ketertiban masyarakat.
Kasus foto AI tak pantas yang melibatkan idola merupakan pengingat yang jelas tentang pentingnya literasi digital dan kesadaran etika dalam era AI. Masyarakat perlu diedukasi tentang potensi dan risiko AI, serta bagaimana menggunakannya secara bertanggung jawab. Selain itu, penting juga untuk mengembangkan mekanisme pengawasan dan penegakan hukum yang efektif untuk mencegah dan menindak penyalahgunaan AI.
Pemerintah, industri, akademisi, dan masyarakat sipil perlu bekerja sama untuk menciptakan lingkungan digital yang aman, inklusif, dan beretika. Hal ini membutuhkan investasi dalam pendidikan, pelatihan, dan pengembangan standar etika yang relevan dengan perkembangan teknologi AI.
Selain itu, penting juga untuk mendorong dialog terbuka dan partisipatif tentang implikasi AI bagi masyarakat. Dengan melibatkan semua pemangku kepentingan, kita dapat memastikan bahwa pengembangan dan penggunaan AI selaras dengan nilai-nilai dan aspirasi bangsa Indonesia.
Pada akhirnya, kunci untuk memanfaatkan potensi AI secara optimal adalah dengan mengedepankan prinsip-prinsip etika, tanggung jawab, dan keberlanjutan. Dengan melakukan hal ini, kita dapat memastikan bahwa AI menjadi kekuatan positif yang memberdayakan masyarakat dan memajukan bangsa Indonesia. Penyalahgunaan AI, seperti yang terlihat dalam kasus foto tak pantas, harus menjadi pelajaran berharga bagi kita semua untuk lebih berhati-hati dan bijak dalam berinteraksi dengan teknologi yang semakin canggih ini. UU ITE dan regulasi AI yang sedang dipersiapkan adalah upaya untuk menertibkan dan memberikan kepastian hukum dalam pemanfaatan teknologi AI, namun kesadaran dan etika individu tetap menjadi fondasi utama dalam mencegah penyalahgunaan.