Pemerintah mengambil langkah tegas atas pelanggaran aplikasi digital. Kementerian Komunikasi dan Digital (Kemkomdigi) pada 10 Januari 2026 resmi memblokir akses aplikasi kecerdasan buatan (Artificial Intelligence/AI) Grok yang dikelola platform X.
Sejumlah perempauna pengguna X menjadi korban dari Grok ini. Seperti yang dialami Kirana Ayuningtyas, aktivis disabilitas dan Susan. Baik Kirana maupun Susan melaporkan adanya manipulasi foto dirinya yang berujung pada pelecehan seksual berbasis AI. Kedua kasus ini menjadi bukti nyata bahwa ancaman deepfake bukan sekadar isu teknis, melainkan bentuk nyata dari Kekerasan Berbasis Gender Online (KBGO) yang menghancurkan integritas dan kehormatan korban.
Pemerintah Indonesia menegaskan bahwa penyebaran deepfake seksual adalah pelanggaran serius terhadap Hak Asasi Manusia (HAM) dan martabat warga negara. Menyikapi hal itu, Kementerian Komdigi menyatakan bahwa tujuan utama pemblokiran ini adalah untuk melindungi kelompok rentan, terutama perempuan dan anak-anak, dari risiko eksploitasi konten pornografi palsu yang dihasilkan oleh mesin. “Pemerintah memandang praktik deepfake seksual non-konsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat serta keamanan warga negara di ruang digital,” demikian keterangan resmi Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid.
Sejauh ini, pemerintah juga terus mempercepat penyusunan Buku Putih Peta Jalan Kecerdasan Artifisial Nasional. Dokumen ini diproyeksikan menjadi fondasi kuat bagi regulasi AI di masa depan, sehingga inovasi dapat berjalan beriringan dengan standar etika dan hukum yang berlaku.
Tak pelak, sikap tegas Indonesia menciptakan efek domino di kancah internasional. Malaysia turut mengambil tindakan serupa dengan memblokir Grok, menyatakan bahwa penyalahgunaan AI telah menghasilkan konten cabul tanpa izin yang meresahkan masyarakat.
Sama halnya di Inggris, lembaga pengawas media Ofcom telah membuka penyelidikan resmi terhadap platform X. Penyelidikan tersebut berfokus pada dugaan pelanggaran undang-undang keamanan daring atau Online Safety Act terkait cara platform tersebut memoderasi konten yang dihasilkan oleh AI mereka.
Seturut derasnya arus transformasi digital, ruang siber telah menjadi bagian tak terpisahkan dari kehidupan anak-anak Indonesia. Dari belajar, bermain, hingga bersosialisasi, semua kini terhubung melalui layar gawai digital. Namun di balik manfaat tersebut, tersimpan risiko serius yang terus menjadi perhatian pemerintah: paparan konten dewasa terhadap anak di ruang digital.
Wakil Menteri Komunikasi dan Digital (Wamenkomdigi) Nezar Patria mengungkap fakta bahwa banyak anak memanipulasi usia ketika mendaftar di platform digital. Praktik ini membuat sistem platform keliru mengidentifikasi mereka sebagai pengguna dewasa, sehingga berbagai konten yang tidak sesuai usia dapat diakses tanpa hambatan.
“Platform umumnya digerakkan oleh mesin tanpa verifikasi mendalam. Ketika anak memalsukan umur, sistem menganggap mereka sudah 18 tahun. Akibatnya, konten dewasa, bahkan konten seksual, terpapar bebas kepada anak-anak,” tegas Nezar Patria dalam Focus Group Discussion (FGD) Upaya Bersama, Wujudkan Masa Depan Digital yang Ramah Anak di Jakarta Pusat, Selasa (3/2/2026).
Tantangan Lama di Era Baru
Persoalan keamanan anak di ruang digital sejatinya bukan isu baru. Dalam berbagai pemberitaan media sebelumnya, pemerintah kerap menyoroti rendahnya literasi digital, lemahnya pengawasan orang tua, serta ketimpangan antara kecepatan inovasi teknologi dan kesiapan regulasi.
Namun, perkembangan teknologi kecerdasan buatan dan algoritma berbasis data justru membuka peluang baru untuk menjawab tantangan lama tersebut. Celah verifikasi usia yang selama ini hanya mengandalkan pengisian tanggal lahir kini dinilai tidak lagi relevan dengan kompleksitas ekosistem digital saat ini. “Konten dewasa bisa masuk ke lini masa anak-anak bukan semata karena niat jahat, tetapi karena sistem tidak mampu mengenali siapa sebenarnya pengguna di balik akun,” ujar Nezar Patria.
Berdasarkan catatan SAFEnet, terdapat 605 kasus KBGO pada triwulan III tahun 2025, berarti terjadi lebih dari 6 kasus setiap harinya. Sementara itu, laporan tahunan Komnas Perempuan menunjukkan lonjakan kasus KBGO sebesar 40,8 persen pada tahun 2025 dibandingkan dengan tahun sebelumnya. Data ini menegaskan bahwa meskipun mayoritas korban adalah perempuan dan anak-anak, laki-laki juga mulai terdampak oleh keganasan manipulasi digital ini.
Alih-alih diIindungi, korban sering kali terjebak dalam budaya victim blaming, dengan narasi publik justru menyalahkan korban dengan imbauan untuk tidak mengunggah foto pribadi alih-alih mengecam pelaku. Mau tidak mau ini tidak hanya menjadi perhatian serius pemerintah tapi juga seluruh elemen masyarakat, kalangan orangtua, tenaga pendidik, pemerhati media sosial serta pelaku industri digital. Tujuannya menciptakan rasa aman di ruang digital khususnya perempuan dan anak di bawah umur.
Dari Regulasi ke Desain Sistem
Sebagai respons, Kementerian Komunikasi dan Digital mendorong platform digital untuk mengadopsi teknologi age inferential, yaitu deteksi usia berbasis perilaku. Teknologi ini memungkinkan sistem membaca kecenderungan konsumsi konten pengguna untuk memperkirakan usia sebenarnya, bahkan ketika data usia yang dimasukkan tidak akurat.
Langkah tersebut merupakan bagian dari implementasi Peraturan Pemerintah Nomor 17 Tahun 2025 tentang Tata Kelola Penyelenggaraan Sistem Elektronik dalam Pelindungan Anak (PP Tunas), yang sebelumnya juga telah disosialisasikan melalui berbagai kanal media maupun komunitas. “Jika sistem mendeteksi pola konsumsi anak pada akun yang terdaftar sebagai dewasa, maka akses terhadap konten berbahaya bisa langsung dibatasi atau diblokir,” jelas Wamenkomdigi Nezar Patria.
Pendekatan ini dikenal sebagai safety by design, yakni prinsip perlindungan yang dibangun sejak tahap perancangan sistem, bukan sekadar penanganan setelah pelanggaran terjadi. Pemerintah berharap prinsip ini menjadi budaya korporasi platform digital, bukan hanya pemenuhan kewajiban regulasi.
Upaya pemerintah ini mendapat respons dari pelaku industri digital. Ketua Umum Asosiasi E-Commerce Indonesia (idEA), Hilmi Adrianto, menilai perlindungan anak merupakan tanggung jawab bersama, meski tidak mudah untuk diterapkan secara teknis. “Dunia digital juga memberi manfaat besar bagi anak-anak, terutama untuk edukasi. Tantangannya adalah menemukan solusi yang proporsional, yang mampu memfilter konten negatif tanpa menghambat akses terhadap informasi positif dan inovasi,” ujarnya.
Sejumlah platform global bahkan telah mulai menguji coba teknologi deteksi usia berbasis perilaku di beberapa wilayah. Uji coba ini menjadi sinyal bahwa perlindungan anak mulai dipandang sebagai bagian integral dari keberlanjutan bisnis digital.
Di era ketika batas antara ruang fisik dan digital kian kabur, upaya menutup celah konten dewasa bukan lagi pilihan, melainkan keharusan bersama.
Penulis: Wahyu Sudoyo
Redaktur: Kristantyo Wisnubroto
Sumber : https://indonesia.go.id/informasi/nasional/detail/menutup-celah-di-ruang-digital-upaya-melindungi-anak-dari-konten-dewasa