RELUNG.ID – Pemerintah mengambil langkah tegas dalam menghadapi ancaman penyalahgunaan teknologi kecerdasan buatan di ruang digital. Kementerian Komunikasi dan Digital (Komdigi) memutuskan menghentikan sementara akses ke Grok AI menyusul maraknya konten pornografi palsu berbasis deepfake yang dinilai membahayakan masyarakat.
Menteri Komunikasi dan Digital, Meutya Hafid, menyatakan keputusan tersebut diambil sebagai bentuk perlindungan terhadap hak asasi manusia, khususnya perempuan dan anak, yang kerap menjadi korban manipulasi visual tanpa persetujuan.
“Penyalahgunaan teknologi AI untuk membuat konten seksual palsu merupakan pelanggaran serius terhadap martabat dan keamanan warga di ruang digital,” ujar Meutya dalam keterangannya, Sabtu (10/1).
Menurutnya, praktik manipulasi gambar pribadi menjadi konten asusila tidak hanya mencederai etika, tetapi juga berpotensi menimbulkan dampak psikologis dan sosial yang luas bagi korban. Karena itu, pemerintah menilai perlu adanya intervensi cepat sebelum penyalahgunaan semakin meluas.
Selain menghentikan akses sementara, Komdigi juga memanggil pihak platform X untuk memberikan penjelasan resmi terkait penggunaan Grok AI yang diduga dimanfaatkan dalam produksi konten pornografi palsu. Pemerintah meminta klarifikasi sekaligus komitmen platform dalam mencegah pelanggaran serupa di masa depan.
Meutya menegaskan, langkah ini memiliki dasar hukum yang kuat. Pemerintah bertindak sesuai regulasi yang mewajibkan penyelenggara sistem elektronik memastikan layanannya tidak digunakan untuk menyebarkan konten terlarang.
“Kami menjalankan kewenangan negara untuk memastikan ruang digital tetap aman dan bermartabat,” tegasnya.
Pemerintah menilai kebijakan ini sebagai peringatan bagi seluruh pengembang dan penyedia layanan berbasis kecerdasan buatan agar lebih bertanggung jawab dalam mengelola teknologi yang berpotensi disalahgunakan, sekaligus menegaskan komitmen negara dalam menjaga keamanan digital nasional.[THQ]
