TopCareer.id – Belakangan ini viral penyalahgunaan AI Grok di X alias Twitter, untuk membuat konten-konten tak senonoh dari foto-foto publik di linimasa media sosial tersebut.
Merespon ini, Kementerian Komunikasi dan Digital (Komdigi) menyatakan menindaklanjuti dugaan penyalahgunaan Grok untuk menyebarkan konten asusila, termasuk manipulasi foto pribadi yang bersifat sensitif tanpa izin pemiliknya.
Menurut Alexander Sabar, Direktur Jenderal Pengawasan Ruang Digital, hasil penelusuran awal menunjukkan Grok AI belum punya pengaturan yang eksplisit dan memadai untuk mencegah produksi serta distribusi konten pornografi berbasis foto nyata warga Indonesia.
Ini berpotensi melanggar hak privasi dan hak atas citra diri, khususnya jika foto seseorang dimanipulasi atau disebarluaskan tanpa persetujuan yang sah.
“Hal ini berisiko menimbulkan pelanggaran serius terhadap privasi dan hak citra diri warga,” kata Alexander di Jakarta, Rabu (7/1/2026), dikutip dari siaran pers.
Ia menyebut, manipulasi digital terhadap foto pribadi tak cuma soal kesusilaan, tapi juga bentuk perampasan kendali individu atau identitas visualnya, yang bisa menimbulkan kerugian psikologis, sosial, dan reputasi.
Baca Juga: Uang Tunai Tetap Sah, Pakar Ingatkan Tak Semua Warga Bisa Transaksi Digital
Kementerian pun disebut sedang berkoordinasi dengan para Penyelenggara Sistem Elektronik (PSE), demi memastikan tersedianya mekanisme perlindungan yang efektif.
Langkah ini mencakup penguatan sistem moderasi konten, pencegahan pembuatan deepfake asusila, serta prosedur penanganan cepat atas laporan pelanggaran privasi dan hak citra diri.
“Setiap PSE wajib memastikan bahwa teknologi yang mereka sediakan tidak menjadi sarana pelanggaran privasi, eksploitasi seksual, maupun perusakan martabat seseorang,” tegas Alexander.
Selain itu, Komdigi pun mengingatkan bahwa seluruh PSE yang beroperasi di Indonesia harus mematuhi peraturan perundang-undangan.
Jika tidak patuh atau tidak kooperatif, Komdigi bisa menjatuhkan sanksi administratif hingga pemutusan akses terhadap Grok dan X.
Kemkomdigi menegaskan, penyedia layanan AI atau pengguna yang terbukti memproduksi dan/atau menyebarkan konten pornografi atau manipulasi citra pribadi tanpa hak, bisa disanksi administratif dan/atau pidana sesuai ketentuan hukum yang berlaku.
Baca Juga: Fotografi di Ruang Publik Jadi Kontroversi, Komdigi Ingatkan Ini
Dalam Undang-Undang Nomor 1 Tahun 2023 tentang Kitab Undang-Undang Hukum Pidana (KUHP) pada 2 Januari 2026, konten pornografi diatur antara lain dalam Pasal 172 dan Pasal 407.
Pasal 172 mendefinisikan pornografi sebagai media yang memuat kecabulan atau eksploitasi seksual yang melanggar norma kesusilaan.
Sementara, Pasal 407 mengatur ancaman pidana penjara paling singkat 6 (enam) bulan dan paling lama 10 (sepuluh) tahun atau pidana denda sesuai ketentuan.
Bagi masyarakat yang jadi korban manipulasi foto, deepfake, asusila, atau pelanggaran hak citra diri, menurut Alexander, bisa menempuh upaya hukum lewat mekanisme yang tersedia dalam peraturan perundang-undangan, termasuk melapor pada aparat penegak hukum dan pengaduan ke Komdigi.
“Kami mengimbau seluruh pihak untuk menggunakan teknologi akal imitasi secara bertanggung jawab. Ruang digital bukan ruang tanpa hukum, ada privasi dan hak atas citra diri setiap warga yang harus dihormati dan dilindungi,” pungkasnya.
