TopCareer.id – Beberapa waktu lalu sempat ramai mengenai penyalahgunaan fitur Grok AI di Twitter atau X, untuk membuat konten seksual atau mengandung pornografi. Fenomena ini memicu keresahan publik.
Menteri Komunikasi dan Digital (Menkomdigi) Meutya Hafid pun telah mengumumkan pemblokiran sementara akses Grok AI pada Sabtu (10/1/2026) lalu.
“Pemerintah memandang praktik deepfake seksual nonkonsensual sebagai pelanggaran serius terhadap hak asasi manusia, martabat, serta keamanan warga negara di ruang digital,” kata Meutya, dikutip dari siaran pers.
Menurut Ratna Noviani, akademisi pemerhati gender dari Sekolah Pascasarjana Universitas Gadjah Mada (UGM), kecanggihan AI justru memperparah objektifikasi dengan menempatkan perempuan sebagai korban utama eksploitas visual.
Ia mengatakan, kecanggihan fitur kecerdasan buatan bukan sekadar kemajuan teknologi, tapi menjadi alat baru untuk melanggengkan kekerasan berbasis gender yang sistemik.
“Ruang digital yang sering diglorifikasi sebagai ruang ‘kebebasan’ pada akhirnya menjadi medan baru bagi reproduksi kekerasan berbasis gender, termasuk kekerasan seksual yang menargetkan perempuan,” kata Ratna,
Baca Juga: Viral Grok AI di X Buat Konten Tak Senonoh, Komdigi Angkat Bicara
Hal ini tak cuma melanggengkan kekerasan lama, tapi juga menjadi ruang untuk bentuk-bentuk kekerasan baru, seperti kekerasan berbasis gender online yang bersifat masif, anonim, dan cenderung sulit dihentikan.
Selain itu, mengutip situs resmi UGM. Ratna menyebut media sosial memang membuka ruang bagi perempuan untuk tampil, bersuara, dan menghadirkan diri.
Namun di saat yang sama, eksistensi visual ini juga rentan dijadikan bahan baku untuk kekerasan seksual digital.
Terkait penggunaan AI dengan manipulasi konten yang semakin marak, Ratna menilai hal ini sebagai evolusi budaya mengintip.
Ia mengamati adanya relasi kuasa berbasis gender yang timpang. Menurutnya, perempuan sejak dulu diposisikan dengan logika male gaze atau sebagai objek tatapan, objek seksual, dan objek tontonan untuk kesenangan laki-laki.
Selain itu, temuannya mencatat bahwa teknologi digital dan AI sendiri sebenarnya tidak netral.
Ketua Program Magister Kajian Budaya dan Media Sekolah Pascasarjana UGM ini mengatakan, teknologi dibangun dari data, desain, dan imajinasi sosial yang juga bias maskulin.
Ia mencontohkan dalam praktik sehari-hari, AI assistant sering digenderisasi sebagai feminin, dengan nama, suara, dan karakter yang merepresentasikan kepatuhan dan pelayanan.
Baca Juga: Menteri PPPA Soroti Kasus Kekerasan Seksual dari Lowongan Kerja Palsu
“Hal ini menunjukkan bahwa logika teknologi itu sendiri telah lama mereproduksi posisi perempuan sebagai objek,” kata Ratna.
“Oleh karena itu, kekerasan visual digital seperti morphing tidak sekadar evolusi dari voyeurisme, tetapi kelanjutan dari problem struktural yang sama,” imbuhnya.
Untuk memutus rantai ini, Ratna menegaskan bahwa pengguna media digital harus membangun kesadaran kolektif.
Ia menuturkan, masyarakat harus menyadari bahwa tindakan menyukai, mengomentari, atau membagikan konten manipulasi AI dapat menjadikan seseorang sebagai pelaku sekunder.
Ratna juga meminta masyarakat agar lebih kritis dan cerdas untuk tidak menyebarkan informasi palsu tersebut. Membangun kesadaran kolektif berarti menggeser posisi kita dari penonton pasif menjadi bagian aktif dari solusi.
“Kita perlu bersama-sama menjadi pengguna teknologi digital dan AI yang kritis, yang sadar bahwa setiap klik, like, dan share punya konsekuensi etis dan politis,” pungkasnya.