Mubadalah.id – Dalam dua hari terakhir, aku menyaksikan bagaimana sebuah platform mendukung kekerasan berbasis gender online secara masif. Rupanya, bukan hanya di Indonesia, namun hampir seluruh bagian negara-negara juga sedang menghadapi yang sama. Parahnya, pihak yang bertanggung jawab atas fenomena ini justru menjadi orang yang mendukung fenomena KBGO secara masif.
Bagaimana Awalnya?
Sebuah aplikasi X yang dulunya dikenal sebagai aplikasi Twitter saat ini sedang mendapat banyak kecaman oleh para netizen di seluruh dunia. Salah satu fitur utama yang ditawarkan oleh aplikasi ini adalah Grok.
Grok merupakan asisten kecerdasan buatan (AI) yang saat ini berkembang pada perusahaan xAI milik Elon Musk. Terintegrasi dengan platform X (dulu Twitter) menjadi nilai unik karena memiliki kepribadian jenaka, sarkastik, dan akses langsung ke data real-time dari X. Hal tersebut membuat Grok dapat memberikan jawaban yang relevan dengan tren terkini secara cepat, berbeda dari AI lain yang cenderung formal.
Dalam dua hari terakhir, beredar luas tangkapan layar yang menunjukkan bagaimana Grok digunakan untuk mengedit foto perempuan tanpa persetujuan pemilik foto. Sasaran utama praktik tersebut merupakan perempuan yang mengunggah foto pribadi, seperti swafoto atau foto dengan wajah dan tubuh terlihat jelas.
Melalui perintah tertentu, pengguna meminta Grok mengubah tampilan perempuan. Dari kondisi berpakaian sopan menjadi seolah mengenakan pakaian minim atau bermuatan seksual, lalu menyebarluaskan hasil editan tersebut kembali di media sosial.
Sejumlah pengguna X menilai praktik tersebut bermasalah secara etik dan berpotensi melanggar hak asasi manusia. Salah satu pengguna, akun @nd**, secara terbuka menyatakan bahwa tren meminta Grok mengedit foto perempuan hingga menyerupai penggunaan bikini telah melampaui batas kewajaran.
Ketika tindakan tersebut menimbulkan rasa tidak nyaman, penghinaan, dan hilangnya kontrol atas representasi tubuh, maka praktik ini tidak lagi dapat dipandang sebagai aktivitas kreatif berbasis teknologi. Melainkan, telah masuk ke dalam kategori kekerasan berbasis gender oleh teknologi digital.
Apa itu KGBO dan Dampaknya?
Kekerasan Berbasis Gender Online (KBGO) merujuk pada segala bentuk kekerasan yang terjadi di ruang digital dan ditujukan kepada individu atau kelompok tertentu berdasarkan gender, identitas gender, atau ekspresi gender.
KBGO memanfaatkan teknologi informasi dan komunikasi sebagai medium utama, termasuk media sosial, aplikasi pesan instan, platform berbagi konten, serta sistem berbasis kecerdasan buatan.
Bentuk-bentuk KBGO sangat beragam dan terus berkembang seiring kemajuan teknologi. Praktik tersebut meliputi pelecehan verbal, ancaman, penyebaran konten intim tanpa persetujuan, doxing, penguntitan digital, hingga manipulasi visual berbasis AI seperti deepfake dan seksualisasi foto tanpa izin.
KBGO menjadi semakin kompleks karena teknologi memungkinkan reproduksi, modifikasi, dan penyebaran konten berbahaya secara masif dan sulit terlacak. AI juga memperluas jangkauannya melampaui batas geografis dan yurisdiksi hukum.
Dampak KBGO bersifat multidimensional dan tidak terbatas pada ranah digital. Korban kerap mengalami tekanan psikologis yang serius, seperti kecemasan, depresi, trauma, dan rasa kehilangan kontrol atas tubuh serta identitas diri.
Dalam banyak kasus, KBGO berdampak pada kehidupan sosial dan ekonomi korban, termasuk rusaknya reputasi hingga terhambatnya partisipasi di ruang publik. Bagi perempuan dan kelompok rentan, dampak tersebut menjadi berat karena peraturan sosial yang cenderung menyalahkan korban dan menormalisasi kekerasan berbasis gender.
Kecaman Dunia atas KBGO Masif berbasis AI
Laporan media internasional Straight Arrow News pada Mei lalu mencatat bahwa Grok, chatbot kecerdasan buatan besutan Elon Musk yang terintegrasi dengan platform X, menuai kritik di berbagai negara karena dapat dieksploitasi untuk mengedit foto perempuan menjadi tampilan tanpa busana.
Keresahan global tersebut mencuat setelah seorang perempuan pengguna X mendemonstrasikan bagaimana unggahan yang memuat foto perempuan dapat dengan mudah mendapat balasan lain oleh pengguna lain dengan permintaan kepada Grok untuk mengubah tampilannya menjadi bermuatan pornografi. Temuan tersebut kemudian mendapat sorotan lebih luas setelah diberitakan oleh 404 Media di seluruh dunia.
Anak-Anak Juga Menjadi Korban KBGO berbasis AI
Grok kembali menjadi sorotan publik setelah ada yang melaporkan penghasilan gambar seksual anak berbasis AI. Grok mengakui bahwa insiden tersebut terjadi akibat adanya kelemahan dalam sistem pengamanan internal. Hingga saat ini, perusahaan pengembang Grok, xAI, belum memberikan pernyataan resmi kepada media.
Data dari Internet Watch Foundation, sebuah organisasi nirlaba berbasis di Inggris. Dalam enam bulan pertama tahun 2025, jumlah materi kekerasan seksual terhadap anak oleh AI meningkat hingga 400 persen. Organisasi tersebut menyatakan bahwa perkembangan ini berlangsung dengan kecepatan yang mengkhawatirkan, termasuk munculnya video AI pertama yang meyakinkan dalam menggambarkan kekerasan seksual terhadap anak.
Elon Musk, Pemilik Platform X yang Justru Mendukung Adanya KBGO Berbasis AI
Dalam satu kesempatan, linimasa media sosial X/twitter ku penuh oleh unggahan Elon Musk yang menanggapi foto dirinya yang telah teredit menggunakan pakaian minim melalui teknologi AI. Alih-alih mengkritisi atau mengecam praktik manipulasi visual tersebut, Musk justru meresponsnya dengan nada bercanda, membanggakan, lucu, dan menunjukkan ekspresi kebahagiaan.
Kita dapat membaca fenomena ini melalui perspektif kerangka relasi kuasa dan ketimpangan gender di ruang digital. Bagi perempuan dan kelompok rentan lainnya, manipulasi foto tanpa persetujuan sering kali berujung pada stigmatisasi, perundungan, ancaman, serta dampak psikologis yang serius.
Namun, ketika praktik serupa berlaku oleh figur berkuasa seperti Elon Musk, respons yang muncul dapat berbeda secara signifikan. Posisi sosial, gender, dan kekuasaan ekonomi memungkinkan Musk memaknai tindakan tersebut sebagai humor. Sementara korban lain tidak memiliki privilese yang sama.
Sikap Elon Musk tidak dapat terlepaskan dari tanggung jawab strukturalnya sebagai pemilik dan pengendali teknologi yang memungkinkan terjadinya praktik tersebut.
Upaya Pencegahan KBGO Berbasis AI di X
Situasi di mana kekerasan berbasis gender online (KBGO) berbasis kecerdasan buatan masih terus terjadi dan mekanisme perlindungan platform belum sepenuhnya efektif. Langkah pencegahan sementara perlu kita lakukan sebagai pengguna, khususnya kelompok rentan. Upaya tersebut bukan bermaksud untuk memindahkan tanggung jawab dari platform kepada korban. Upaya tersebut menjadi mitigasi risiko dalam kondisi ekosistem digital yang belum aman.
Salah satu langkah awal yang dapat kita lakukan adalah mengamankan jejak digital pribadi. Sebagai saran, pengguna perlu menghapus foto-foto personal dari akun X, terutama yang menampilkan wajah, tubuh, atau identitas visual yang mudah untuk dapat terkenali. Foto semacam ini kerap menjadi bahan manipulasi berbasis AI, seperti deepfake atau konten seksual nonkonsensual, yang terproduksi dan tersebarluaskan tanpa persetujuan pemiliknya.
Selain itu, pengaturan privasi akun menjadi langkah penting untuk membatasi akses publik terhadap konten personal. Dengan memprivat akun media sosial, hanya pengikut yang telah kita setujui yang dapat melihat dan berinteraksi dengan unggahan.
Ketika penyalahgunaan terjadi, pengguna perlu segera memanfaatkan mekanisme pelaporan dan pemblokiran yang tersedia di platform. Konten hasil manipulasi AI, pelecehan, perundungan, atau seksualisasi harus kita laporkan agar tercatat dalam sistem moderasi platform. Pemblokiran akun pelaku juga penting untuk menghentikan interaksi lanjutan dan mencegah eskalasi kekerasan digital.
Pendokumentasian sering terabaikan. Setiap bentuk kekerasan digital perlu kita simpan sebagai bukti. Seperti tangkapan layar unggahan, percakapan, atau profil akun, lengkap dengan tanggal, waktu, dan detail lainnya. Dokumentasi menjadi penting apabila pengguna memutuskan untuk melapor ke pihak berwenang atau lembaga pendamping di kemudian hari.
Pengguna dapat menghubungi orang-orang terpercaya untuk mendapatkan dukungan emosional. Di Indonesia, terdapat sejumlah lembaga pendampingan. Seperti Komnas Perempuan, SAFEnet (Southeast Asia Freedom of Expression Network). Serta layanan SAPA 129 dari Kementerian Pemberdayaan Perempuan dan Perlindungan Anak.
Apabila KBGO berbasis AI telah masuk ke ranah pelanggaran hukum. Seperti penyebaran konten intim nonkonsensual. Konsultasi dengan lembaga bantuan hukum (LBH) menjadi langkah penting untuk memahami dan menuntut hak berdasarkan regulasi yang berlaku. Termasuk Undang-Undang Tindak Pidana Kekerasan Seksual (UU TPKS).
Meski demikian, seluruh langkah tersebut bersifat sementara dan tidak dapat menggantikan tanggung jawab utama platform digital dan negara.
Refleksi
Aku menyadari, kjahatan berbasis digital sangat dekat dengan kehidupan kita sehari-hari. Ketika hari ini orang lain menjadi korban, di masa depan hal serupa dapat menimpa siapa pun, termasuk diri kita sendiri.
Ruang digital yang kita gunakan setiap hari belum sepenuhnya aman. Terutama bagi perempuan dan kelompok rentan, karena masih banyak celah untuk kekerasan berbasis gender online. Aturan dan kebijakan dunia digital sering kali lebih berpihak pada kepentingan platform daripada keselamatan dan kesejahteraan pengguna.
Dalam situasi genting saat ini, masyarakat perlu terus menutup celah-celah yang ada dengan bersikap lebih sadar. Selain itu juga saling melindungi sebagaimana warga jaga warga. Juga berani untuk vokal menyuarakan ketidakadilan di ruang digital. Pada saat yang sama, aku berharap dan mendesak pemerintah. Agar negara hadir melalui kebijakan yang ramah pengguna media sosial dan tegas terhadap pelaku KBGO. []
