Mubadalah.id – Kecerdasan buatan atau AI generatif kini berkembang dengan sangat masif yang sulit terbayangkan sepuluh tahun lalu. Teknologi ini tidak lagi sekadar alat bantu pekerjaan atau hiburan semata, melainkan telah masuk jauh ke dalam ruang personal manusia.
Bermula dari hanya filter wajah yang memperhalus kulit hingga aplikasi yang mampu mengubah ekspresi dalam sekejap, bertransformasi hingga AI telah menjadi bagian tak terpisahkan dari keseharian. Terutama di media sosial, teknologi pengolah gambar dan wajah kita pandang sebagai simbol kemajuan peradaban.
Namun di balik kemudahan dan kecanggihan AI, teknologi ini juga membuka celah bagi bentuk kekerasan baru yang lebih halus, lebih tersembunyi, namun tidak kalah merusak.
Ruang digital yang kita huni setiap hari, dengan adanya AI, berubah menjadi platform yang tidak netral. Yakni tetap terpengaruhi oleh relasi kuasa yang ada di dunia nyata. Termasuk bias gender yang telah mengakar dalam struktur sosial. Algoritma yang manusia rancang ini membawa serta nilai, prasangka, dan ketimpangan yang sama dengan yang ada di luar layar.
Memahami Kekerasan Berbasis Gender di Ruang Daring
Online Gender-Based Violence atau kekerasan berbasis gender di ranah daring adalah salah satu manifestasi nyata dari ketimpangan ini. OGBV mencakup berbagai bentuk kekerasan yang menargetkan seseorang terutama perempuan karena identitas gendernya, dan dilakukan melalui platform digital.
Bentuk-bentuknya beragam mulai dari manipulasi foto untuk tujuan merendahkan, penyebaran gambar pribadi tanpa persetujuan, pembuatan deepfake yang menempatkan wajah seseorang pada konten seksual atau memalukan, hingga pelecehan visual yang dilakukan secara terang-terangan maupun terselubung.
Fenomena realita yang dapat kita saksikan tersebut, bukan masalah sepele. Korban dapat mengalami trauma psikologis bisa berlangsung lama, bahkan permanen. Sehingga dengannya, mereka sering kali mengalami kecemasan, depresi, hingga kehilangan rasa aman dalam menjalani kehidupan sehari-hari.
Begitu pula, sesuatu yang paling jahat akibat dari kekerasan ini ialah stigma sosial yang melekat pada korban bukan pada pelaku. Sehingga membuat perempuan yang menjadi sasaran OGBV mengalami penderitaan ganda.
Kenyataannya mereka tidak hanya terserang secara digital, tetapi juga disalahkan oleh masyarakat atas apa yang terjadi pada mereka. Banyak perempuan pun memilih untuk membungkam diri, menarik diri dari ruang digital, atau bahkan berhenti berpartisipasi dalam percakapan publik demi menghindari serangan lebih lanjut.
Kerentanan dalam Ekosistem Media Sosial
Kerentanan perempuan dalam ekosistem media sosial berbasis visual semakin nyata ketika kita memahami bagaimana platform-platform ini terancang. Foto dan gambar adalah medium utama dalam berekspresi, membangun koneksi, dan menunjukkan eksistensi. Namun foto yang terunggah dengan niat tulus untuk berbagi momen atau membangun narasi diri justru berpotensi tereksploitasi oleh teknologi AI yang semakin canggih.
Wajah seseorang bisa terambil, dimanipulasi, dan digunakan untuk tujuan yang sama sekali tidak pernah disetujui oleh pemiliknya. Dalam konteks ini, foto bukan lagi milik pribadi.
Karena itu, kewaspadaan perempuan dalam membagikan gambar diri menjadi salah satu strategi perlindungan yang penting. Namun perlu kita tegaskan dengan sangat jelas bahwa kewaspadaan ini bukanlah tanda bahwa perempuan bersalah jika menjadi korban.
Kewaspadaan dalam proses ini adalah tentang mengakui realitas bahwa ruang digital saat ini belum sepenuhnya aman. Perempuan seperti siapa pun berhak mengambil langkah untuk melindungi diri mereka sendiri dalam ekosistem yang masih penuh risiko.
Walaupun semua orang sepakat, bahwa tidak ada alasan yang bisa membenarkan tindakan mengambil gambar seseorang tanpa izin, memanipulasinya, lalu menyebarkannya dengan tujuan merendahkan atau menyakiti.
Namun, apabila sebuah kasus menguak, maka tanggung jawab atas kekerasan ini terletak sepenuhnya pada pelaku, bukan pada korban. Membingkai ulang narasi tentang OGBV dengan cara ini penting agar diskusi publik tidak lagi terjebak dalam logika victim blaming yang melanggengkan kekerasan.
Tanggung Jawab Laki-laki dan Etika Digital
Tanggung jawab laki-laki sebagai pengguna media sosial menjadi sangat penting dalam konteks ini. Laki-laki, sebagai kelompok yang secara statistik lebih sering menjadi pelaku OGBV, memiliki peran krusial dalam mengubah budaya digital.
Sudah saatnya normalisasi menghormati privasi orang lain, tidak menyebarkan konten tanpa izin, tidak terlibat dalam pembuatan atau konsumsi deepfake, serta menegur sesama ketika melihat perilaku yang tidak etis adalah bentuk tanggung jawab yang harus dijalankan.
Karena penyalahgunaan AI dan konten visual bukanlah bentuk hiburan atau kreativitas, melainkan adalah kekerasan. Tidak peduli seberapa canggih teknologi yang digunakan atau seberapa lucu hasilnya menurut pelaku, jika tindakan itu menyakiti orang lain, maka itu adalah kekerasan yang tidak bisa dinormalisasi dengan dalih kemajuan teknologi.
Untuk itu, kita membutuhkan kesadaran gender yang kuat dalam penggunaan teknologi digital. Kesadaran ini harus dimulai dari pendidikan literasi digital yang tidak hanya mengajarkan cara menggunakan teknologi, tetapi juga bagaimana menggunakannya dengan bertanggung jawab, penuh empati, dan berkeadilan gender.
Platform media sosial dan pengembang AI juga memiliki peran besar dalam mencegah eksploitasi dan melindungi korban. Alangkah baiknya jika mereka merancang sistem yang lebih aman, menyediakan mekanisme pelaporan yang mudah dan efektif, serta memberikan respons cepat terhadap kasus-kasus OGBV.
Regulasi yang kuat dan literasi digital berbasis keadilan gender juga menjadi kebutuhan mendesak. Pemerintah, lembaga pendidikan, dan organisasi masyarakat sipil perlu bekerja sama untuk menciptakan ekosistem digital yang lebih adil dan aman.
Seruan Kolektif untuk Ruang Digital yang Manusiawi
Pada akhirnya, kesadaran kolektif akan masalah ini merupakan tanggung jawab semua pengguna teknologi. Kecanggihan AI hanya akan bermakna jika sejalan dengan nilai-nilai kemanusiaan seperti rasa hormat, keadilan, dan kepedulian terhadap sesama. Teknologi yang maju tanpa etika hanyalah alat penindasan baru dengan wajah yang lebih modern.
Ruang digital hanya akan benar-benar aman jika setiap penggunanya memilih untuk tidak melukai orang lain. Pilihan itu ada di tangan kita semua, dalam setiap unggahan, setiap komentar, dan setiap interaksi yang kita lakukan di dunia digital. Hanya dengan kesadaran dan tindakan kolektif inilah kita bisa mewujudkan ruang digital yang benar-benar sejalan dengan nilai kemanusiaan. []
