Kasus Deepfake yang Mengguncang Korea Selatan (Bagian 2)

Uraian ini adalah lanjutan uraian sebelumnya (Kasus Deepfake yang Mengguncang Korea Selatan - Bagian 1). Untuk mendapatkan pemahaman yang lebih baik dan urutan lebih lengkap, sebaiknya bacalah uraian sebelumnya terlebih dulu.

Pada tahun 2019, terungkap bahwa sebuah jaringan seks menggunakan Telegram untuk memaksa perempuan dan anak-anak membuat dan membagikan foto-foto eksplisit secara seksual. Pada saat itu, polisi meminta bantuan Telegram untuk membantu penyelidikan mereka, tetapi aplikasi ini mengabaikan ketujuh permintaan mereka.

Meskipun pelaku utama akhirnya dijatuhi hukuman lebih dari 40 tahun penjara, tidak ada penindakan terhadap platform tersebut karena kekhawatiran seputar penyensoran.

“Mereka menghukum para pelaku utama tetapi mengabaikan situasinya, dan saya rasa ini telah memperburuk situasi,” kata Ko.

Park Jihyun, mantan mahasiswa jurnalistik yang mengungkap jaringan seks itu pada 2019, telah menjadi advokat politik untuk korban-korban kejahatan seks digital. Dia mengatakan sejak skandal deepfake ini terbongkar, murid-murid dan orang tua telah meneleponnya beberapa kali sehari sambil menangis.

“Mereka melihat sekolah mereka masuk ke dalam daftar yang dibagikan di media sosial dan mereka ketakutan,” kata Jihyun.

Sebelum krisis ini terkuak, Lembaga Advokasi untuk Korban Kekerasan Seksual Online Korea Selatan (ACOSAV) mengatakan bahwa jumlah anak di bawah umur yang menjadi korban pornografi deepfake sudah meningkat tajam.

Pada tahun 2023, mereka mendampingi 86 korban remaja. Angka itu melonjak menjadi 238 korban hanya dalam delapan bulan pertama tahun ini. Dalam sepekan terakhir saja, 64 korban remaja lainnya juga melapor.

Salah satu petinggi ACOSAV, Park Seonghye, mengatakan bahwa selama sepekan staf-stafnya dibanjiri telepon dan bekerja sepanjang waktu. 

“Ini keadaan darurat berskala besar bagi kami, seperti situasi perang,” kata dia. “Dengan teknologi deepfake terbaru, sekarang ada lebih banyak rekaman daripada sebelumnya, dan kami khawatir ini akan terus meningkat.”

Selain memberikan konseling kepada korban, ACOSAV juga melacak konten berbahaya dan bekerja sama dengan platform-platform daring untuk menghapusnya. Park mengatakan bahwa ada beberapa kasus di mana Telegram bisa menghapus konten atas permintaan mereka.

“Jadi bukannya ini tidak mungkin,” kata dia.

Melalui sebuah pernyataan, Telegram mengatakan bahwa moderator mereka “secara proaktif memonitor ranah publik dari aplikasi tersebut, menggunakan AI dan menerima laporan pengguna untuk menghapus jutaan konten setiap hari yang melanggar ketentuan layanan Telegram”.

Sementara itu, organisasi-organisasi perempuan mengakui bahwa teknologi AI baru ini mempermudah eksploitasi terhadap korban. Menurut mereka, ini hanyalah wujud misogini terbaru yang terjadi secara daring di Korea Selatan.

Pertama, perempuan menjadi sasaran gelombang pelecehan verbal secara daring. Kemudian muncul epidemi kamera mata-mata, di mana perempuan direkam diam-diam di toilet umum dan ruang ganti.

“Akar masalah dari situasi ini adalah seksisme struktural dan solusinya adalah kesetaraan gender,” bunyi sebuah pernyataan yang ditandatangani oleh 84 organisasi perempuan.

Ini adalah kritik langsung terhadap Presiden Yoon Suk Yeol yang membantah adanya seksisme struktural, memotong anggaran untuk kelompok-kelompok pendamping korban, dan menghapus kementerian kesetaraan gender.

Lee Myung-hwa, yang menangani pelaku pelecehan seksual berusia muda, sepakat bahwa walaupun terkuaknya kasus deepfake tampak tiba-tiba, situasi ini telah lama mengintai.

“Bagi remaja, deepfake telah menjadi bagian dari budaya mereka, dianggap sebagai permainan atau lelucon,” kata konselor yang mengelola Aha Seoul Youth Cultural Centre.

Lee mengatakan bahwa sangat penting untuk mendidik anak-anak muda. Dia merujuk pada sebuah penelitian yang menunjukkan bahwa ketika Anda memberi tahu pelaku soal kesalahan yang mereka lakukan, mereka menjadi lebih memahami apa yang tergolong pelecehan seksual, dan itu membuat mereka tidak mengulanginya.

Sementara itu, pemerintah menyatakan akan memperkuat penindakan kriminal terhadap pelaku yang membuat dan membagikan foto-foto deepfake, juga akan menghukum mereka yang melihat konten pornografi tersebut.

Hal ini menyusul kritik bahwa tidak cukup banyak pelaku yang dihukum. Salah satu masalahnya, mayoritas pelaku adalah remaja yang biasanya diadili di pengadilan anak di mana mereka mendapat hukuman yang lebih ringan.

Sejak ruang-ruang obrolan ini terungkap, banyak yang telah ditutup, tetapi hampir pasti ada ruang-ruang baru yang menggantikan. Sebuah ruang penghinaan telah dibuat untuk menargetkan para jurnalis yang meliput berita ini. Ko, yang mengungkap kasus ini, mengatakan bahwa hal ini telah membuatnya tidak bisa tidur.

“Saya terus memeriksa grup-grup itu untuk melihat apakah foto saya telah diunggah,” katanya.

Kecemasan yang sama telah meliputi hampir setiap gadis remaja dan perempuan muda di Korea Selatan. Ah-eun, seorang mahasiswa, mengatakan bahwa hal itu membuatnya jadi curiga pada kenalan laki-lakinya.

“Saya tidak bisa memastikan siapa orang-orang yang melakukan kejahatan semacam ini di belakang saya, tanpa saya ketahui,” kata dia. “Saya menjadi sangat waspada saat berinteraksi dengan orang lain, dan itu tidak baik.”