Kasus Deepfake yang Mengguncang Korea Selatan (Bagian 1)

Pada Sabtu (31/08) lalu, sebuah pesan Telegram muncul di ponsel Heejin dari orang yang tidak dia kenal. “Foto-foto dan informasi pribadi Anda sudah bocor. Ayo kita bicarakan,” bunyi pesan itu.

Ketika mahasiswa tersebut membuka pesan itu, dia menerima foto dirinya yang diambil saat masih sekolah beberapa tahun yang lalu. Lalu ada satu foto lagi, yang sebenarnya adalah foto yang sama. Tetapi yang satu ini eksplisit secara seksual dan palsu.

Heejin, bukan nama sebenarnya, merasa ketakutan. Dia tidak merespons pesan itu, tapi gambar-gambar tersebut terus berdatangan. Di dalam foto-foto itu, wajahnya ditempelkan pada tubuh yang sedang melakukan hubungan seks menggunakan teknologi deepfake yang canggih.

Deepfake semacam ini, yang menggabungkan wajah orang sungguhan dengan tubuh palsu yang eksplisit secara seksual, semakin banyak dibuat menggunakan kecerdasan buatan.

“Saya membeku, saya merasa sangat sendirian,” kata Heejin.

Namun, Heejin bukanlah satu-satunya. Dua hari sebelumnya, jurnalis Korea Selatan, Ko Narin telah mempublikasikan berita terbesar dalam kariernya. Baru-baru ini terungkap bahwa polisi sedang menyelidiki jaringan pornografi palsu di dua universitas besar. Ko meyakini ada lebih banyak lagi jaringan serupa.

Dia mulai menelusuri media sosial dan menemukan puluhan grup obrolan di aplikasi Telegram, di mana para penggunanya membagikan foto-foto perempuan yang mereka kenal. Mereka menggunakan perangkat lunak AI untuk mengubahnya menjadi foto-foto porno palsu dalam hitungan detik.

“Setiap menit orang-orang mengunggah foto perempuan yang mereka kenal dan meminta foto tersebut diubah menjadi deepfake,” kata Ko.

Ko menemukan bahwa kelompok-kelompok ini tidak hanya menargetkan mahasiswa. Ada grup-grup yang menargetkan siswa SMA, bahkan SMP.

Jika banyak konten yang dibuat menggunakan gambar seorang siswa tertentu, maka akan ada ruang obrolan sendiri khusus orang itu. Ruang obrolan itu diberi nama “ruang penghinaan” atau "ruang teman dari teman”. Biasanya ada syarat yang ketat untuk masuk ke ruang-ruang itu.

Laporan Ko di surat kabar Hankyoreh telah mengejutkan masyarakat Korea Selatan.

Pada Senin, polisi mengumumkan bahwa mereka sedang mempertimbangkan untuk menyelidiki Telegram, mengikuti langkah pihak berwenang Prancis yang baru-baru ini mendakwa pendiri Telegram asal Rusia atas kejahatan yang berkaitan dengan aplikasi tersebut.

Pemerintah telah berjanji akan menindak tegas mereka yang terlibat, dan presiden telah menyerukan agar anak-anak muda mendapatkan edukasi yang lebih baik.

Telegram menyatakan bahwa mereka “secara aktif memerangi konten berbahaya di platform-nya, termasuk pornografi ilegal,” dalam sebuah pernyataan yang disampaikan kepada BBC.

‘Proses yang sistematis dan terencana’

BBC telah melihat deskripsi dari ruang-ruang obrolan ini. Salah satunya meminta para anggotanya untuk mengunggah lebih dari empat foto, dilengkapi dengan nama, usia, dan daerah tempat tinggal mereka. “Saya kaget melihat betapa sistematis dan terorganisirnya proses ini,” kata Ko.

“Hal yang paling mengerikan yang saya temukan adalah sebuah grup yang isinya siswa di bawah umur di sebuah sekolah dengan lebih dari 2.000 anggota,” ujar dia.

Beberapa hari setelah artikel Ko diterbitkan, para aktivis perempuan juga mulai menelusuri Telegram dan mengikuti petunjuk-petunjuk yang ada. Pada akhir pekan itu, lebih dari 500 sekolah dan universitas sudah teridentifikasi menjadi target.

Belum bisa dipastikan berapa banyak orang yang menjadi korban, namun banyak di antaranya diyakini berusia di bawah 16 tahun. Sebagian besar terduga pelakunya adalah remaja.

Heejin mengaku mengalami kecemasan parah ketika mengetahui skala krisis dari kasus ini. Dia khawatir berapa banyak orang yang mungkin telah melihat foto deepfake-nya.

Awalnya, dia menyalahkan dirinya sendiri. “Saya tidak bisa berhenti berpikir apakah ini terjadi karena saya mengunggah foto-foto saya ke media sosial, apakah saya semestinya lebih berhati-hati?”

Sejumlah perempuan dan remaja di Korea Selatan telah menghapus foto-foto mereka dari media sosial atau menonaktifkan akun mereka karena takut akan dieksploitasi lebih lanjut.

“Kami frustasi dan marah karena kami harus membatasi penggunaan media sosial ketika kami tidak melakukan kesalahan,” kata seorang mahasiswa, Ah-eun yang teman-temannya menjadi korban.

Aplikasi Telegram berada di jantung skandal ini. Telegram bersifat privat dan pesan-pesannya dienkripsi. Aplikasi ini berbeda dengan situs publik lainnya yang dapat diakses dengan mudah oleh otoritas, lalu bisa mengajukan permintaan agar foto-foto semacam itu dihapus.

Para penggunanya sering kali anonim, ruang-ruang obrolannya juga bisa diatur dalam mode “rahasia”, dan konten-kontennya bisa dihapus dengan cepat tanpa meninggalkan jejak. Fitur ini telah membuat Telegram menjadi ruang yang bagus bagi tindak-tindak kriminal.

Pendiri aplikasi ini, Pavel Durov, telah didakwa di Prancis pada pekan lalu karena terlibat dalam sejumlah kejahatan yang berkaitan dengan aplikasi ini, termasuk memungkinkan penyebaran pornografi anak.

Namun, para aktivis perempuan menuduh pihak berwenang di Korea Selatan terlalu lama membiarkan pelecehan seksual di Telegram karena negara ini pernah menghadapi krisis serupa sebelumnya.

Baca lanjutannya: Kasus Deepfake yang Mengguncang Korea Selatan (Bagian 2)