Jakarta –
Kasus pornografi deepfake mulai menjangkiti Singapura, terutama di kalangan generasi muda. November lalu, polisi menyelidiki beberapa siswa remaja di sebuah sekolah olahraga di Singapura karena menggunakan kecerdasan buatan (AI) untuk membuat dan menyebarkan foto telanjang palsu teman sekolah perempuan mereka.
Pada bulan yang sama, lima menteri Singapura dan lebih dari 100 pegawai negeri di 31 lembaga pemerintah menerima email pemerasan. Subyeknya adalah permintaan pembayaran mata uang kripto sebagai imbalan atas foto-foto pornografi deepfake yang tidak diunggah secara luas.
Ini adalah kasus terbaru konten seks palsu buatan AI di Singapura, dan ini bukan yang terakhir di Singapura atau dunia pada umumnya.
Tren dunia
Pada tahun 2017, thread Reddit yang menampilkan video palsu seks “Taylor Swift” berhasil mengumpulkan 90.000 pelanggan, sebelum konten tersebut akhirnya dihapus delapan minggu kemudian.
Tahun lalu, di sebuah kota kecil di Spanyol, lebih dari 20 anak perempuan ditemukan menyebarkan foto telanjang yang dibuat oleh AI, dan remaja menyebarkan konten tersebut melalui akses selfie di media sosial.
Konsekuensi yang lebih serius
Yang mengkhawatirkan adalah jenis risiko ini menjadi lebih umum, menurut penelitian. Semakin banyak pengguna yang menganggapnya normal.
Pada tahun 2023, survei yang dilakukan oleh organisasi nirlaba lokal SG Her Empowerment menemukan bahwa 20 persen responden mengatakan bahwa mereka tidak terpengaruh oleh kekerasan online yang merupakan bagian normal dari kehidupan mereka, sementara 66 persen lainnya tidak mengungkapkan terlalu banyak foto pribadi di media sosial.
Tapi, tetap saja, analoginya adalah alih-alih berada dekat dengan para pengganggu di taman bermain, orang-orang malah menjauhi taman bermain dan tidak memahami bahayanya.
Secepat apapun video tersebut dihapus, belum lagi dampak terkait gangguan kesehatan mental yang dialami korban ketika menemukan video porno deepfake.
Dari sudut pandang gender, kisah ini lebih disayangkan. Diperkirakan 95 persen pornografi deepfake adalah tentang perempuan. Perempuan menjadi sasaran secara tidak proporsional di dunia maya, sehingga berpotensi menghambat kemajuan yang dicapai dalam kesetaraan gender.
Stephanie Yuen Theo, asisten direktur TSMP Law Corporation, mengimbau masyarakat untuk tidak mudah membagikan foto pribadi secara online. Korban diminta tidak takut menegur pelaku.
Jika terjadi kejahatan, segera lapor ke pihak berwajib, dorong mereka untuk mengambil tindakan, jika tahu ada yang menjadi sasaran, penyintas tidak perlu merasa malu, yang penting ada kendali, ujarnya. . Dikutip CNA, Kamis (5/12/2024).
Sebuah kejadian di Singapura
Sebelum kejadian di sekolah olahraga tersebut, pihak berwenang Singapura telah bersiap menghadapi gelombang baru serangan dunia maya atau kejahatan online ini. Setidaknya ada tiga aspek hukum yang mengatur hukum di balik pencabulan deepfake.
Pertama, kendalikan platform tempat Anda mengakses konten online. Undang-Undang Penyiaran diubah pada tahun 2023 untuk memungkinkan Otoritas Pengembangan Media Infocomm (IMDA) mengarahkan layanan media sosial sebagai penjaga dunia maya, memblokir atau menghapus konten yang tidak pantas selama periode tertentu dan mengikuti kode etik online.
Kedua, kejahatan dalam dunia analog namun dengan elemen digital kini dapat ditargetkan, dicegah, dan dituntut dengan lebih efektif. Undang-Undang Kerusakan Kriminal Online tahun lalu memberikan wewenang kepada pihak berwenang untuk mengeluarkan arahan kepada penyedia layanan online, sehingga membatasi paparan pengguna Singapura terhadap konten dan aktivitas kriminal online.
Berikutnya: Upaya dari negara lain
(Naf/Sook)
