💡 Sambil baca, sambil belajar: perkataan yang bergaris oren boleh di-hover atau ditekan untuk maksud. Ada kuiz kecil kat bawah — jangan skip!

Gambar asal cuma gambar biasa. Berpakaian lengkap, mungkin diambil di sekolah atau dimuat naik ke media sosial.

Kemudian, gambar itu dijadikan imej bogel menggunakan kecerdasan buatan (AI).

Baru-baru ini, sebuah sekolah menengah di Seremban melaporkan lebih 300 pelajar perempuan dikhuatiri terjejas akibat deepfake EN: deepfake Imej, video atau audio palsu yang dijana atau diubah menggunakan AI supaya kelihatan seperti seseorang yang sebenar. "DIP-fayk" BM: imej atau video palsu janaan AI .

Polis mengesahkan menerima lima laporan daripada ibu bapa dan penjaga, membabitkan pelajar perempuan berusia 14 hingga 17 tahun.

Ada yang tanya: kalau badan itu bukan badan sebenar, apa salahnya?

Imej boleh direka. Mereka yang menanggung kesan tetap mangsa.

Apa dah disahkan?

Menurut kenyataan polis pada 17 Oktober, laporan diterima antara 20 hingga 23 Ogos.

Suspek ialah pelajar Tingkatan Lima yang telah digantung sekolah dari 24 hingga 28 Ogos lalu.

Kes tersebut disiasat di bawah Seksyen 5 Akta Kesalahan-Kesalahan Seksual terhadap Kanak-Kanak 2017 (AKSTKK) dan Seksyen 292 Kanun Keseksaan EN: Kanun Keseksaan Undang-undang utama Malaysia yang menyenaraikan kesalahan jenayah dan hukumannya. BM: Penal Code .

Setakat ini, kertas siasatan akan dilengkapkan sebelum dirujuk kepada Timbalan Pendakwa Raya.

1. AI tidak “nampak” tubuh di sebalik pakaian

Istilah nudify EN: nudify Istilah bagi aplikasi yang menggunakan AI untuk menghasilkan imej seseorang kelihatan bogel, walaupun tubuh yang dipaparkan bukan tubuh sebenar individu itu. "NYUD-i-fai" BM: bogelkan secara digital boleh memberi gambaran seolah-olah aplikasi mampu menanggalkan pakaian dalam gambar dan menunjukkan tubuh sebenar seseorang.

Sebenarnya, AI menghasilkan atau mengubah imej supaya orang itu kelihatan bogel.

Tubuh yang dipaparkan tidak semestinya menyerupai tubuh sebenar individu tersebut.

Menurut UNICEF, teknologi ini boleh digunakan untuk memanipulasi gambar kanak-kanak menjadi imej bogel atau seksual palsu.

Sebanyak 97% imej penderaan seksual kanak-kanak yang dijana AI melibatkan kanak-kanak perempuan, menurut laporan Internet Watch Foundation (IWF) tahun lepas.

Seseorang itu tidak perlu pernah mengambil gambar intim untuk menjadi mangsa.

2. “Palsu” tidak bermakna di luar undang-undang

Pengamal undang-undang, Ridha Abdah Subri, menjelaskan kepada Kelas Sekejap, undang-undang sedia ada boleh meliputi imej janaan AI, bergantung pada kandungan yang dilaporkan.

“Walaupun tiada gambar bogel sebenar, tidak bermakna imej janaan AI terlepas daripada undang-undang. Namun, imej itu masih perlu memenuhi ciri-ciri kesalahan ditetapkan dalam akta.”

Jelasnya, pendakwaan EN: pendakwaan Proses membawa seseorang ke mahkamah atas tuduhan melakukan kesalahan, dan membuktikan tuduhan itu. BM: prosecution tetap perlu membuktikan bahawa bahan itu memenuhi unsur kesalahan.

Di bawah Seksyen 4 AKSTKK merangkumi gambaran realistik atau grafik kanak-kanak, atau seseorang yang kelihatan seperti kanak-kanak, dalam perlakuan seksual secara terang-terangan.

Ini termasuk pameran bahagian tubuh tertentu bagi tujuan seksual. Maka, imej janaan AI boleh termasuk dalam skop akta.

Akta tersebut membezakan beberapa perbuatan:

Tanggungjawab tidak terhenti pada orang yang menghasilkan gambar.

Perbuatan menjual atau menyebarkan juga boleh dinilai secara berasingan.

3. Penguatkuasaan tetap mencabar

Ridha berhati-hati untuk menyifatkan terdapat kelemahan dalam undang-undang sedia ada, namun wujud cabaran khususnya dalam penguatkuasaan.

“Cabaran yang lebih besar ialah mengenal pasti siapa menghasilkan imej itu, mendapatkan dan memelihara bukti digital, serta mengambil tindakan terhadap penyedia aplikasi di luar negara.”

“Mengenal pasti siapa yang buat imej, mengesan penjual dan mendapatkan bukti digital boleh menjadi rumit, terutama apabila penyedia aplikasi berada di luar negara,” katanya.

Ridha mencadangkan tanggungjawab yang lebih jelas dan boleh dikuatkuasakan terhadap syarikat AI dengan:

  • mencegah penyalahgunaan
  • menyediakan saluran aduan yang mudah
  • cepat menurunkan imej menyalahi undang-undang
  • kerjasama dengan penyiasat

Pandangannya, larangan sahaja tidak mencukupi apabila aplikasi boleh muncul semula dengan nama lain.

Sementara itu, seorang guru yang ditemu bual Kelas Sekejap menyifatkan kes penyalahgunaan AI seperti ini sebagai isu yang masih baharu bagi pihak sekolah.

Menurutnya, belum ada protokol yang jelas untuk menangani kes deepfake.

“Guru perlu ada panduan tindakan yang praktikal, pelajar juga perlu tahu kepada siapa mereka boleh mengadu dan bagaimana sesuatu isu itu boleh ditangani.”

4. Kalau suspek juga kanak-kanak?

Usia suspek perlu diambil kira, tetapi damage EN: damage Kerosakan atau kemudaratan. Dalam konteks ini, kesan buruk yang ditanggung oleh mangsa. "DE-mij" BM: kemudaratan, kesan buruk kepada mangsa tidak boleh diketepikan.

Ridha menjelaskan, Akta Kanak-Kanak menyediakan pendekatan pemulihan dan pengawasan, serta batas terhadap pemenjaraan.

Pada masa sama, mangsa memerlukan sokongan, privasi dan perlindungan.

“Bawah umur bukan bermakna seseorang tidak perlu bertanggungjawab atas perbuatannya. Namun, tindakan yang diambil mesti mengambil kira usia, kematangan dan keseriusan perbuatan itu, mengikut peraturan undang-undang.”

“Kepentingan kedua-dua kanak-kanak perlu dijaga. Kemudaratan yang dialami mangsa tidak boleh dipandang ringan sebagai sekadar gurauan sekolah,” tegasnya.

5. Keluarga dengar dulu…

Tokoh motivasi dan pakar kaunseling keluarga, Tuan Haji Hushim Salleh, menyenaraikan tekanan mental, kebimbangan, keletihan emosi dan kesukaran tidur sebagai antara kesan kepada mangsa.

“Apabila berlaku kes seperti ini, kesan terhadap mangsa antaranya stres mental dan burnout EN: burnout Keletihan fizikal dan emosi yang melampau akibat tekanan berpanjangan. "BURN-aut" BM: keletihan melampau . Selain itu, malam tidak boleh tidur.”

“Walaupun tahu imej itu palsu, mangsa mungkin masih bimbang tentang siapa yang sudah lihat atau sama ada gambar itu akan muncul semula,” kongsinya.

Tambahnya, keluarga boleh membantu dengan mendengar, mengambil aduan dengan serius dan menemani mangsa mendapatkan bantuan.

Elakkan terus menyalahkan anak kerana memuat naik gambar atau menyuruh mereka melupakan kejadian itu.

Memuat naik gambar bukan persetujuan untuk wajah seseorang digunakan dalam bahan seksual.

Tanggungjawab terletak pada individu yang menghasilkan dan menyebarkan deepfake.

Kalau terjumpa imej itu, apa buat?

Jangan minta, beli atau kongsi semula. Menghantarnya ke group lain untuk mengecam perbuatan tersebut tetap meluaskan penyebaran.

Rekod maklumat tanpa menyalin imej seksual. Catat nama akaun, pautan, platform serta tarikh dan masa.

Jangan screenshot EN: screenshot Gambar yang diambil daripada apa yang dipaparkan pada skrin telefon atau komputer. "SKRIN-shot" BM: tangkap layar atau sebarkan bahan eksploitasi seksual kanak-kanak.

Laporkan kepada polis atau melalui portal aduan MCMC.

Kalau gambar itu dah ada dalam telefon, tanya polis cara mengendalikannya sebagai bukti.

Selain itu, bantu mangsa membuat laporan dan mendapatkan sokongan.

Ibu bapa, penjaga atau guru yang dipercayai boleh menemani pelajar membuat laporan polis dan laporan kepada platform.

Kita tidak perlu menunggu seseorang membuktikan imej itu benar atau palsu untuk berhenti sebar.

Kalau kita tidak boleh memadam semua copy gambar, sekurang-kurangnya jangan tambah satu lagi.