Tahun lalu, di sebuah kota kecil Spanyol, lebih dari 20 gadis muda menemukan foto telanjang mereka yang dibuat dengan AI marak beredar, konten-konten tersebut disebarkan remaja laki-laki dari akses foto-foto selfie pada media sosial.

Efek yang Lebih Serius

Hal yang mengkhawatirkan menurut penelitian adalah bahaya semacam ini menjadi semakin normal. Makin banyak pengguna berpikir bahwa hal itu adalah wajar.

Pada 2023, survei oleh lembaga nirlaba lokal SG Her Empowerment menemukan 20 persen responden melaporkan tidak terpengaruh karena bahaya daring merupakan bagian normal dari kehidupan, sementara 66 persen lainnya telah melakukan kehati-hatian, dengan tidak terlalu banyak mengekspos foto pribadi di media sosial.

Namun, tetap saja, analoginya adalah alih-alih melawan pengganggu di taman bermain, orang-orang menjauh dari arena bermain, dan tidak memahami bahaya yang ditimbulkan.

Belum lagi, dampak terkait gangguan kesehatan mental yang dialami oleh para korban saat menemukan video pornografi deepfake tentang diri mereka sendiri, tidak peduli seberapa cepat dihapus.