Keputusan ini mengakui bahwa citra yang dihasilkan AI dapat memiliki realisme tingkat tinggi, membuatnya tidak dapat dibedakan dari anak-anak dan anak di bawah umur yang sebenarnya.

Dengan demikian, kantor kejaksaan menekankan bahwa teknologi AI memiliki kapasitas untuk menghasilkan konten eksploitatif yang sangat realistis.

Kasus Korea Selatan bukanlah insiden yang terisolasi. Baru bulan ini, pihak berwenang Spanyol memulai penyelidikan menyusul manipulasi gambar gadis di bawah umur menggunakan AI, yang bertujuan untuk melepas pakaian mereka dan mendistribusikan gambar-gambar yang diubah ini.

Tragisnya, dalam satu contoh, seorang anak laki-laki berusaha memeras salah satu gadis dengan menggunakan gambar telanjangnya yang dimanipulasi, sebuah wahyu mengejutkan yang dibuat oleh ibu gadis itu ke saluran televisi Canal Extremadura.

Sadar akan urgensi untuk mengatasi tantangan yang ditimbulkan oleh AI, negara dan wilayah telah mulai merespons.

Uni Eropa menetapkan peraturan komprehensif yang mengatur penggunaan AI pada bulan Juni, dengan China mengikutinya pada bulan Juli.