FAJAR, NEW YORK—Facebook dan Instagram mengizinkan gambar yang menampilkan aktris Jenna Ortega dalam keadaan telanjang dan deepfake yang muncul saat remaja untuk mengiklankan aplikasi yang memungkinkan pengguna membuat gambar eksplisit palsu dari siapa pun yang memiliki kecerdasan buatan.
Menurut NBC News, aplikasi bernama Perky AI – yang telah dihapus dari toko aplikasi Apple – menjalankan setidaknya 11 iklan di kedua platform tersebut bulan lalu yang menunjukkan gambar buram Ortega yang tampak bertelanjang dada pada usia 16 tahun. Tapi gambar bintang “Wednesday” itu palsu.
Iklan tersebut menunjukkan bagaimana pengguna aplikasi dapat memberikan perintah seperti “tanpa pakaian” untuk membuat foto telanjang palsu dari orang sungguhan.
Saran lain yang ditawarkan iklan untuk petunjuk AI termasuk “kostum lateks” dan “pakaian dalam Batman,” menurut stasiun berita tersebut seperti dikutip dari NY Post.
Perky AI – yang mengenakan biaya $7,99 per minggu atau $29,99 selama 12 minggu – mengiklankan bahwa mereka dapat membuat gambar “NSFW”, yang berarti “tidak aman untuk bekerja”, berdasarkan permintaan pengguna.
Meta, perusahaan induk untuk kedua platform media sosial, menangguhkan halaman aplikasi Perk setelah NBC News menghubungi perusahaan tersebut.
Sebelum akun tersebut ditangguhkan, aplikasi bertenaga AI tersebut menjalankan lebih dari 260 iklan berbeda di platform tersebut sejak September – 30 di antaranya sebelumnya ditangguhkan oleh Meta, menurut outlet tersebut.
Salah satu iklan yang menampilkan deepfake Ortega, kini berusia 21 tahun, telah ditonton lebih dari 2.600 kali di Instagram sebelum dihapus.
