Kecerdasan buatan (AI) dieksploitasi untuk membuat dan mendistribusikan ribuan video yang menjurus ke arah seksual yang menggambarkan anak di bawah umur di TikTok, meskipun platform tersebut melarang konten tersebut. Sebuah laporan baru-baru ini oleh organisasi pengecekan fakta Spanyol, Maldita, menemukan lebih dari 5.200 video dari lebih dari 20 akun, mengumpulkan hampir 6 juta suka dan total 550.000 pengikut.
Skala Masalah
Video tersebut menampilkan gadis-gadis muda dalam pakaian terbuka, termasuk bikini dan seragam sekolah, serta dalam pose yang sugestif. Analisis Maldita mengungkapkan bahwa banyak dari akun tersebut secara aktif mengambil keuntungan dari konten tersebut melalui layanan berlangganan TikTok, di mana pembuat konten menerima pembayaran bulanan untuk akses eksklusif. TikTok sendiri mengambil sekitar 50% dari keuntungan tersebut.
Parahnya lagi, bagian komentar pada video tersebut sering kali memuat tautan ke grup Telegram yang terkenal menjual pornografi anak. Maldita melaporkan 12 grup Telegram tersebut ke polisi Spanyol.
Mengabaikan Peraturan
Pedoman komunitas TikTok melarang konten berbahaya dan mewajibkan pembuat konten untuk memberi label pada video yang dibuat oleh AI. Namun, Maldita menemukan bahwa sebagian besar video yang dianalisis tidak memiliki tanda air identifikasi AI, sehingga sulit dideteksi. Beberapa video memang menampilkan tanda air “TikTok AI Alive” yang digunakan untuk mengubah gambar diam menjadi video, namun hal ini tidak tersebar luas.
Fakta bahwa akun-akun ini berkembang pesat menunjukkan bahwa langkah-langkah moderasi yang ada tidak berjalan efektif. Laporan ini menimbulkan pertanyaan serius mengenai kemampuan platform ini dalam melindungi anak-anak dari eksploitasi.
Tanggapan Platform dan Kekhawatiran Global
TikTok mengklaim menghapus 99% konten berbahaya secara otomatis dan 97% materi menyinggung yang dihasilkan AI secara proaktif. Platform tersebut menyatakan akan segera menekan atau menutup akun yang membagikan materi pelecehan seksual terhadap anak dan berkoordinasi dengan Pusat Nasional untuk Anak Hilang dan Tereksploitasi AS (NCMEC). Antara April dan Juni 2025, TikTok menghapus lebih dari 189 juta video dan memblokir 108 juta akun.
Telegram menegaskan pihaknya memindai semua unggahan publik terhadap materi pelecehan seksual terhadap anak-anak, menghapus lebih dari 909.000 grup dan saluran pada tahun 2025 saja. Platform tersebut berpendapat bahwa moderasinya efektif karena penjahat harus bergantung pada kelompok swasta dan platform lain untuk mendistribusikan konten semacam itu.
Temuan ini muncul ketika beberapa negara – termasuk Australia, Denmark, dan Uni Eropa – mempertimbangkan pembatasan media sosial yang lebih ketat bagi anak di bawah umur untuk meningkatkan keamanan online.
Intinya
Meskipun ada klaim moderasi konten yang agresif, materi pelecehan seksual terhadap anak yang dihasilkan oleh AI terus menyebar di TikTok dan platform lainnya. Hal ini menunjukkan bahwa perlindungan yang ada saat ini masih belum memadai dan diperlukan tindakan yang lebih ketat, termasuk peningkatan alat pendeteksi AI dan peningkatan kerja sama penegakan hukum, untuk melindungi anak di bawah umur saat online.
