Umělá inteligence (AI) se používá k vytváření a distribuci tisíců sexuálně explicitních videí s nezletilými na TikTok, přestože platforma takový obsah zakazuje. Nedávná zpráva španělské organizace pro kontrolu faktů Maldita našla více než 5 200 videí z více než 20 účtů, která získala téměř 6 milionů lajků a celkem 550 000 sledujících.
Rozsah problému
Videa představují mladé dívky, které nosí odhalující oblečení, včetně bikin a školních uniforem, ve svůdných pózách. Analýza společnosti Maldita zjistila, že mnoho z těchto účtů aktivně vydělává peníze z obsahu prostřednictvím placené služby předplatného TikTok, kde tvůrci dostávají měsíční platby za exkluzivní přístup. TikTok bere asi 50 % těchto zisků.
Ještě horší je, že komentáře k těmto videím často obsahují odkazy na skupiny Telegram známé prodejem dětské pornografie. Maldita nahlásila 12 takových telegramových skupin španělské policii.
Obejití pravidel
Pokyny pro komunitu TikTok zakazují škodlivý obsah a vyžadují, aby tvůrci označovali videa vytvořená umělou inteligencí. Maldita však zjistila, že převážná většina analyzovaných videí neobsahovala žádný vodoznak, který by je identifikoval jako vytvořená umělou inteligencí, takže je obtížné je odhalit. Některá videa zobrazovala vodoznak „TikTok AI Alive“, který se používá k transformaci statických obrázků na videa, ale nebylo to univerzální.
Skutečnost, že se těmto účtům daří, ukazuje, že stávající umírněná opatření jsou neúčinná. Zpráva vyvolává vážné otázky ohledně schopnosti platformy chránit děti před vykořisťováním.
Odezva platformy a globální problémy
TikTok říká, že automaticky odstraňuje 99 % škodlivého obsahu a proaktivně odstraňuje 97 % urážlivého obsahu generovaného umělou inteligencí. Platforma říká, že okamžitě potlačuje nebo ukončuje účty, které sdílejí materiál týkající se sexuálního vykořisťování dětí, a spolupracuje s americkým Národním centrem pro pohřešované a zneužívané děti (NCMEC). Mezi dubnem a červnem 2025 TikTok odstranil více než 189 milionů videí a pozastavil 108 milionů účtů.
Telegram říká, že skenuje všechna veřejná videa, zda neobsahuje známý materiál o sexuálním zneužívání dětí, a jen v roce 2025 odstranil více než 909 000 skupin a kanálů. Platforma tvrdí, že její moderování je efektivní, protože zločinci se musí při šíření takového obsahu spoléhat na soukromé skupiny a další platformy.
Zjištění přicházejí v době, kdy několik zemí – včetně Austrálie, Dánska a Evropské unie – zvažuje přísnější omezení sociálních médií pro nezletilé ve snaze zlepšit online bezpečnost.
Podstata problému
Navzdory agresivním zprávám o moderování obsahu se na TikTok a dalších platformách stále množí materiál o sexuálním zneužívání dětí generovaný umělou inteligencí. To naznačuje, že současná ochrana je nedostatečná a že k ochraně nezletilých online jsou naléhavě zapotřebí silnější opatření, včetně vylepšených nástrojů detekce umělé inteligence a zvýšené spolupráce s donucovacími orgány.
