Podvodníci stále častěji využívají sofistikované technologie umělé inteligence, aby se vydávali za světové superhvězdy, jako jsou Taylor Swift a Rihanna, a pomocí jejich podobizen lákají uživatele k podvodům. Podle ověřovací společnosti Copyleaks se na TikTok množí takové deepfakes, které často napodobují legitimní mediální prostředí, aby si získaly důvěru uživatelů.
Anatomie podvodu
Falešná reklama je vytvořena tak, aby byla co nejpřesvědčivější pomocí manipulací s videosekvencemi, kde se celebrity nacházejí ve známém a autoritativním prostředí. Mezi běžné taktiky patří:
- Simulace autentických nastavení: Podvodníci používají umělou inteligenci k umístění celebrit do simulovaných prostředí – rozhovory na červeném koberci, podcasty nebo segmenty talk show.
- Příslib „snadných peněz“: Většina reklam propaguje podvodné programy odměn. Tvrdí, že uživatelé mohou vydělat značné příjmy pouhým sledováním videí na TikTok nebo zanecháním recenzí na obsah.
- Použití oficiální značky: Některé reklamy obsahují oficiální loga TikTok, která vytvářejí falešný pocit bezpečí přesměrováním uživatelů na stránky třetích stran určené ke shromažďování osobních údajů.
V samostatných případech bylo vidět, že Taylor Swift vygenerovaná umělou inteligencí údajně „propaguje“ neexistující funkci nazvanou TikTok Pay, zatímco hluboká faleš Rihanny byla použita k tvrzení, že uživatelé mohou vydělávat peníze pouhým „prohlížením obsahu a vyslovením svého názoru“.
Rostoucí krize sociálních platforem
Tento trend poukazuje na systémový problém v technologickém průmyslu: Rychlý pokrok v umělé inteligenci překonává možnosti moderování hlavních sociálních platforem.
Problém není omezen na TikTok. Rozsah problému v celém digitálním prostoru je obrovský:
– Meta (Instagram a Facebook): Zprávy ukazují, že uživatelé jsou denně vystaveni miliardám podvodných reklam. Vlastní dozorčí rada Meta oficiálně uznala, že platforma má potíže s bojem proti deepfake obsahu.
– YouTube: Platforma uvedla, že „aktivně investuje“ do technologie pro odhalování podvodů s obrázky celebrit a boj proti nim.
Jádro problému spočívá v „přesvědčivosti“ moderních deepfakes. S tím, jak se generativní umělá inteligence stává dostupnější, bariéra pro vytváření vysoce kvalitního klamavého obsahu se snižuje, což ztěžuje automatickým filtrům a lidským moderátorům rozeznat skutečná doporučení celebrit od škodlivých hoaxů.
Reakce celebrit: Právní obrana
Vzhledem k tomu, že digitální využívání podobizen ostatních je stále sofistikovanější, celebrity přecházejí od jednoduchých žádostí o zastavení šíření k agresivní právní obraně.
Taylor Swift nedávno podala nové přihlášky ochranné známky speciálně pro své hlasové klipy. Tento krok představuje strategický pokus o ustavení legálního vlastnictví jeho vokálního obrazu, který poskytne silnější základ pro boj proti „imitaci AI“ a neoprávněnému klonování hlasu u soudu.
Nárůst popularity deepfakes celebrit znamená posun v digitálním podvodu od jednoduchých phishingových útoků k high-tech, AI řízeným psychologickým manipulačním technikám, které využívají důvěru uživatelů ve slavné postavy.
Závěr: Vzhledem k tomu, že technologie AI činí deepfakes stále více nerozeznatelnými od reality, odpovědnost za ochranu se posouvá směrem ke kombinaci celoplatformního moderování a nových právních mechanismů pro ochranu ochranných známek.
