Мошенники всё чаще используют сложные технологии искусственного интеллекта, чтобы выдавать себя за мировых суперзвезд, таких как Тейлор Свифт и Рианна, используя их образы для заманивания пользователей в мошеннические схемы. По данным компании по аутентификации Copyleaks, подобные рекламные дипфейки стремительно распространяются в TikTok, зачастую имитируя легальную медиасреду для завоевания доверия пользователей.
Анатомия мошенничества
Фальшивая реклама создается максимально убедительной за счет использования манипуляций с видеорядом, где знаменитости находятся в привычной, авторитетной обстановке. К распространенным тактикам относятся:
- Имитация аутентичной обстановки: Мошенники используют ИИ, чтобы поместить знаменитостей в симулированные условия — интервью на красной дорожке, подкасты или сегменты ток-шоу.
- Обещание «легких денег»: Большинство объявлений продвигают обманные программы вознаграждений. В них утверждается, что пользователи могут получать значительный доход, просто просматривая видео в TikTok или оставляя отзывы о контенте.
- Использование официального брендинга: Некоторые объявления включают официальные логотипы TikTok для создания ложного чувства безопасности, перенаправляя пользователей на сторонние сайты, предназначенные для сбора персональных данных.
В отдельных случаях была замечена сгенерированная ИИ Тейлор Свифт, которая якобы «рекламировала» несуществующую функцию под названием TikTok Pay, в то время как дипфейк Рианны использовался для утверждений, что пользователи могут зарабатывать деньги, просто «просматривая контент и высказывая свое мнение».
Растущий кризис для социальных платформ
Эта тенденция подчеркивает системную проблему в технологической индустрии: стремительное развитие ИИ опережает возможности модерации крупнейших социальных платформ.
Проблема не ограничивается только TikTok. Масштаб проблемы во всем цифровом пространстве огромен:
— Meta (Instagram и Facebook): Отчеты показывают, что пользователи ежедневно сталкиваются с миллиардами мошеннических объявлений. Собственный наблюдательный совет Meta официально признал, что платформа испытывает трудности с борьбой с дипфейк-контентом.
— YouTube: Платформа заявила, что «активно инвестирует» в технологии для обнаружения и борьбы с мошенничеством, связанным с образами знаменитостей.
Суть проблемы заключается в «убедительности» современных дипфейков. По мере того как генеративный ИИ становится всё более доступным, барьер для создания высококачественного обманного контента снижается, что затрудняет работу автоматических фильтров и модераторов-людей по отличию реальной поддержки знаменитости от злонамеренной фальсификации.
Ответ знаменитостей: юридическая защита
Поскольку цифровое использование чужих образов становится всё более изощренным, знаменитости переходят от простых запросов на удаление контента к активной правовой защите.
Недавно Тейлор Свифт подала новые заявки на регистрацию товарных знаков специально для фрагментов своего голоса. Этот шаг представляет собой стратегическую попытку установить юридическое право собственности на свой вокальный образ, что обеспечит более прочную базу для борьбы с «ИИ-подражателями» и несанкционированным клонированием голоса в суде.
Рост популярности дипфейков со знаменитостями знаменует собой сдвиг в сфере цифрового мошенничества: переход от простых фишинговых атак к высокотехнологичным, управляемым ИИ методам психологического манипулирования, которые эксплуатируют доверие пользователей к известным личностям.
Заключение: Поскольку технологии ИИ делают дипфейки всё более неотличимыми от реальности, ответственность за защиту смещается в сторону сочетания общеплатформенной модерации и новых юридических механизмов защиты товарных знаков.
