Наплыв видео и изображений, сгенерированных искусственным интеллектом (ИИ), захлестнул социальные сети во время недавней эскалации конфликта с участием Ирана, создавая повсеместную путаницу и недоверие. Эти фейки, изображающие несуществующие взрывы, несуществующие города под атакой и сфабрикованные передвижения войск, были просмотрены миллионы раз на X (ранее Twitter), TikTok и Facebook.
The New York Times выявила более 110 уникальных фрагментов контента, сгенерированного ИИ, только за последние две недели. Поддельный материал варьируется от драматических сцен, на которых израильтяне укрываются от несуществующих авиаударов в Тель-Авиве, до инсценированных траурных процессий в Иране и даже полностью вымышленных атак на американские военные корабли.
Почему это важно: Быстрое развитие ИИ-инструментов теперь позволяет практически любому создавать убедительные военные симуляции с минимальными усилиями и затратами, что делает все более сложным разграничение между реальностью и дезинформацией. Дело не только в отдельных инцидентах; это системная уязвимость, которая подрывает доверие к информации и потенциально обостряет конфликт. Война в Украине продемонстрировала, как быстро ИИ может быть использован для распространения пропаганды, но нынешний конфликт показывает еще более быстрое распространение поддельного контента, отчасти из-за множества действующих фронтов.
Дезинформация, Превращенная в Оружие
Распространение ИИ-сгенерированных фейков не случайно. Эксперты из Cyabra, компании, занимающейся анализом социальных сетей, обнаружили, что большинство ИИ-видео о войне активно продвигают проиранские нарративы. Цель: преувеличить предполагаемые разрушения и издержки конфликта для Соединенных Штатов и их союзников.
Одно широко распространенное поддельное видео изображает ракетный удар по Тель-Авиву, в котором намеренно включен израильский флаг для аутентификации подделки. ИИ-инструменты часто вставляют такие символы, когда их просят создать реалистичные военные кадры. Видео было распространено на нескольких платформах и подхвачено маргинальными новостными изданиями, что демонстрирует, как легко эти фейки могут получить распространение.
Иранское правительство, по-видимому, намеренно использует эти инструменты для формирования общественного мнения. Ложно изображая превосходные военные возможности и масштабные разрушения, Тегеран стремится подорвать поддержку дальнейших военных действий.
Размытая Граница Между Реальным и Поддельным
Подлинные кадры конфликта существуют, часто снятые случайными прохожими на мобильные телефоны. Однако даже реальные видео иногда усиливаются с помощью ИИ-инструментов, чтобы взрывы казались больше или драматичнее, что еще больше размывает грань между подлинностью и манипуляциями.
Инцидент с участием U.S.S. Abraham Lincoln является тому примером. После того, как Военно-морские силы Иранской революционной гвардии заявили об успешной атаке на авианосец, социальные сети наводнили ИИ-сгенерированные фейки, изображающие корабль в огне. Несмотря на утверждения США о том, что атака провалилась, сфабрикованные изображения спровоцировали иранские торжества и укрепили ложные нарративы.
Провал Регулирования Платформ
Социальные сети изо всех сил пытаются сдержать распространение ИИ-сгенерированных военных материалов. Хотя некоторые платформы, такие как X, объявили об ограниченных мерах, таких как приостановка монетизации для ИИ-изображений вооруженных конфликтов без надлежащей маркировки, обеспечение соблюдения остается слабым. Многие аккаунты, распространяющие дезинформацию, мотивированы не прибылью, а преднамеренными усилиями по использованию нарратива в качестве оружия.
Как отмечает Валери Виртшафтер, научный сотрудник Института Брукингса, «Это естественный фронт для Ирана, чтобы попытаться его использовать, и кажется, что именно поэтому он такой масштабный. Это на самом деле инструмент войны».
Главный вывод: ИИ-сгенерированная дезинформация теперь является неотъемлемой частью современной войны, способной манипулировать общественным восприятием и потенциально обострять конфликты. Текущая ситуация в Иране демонстрирует, как легко эти инструменты могут быть использованы в качестве оружия, а отсутствие эффективного регулирования говорит о том, что эта проблема будет только усугубляться.
