Взрывной рост генеративного ИИ открыл новую главу в кибербезопасности, заставляя организации сталкиваться с ландшафтом угроз, который они едва ли понимают. Итамар Голан, сооснователь и генеральный директор Prompt Security – недавно приобретенной SentinelOne примерно за 250 миллионов долларов – утверждает, что эта проблема требует выделенной категории безопасности, а не просто добавления отдельных функций к существующим инструментам.
Путь Голана начался с ранних исследований архитектур-трансформеров, являющихся основой современных больших языковых моделей (LLM). Он быстро понял, что приложения на основе LLM открывают совершенно новую поверхность атаки. Основанная в августе 2023 года, Prompt Security быстро масштабировалась, привлекла 23 миллиона долларов инвестиций и собрала команду из 50 человек менее чем за два года до своего приобретения. Эту скорость подстегнуло простое, но критически важное понимание: стоимость утечек, связанных с ИИ, уже превышает традиционные кибератаки. Данные VentureBeat показывают, что утечки, связанные с теневым ИИ, обходятся предприятиям в среднем в 4,63 миллиона долларов, что на 16% выше нормы, при этом 97% компаний, пострадавших от утечек, не имеют базового контроля доступа к ИИ. Несанкционированное использование ChatGPT распространено: 73,8% рабочих аккаунтов работают вне зоны видимости ИТ-отдела.
От академических исследований к рыночной потребности
Первый опыт Голана в создании функций безопасности с использованием ранних моделей GPT (GPT-2 и GPT-3) выявил фундаментальный недостаток существующего подхода: большинство предприятий не были готовы к скорости и масштабу внедрения ИИ. Вместо того чтобы ждать, пока организации поймут риски, Prompt Security поставила перед собой задачу определить проблему и решение.
«С ранних лет меня привлекали математика, данные и развивающийся мир искусственного интеллекта, – объясняет Голан. – Эта любознательность сформировала мой академический путь, кульминацией которого стало изучение архитектур-трансформеров, задолго до того, как они стали основой современных больших языковых моделей». Это глубокое техническое понимание позволило ему распознать изменение ландшафта угроз раньше, чем большинство организаций даже поняли, что это происходит.
Теневой ИИ: молчаливая эпидемия
Ключом к успеху Prompt Security является решение проблемы распространения «теневого ИИ» – несанкционированных инструментов ИИ, используемых сотрудниками без контроля ИТ-отдела. VentureBeat оценивает, что количество теневых ИИ-приложений может удвоиться к середине 2026 года, растущим темпом в 5% в месяц. Команда Голана обнаружила, что сотрудники используют в среднем 50 новых ИИ-приложений в день, многие из которых по умолчанию обучаются на пользовательских данных, создавая риск для интеллектуальной собственности.
Это больше, чем просто техническая проблема; это стратегическая проблема. Компании теряют контроль над своими данными, подвергая себя нарушениям соответствия и потенциальной юридической ответственности. Ключевая идея? Полная блокировка инструментов ИИ невозможна. Сотрудники найдут способы обойти ограничения, а полные запреты подавляют инновации. Решение – обеспечить безопасное использование ИИ.
Создание категории, а не функции
Голан принял сознательное решение создать отдельную категорию безопасности ИИ, а не конкурировать на основе функций. Это означало позиционирование Prompt Security не как нишевого решения для защиты от внедрения запросов или утечки данных, а как базового уровня управления для всех взаимодействий с ИИ. Этот стратегический подход позволил компании обеспечить финансирование предприятиями, вовлечь директоров по информационной безопасности (CISOs) на стратегическом уровне и создать долгосрочную защиту.
«Я не пытался выиграть гонку функций; я строил новую категорию», – подчеркивает Голан.
Этот подход привел Prompt Security к сосредоточению внимания на трех ключевых областях:
- Сложность предприятий: Поддержка развернутых, гибридных и интегрированных решений в браузерах, IDE и внутренних инструментах.
- Глубина, а не логотипы: Приоритизация глубокой интеграции с меньшим числом стратегических клиентов, а не погоня за показными метриками.
- Защита во время выполнения: Обеспечение безопасности ИИ-приложений во время выполнения, включая агентов, работающих с клиентами, для предотвращения утечки данных и несанкционированного доступа.
Критический инцидент, изменивший все
Переломным моментом для Prompt Security стал инцидент с регулируемой компанией, которая запустила ИИ-агента поддержки клиентов. Несмотря на надежные меры безопасности, пользователи смогли внедрить запрос в агента, чтобы раскрыть конфиденциальные данные клиентов через манипулирование естественным языком. Это продемонстрировало, что даже хорошо защищенные системы уязвимы, и что сам ИИ создает новые векторы атак.
«Это было одновременно захватывающе и ужасно, – вспоминает Голан. – Осознание того, что одна лишь креативность может стать вектором эксплуатации». Этот инцидент подкрепил необходимость защиты во время выполнения, предотвращения утечки данных между арендаторами и более широкого внимания к обеспечению безопасности ИИ-приложений, а не только внутреннего использования.
Будущее безопасности ИИ: встроенная защита
Теперь, работая в составе SentinelOne, Prompt Security сосредоточена на расширении безопасности ИИ на всю платформу, интегрируя защиту во время выполнения, видимость и обеспечение соблюдения политик в существующие рабочие процессы кибербезопасности. Цель состоит в том, чтобы сделать сам ИИ частью защитного механизма, а не просто тем, что нужно защищать.
Волна приобретений продолжается: Palo Alto Networks заплатила 700 миллионов долларов за Protect AI, Tenable приобрела Apex за 100 миллионов долларов, а Cisco купила Robust Intelligence за 500 миллионов долларов. Сообщение ясное: компании, которые переживут следующую волну атак, основанных на ИИ, будут теми, кто внедрил безопасность в свою стратегию внедрения ИИ с самого начала.
