Недавняя утечка данных из Anthropic, разработчика ИИ, раскрыла детали о модели следующего поколения, Claude Mythos, подтвердив слухи о значительном скачке в возможностях искусственного интеллекта. Утечка, впервые освещенная Fortune, включала почти 3000 внутренних документов, изображений и неопубликованных черновиков, обнажая как планируемые релизы продуктов, так и внутренние проблемы кибербезопасности.
Утечка и Её Происхождение
Инцидент произошел из-за неправильно настроенной системы управления контентом (CMS). Anthropic загрузила данные, но не ограничила публичный доступ, в результате чего произошла утечка конфиденциальных внутренних ресурсов. Среди них оказались данные сотрудников, приглашения на мероприятия и, что наиболее важно, неопубликованная статья в блоге, описывающая возможности Claude Mythos.
Claude Mythos: «Резкий Прорыв» в Производительности ИИ
Anthropic описывает Claude Mythos как «безусловно, самую мощную ИИ-модель, которую мы когда-либо разрабатывали » и «резкий прорыв» в производительности. Модель в настоящее время проходит ранние испытания с избранными клиентами. Утечка также раскрывает планы по созданию нового уровня ИИ, Capybara, который будет выше текущей модели Opus от Anthropic, уже одной из самых передовых коммерчески доступных.
Проблемы Кибербезопасности: Эксплуатация с Помощью ИИ
Утеченные документы подчеркивают внутренние опасения Anthropic, что продвинутые возможности Claude Mythos могут быть использованы в злонамеренных целях. Компания считает, что модель «в настоящее время значительно опережает любые другие ИИ-модели в кибервозможностях » и ожидает «надвигающуюся волну моделей, которые могут эксплуатировать уязвимости способами, которые намного опережают усилия защитников». Anthropic активно делится ранним доступом с организациями, чтобы помочь им укрепить свою защиту от потенциальных кибератак, основанных на ИИ.
«В преддверии выпуска Claude Capybara мы хотим действовать с особой осторожностью и понять риски, которые он представляет — даже за пределами того, что мы узнаем в ходе собственных тестов.»
Этот упреждающий подход подчеркивает серьезность угрозы и предполагает, что следующее поколение ИИ может создать беспрецедентные проблемы кибербезопасности. Утеченные данные подтверждают, что следующий шаг в разработке ИИ заключается не только в расширении границ, но и в заблаговременном смягчении рисков технологии, которая развивается быстрее, чем могут успеть за ней меры безопасности.
Выпуск Claude Mythos, вероятно, изменит конкурентную среду в сфере ИИ, но связанные с этим проблемы безопасности также указывают на необходимость отраслевого сотрудничества для обеспечения ответственной разработки и внедрения.
