Нещодавній витік даних з Anthropic, розробника ІІ, розкрив деталі про модель наступного покоління, Claude Mythos, підтвердивши чутки про значний стрибок у можливостях штучного інтелекту. Витік, вперше освітлений Fortune, включав майже 3000 внутрішніх документів, зображень і неопублікованих чернеток, оголюючи як плановані релізи продуктів, так і внутрішні проблеми кібербезпеки.
Витік та Її Походження
Інцидент стався через неправильно налаштовану систему управління контентом (CMS). Anthropic завантажила дані, але не обмежила публічний доступ, внаслідок чого стався витік конфіденційних внутрішніх ресурсів. Серед них виявилися дані співробітників, запрошення на заходи і, що найважливіше, неопублікована стаття у блозі, яка описує можливості Claude Mythos.
Claude Mythos: “Різкий Прорив” у Продуктивності ІІ
Anthropic описує Claude Mythos як “безумовно, найпотужнішу ІІ-модель, яку ми колись розробляли ” та “різкий прорив” у продуктивності. Модель зараз проходить ранні випробування з обраними клієнтами. Витік також розкриває плани щодо створення нового рівня ІІ, Capybara, який буде вище поточної моделі Opus від Anthropic, вже однією з найпередовіших комерційно доступних.
Проблеми Кібербезпеки: Експлуатація з Допомога ІІ
Втечені документи підкреслюють внутрішні побоювання Anthropic, що просунуті можливості Claude Mythos можуть бути використані у зловмисних цілях. Компанія вважає, що модель “в даний час значно випереджає будь-які інші ІІ-моделі в кіберможливостях ” і чекає “хвилю моделей, що насувається, які можуть експлуатувати вразливості способами, які набагато випереджають зусилля захисників”. Anthropic активно ділиться раннім доступом з організаціями, щоб допомогти їм зміцнити свій захист від потенційних кібератак, заснованих на ІІ.
“Напередодні випуску Claude Capybara ми хочемо діяти з особливою обережністю та зрозуміти ризики, які він представляє – навіть за межами того, що ми дізнаємося під час власних тестів.”
Цей попереджувальний підхід наголошує на серйозності загрози і передбачає, що наступне покоління ІІ може створити безпрецедентні проблеми кібербезпеки. Втічені дані підтверджують, що наступний крок у розробці ІІ полягає не лише у розширенні кордонів, а й у завчасному пом’якшенні ризиків технології, що розвивається швидше, ніж можуть встигнути за нею заходи безпеки.
Випуск Claude Mythos, ймовірно, змінить конкурентне середовище у сфері ІІ, але пов’язані з цим проблеми безпеки також вказують на необхідність галузевого співробітництва для забезпечення відповідальної розробки та впровадження.
