Nedávný únik dat od vývojáře AI Anthropic odhalil podrobnosti o modelu nové generace, Claude Mythos, a potvrdil tak zvěsti o významném skoku ve schopnostech AI. Únik, o kterém poprvé informoval Fortune, zahrnoval téměř 3 000 interních dokumentů, obrázků a nepublikovaných návrhů, které odhalovaly jak plánovaná vydání produktů, tak interní problémy s kybernetickou bezpečností.
Únik a jeho původ
K incidentu došlo kvůli nesprávně nakonfigurovanému systému pro správu obsahu (CMS). Společnost Anthropic nahrála data, ale neomezila přístup veřejnosti, což vedlo k úniku důvěrných interních zdrojů. Among them were employee data, invitations to events and, most importantly, an unpublished blog article describing the capabilities of Claude Mythos.
Claude Mythos: „Průlom“ ve výkonu AI
Anthropic popisuje Claude Mythos jako „zdaleka nejvýkonnější model umělé inteligence, jaký jsme kdy vyvinuli “ a „dramatický průlom“ ve výkonu. Model v současné době prochází raným testováním u vybraných zákazníků. Únik také odhaluje plány na vytvoření nové vrstvy AI, Capybara, která bude nad současným modelem Anthropic Opus, již jedním z nejpokročilejších komerčně dostupných.
Výzvy v oblasti kybernetické bezpečnosti: AI-Assisted Exploitation
Uniklé dokumenty zdůrazňují interní obavy společnosti Anthropic, že pokročilé schopnosti Claude Mythos by mohly být použity pro škodlivé účely. Společnost věří, že tento model „je v současné době výrazně napřed před jakýmkoli jiným modelem AI v kybernetických schopnostech “ a očekává „blížící se vlnu modelů, které mohou využívat zranitelnosti způsoby, které daleko předčí úsilí obránců“. Anthropic aktivně sdílí včasný přístup s organizacemi, aby jim pomohl posílit jejich obranu proti potenciálním kybernetickým útokům založeným na umělé inteligenci.
“Jak se blíží vydání Claude Capybara, chceme postupovat s extrémní opatrností a porozumět rizikům, která představuje – dokonce i nad rámec toho, co jsme se naučili z vlastního testování.”
Tento proaktivní přístup podtrhuje závažnost hrozby a naznačuje, že příští generace umělé inteligence by mohla představovat bezprecedentní výzvy v oblasti kybernetické bezpečnosti. Uniklá data potvrzují, že další krok ve vývoji AI není jen o posouvání hranic, ale také o proaktivním zmírňování rizik technologie, která se vyvíjí rychleji, než s ní mohou bezpečnostní opatření držet krok.
Vydání Claude Mythos pravděpodobně změní konkurenční prostředí v AI, ale související bezpečnostní obavy také zdůrazňují potřebu průmyslové spolupráce k zajištění odpovědného vývoje a implementace.
