Společnost Anthropic oznámila vývoj nového modelu umělé inteligence s názvem Mythos. Má natolik pokročilé možnosti kybernetické bezpečnosti, že se jej společnost rozhodla nezveřejnit. Rozhodnutí zdůrazňuje rostoucí napětí v průmyslu AI: právě nástroje, které mají potenciál způsobit revoluci ve vývoji softwaru, mají také potenciál narušit globální digitální bezpečnost.
Síla mýtů: Za hranice lidské kapacity
Na rozdíl od stávajících modelů, jako je vlajková loď Anthropic Claude (Opus 4.6), je Mythos speciálně optimalizován pro uvažování na vysoké úrovni a „programování agentů“ – schopnost autonomně navrhovat a implementovat složité systémy.
Nejvíce alarmujícím rozdílem je jeho schopnost detekovat nepatchovaná zranitelnost. Zatímco moderní veřejné modely umělé inteligence mohou obvykle diskutovat pouze o již známých exploitech, Mythos již identifikoval tisíce kritických zranitelností v:
– Každý hlavní operační systém.
– Všechny přední webové prohlížeče.
– Kritická bezpečnostní infrastruktura.
Odhalením nedostatků, které i lidským expertům unikají, by Mythos teoreticky mohl útočníkům umožnit obejít šifrovací a bezpečnostní protokoly, které chrání soukromé zprávy, finanční data a historii prohlížení.
Riziko: Nové hranice digitální války
Příchod Mythos znamená posun v prostředí umělé inteligence. Přecházíme od „asistenční AI“ k „AI agentů“ – systémům, které nenabízejí pouze kód, ale aktivně zkoumají, nacházejí a využívají slabiny.
Anthropic varuje, že jak schopnosti umělé inteligence exponenciálně rostou, stanou se takové schopnosti „superprogramování“ pravděpodobně všudypřítomné. Hlavní obavou je, že by se tyto nástroje mohly dostat do rukou útočníků dříve, než svět vyvine potřebné ochrany. Potenciální důsledky přesahují porušování soukromí a vytvářejí značná rizika pro národní bezpečnost, veřejnou bezpečnost a globální ekonomickou stabilitu.
Projekt Glasswing: vytvoření ochranného štítu
V reakci na hrozbu, kterou představují modely jako Mythos, spustil Anthropic Project Glasswing. Tato iniciativa si klade za cíl znovu využít tyto výkonné schopnosti pro obranné účely – v podstatě pomocí umělé inteligence k nalezení a ucpání děr, než je mohou hackeři zneužít.
Společnost Anthropic si uvědomuje, že kybernetická bezpečnost je sdílenou výzvou, a proto sestavil bezprecedentní koalici technologických gigantů na ochranu nejkritičtějšího softwaru na světě. Mezi účastníky patří:
– Cloudové technologie a infrastruktura: Webové služby Amazon, Microsoft, Google a NVIDIA.
– Hardware a sítě: Apple, Broadcom a Cisco.
– Kybernetická bezpečnost: CrowdStrike a Palo Alto Networks.
– Finance a otevřený zdroj: JPMorganChase a Linux Foundation.
Jak se chránit ve věku AI exploitů
Zatímco Project Glasswing pracuje na systémové úrovni, bezpečnostní experti vyzývají jednotlivce a organizace, aby okamžitě posílili svou vlastní obranu. Jak AI dělá automatizované útoky sofistikovanějšími, lidský faktor v oblasti bezpečnosti se stává ještě důležitějším. Odborníci doporučují:
– Silná vícefaktorová autentizace (MFA): Použití vrstev zabezpečení, které přesahují jednoduchá hesla.
– Probíhající aktualizace softwaru: Zajištění toho, že všechny opravy a aktualizace softwaru a operačního systému jsou nainstalovány ihned po jejich vydání.
– Důvěřujte osvědčeným systémům: Využijte zavedené, aktivně udržované softwarové ekosystémy.
Vývoj Mythos dokazuje, že umělá inteligence dosáhla úrovně sofistikovanosti, kde může předstihnout bezpečnostní experty, takže je proaktivní zabezpečení v celém odvětví nezbytností.
Závěr
Vydání Mythos znamená zlom ve vývoji umělé inteligence a ukazuje, že modely jsou dostatečně výkonné, aby ohrozily samotné základy internetové bezpečnosti. Prostřednictvím projektu Glasswing se technický průmysl snaží tuto technologii dvojího použití proměnit spíše ve štít než ve zbraň.
