Rychlé zavádění agentů umělé inteligence do obchodních procesů odhaluje kritickou chybu: chybějící jasný systém pro správu jejich identity a přístupových práv. Vzhledem k tomu, že tito agenti získají možnost přihlašovat se do systémů, extrahovat data a provádět akce jménem společností, otázka kdo je odpovědný a jak tento přístup řídit, zůstává z velké části nezodpovězena.
To není teoretický problém. Experti jako Alex Stamos z Corridoru a Nancy Wang z 1Password varují, že vývojáři už nyní dělají nebezpečné chyby, jako je přímé vkládání přihlašovacích údajů do požadavků AI. To obchází bezpečnostní protokoly a vytváří obrovskou zranitelnost.
Problém: Agenti mají také tajemství
Nejde jen o zabránění neoprávněnému přístupu; je to o zodpovědnosti. Na rozdíl od lidských uživatelů nejsou agenti AI ze své podstaty vlastněni žádnou organizací nebo jednotlivcem. Fungují pod úřadem, který určuje, co smějí dělat, ale sledování této autority je obtížné. Jak vysvětluje Wang, společnosti vidí známý vzorec: Zaměstnanci si osvojí nástroje, jako jsou asistenti kódování AI (Claude Code, Cursor), a poté si je přinesou sami, což odráží brzké přijetí správců hesel, jako je 1Password.
Problém není jen v tom, že agenti mají pověření; problém je v tom, že stávající bezpečnostní infrastruktura pro ně není navržena.
Proč stávající řešení nefungují
Tradiční bezpečnostní modely se zaměřují na autentizaci (ověření identity), ale mají potíže s autorizací (udělováním příslušných přístupových práv). Poskytnout agentovi umělé inteligence plný přístup k systému je ekvivalentní tomu, jako dát člověku klíč k celé budově – mnohem více, než je nutné k dokončení jakéhokoli jednotlivého úkolu.
Tento rozpor je obzvláště nebezpečný, protože LLM jsou náchylné k falešným poplachům. Pokud bude legitimní kód detekován bezpečnostním skenerem jako škodlivý, může to vykolejit celou vývojovou relaci a přesnost je kritická. Tradiční nástroje statické analýzy nejsou pro tuto úroveň přesnosti optimalizovány.
Cesta vpřed: Standardy identifikace pracovní zátěže
Průmysl zkoumá řešení jako SPIFFE a SPIRE, standardy původně vyvinuté pro prostředí kontejnerů, ale jejich přijetí je nedokonalé. Základním principem je poskytování omezených, ověřitelných a časově omezených identifikátorů. Stejně jako by člověk měl mít přístup pouze do určitých oblastí budovy, agent AI by měl dostat pouze pověření pro aktuální úkol, jehož platnost vyprší po dokončení úkolu.
Společnosti budou muset sledovat, který agent jednal, pod jakým oprávněním a s jakými pověřeními. To vyžaduje budování nové infrastruktury od základů, spíše než přestavbu bezpečnostních modelů zaměřených na člověka.
Problém rozsahu: Miliardy uživatelů mění vše
Ve velkém měřítku se dokonce „výjimky“ stávají skutečnými hrozbami. Stamos, čerpající ze svých zkušeností jako šéf informační bezpečnosti Facebooku, poznamenává, že boj se 700 000 narušeními účtů denně mění prostředí rizik. Správa identit pro lidi i agenty AI bude „obrovskou výzvou“, která vyžaduje konsolidaci kolem důvěryhodných poskytovatelů.
Současný spěch s implementací agentů umělé inteligence nakonec předbíhá vývoj správných kontrolních mechanismů. Řešením nejsou proprietární proprietární nástroje (Stamos je přímo odmítá), ale spíše otevřené standardy, jako jsou rozšíření OIDC, které upřednostňují zabezpečení, aniž by obětovaly použitelnost. Budoucnost podnikové umělé inteligence závisí na řešení této krize identity dříve, než povede k rozsáhlému narušení a nevratným škodám.
