Časté otázky: Ochrana agentů AI produktu Norton

Ochrana AI Agent je vrstva zabezpečení v reálném čase, která se nachází mezi vaším agentem umělé inteligence a vaším systémem. Než se provede akce (spuštění příkazu, stažení souboru, zápis na disk), funkce AI Agent Protection ji nejprve zkontroluje a buď ji povolí, zablokuje, nebo vás požádá o zadání. Umožňuje vašim pracovníkům pracovat rychle, aniž by hrozby proklouzly.

Oblast zabezpečení agentů AI se rychle vyvíjí a období beta verze nám dává prostor průběžně provádět úpravy, jak se objevují nové hrozby a platformy. Produkt průběžně vyvíjíme, přidáváme a zpřesňujeme pravidla detekce a shromažďujeme neocenitelnou zpětnou vazbu od prvních uživatelů.

Funkce AI Agent Protection funguje s Claude Code, Cursor a OpenClaw. Všechny platformy používají stejný detekční modul a stejná pravidla hrozeb, takže máte stejnou úroveň ochrany bez ohledu na to, který nástroj používáte. Aktivně rozšiřujeme podporu platforem.

Každá akce, kterou se váš agent AI pokusí provést, bude vyhodnocena jedním ze tří verdiktů:

• Povolit: Nebyla zjištěna žádná hrozba. Akce probíhá normálně.

• Zeptejte se: Něco vypadá podezřele. Akce je pozastavena, abyste ji mohli schválit nebo zamítnout.

• Odmítnout: Potvrzená hrozba. Automaticky zablokováno – z vaší strany není nutná žádná akce.

Verdikty jsou výsledkem několika detekčních vrstev, které běží paralelně:

• Lokální heuristiky: Pravidla založená na vzorech, která zachycují nebezpečné příkazy, odhalení přihlašovacích údajů, obfuskaci a další. Pokud se například váš agent pokusí spustit příkaz, který by smazal celý váš domovský adresář, tato vrstva ho zachytí dříve, než se provede.

• Důvěryhodnost adresy URL: Vyhledávání v reálném čase v databázi analýzy hrozeb Norton k identifikaci škodlivých, phishingových nebo podvodných adres URL. Pokud váš agent načte adresu URL, o které aplikace Norton již ví, že hostuje malware nebo falešnou přihlašovací stránku, bude okamžitě zablokována.

• Kontroly dodavatelského řetězce balíčků: Ověřuje, zda jsou balíčky (knihovny a nástroje třetích stran, které se může váš agent pokusit instalovat) legitimní, kontroluje důvěryhodnost souborů a označuje podezřele nové balíčky. Pokud se váš agent pokusí nainstalovat balíček, který byl zveřejněn teprve před dvěma hodinami a jehož název se liší o jeden znak od oblíbené knihovny, tato vrstva jej označí jako pravděpodobný útok.

Každá vrstva vytváří signál se skóre důvěryhodnosti. Rozhodovací modul kombinuje všechny signály a určí verdikt.

Ochrana AI Agent automaticky blokuje potvrzené hrozby, včetně:

• Škodlivé adresy URL: Odkazy, které vedou ke stažení malwaru, na phishingové stránky nebo na podvodné weby.

• Destruktivní příkazy: Příkazy, které by mohly smazat kritické soubory nebo vymazat důležitá data z vašeho systému.

• Útoky typu prompt injection: Skryté pokyny v souborech, na webových stránkách nebo při chatování, které se snaží oklamat vašeho agenta AI, aby ignoroval vaše příkazy nebo vyzradil data.

• Reverzní shelly: Triky, které umožňují útočníkovi vzdáleně ovládat váš počítač tím, že k sobě otevře skryté připojení.

• Úniky přihlašovacích údajů: Neúmyslné odhalení hesel, klíčů rozhraní API nebo přístupových tokenů (například tím, že je zahrnete do kódu, který váš agent píše nebo sdílí).

• Útoky na dodavatelský řetězec: Instalace softwarových balíčků, které jsou kompromitované, falešné nebo záměrně pojmenované tak, aby vypadaly jako oblíbené legitimní balíčky (tzv. „typosquatting“)

• Nebezpečné doplňky a nástroje: Pluginy, dovednosti nebo nástroje AI, které požadují příliš rozsáhlý přístup nebo obsahují vestavěné škodlivé chování.

• Škodlivé skripty v obsahu AI: Nebezpečné skripty nebo úryvky kódu skryté v souborech, které váš agent AI vytváří nebo otevírá.

• Obfuskované datové části: Škodlivé příkazy maskované pomocí triků s kódováním (například Base64 nebo hex), takže na první pohled nevypadají nebezpečně.

Když něco vypadá podezřele, ale nejde o potvrzenou hrozbu, funkce AI Agent Protection pozastaví akci a zobrazí vám, co bylo označeno. Podrobnosti uvidíte přímo v rozhraní svého agenta (např. v terminálu nebo při chatování) a před pokračováním můžete zvolit, zda akci schválíte, nebo zamítnete.

Ochrana AI agenta spouští svůj hlavní detekční modul lokálně v počítači. Vaše příkazy, zdrojový kód, obsah souborů i cesty k souborům se analyzují přímo v zařízení.

Aby poskytovala účinnou ochranu, funkce AI Agent Protection také provádí několik kontrol v cloudu, které posilují naši ochranu:

• Důvěryhodnost adresy URL: Adresy URL, ke kterým váš agent přistupuje, se odesílají do služby hodnocení důvěryhodnosti společnosti Norton pro detekci malwaru, phishingu a podvodů.

• Prověřování důvěryhodnosti balíčku: Hashy balíčků se kontrolují pomocí služby hodnocení důvěryhodnosti souborů.

• Vyhledávání v registru balíčků: Názvy balíčků se ověřují ve veřejných registrech (npmjs.org, pypi.org), aby se potvrdila jejich existence, verze a integrita. Takhle funkce AI Agent Protection odhaluje balíčky s typosquattingem a halucinované balíčky.

• Vyhledávání zásuvných modulů a nástrojů: Když váš agent použije zásuvný modul nebo nástroj, funkce AI Agent Protection porovná zabezpečený digitální otisk této dovednosti s cloudovou službou společnosti Norton, aby pomohl odhalit rizikové nebo nežádoucí nástroje.

• Kontrola verze: Při zahájení relace se odešle verze AI Agent Protection, operační systém a platforma agenta, aby se zkontrolovaly aktualizace. Není zahrnut žádný uživatelský obsah.

Ano. Detekční pravidla ochrany AI Agent jsou napsána v pro člověka čitelném formátu a jsou k dispozici ke kontrole. Pravidla pokrývají kategorie, jako jsou destruktivní příkazy, úniky přihlašovacích údajů, reverzní shelly, techniky perzistence, obfuskace, hrozby dodavatelského řetězce a škodlivé adresy URL. Každé pravidlo obsahuje ID, závažnost, skóre spolehlivosti a vzor, se kterým se shoduje.

Funkce AI Agent Protection využívá Sage, agentní bezpečnostní engine od společnosti Gen – skupiny důvěryhodných spotřebitelských značek, jejíž součástí je Norton. Kompletní sadu pravidel si můžete prohlédnout na adrese https://github.com/gendigitalinc/sage/tree/main/threats.

Částečně. Místní detekční pravidla, která zahrnují nebezpečné příkazy, úniky přihlašovacích údajů, obfuskaci a další prvky, fungují plně v offline režimu. Kontroly reputace adres URL a balíčků vyžadují připojení k internetu, ale pokud jsou tyto služby nedostupné, funkce AI Agent Protection vás nadále chrání pouze podle místních pravidel.