Najczęściej zadawane pytania: Norton – ochrona agentów sztucznej inteligencji

AI Agent Protection to warstwa zabezpieczeń w czasie rzeczywistym, która znajduje się między Twoim agentem AI a Twoim systemem. Zanim zostanie wykonane działanie (uruchomienie polecenia, pobieranie pliku, zapis na dysk), funkcja AI Agent Protection najpierw je sprawdza i albo je dopuszcza, albo blokuje, albo prosi o Twoją decyzję. Umożliwia agentom szybkie działanie bez dopuszczania do przedostania się zagrożeń.

Bezpieczeństwo agentów AI to dynamicznie rozwijająca się dziedzina, a okres beta daje nam przestrzeń na iteracyjne doskonalenie w miarę pojawiania się nowych zagrożeń i platform. Stale rozwijamy produkt, dodajemy i udoskonalamy reguły wykrywania oraz zbieramy niezwykle cenne informacje zwrotne od pierwszych użytkowników.

Funkcja AI Agent Protection współpracuje z Claude Code, Cursor i OpenClaw. Wszystkie platformy korzystają z tego samego silnika wykrywania i reguł dotyczących zagrożeń, dzięki czemu otrzymujesz ten sam poziom ochrony bez względu na to, z jakiego narzędzia korzystasz. Aktywnie rozszerzamy obsługę platform.

Każde działanie, które podejmuje agent sztucznej inteligencji, otrzymuje jeden z trzech werdyktów:

• Zezwalaj: Nie wykryto zagrożenia. Działanie przebiega prawidłowo.

• Zapytaj: Coś wygląda podejrzanie. Operacja została wstrzymana, aby można było ją zatwierdzić lub odrzucić.

• Odrzucanie: Potwierdzono zagrożenie. Zablokowano automatycznie. Nie są wymagane żadne działania z Twojej strony.

Werdykty są wynikiem działania wielu warstw wykrywania działających równolegle:

• Lokalna heurystyka: Reguły oparte na wzorcach, które wykrywają niebezpieczne polecenia, ujawnianie danych uwierzytelniających, zaciemnianie i inne zagrożenia. Na przykład, jeśli agent próbuje uruchomić polecenie, które usunęłoby cały katalog domowy, ta warstwa przechwytuje je, zanim zostanie wykonane.

• Reputacja adresu URL: Sprawdzanie w czasie rzeczywistym w bazie informacji o zagrożeniach firmy Norton w celu identyfikacji złośliwych adresów URL oraz adresów URL służących do wyłudzenia danych lub oszustw. Jeśli agent pobiera adres URL, o którym Norton już wie, że hostuje złośliwe oprogramowanie lub fałszywą stronę logowania, adres ten jest natychmiast blokowany.

• Kontrole łańcucha dostaw pakietów: Weryfikuje, czy pakiety (biblioteki i narzędzia innych firm, które agent może próbować instalować) są wiarygodne, sprawdza reputację pliku i oznacza podejrzanie nowe pakiety. Jeśli agent próbuje zainstalować pakiet opublikowany zaledwie dwie godziny temu, którego nazwa różni się o jeden znak od popularnej biblioteki, ta warstwa oflagowuje go jako prawdopodobny atak.

Każda warstwa generuje sygnał z poziomem pewności. Silnik decyzyjny łączy wszystkie sygnały i określa werdykt.

Funkcja AI Agent Protection automatycznie blokuje potwierdzone zagrożenia, w tym:

• Destrukcyjne adresy URL: Łącza prowadzące do pobierania złośliwego oprogramowania, stron wyłudzających dane lub witryn oszustw.

• Polecenia destrukcyjne: Polecenia, które mogą usunąć kluczowe pliki lub wymazać ważne dane z systemu.

• Ataki typu prompt injection: Ukryte instrukcje w plikach, witrynach internetowych lub czatach, które próbują oszukać Twojego agenta AI, aby ignorował Twoje polecenia lub doprowadzić do wycieku danych.

• Powłoki typu reverse shell: Techniki, które umożliwiają atakującemu zdalne przejęcie kontroli nad Twoim komputerem poprzez nawiązanie ukrytego połączenia z komputerem atakującego.

• Wycieki poświadczeń: Przypadkowe ujawnienie haseł, kluczy API lub tokenów dostępu (na przykład przez umieszczenie ich w kodzie, który agent pisze lub udostępnia).

• Ataki na łańcuch dostaw: Instalowanie pakietów oprogramowania, które są naruszone, fałszywe lub celowo nazwane tak, aby wyglądały jak popularne, legalne pakiety (znane jako „typosquatting”)

• Niebezpieczne wtyczki i narzędzia: Wtyczki, umiejętności lub narzędzia AI, które żądają zbyt szerokiego dostępu lub zawierają wbudowane złośliwe zachowanie.

• Złośliwe skrypty w treściach sztucznej inteligencji: Niebezpieczne skrypty lub fragmenty kodu ukryte w plikach tworzonych lub otwieranych przez agenta sztucznej inteligencji.

• Zaciemnione ładunki: Złośliwe polecenia maskowane za pomocą sztuczek kodowania (takich jak Base64 lub zapis szesnastkowy), dzięki czemu na pierwszy rzut oka nie wyglądają groźnie.

Gdy coś wygląda podejrzanie, ale nie jest potwierdzonym zagrożeniem, funkcja AI Agent Protection wstrzymuje działanie i pokazuje, co zostało oznaczone. Zobaczysz szczegóły bezpośrednio w interfejsie agenta (np. w terminalu lub czacie) i możesz wybrać, czy zatwierdzić, czy odrzucić działanie, zanim zostanie ono wykonane.

AI Agent Protection uruchamia podstawowy mechanizm wykrywania lokalnie na komputerze. Twoje polecenia, kod źródłowy, zawartość pliku i ścieżki plików są analizowane na urządzeniu.

Aby zapewnić skuteczną ochronę, funkcja AI Agent Protection wykonuje również kilka sprawdzeń w chmurze w celu wzmocnienia ochrony:

• Reputacja adresu URL: Adresy URL, do których agent ma dostęp, są wysyłane do usługi reputacyjnej Norton w celu wykrywania złośliwego oprogramowania, wyłudzeń danych i oszustw.

• Reputacja pakietu: Hasze pakietu są sprawdzane w usłudze reputacji plików.

• Wyszukiwania w rejestrze pakietów: Nazwy pakietów są sprawdzane w publicznych rejestrach (npmjs.org, pypi.org) w celu weryfikacji istnienia, wersji i integralności. Tak AI Agent Protection wykrywa pakiety podszywające się pod inne za pomocą literówek oraz zmyślone pakiety.

• Wyszukiwanie wtyczek i narzędzi: Gdy agent używa wtyczki lub narzędzia, funkcja AI Agent Protection sprawdza bezpieczny odcisk cyfrowy tej umiejętności w usłudze w chmurze firmy Norton, aby ułatwić wykrywanie ryzykownych lub niepożądanych narzędzi.

• Weryfikacja wersji: Po rozpoczęciu sesji wersja AI Agent Protection, system operacyjny oraz platforma agenta są wysyłane w celu sprawdzenia aktualizacji. Nie uwzględniono żadnych treści użytkownika.

Tak. Reguły wykrywania w AI Agent Protection są zapisane w formacie czytelnym dla człowieka i można je przejrzeć. Reguły obejmują kategorie takie jak destrukcyjne polecenia, wycieki danych logowania, reverse shelle, techniki utrzymywania dostępu, obfuskacja, zagrożenia w łańcuchu dostaw i destrukcyjne adresy URL. Każda reguła zawiera identyfikator, poziom istotności, wynik pewności oraz wzorzec, do którego jest dopasowana.

AI Agent Protection działa w oparciu o Sage, silnik zabezpieczeń oparty na agentach od Gen — rodziny zaufanych marek konsumenckich, do której należy Norton. Pełny zestaw reguł możesz przejrzeć pod adresem https://github.com/gendigitalinc/sage/tree/main/threats.

Częściowo. Lokalne reguły wykrywania, które obejmują niebezpieczne polecenia, wycieki danych uwierzytelniających, obfuskację i inne elementy, działają w pełni w trybie offline. Sprawdzanie reputacji adresów URL i pakietów wymaga połączenia internetowego, ale jeśli te usługi są niedostępne, funkcja AI Agent Protection nadal chroni użytkownika, korzystając wyłącznie z reguł lokalnych.