Часто задаваемые вопросы: Norton AI Agent Protection

Защита агента ИИ — это уровень безопасности в реальном времени, который располагается между вашим агентом ИИ и вашей системой. Перед выполнением действия (запуск команды, скачивание файла, запись на диск) функция AI Agent Protection сначала проверяет его, а затем разрешает, блокирует или запрашивает у вас подтверждение. Это позволяет вашим агентам работать быстро и при этом не пропускать угрозы.

Безопасность агентов ИИ — быстро развивающаяся область, и бета-период дает нам возможность вносить улучшения по мере появления новых угроз и платформ. Мы постоянно совершенствуем продукт, добавляем и дорабатываем правила обнаружения, а также собираем неоценимую обратную связь от первых пользователей.

Функция AI Agent Protection работает с Claude Code, Cursor и OpenClaw. На всех платформах используются одинаковые движок обнаружения и правила угроз, поэтому вы получаете одинаковый уровень защиты независимо от того, какой инструмент используете. Мы активно расширяем поддержку платформ.

Каждое действие, которое пытается выполнить ваш агент искусственного интеллекта, получает один из трех вердиктов:

• Разрешить: Угроз не обнаружено. Действие выполняется нормально.

• Спрашивать: Что-то выглядит подозрительно. Действие приостановлено, чтобы вы могли одобрить или отклонить его.

• Запретить: Угроза подтверждена. Заблокировано автоматически, от вас не требуется никаких действий.

Вердикты — результат работы нескольких уровней обнаружения, выполняемых параллельно:

• Локальные эвристики: Правила на основе шаблонов, которые выявляют опасные команды, раскрытие учетных данных, обфускацию и другое. Например, если ваш агент попытается выполнить команду, которая удалит весь домашний каталог, этот уровень перехватит ее до выполнения.

• Репутация URL-адреса: Проверки в реальном времени по данным аналитики угроз Norton для выявления вредоносных, фишинговых или мошеннических URL-адресов. Если ваш агент запрашивает URL-адрес, который, как уже известно Norton, содержит вредоносную программу или поддельную страницу входа, такой URL-адрес мгновенно блокируется.

• Проверки цепочки поставок пакетов: Проверяет, являются ли пакеты (сторонние библиотеки и инструменты, которые ваш агент может попытаться установить) легитимными, проверяет репутацию файла и помечает подозрительно новые пакеты. Если ваш агент пытается установить пакет, опубликованный всего два часа назад, с именем, отличающимся на один символ от имени популярной библиотеки, этот уровень помечает его как вероятную атаку.

Каждый уровень формирует сигнал с оценкой степени уверенности. Модуль принятия решений объединяет все сигналы и выносит вердикт.

Функция "AI Agent Protection" автоматически блокирует подтвержденные угрозы, включая:

• Вредоносные URL-адреса: Ссылки, ведущие к загрузке вредоносных программ, на фишинговые страницы или мошеннические сайты.

• Команды удаления: Команды, которые могут удалить критически важные файлы или очистить важные данные в вашей системе.

• Атаки с внедрением промпта: Скрытые инструкции в файлах, на веб-сайтах или в чатах, которые пытаются обманом заставить вашего агента искусственного интеллекта игнорировать ваши команды или раскрывать данные.

• Обратные оболочки: Приемы, позволяющие злоумышленнику удаленно управлять вашим компьютером, устанавливая скрытое соединение с ним.

• Утечки учетных данных: Случайное раскрытие паролей, ключей программного интерфейса или токенов доступа (например, если включить их в код, который ваш агент пишет или передает другим).

• Атаки на цепочку поставок: Установка скомпрометированных или поддельных пакетов программного обеспечения либо пакетов, которые намеренно названы так, чтобы походить на популярные легитимные (известно как "тайпсквоттинг")

• Небезопасные подключаемые модули и инструменты: Плагины, навыки или инструменты ИИ, которые запрашивают слишком много прав доступа или содержат встроенные вредоносные функции.

• Вредоносные сценарии в контенте ИИ: Опасные сценарии или фрагменты кода, скрытые в файлах, которые создает или открывает ваш агент ИИ.

• Обфусцированные полезные нагрузки: Вредоносные команды, замаскированные с помощью приемов кодирования (например, Base64 или шестнадцатеричного кодирования), из-за чего с первого взгляда они не кажутся опасными.

Если что-то выглядит подозрительно, но не является подтвержденной угрозой, AI Agent Protection приостанавливает действие и показывает, что было помечено. Вы увидите подробные сведения непосредственно в интерфейсе агента (например, в терминале или в чате) и сможете выбрать, одобрить или отклонить действие, прежде чем оно будет выполнено.

Функция AI Agent Protection запускает основной механизм обнаружения локально на компьютере. Ваши команды, исходный код, содержимое файлов и пути к файлам анализируются на устройстве.

Чтобы обеспечить эффективную защиту, AI Agent Protection также выполняет несколько облачных проверок для усиления нашей защиты:

• Репутация URL-адреса: URL-адреса, к которым обращается ваш агент, отправляются в службу репутации Norton для обнаружения вредоносных программ, фишинга и мошенничества.

• Репутация пакета: Хеш-суммы пакета сверяются с данными службы репутации файлов.

• Поиск пакетов в реестре: Имена пакетов сверяются с публичными реестрами (npmjs.org, pypi.org), чтобы подтвердить их существование, версию и целостность. Вот как AI Agent Protection выявляет пакеты с тайпсквоттингом и "галлюцинированные" пакеты.

• Поиск подключаемых модулей и инструментов: Когда ваш агент использует плагин или инструмент, AI Agent Protection сверяет защищенный цифровой отпечаток этого навыка с облачной службой Norton, чтобы помочь выявить рискованные или нежелательные инструменты.

• Проверка версии: При начале сеанса сведения о версии AI Agent Protection, операционной системе и платформе агента передаются для проверки наличия обновлений. Пользовательский контент не включен.

Да. Правила обнаружения в AI Agent Protection написаны в человекочитаемом формате и доступны для ознакомления. Правила охватывают такие категории, как разрушительные команды, утечки учетных данных, обратные оболочки, методы закрепления, обфускация, угрозы в цепочке поставок и вредоносные URL-адреса Каждое правило содержит идентификатор, уровень серьезности, оценку достоверности и соответствующий ему шаблон.

Функция AI Agent Protection работает на базе Sage — агентного движка безопасности от Gen, семейства потребительских брендов, пользующихся доверием, в которое входит Norton. Вы можете ознакомиться с полным набором правил по адресу https://github.com/gendigitalinc/sage/tree/main/threats.

Частично. Локальные правила обнаружения, которые охватывают опасные команды, утечки учётных данных, обфускацию и многое другое, полностью работают в автономном режиме. Для проверки репутации URL и проверки пакетов требуется интернет-подключение, но если эти службы недоступны, защита агентов ИИ продолжает защищать вас, используя только локальные правила.