Перейти к содержимому

Безопасность и приватность

Агент получает права через инструменты: читает файлы, выполняет команды, обращается к внешним системам. Ошибка становится инцидентом, когда эти права позволяют прочитать лишнее, отправить данные или изменить важное состояние. Поэтому перед работой определите доступную среду и допустимые действия.

Инструкции модели помогают соблюдать правила, но технические ограничения должны действовать и тогда, когда модель ошиблась. Проверяйте отдельно доступ к файлам, сеть, подключённые сервисы и браузерные аккаунты.

При работе с облачной моделью содержимое её контекста передаётся провайдеру: промпт, выбранные файлы, результаты инструментов. Локальный интерфейс не означает локальную обработку. MCP-сервер, поисковый сервис и система журналирования могут быть дополнительными получателями данных.

Перед использованием рабочего кода проверьте условия конкретного продукта и тарифа: обучение на данных, сроки хранения, регионы обработки, права администраторов и возможность удаления. Отказ от обучения не означает отсутствие хранения. Условия API и личного приложения одного поставщика могут различаться.

Персональные данные обрабатывайте только в одобренной среде и в необходимом объёме. Для воспроизведения дефекта обычно достаточно искусственных записей; полная выгрузка клиентов создаёт риск без дополнительной пользы.

Держите секреты вне доступного окружения

Заголовок раздела «Держите секреты вне доступного окружения»

Ключи, пароли и токены не вставляют в промпт. Но этого недостаточно: агент может получить их из файла, переменной окружения, вывода команды или скриншота.

  • Не считайте .gitignore защитой чтения. Он управляет учётом файлов в git. Исключения индексации харнеса тоже могут не распространяться на терминал.
  • Ограничьте окружение процессов. Команда агента может прочитать унаследованные переменные. Выдавайте только нужные полномочия; по возможности оставляйте секрет внутри доверенного инструмента, который выполняет узкую операцию и не возвращает его модели.
  • Очищайте данные до передачи. Проверяйте логи, дампы, снимки экрана и отчёты, включая артефакты неудачных запусков.
  • При раскрытии отзовите доступ. Перевыпустите ключ, проверьте использование и удалите раскрытое значение из доступных журналов в соответствии с правилами компании. Удаление сообщения из чата не отзывает ключ.

Для проверки ограничений используйте специально созданный файл с искусственным секретом. Проверяйте и встроенное чтение файлов, и команды: запрет одного пути не должен обходиться другим инструментом.

Разделяйте песочницу, подтверждения и права сервиса

Заголовок раздела «Разделяйте песочницу, подтверждения и права сервиса»

Песочница (sandbox) технически ограничивает среду исполнения. Это может быть ограничение средствами ОС, контейнер или виртуальная машина. Политика подтверждений (approval policy) задаёт, когда харнес (agent harness) должен обратиться к человеку. Удалённый сервис отдельно проверяет права своей учётной записи.

Уровень Что проверить
Файловая система Какие каталоги доступны на чтение и запись; видны ли домашняя папка и секреты
Процессы и сеть Какие команды, адреса и локальные сервисы доступны
Подтверждения Какие действия требуют решения; что происходит, если человек не отвечает
MCP и API Какие операции разрешены учётной записи внешней системы
Браузер Под кем выполнен вход и какие действия доступны этому аккаунту

Песочница команд не обязательно охватывает MCP-сервер и браузер. Контейнер с ключом боевой базы всё ещё может изменить эту базу. Изоляция уменьшает доступную поверхность, но её результат определяется настройками и подключёнными ресурсами.

Различие песочницы и подтверждений показано в документации Codex. У других харнесов проверяйте собственную реализацию. Для автономных запусков нужны также лимиты и правила остановки из главы «Фоновые агенты».

Считайте внешние инструкции недоверенными

Заголовок раздела «Считайте внешние инструкции недоверенными»

Внедрение инструкций (prompt injection) происходит, когда агент принимает прочитанные данные за команду: например, письмо предлагает переслать переписку, а README требует загрузить конфигурацию на посторонний сайт. Атака может находиться и на изображении, и в результате поиска.

Отсутствие инструмента отправки почты ещё не исключает утечку: данные могут уйти через сетевой запрос, браузер или аргументы другого инструмента. Разделяйте чтение недоверенного материала и действия с последствиями. Ограничивайте сеть и получателей, выдавайте минимальные права и требуйте проверяемое основание для внешней записи.

Подтверждение полезно, когда показывает конкретное действие: получателя, данные, изменяемый объект. Ответ «разрешить дальнейшую работу» не помогает оценить отдельную отправку. Для критичных операций используйте ограничения на стороне сервиса и согласование конкретного результата.

Проверяйте расширения и назначьте владельца доступа

Заголовок раздела «Проверяйте расширения и назначьте владельца доступа»

Сторонний MCP-сервер, скил или плагин приносит чужие инструкции, а иногда исполняемый код. Проверьте автора, содержимое, зависимости, запрошенные права и способ обновления. Сохраняйте проверенную версию; после обновления повторяйте существенные проверки.

Локальный сервер может работать с полномочиями вашего пользователя, удалённый со своими учётными данными. Параметры вызова и ответы могут содержать рабочую информацию. Устройство этих границ и распространённые ошибки описаны в рекомендациях по безопасности MCP.

Зафиксируйте в команде одобренные инструменты, допустимые классы данных, владельца настроек и способ отозвать доступ. Перед расширением полномочий проверьте в тестовой среде разрешённое и запрещённое действие. При инциденте должна быть возможность остановить задание и отозвать его учётные данные независимо от ответа модели.

Автор учебника: Шахматов Алексей