Безопасность и приватность
Агент получает права через инструменты: читает файлы, выполняет команды, обращается к внешним системам. Ошибка становится инцидентом, когда эти права позволяют прочитать лишнее, отправить данные или изменить важное состояние. Поэтому перед работой определите доступную среду и допустимые действия.
Инструкции модели помогают соблюдать правила, но технические ограничения должны действовать и тогда, когда модель ошиблась. Проверяйте отдельно доступ к файлам, сеть, подключённые сервисы и браузерные аккаунты.
Выясните, куда передаются данные
Заголовок раздела «Выясните, куда передаются данные»При работе с облачной моделью содержимое её контекста передаётся провайдеру: промпт, выбранные файлы, результаты инструментов. Локальный интерфейс не означает локальную обработку. MCP-сервер, поисковый сервис и система журналирования могут быть дополнительными получателями данных.
Перед использованием рабочего кода проверьте условия конкретного продукта и тарифа: обучение на данных, сроки хранения, регионы обработки, права администраторов и возможность удаления. Отказ от обучения не означает отсутствие хранения. Условия API и личного приложения одного поставщика могут различаться.
Персональные данные обрабатывайте только в одобренной среде и в необходимом объёме. Для воспроизведения дефекта обычно достаточно искусственных записей; полная выгрузка клиентов создаёт риск без дополнительной пользы.
Держите секреты вне доступного окружения
Заголовок раздела «Держите секреты вне доступного окружения»Ключи, пароли и токены не вставляют в промпт. Но этого недостаточно: агент может получить их из файла, переменной окружения, вывода команды или скриншота.
- Не считайте
.gitignoreзащитой чтения. Он управляет учётом файлов в git. Исключения индексации харнеса тоже могут не распространяться на терминал. - Ограничьте окружение процессов. Команда агента может прочитать унаследованные переменные. Выдавайте только нужные полномочия; по возможности оставляйте секрет внутри доверенного инструмента, который выполняет узкую операцию и не возвращает его модели.
- Очищайте данные до передачи. Проверяйте логи, дампы, снимки экрана и отчёты, включая артефакты неудачных запусков.
- При раскрытии отзовите доступ. Перевыпустите ключ, проверьте использование и удалите раскрытое значение из доступных журналов в соответствии с правилами компании. Удаление сообщения из чата не отзывает ключ.
Для проверки ограничений используйте специально созданный файл с искусственным секретом. Проверяйте и встроенное чтение файлов, и команды: запрет одного пути не должен обходиться другим инструментом.
Разделяйте песочницу, подтверждения и права сервиса
Заголовок раздела «Разделяйте песочницу, подтверждения и права сервиса»Песочница (sandbox) технически ограничивает среду исполнения. Это может быть ограничение средствами ОС, контейнер или виртуальная машина. Политика подтверждений (approval policy) задаёт, когда харнес (agent harness) должен обратиться к человеку. Удалённый сервис отдельно проверяет права своей учётной записи.
| Уровень | Что проверить |
|---|---|
| Файловая система | Какие каталоги доступны на чтение и запись; видны ли домашняя папка и секреты |
| Процессы и сеть | Какие команды, адреса и локальные сервисы доступны |
| Подтверждения | Какие действия требуют решения; что происходит, если человек не отвечает |
| MCP и API | Какие операции разрешены учётной записи внешней системы |
| Браузер | Под кем выполнен вход и какие действия доступны этому аккаунту |
Песочница команд не обязательно охватывает MCP-сервер и браузер. Контейнер с ключом боевой базы всё ещё может изменить эту базу. Изоляция уменьшает доступную поверхность, но её результат определяется настройками и подключёнными ресурсами.
Различие песочницы и подтверждений показано в документации Codex. У других харнесов проверяйте собственную реализацию. Для автономных запусков нужны также лимиты и правила остановки из главы «Фоновые агенты».
Считайте внешние инструкции недоверенными
Заголовок раздела «Считайте внешние инструкции недоверенными»Внедрение инструкций (prompt injection) происходит, когда агент принимает прочитанные данные за команду: например, письмо предлагает переслать переписку, а README требует загрузить конфигурацию на посторонний сайт. Атака может находиться и на изображении, и в результате поиска.
Отсутствие инструмента отправки почты ещё не исключает утечку: данные могут уйти через сетевой запрос, браузер или аргументы другого инструмента. Разделяйте чтение недоверенного материала и действия с последствиями. Ограничивайте сеть и получателей, выдавайте минимальные права и требуйте проверяемое основание для внешней записи.
Подтверждение полезно, когда показывает конкретное действие: получателя, данные, изменяемый объект. Ответ «разрешить дальнейшую работу» не помогает оценить отдельную отправку. Для критичных операций используйте ограничения на стороне сервиса и согласование конкретного результата.
Проверяйте расширения и назначьте владельца доступа
Заголовок раздела «Проверяйте расширения и назначьте владельца доступа»Сторонний MCP-сервер, скил или плагин приносит чужие инструкции, а иногда исполняемый код. Проверьте автора, содержимое, зависимости, запрошенные права и способ обновления. Сохраняйте проверенную версию; после обновления повторяйте существенные проверки.
Локальный сервер может работать с полномочиями вашего пользователя, удалённый со своими учётными данными. Параметры вызова и ответы могут содержать рабочую информацию. Устройство этих границ и распространённые ошибки описаны в рекомендациях по безопасности MCP.
Зафиксируйте в команде одобренные инструменты, допустимые классы данных, владельца настроек и способ отозвать доступ. Перед расширением полномочий проверьте в тестовой среде разрешённое и запрещённое действие. При инциденте должна быть возможность остановить задание и отозвать его учётные данные независимо от ответа модели.
Что дальше
Заголовок раздела «Что дальше»- Рабочий цикл: как согласовать действия и принять результат.
- Работа через браузер и интерфейс: как ограничить доступ к авторизованным приложениям.
- Эвалы на задачах команды: как проверять соблюдение границ при обновлениях.