Безопасные AI-агенты: data governance, permissions и audit trails

Безопасность не финальный чеклист для AI-агентов. Это часть архитектуры. Агент, который читает customer data, вызывает tools и пишет в бизнес-системы, должен иметь permissions, boundaries и audit trails с самого начала.

Вопрос не в том, доверяем ли мы модели. Вопрос в том, что система может сделать, если модель ошиблась.

Минимизируйте доступ

Давайте каждому агенту минимум данных и инструментов для его работы. Support drafting agent может нуждаться в product docs и ticket context. Ему не нужен billing export. Lead qualification agent может читать CRM fields и campaign source. Ему не нужны credentials к production database.

Разделяйте read и write permissions. Для необратимых действий требуйте approval.

Классифицируйте данные

До запуска классифицируйте данные, которые увидит агент:

• public content;
• internal docs;
• customer data;
• personal data;
• financial data;
• legal data;
• credentials and secrets.

У каждой категории должны быть правила обработки. Secrets нельзя хранить в prompts, logs или front-end code. Personal data стоит redacted там, где это возможно.

Контролируйте tools

Tool access это место, где AI становится мощным и рискованным. Валидируйте inputs. Используйте allowlists. Добавляйте rate limits. Логируйте каждый call. Проектируйте tools с узкими действиями, а не широкими admin powers.

Например, «создать черновик invoice» безопаснее, чем «полный доступ к accounting system». «Предложить CRM update» безопаснее, чем «редактировать любую запись CRM».

Логируйте все важное

Production agents должны оставлять audit trail: input, retrieved context IDs, decision, tool calls, output, approvals, errors и user corrections. Это нужно для debugging, compliance и доверия.

Логи должны быть полезными, но не безрассудными. Не храните лишний sensitive content. Используйте retention rules.

Готовьтесь к ошибкам

Ошибки будут. Нужны fallback paths, human escalation, manual override и incident review. Безопасная AI-система не та, что никогда не ошибается. Это система, которая ошибается видимо и восстановимо.

Security делает AI-агентов легче продавать внутри компании. Руководителям нужны не обещания, а понимание: что агент может читать, что может менять и как проверить его поведение.