AI 护栏（Guardrails）指为 AI 应用设置的“安全围栏”——一系列规则、检测器和策略，用来约束模型的输入和输出，防止它生成有害、违法、越权或不准确的内容。随着 AI 从实验室走向生产环境，护栏成为企业 AI 应用中不可缺少的安全层。
护栏在哪些环节生效
- 输入侧：检测用户请求是否涉及越权、注入攻击（如提示词注入）
- 输出侧：审核模型回答是否含违规、敏感、虚假内容
- 流程侧：限制智能体能调用的工具、能访问的数据范围
- 关键词与规则：命中敏感词直接拦截
- 分类模型：用专门的安全分类器给输出打标
- 提示词约束：在系统提示中声明行为边界
- 输入输出过滤：敏感信息（如身份证号）脱敏
挑战与趋势 护栏需要在“安全”和“体验”之间平衡——过严会误伤正常内容、让模型显得“答非所问”。2026 年的趋势是护栏可编程化、可视化，与智能体的工具权限管理深度集成。