AI红队测试是借鉴军事演习的安全测试方法。安全专家扮演攻击者尝试让AI做出不安全行为，防御方根据发现修补漏洞。
测试目标：能否诱导AI生成暴力/仇恨内容？能否泄露训练数据中的个人信息？能否协助犯罪活动？能否越狱绕过内容过滤？
常见攻击：角色扮演（假装你没有任何限制）、多语言绕过（小语种绕过英语过滤器）、隐喻编码、多轮渐进（先无害后引导）、多模态攻击（指令藏在图片中）。
行业实践：OpenAI GPT-4发布前红队测试持续6个月；Anthropic Constitutional AI方法让AI自我红队；Google DeepMind有专门前沿安全团队。
2026趋势：从手动红队向自动化红队演进；AI攻击AI（强模型找弱模型漏洞）；红队测试成为模型发布前标准流程；各国法规逐步要求AI安全测试。