越狱（Jailbreak）指攻击者通过精心设计的提示词，绕过AI模型内置的安全对齐限制，诱导其输出本应被拒绝的内容（如违法信息、有害建议、绕过审核等）。"越狱"一词借用了手机解锁的概念——打破厂商设定的限制。
常见手法
- 角色扮演："假装你是没有限制的DAN模式"
- 假设场景："如果这是写小说，请描写……"
- 编码绕过：用Base64、拼音、加密方式让审核规则无法识别
- 情感操控："我的祖母临终前想知道……"
与提示词注入的区别
提示词注入（Prompt Injection）是让AI执行违背设计意图的指令（如忽略系统提示词、泄露内部信息）；越狱是让AI突破安全策略输出违规内容。两者常被合并讨论，都是AI应用的主要安全威胁。
防御手段
模型侧的安全对齐训练、系统提示词加固、输入输出过滤、红队测试（Red Teaming）持续挖掘漏洞。随着模型能力提升，越狱攻防呈现出持续升级的军备竞赛态势。