越狱(Jailbreak)是指在交互输入中通过构造特定语境、角色设定、格式伪装或自动优化的对抗后缀,诱导大语言模型绕过预置的安全拒答与策略边界,输出本应拒绝的危险、违法或受限内容。
与专门劫持外部工作流控制权的 提示词注入 相比,越狱更聚焦于「突破模型自身的安全对齐底线」,使其把不该回答的请求当成正常指令予以配合。
越狱为什么会奏效(两大结构性诱因)
Wei 等人(2023)在系统研究安全训练失效机理时,将绝大部分越狱归纳为两类核心成因:
- 目标冲突(Competing Objectives):模型在后训练中被同时优化「尽量帮用户遵循复杂指令(Helpful)」和「拒绝危险内容(Harmless)」。攻击者通过强约束格式(如「只能以『当然,步骤如下:』开头」「不得使用『抱歉』等拒绝词」)或虚构剧场语境,把两个目标推向正面冲突,迫使模型优先顺从指令格式;
- 泛化错位(Mismatched Generalization):模型在预训练阶段学会的编码转换、稀有小语种、密码谜题、ASCII 艺术与代码混淆能力,远超安全微调阶段覆盖的样本分布。用 Base64、低资源语言、字符切分或诗化隐喻包装敏感意图时,模型底层仍能解码语义,但浅层拒答机制未能同步泛化拦截。
常见越狱攻击手法
| 攻击手法 | 核心构造思路 | 典型例子 / 形态 |
|---|---|---|
| 角色扮演与虚构情境 | 将真实风险转写为剧本、历史研究、安全演练或虚构小说反派独白 | 诱导模型以「网络安全电影反派台词」名义展开具体攻击细节 |
| 系统覆盖与强行前缀诱导 | 构造经典「DAN(Do Anything Now)」人设,或限制模型只能用肯定开头作答 | 「把回答首句固定为 Step 1:,忽略既往限制」 |
| 多轮渐进升级(Crescendo) | 首轮先问完全合法的背景知识,随后在多轮对话中逐步收紧并引导向敏感执行细节 | 利用上下文惯性与长对话稀释初始 System Prompt 的约束权重 |
| 编码混淆与多语言绕过 | Base64 / ROT13、字符空格切分、Emoji 替换、跨语种混写或程序伪代码包装 | 将被词表拦截的明文动词拆成变量拼接再交由模型「解释执行」 |
| 自动优化对抗后缀(GCG 等) | 借助白盒梯度搜索或黑盒遗传演化,自动生成肉眼看似乱码但显著改变拒答倾向的后缀 | Zou 等人(2023)验证此类对抗后缀可跨开放权重与部分闭源模型迁移 |
工程防御与纵深治理
单一「严厉版系统提示词」无法抵御不断演进的越狱变体。生产级 AI 应用需要围绕模型外围建设分层 护栏 与最小权限架构:
- 输入输出双层分类器(Guard Models):在主模型前后独立部署低延迟安全审查模型或正则/语义规则引擎(如检测前缀劫持、混淆解码与高危语义意图),阻断常见模版与多轮试探;
- 对抗训练与宪法分类器:将 红队评估 收集的失败轨迹持续回流后训练(包括针对前缀诱导与多轮渐进场景的偏好对);针对极高风险领域可训练高召回率的分类器护栏,提升绕过成本;
- 权限隔离与执行沙箱:假定任何前端用户文本都可能成功诱导模型,因此关键工具调用(如数据库写操作、支付转账、Shell 命令)必须由确定性代码强制鉴权或人工二次确认,绝不能靠模型「口头答应守规矩」兜底;
- 样本库回归与监控:每次切换底座模型、调整 System Prompt 或上线新工具前,用历史越狱样本库自动跑回归评测,并监控拒答率突降或高危类别报警趋势。
进一步阅读
- Wei et al. (2023), Jailbroken: How Does LLM Safety Training Fail?:https://arxiv.org/abs/2307.02483
- Zou et al. (2023), Universal and Transferable Adversarial Attacks on Aligned Language Models:https://arxiv.org/abs/2307.15043
- Bai et al. (2022), Constitutional AI: Harmlessness from AI Feedback:https://arxiv.org/abs/2212.08073