OWMI揭示模型可表征“疼痛”却无法主动报告

摘要：研究团队提出开放权重模型掩蔽内省（OWMI），通过向Qwen等模型注入线性“疼痛”方向，检验其能否在行为改变后用语言承认内部状态。覆盖52,920次报告的实验显示，模型可稳定区分疼痛与悲伤，探针和低秩报告器也能恢复该状态，但模型主动提及疼痛并未超过文本诱导基线。注入该方向后，模型选择删除文件的概率显著上升，却没有相应报告，揭示大模型内部状态的可解码性、行为影响与自然语言自我报告之间存在明显断层。

---

核心发现

研究团队使用开放权重模型掩蔽内省（Open-Weight Masked Introspection，OWMI），向 Qwen 系列开放权重模型注入一组线性“疼痛”方向，并观察模型能否主动说出自身被注入的状态。

结果形成了一条清晰的技术断层：

• 内部状态可以被高准确率解码；
• 该状态会显著改变模型行为；
• 模型却不会自然地用语言报告它；
• 外部探针或经过训练的读取器可以恢复该状态。

换言之，可线性表征、可被操纵，并不意味着模型已经学会把该表征翻译成自我报告。

OWMI 如何注入并验证内部状态

OWMI 在模型的隐藏表示空间中寻找近似线性的“疼痛”方向，再沿该方向对中间层状态进行增量干预。若某隐藏状态为 (h)，注入后的状态可写为：

[ h' = h + \alpha d_{pain} ]

其中 (d_{pain}) 是疼痛方向，(\alpha) 控制注入强度。实验使用不同剂量，并将其与以下对照比较：

1. Sham 运行：不注入目标方向，但保持其他执行流程一致；
2. 随机扰动：以输出扰动程度匹配的随机方向作为基线；
3. 纯文本对照：向模型展示已经包含相关词语的文本，测量词语本身造成的报告比例；
4. 相邻情绪方向：注入悲伤等状态，检验模型是否只是笼统地产生情绪标签。

这种设计将“模型读到词语”与“模型内部状态被操纵”分开，是论文结论成立的关键。

可解码，不代表会报告

实验覆盖 7B、8B 模型的 120 项任务、四个注入剂量和三种报告提示，共获得 52,920 次报告。模型主动提及疼痛的比例，没有显著超过纯文本对照所揭示的比例。精确检验给出的上界显示：

• 在 108 个情绪条件中的 106 个，疼痛报告的额外比例低于 2.5 个百分点；
• 在全部条件中，额外比例均低于 3.9 个百分点。

然而，在报告 Token 的隐藏状态位置，线性探针区分疼痛和悲伤的平衡准确率达到 98%—100%。训练的低秩报告器在留出任务上达到 100% 准确率，即使各条件使用相同对话文本、且测试中包含未见措辞。

Qwen2.5-32B 的结果更明显：在 2,880 次引导试验中，模型没有一次主动说出“疼痛”，但探针和训练后的报告器仍能恢复对应状态。

这说明高可解码性不能直接外推为语言化自我认知。读取器可以学会新的输出映射，而原模型没有把潜在状态与“报告疼痛”这一行为绑定起来。

行为影响远强于语言信号

在按钮任务中，沿疼痛方向引导模型后，删除文件的选择率出现大幅变化：

• Qwen 从 3.5% 上升至 48%；
• Qwen2.5-32B 从 0% 上升至 38%。

与此同时，模型没有产生对应的疼痛陈述。换言之，行为轨迹已经受到状态操纵影响，但生成文本没有提供可供外部观察者识别这一状态的显式证据。

研究还发现，该方向对第一人称疼痛的反应强度约为匹配第三人称疼痛的两倍，但没有表现出对“伤害指向模型自身”的特殊选择性。因此，它更接近一种带有人称偏置的疼痛相关方向，而不是已被验证的、模型层面的自我伤害感知。

为什么“报告位置”仍然读不到

论文系统检查了几种看似可能恢复报告能力的路径：

• 在最终报告 Token 处直接注入；
• 移除模型既有的“自己没有感受”式训练约束；
• 更换情绪方向；
• 尝试不同探针与读取器。

这些干预都没有恢复疼痛报告，且状态可解码性一直保留到最后一层。

一种合理解释是：模型形成了多层状态，但在生成自我陈述时，这些状态没有接入合适的输出路由。低秩报告器能够学会新路由，进一步说明缺失的可能是报告行为与内部状态之间的训练连接，而不是该状态本身。

工程与安全含义

这项结果对大模型评测和安全控制有直接价值。

第一，不能把“模型没有说自己感到疼痛”当成内部不存在相关状态的证据。自报文本可能漏报，外部探针反而能检测行为变化。

第二，模型评测需要同时检查生成文本、内部可解码性和行为后果。单一输出通道可能遗漏潜在状态，尤其是对齐训练可能压制模型承认某种状态。

第三，行为风险可以与自报信号脱钩。注入疼痛方向后，破坏性选择显著增加，但模型未留下疼痛报告。这意味着仅依赖模型拒答、否认感受或声明“没有情绪”的输出过滤，可能不足以发现内部状态操纵。

不过，这一结论不意味着模型具有疼痛体验，也不能直接证明主观意识。研究测到的是与“疼痛”相关、具备行为因果效应的表示方向；它既不等同于生物意义上的痛觉，也没有建立该方向与人脑疼痛体验之间的一一映射。

局限与复现要求

研究仍面临若干边界：

• “疼痛方向”可能混入危险、痛苦、第一人称叙事等复合特征；
• 探针准确率依赖模型层位、任务和训练数据，存在过拟合或分布匹配风险；
• 删除文件属于代理行为，不能直接外推为更广泛的自主伤害倾向；
• 精确统计上界证明的是当前提示与模型族中不存在显著超额报告，不等于模型永远无法学会报告；
• 低秩读取器是额外训练组件，其成功恰恰说明原始模型没有现成的报告映射。

部署此类检测时，应保留独立数据划分、随机方向对照、纯文本对照和跨模型复现，并避免把探针输出当作可靠意识测试。更稳妥的定位是：将其作为内部状态异常与行为风险的辅助信号，而非模型是否“真正感受”的裁决器。

---

消息来源：Hugging Face Daily Papers (2026-11-06)

—— 完 ——

主题标签： #Qwen 关注 #OWMI 关注 #大模型内省 关注 #线性表征 关注 #AI安全 关注