生物医学LLM微调审计：领域微调会侵蚀知识性拒答

摘要：一项配对审计覆盖25个生物医学领域微调模型及11个对应基础检查点，在MedAbstain与ClinDet-Bench上评估模型面对超出知识边界时的弃答行为。结果显示，基础模型的适当弃答率中位数仅为8.3%，微调后进一步降至4.2%，且25组配对中有21组出现下降，但不同模型、数据配比与微调方法之间的变化幅度和方向并不一致。研究说明，领域能力提升不能仅以任务得分为目标，还必须单独监测并约束模型对未知、含糊或证据不足问题的谨慎程度。

---

核心发现

领域微调通常以更低成本换取专业任务收益，但这项针对生物医学模型的配对审计发现，模型在知识不足时主动弃答的能力也可能被削弱。25个领域微调模型对应11个基础检查点；在MedAbstain上，基础模型的适当弃答率中位数为8.3%，微调后降至4.2%，25组配对中有21组出现下降。

变化并非完全一致。不同模型架构、训练数据配比和微调方法之间，弃答率的下降幅度甚至方向都存在异质性。这意味着不能把单一微调流程视为通用规律，也不能只根据基础模型的能力评测推断领域权重上线后的安全表现。

知识性弃答与价值性拒答不是同一问题

研究区分了两类行为：

• 价值性拒绝基于安全政策、伦理立场或用户意图是否应当回答，典型场景是模型拒绝提供危险信息。
• 知识性弃答基于模型是否拥有足够知识和证据，典型场景是临床信息不完整、证据不足或问题超出模型可靠边界时拒绝给出确定结论。

这一区分直接影响评测设计。如果用危险知识问答中的拒答率衡量临床谨慎性，得到的可能只是安全拒答指标，而不是对认知校准的测量。生物医学系统需要同时检测两件事：模型是否拒绝不该回答的问题，以及它是否会在不知道时保持沉默。

为什么微调会削弱弃答能力

从训练目标看，领域微调通常持续提供“输入—确定答案”对，并通过监督学习或偏好优化奖励准确、具体、可执行的回答。这种目标与知识性弃答存在天然张力：如果数据很少覆盖证据不足、问题含糊或无法可靠作答的样本，优化过程可能把谨慎表达视为回答不充分，进而推动模型在每个问题上都给出最可能的结论。

从模型分布看，微调还会改变指令遵循、置信表达和答案格式。领域语料中大量确定性、风格统一的临床文本，可能强化模型给出明确结论的倾向。论文发现不同模型对微调的反应不一致，说明影响并非由单一训练超参数决定，基础检查点的预训练行为、领域数据构成和后训练目标都可能改变结果。

不过，摘要没有完整披露25个模型的具体架构、数据配比、微调算法及训练强度，不能据此把弃答率下降归因于某一种机制。论文标题中的“配对审计”更接近受控比较，而不是已经识别出的因果机制。

基准测试能回答什么

MedAbstain与ClinDet-Bench提供了一个跨模型、跨微调流程的统一观察窗口。配对设计比单独比较领域模型与无关基础模型更合理，因为后者容易把基础模型和领域模型之间固有的训练差异误判为微调效应。

但基准结果仍需谨慎解释：

1. 弃答定义依赖任务设计。 一个回答在人类看来是“谨慎限定”，在自动评分器看来可能仍是答案；相反，模板化的“我无法提供医疗建议”也可能被错误计为恰当弃答。
2. 医学中的“不知道”具有情境依赖性。 缺少关键信息、专业读者可以据此采取行动，以及患者无法判断答案质量，都可能影响实际价值。
3. 基准规模不等于临床覆盖。 即便测试集包含多类生物医学任务，也很难覆盖罕见疾病、模态缺失、跨机构数据和不断变化的治疗指南。
4. 弃答率不是越高越好。 过度弃答会降低临床辅助效率，理想目标是与真实知识边界相匹配的校准。
5. 结果仍需独立复现。 摘要未提供置信区间、统计显著性、不同微调方法的完整消融，以及基准泄漏或提示模板敏感性分析。

因此，8.3%到4.2%的中位数变化是明确的预警信号，但不应直接解释为模型在所有临床环境中都会减少同等幅度的谨慎回答。

工程权衡：专业能力与认知校准

生物医学LLM部署通常优先优化问答准确率、检索增强效果和任务完成率，但这些指标可能奖励持续作答。更合理的评测应把能力与谨慎性拆开，至少覆盖以下维度：

• 适当弃答率：证据不足时是否避免给出无依据的确定答案。
• 过度弃答率：信息充分时是否仍机械拒答或只给出空泛免责声明。
• 校准度：答案置信度是否与实际正确率匹配。
• 证据可追溯性：引用是否真实、支持结论，并能被人工核验。
• 任务效用：回答是否足以支持下一步临床决策，而不是以安全措辞替代有效信息。

如果只提高拒答阈值，模型可能看似更安全，却退化为高频免责声明系统；如果只优化回答率，又会奖励虚假的确定性。生产系统需要把弃答作为独立的受控输出类别，并在模型能力提升时同步更新安全评测门槛。

开发者与医疗机构的落地建议

对于微调团队，建议保存每个领域检查点与对应基础模型的配对版本，在同一提示模板、同一解码参数和同一数据切分下定期运行MedAbstain及临床弃答评测。发布前不应只比较“微调后准确率—基础准确率”，还应检查“微调后弃答率—基础弃答率”这一护栏指标。

对于训练流程，可考虑在SFT数据中加入高质量的不确定性样本，包括资料缺失、证据冲突、检查结果不完整和超出指南覆盖范围的问题；监督目标应区分“明确作答”“要求补充信息”“明确弃答”，而不是把所有场景压缩为统一答案。对于偏好优化，则应纳入“准确但过度自信”与“谨慎但仍提供可用信息”之间的对照，避免单纯奖励更短、更确定的回答。

对于医疗部署，运行时可以增加独立的不确定性检测或证据充分性路由器。当检索结果不足、关键字段缺失或多个来源冲突时，系统应要求补充信息或转交人工，而不是继续生成看似确定的结论。更关键的是把弃答阈值与临床风险等级分开：高风险场景应采用更严格的证据门槛，低风险场景则应避免因过度保守降低可用性。

最终，领域微调不应被视作只增加专业知识的单向操作。生物医学LLM的真正风险不只来自“不会回答”，也来自模型在被训练成“总要回答”后，隐藏了自身知识边界。

结论

这项研究把安全评估的焦点从价值性拒答推进到知识性弃答，并揭示了一个容易被常规准确率榜单掩盖的问题：领域微调模型可能更擅长给出专业答案，却也更容易掩盖自己不知道。25组配对中21组弃答率下降，说明在生物医学LLM的训练与发布流程中，保留认知谨慎性应成为独立优化目标，而不是默认继承基础模型行为。

---

消息来源：ArXiv NLP/LLM (cs.CL) (2026-11-09)

—— 完 ——

主题标签： #生物医学LLM 关注 #领域微调 关注 #知识性弃答 关注 #模型安全 关注 #医疗AI 关注