Actionable Feedback过滤临床医生编辑，降低大模型幻觉

摘要：这项研究针对临床文档生成中的隐式反馈利用问题：部署数据显示，超过45%的医生编辑加入了原始输入无法直接支持的信息，若直接用这些编辑结果微调，模型反而会学习无依据内容。研究先构建医生编辑行为分类体系，再基于MIMIC-III生成半合成编辑数据，并通过渐进式过滤保留可从输入推导的修改。实验显示，过滤后的监督信号可改善模型与临床偏好的匹配，同时维持对输入语境的忠实性，为医疗LLM的持续学习提供了更可靠的反馈管线。

---

## 研究问题：医生编辑不等于可用监督信号 临床文档大语言模型生成草稿后，医生通常会进行审阅和修订。理论上，这些修订可以持续改善模型；但研究团队对真实部署数据的审查发现，超过 **45%** 的编辑版本包含原始输入无法直接支持的新增信息。 这类修改可能源自医生补充了模型输入中未出现的临床判断、既往信息或专业偏好。若把编辑后的文本直接作为微调目标，模型会把无依据内容当作高概率生成模式，实质上是在训练幻觉，而非学习可泛化的纠错能力。 研究的关键因此不是简单收集更多人工编辑，而是先区分两类反馈： - **可执行反馈**：修改可以由模型输入和明确任务约束推导； - **不可直接归因反馈**：修改依赖输入之外的隐含知识或新增临床事实。 ## 方法流程：从行为分类到半合成监督 真实临床文档产品中的医生编辑并未公开，因此论文采用三步处理链路。 ### 1. 建立医生编辑行为分类体系 团队首先分析已部署临床文档产品中的编辑行为，将修改意图结构化。该分类体系既用于理解哪些编辑能够安全转化为训练信号，也约束后续半合成数据的生成范围。 这一步比简单的文本差异比较更重要。两个文本版本可能只差一个医学短语，但其差异可能分别属于输入内纠错、缩写规范化和输入外临床补充，无法依靠编辑距离判断可训练性。 ### 2. 在 MIMIC-III 上生成半合成医生编辑 研究以公开的 MIMIC-III 数据集为基础，构建出院摘要生成任务，并依据前述编辑分类体系产生半合成医生修订。 半合成数据的工程意义在于保留真实产品中的编辑分布线索，同时绕开患者隐私数据无法公开共享的问题。其代价也很明确：模拟器是否覆盖真实医生措辞、遗漏项和错误类型，会直接影响过滤规则的泛化能力。 ### 3. 渐进过滤，只保留有依据的修改 作者没有设计复杂奖励模型，而是引入相对简单的过滤方法，从原始编辑数据中逐步筛选出 grounded edits，再用于训练。 这种渐进式策略比一次性按相似度删除样本更稳健：它允许训练数据从完整编辑分布逐步收缩到高可归因子集，同时观察模型是否在临床偏好指标与事实忠实性之间出现冲突。 ## 技术机制：过滤实质上是在重定义学习目标 从训练目标看，普通编辑微调近似于让模型拟合最终文档： \[ \mathcal{L}_{raw} = -\sum_t \log p(y_t^{edit} \mid x, y_{ **消息来源**：[ArXiv NLP/LLM (cs.CL)](https://arxiv.org/abs/2611.12904) (2026-11-11) —— 完 ——

主题标签： #医疗LLM 关注 #临床文档 关注 #反馈过滤 关注 #幻觉抑制 关注 #监督微调 关注