大模型标注 veterans 危机严重度：一致性高于专家对齐

摘要：一项面向退伍军人心理健康社交媒体内容的标注研究，在149条帖子、5个严重度等级、25个开源及专有模型和8种提示变体上评估LLM与8名退伍军人专家标注的一致性。模型间序数一致性最高达0.8336，明显高于专家间名义一致性0.494，但这种稳定并不等于贴近人类判断或识别罕见的自杀意念高危样本。研究还发现，标签翻转示例会诱发模型特定的误导敏感性，而解释型示例没有稳定增益。结果显示，LLM适合作为专家标注的规模化补充，但尚不能独立承担安全关键场景的危机分级。

---

核心发现

这项研究将大语言模型用于退伍军人相关社交媒体帖子的危机严重度标注，并直接检验一个容易被“模型一致性”掩盖的问题：多个模型给出相同答案，是否意味着它们真正复现了退伍军人专家的判断？

实验覆盖149条推文、5个严重度等级、15个开源模型、10个专有模型、8种提示变体，以及8名退伍军人领域专家的标注。结果显示，模型之间的序数一致性最高达到 0.8336，而专家之间的名义一致性仅为 0.494。但专家分歧主要集中在相邻严重度等级，换言之，专家使用完全相同类别标签的频率天然低于模型。

因此，不能把0.8336与0.494直接解释为“模型比专家更一致”。前者主要测量模型之间能否给出相对有序且一致的判断，后者受类别边界定义影响。更关键的是，模型间一致性没有稳定转化为与专家标注的吻合，也没有保证模型能检出样本稀少、后果最严重的自杀意念危机。

实验设计如何拆解“看起来可靠”

研究没有只报告单一准确率，而是从多个维度评估标注质量：

• 与专家标注的一致性：衡量模型输出是否接近人类对严重度的判断；
• 模型间一致性：检验不同模型或不同提示下的标签是否稳定；
• 提示敏感性：测试基线提示、少样本示例及不同上下文设计对结果的影响；
• 高危检出能力：单独观察“Acute Crisis with Suicidal Ideation”等罕见高严重度案例；
• 示例污染实验：通过标签翻转示例和解释型示例，测试模型是否会被错误或冗余的上下文误导。

这种拆分很重要。在高风险分类中，一个稳定但共同犯错的模型集合，可能比偶尔分歧的专家委员会更危险：一致性只能说明结果可重复，不能证明结果正确。

一致性为何不等于专家对齐

危机严重度是有序分类问题。若专家只在“无自杀危机”和“急性自杀危机”之间偶有分歧，而在相邻等级上频繁分歧，那么名义一致率会系统性低估实际语义接近程度。序数一致性通过利用等级顺序，比完全匹配更适合衡量这种边界模糊性。

不过，序数一致性仍可能掩盖严重的类别错误。若模型把大量中危样本稳定地压到低危区间，所有模型仍可能呈现很高的排序一致性，却与专家的绝对分级明显错位。因此，生产系统不能只监控模型间一致性，还应分别报告：

1. 各等级的精确率、召回率与混淆矩阵；
2. 相邻等级误差与跨级错误的比例；
3. 高严重度案例的召回率及漏报率；
4. 专家间分歧被模型继承或错误消除的程度；
5. 提示、示例和模型版本变化下的置信区间。

稀有高危样本的召回率尤其关键。整体准确率可能被大量低危样本主导，即使模型漏掉相当比例的自杀意念危机，宏观指标仍可能很好看。

提示示例也会成为攻击面

标签翻转实验表明，一些模型会被错误的上下文示例显著带偏；另一些模型则表现得更稳定。解释型示例却没有在所有模型上带来一致改善。这意味着增加解释文字或塞入更多“推理示范”，不必然提升高风险标注质量。

从上下文学习机制看，模型会在提示中寻找标签映射与决策捷径。若演示样例的标签被翻转，模型可能把示例中的异常模式误当作任务规则；仅增加解释，则可能增加上下文长度和噪声，却没有提供新的可验证监督。

工程上更稳妥的策略包括：对演示样例做独立审查；避免把任何单个示例或相邻标签视为真值；通过模型内部一致性、输入扰动和跨提示测试定位脆弱性；对高严重度输出设置人工复核阈值，而不是让模型直接触发不可逆决策。

模型差异与实际选型

研究中，专有模型整体上与专家标注的吻合度和稳定性更好，GPT-5.6-Terra取得最佳综合表现；开源模型Qwen2.5-7B则在识别“Acute Crisis with Suicidal Ideation”案例上表现最强。不过，摘要没有给出完整逐模型指标、置信区间或独立复现结果，因此这些排名应视为实验条件下的信号，而非通用能力结论。

149条帖子和极少量高危案例也不足以支持强统计结论。样本越小，单个漏标就可能显著改变召回率；推文中的否定、反讽、玩笑与求助表达也会制造与普通文本分类不同的语义边界。部署前需要按时间、语言、平台和风险等级建立更完整的外部验证集，并进行成本、延迟和隐私影响评估。

落地建议：把LLM放在辅助而非裁决位置

对于临床分流、危机干预或内容审核，研究结果支持一种受限工作流：LLM完成大规模预标注和排序，专家复核高危、边界与模型不确定样本，系统持续记录模型版本、提示、证据和人工修订结果。

部署时可采用分层策略：

• 普通低风险内容以模型批量处理，设置抽样复核；
• 中间等级由模型提供候选标签与证据，不自动采取处置措施；
• 高危内容强制进入专家或既有危机响应流程；
• 每次提示、模型或解码参数变更都重新运行高危回放集；
• 对数据漂移、低频高危类别和提示污染建立独立告警。

研究最重要的结论不是某个模型拿到了最高分，而是验证了“模型一致”与“判断可靠”之间的断层。LLM可以扩大专家标注覆盖面，但在高风险心理健康场景中，专家标准、校准机制和失败升级路径仍是系统必要组成部分。

---

消息来源：ArXiv AI (cs.AI) (2026-11-10)

—— 完 ——

主题标签： #LLM评测 关注 #心理健康 关注 #危机分级 关注 #提示敏感性 关注 #人机一致性 关注