研究揭示：监督微调对指令敏感性的影响机制

摘要：本研究探讨了监督微调（SFT）对大语言模型指令敏感性的影响。研究发现，在Qwen3模型中，指令敏感性随模型规模增大而显著降低。在1.7B和4B参数规模下，SFT可有效降低指令敏感性约54%-71%。然而，在8B参数规模下，个体敏感性变化不显著，但训练指令间的对比在统计上依然可靠。此外，不同模型对SFT的敏感性表现存在差异，例如Mistral-7B未表现出与Qwen3-8B相同的趋势。研究还指出，指令敏感性的测量结果受预测和评分协议的影响，强调了SFT对模型鲁棒性的影响具有情境依赖性。

---

研究背景与动机

大语言模型（LLMs）在处理相同任务的不同指令表述时，性能可能存在显著差异。这种指令敏感性对模型的稳定性和可靠性构成挑战。本研究旨在探讨监督微调（SFT）如何改变这种敏感性，并分析其对模型鲁棒性的影响。

主要发现

1. 模型规模与指令敏感性：在Qwen3模型中，指令敏感性随模型规模增大而显著降低。在1.7B和4B参数规模下，SFT可有效降低指令敏感性约54%-71%。
2. SFT对指令敏感性的影响：在8B参数规模下，尽管个体敏感性变化不显著，但训练指令间的对比在统计上依然可靠，表明SFT对指令敏感性的影响具有复杂性。
3. 模型间的差异：不同模型对SFT的敏感性表现不同。例如，Mistral-7B未表现出与Qwen3-8B相同的趋势，提示SFT的影响可能因模型架构而异。
4. 预测与评分协议的影响：指令敏感性的测量结果受预测和评分协议的影响，强调了SFT对模型鲁棒性的影响具有情境依赖性。

技术亮点

• 多模型对比分析：研究不仅分析了Qwen3模型，还引入了Mistral-7B和Gemma-2-9B进行交叉验证，提供了更全面的视角。
• 控制变量实验设计：通过控制模型规模、训练指令和评估协议，研究揭示了SFT对指令敏感性的具体影响机制。
• 统计显著性分析：采用查询级自助法（query-level bootstrap analysis）进行统计检验，确保结果的可靠性。

行业影响与开发者建议

• 模型选择与微调策略：开发者应根据具体任务需求选择合适的模型规模，并谨慎设计SFT策略，以平衡模型的鲁棒性和性能。
• 评估协议的重要性：在评估模型指令敏感性时，应考虑预测和评分协议的影响，确保评估结果的全面性和准确性。
• 鲁棒性优化方向：未来研究可进一步探索如何通过SFT或其他技术手段提升模型在不同指令表述下的鲁棒性。

---

消息来源：ArXiv cs.IR (2026-08-27)

—— 完 ——

主题标签： #大语言模型 #监督微调 #指令敏感性 #Qwen3 #鲁棒性