探索排列扩散大语言模型设计空间：性能与权衡分析

摘要：本研究探讨了基于排列生成的大语言模型（LLM）设计空间，提出了三种不同的排列扩散参数化方法：基于硬分配预测、软分配预测以及直接排序评分预测。这些方法在预测和解码的不同阶段施加排列约束，并支持不同的训练目标和采样过程。在亚马逊推荐重排序任务上的实验表明，硬分配和软分配方法在单次函数评估中表现与受限掩码扩散基线相当，而直接排序评分预测无需匈牙利算法或Sinkhorn归一化即可保证有效排列。进一步的研究表明，额外的函数评估并不总能提升排序质量，其效果强烈依赖于状态表示和训练目标。研究结果强调了在排列扩散中，噪声注入、预测参数化、目标和解码器需协同设计的重要性。

---

研究背景与动机

排列生成是自然语言处理（NLP）中的一个重要问题，尤其在推荐系统、对话系统以及文本生成等任务中具有广泛应用。然而，排列生成需要同时解决文本条件下的排序问题以及全局的一一对应关系，这为模型设计带来了挑战。本研究旨在探索基于扩散模型的大语言模型（LLM）在排列生成任务中的设计空间，并提出三种不同的排列扩散参数化方法。

方法与实验

1. 硬分配预测（Hard-Assignment Prediction）：在打乱的候选索引序列上进行硬分配预测。
2. 软分配预测（Soft-Assignment Prediction）：在双随机矩阵上进行软分配预测。
3. 直接排序评分预测（Direct Ordering-Score Prediction）：直接预测排序评分，随后进行排序。

这三种方法在预测和解码的不同阶段施加排列约束，并支持不同的训练目标和采样过程。研究在亚马逊推荐重排序任务上进行了实验，候选集大小分别为10和20。实验结果表明，硬分配和软分配方法在单次函数评估中表现与受限掩码扩散基线相当，而直接排序评分预测无需匈牙利算法或Sinkhorn归一化即可保证有效排列。

结果与讨论

实验结果显示，额外的函数评估并不总能提升排序质量，其效果强烈依赖于状态表示和训练目标。这表明在排列扩散中，噪声注入、预测参数化、目标和解码器需协同设计。

工程权衡与实际应用

• 优点：直接排序评分预测方法无需复杂的匈牙利算法或Sinkhorn归一化，简化了模型架构。
• 缺点：硬分配和软分配方法在某些情况下可能需要更多的计算资源。
• 实际应用建议：在资源受限的场景下，建议使用直接排序评分预测方法；而在需要更高精度的场景下，可以考虑硬分配或软分配方法。

结论

本研究为排列扩散大语言模型的设计提供了新的思路，强调了不同参数化方法在训练和推理过程中的权衡。研究结果对推荐系统、对话系统等领域的应用具有重要参考价值。

---

消息来源：ArXiv NLP/LLM (cs.CL) (2026-10-16)

—— 完 ——

主题标签： #排列生成 关注 #扩散模型 关注 #大语言模型 关注 #推荐系统 关注 #NLP 关注