Drex开源决策模型系列：无自回归解码实现183毫秒级判断

摘要：NACE AI 开源 Drex 决策模型系列，以非自回归方式在候选选项上直接输出概率分布，面向文档判读、结构化抽取、智能体状态判断和有序量表评分。系列包含 8B、9B、35B 混合专家和 27B Max 四种配置，训练结合监督微调、调整反馈强化学习 RLAF，并针对选项重排加入一致性损失。论文称 Max 在 Decision Index 0.4.1 得分 67.52，典型请求延迟为 183 毫秒；但其对闭源模型的部分领先仍需结合硬件、上下文长度和独立评测核验。

---

Drex把大模型判断改写为概率分类

Drex 不生成自由文本答案，而是针对用户提供的状态与问题，直接计算候选选项的概率分布。输入可包含文档、数据库记录或智能体上下文，也可附带图像；问题则对应多选、是否判断或有序量表评分。

这种设计把大模型任务从“生成答案后再解析”改成“输出可直接消费的结构化决策”。它尤其适合路由、审核、内容分档、数据抽取和智能体策略选择等高频场景：调用方可以按概率设置阈值、执行多路回退，或在低置信度时转交人工，而无需等待并解析冗长推理。

Drex 共有四个开放版本：

| 版本 | 总参数 | 激活参数 | 定位 | |---|---:|---:|---| | DLM | 8B | 8B | 最小化部署版本 | | v1.5 | 9B | 9B | 后续迭代版本 | | v2.0 | 35B | 3B | 稀疏激活版本 | | Max | 27B | 27B | 带视觉调优的高精度版本 |

其中 35B v2.0 是系列里的 MoE 配置，但现有摘要没有披露专家数量、路由策略、共享专家比例及通信开销，因此不能仅凭“3B 激活”推断其真实吞吐或显存需求。

非自回归决策如何工作

传统自回归模型按顺序生成 Token。即使最终任务只是选择一个类别，模型也必须先产生足以支持答案的文本表示，再由业务层解析结果。这条路径包含串行解码开销，容易产生格式错误，也使相同输入可能得到语义一致但表述不同的答案。

Drex 将候选选项视为待打分的集合，对问题与选项进行联合编码，输出对应概率。其优势不是简单“让模型少说话”，而是改变计算目标：模型学习的是选项条件下的决策分布，而不是再生成一个需要二次解释的字符串。

工程上，这种非自回归路径具备三个直接收益：

1. 延迟可控：没有逐 Token 解码依赖，适合单次前向即可完成的分类任务。
2. 结果可解析：输出天然是选项概率或离散判断，不需要正则表达式与容错解析。
3. 阈值可治理：业务可以基于置信度设置自动执行、人工复核或二次模型调用。

但它并不意味着 Drex 适合所有任务。若问题没有有限且稳定的候选集合，或者答案本质上是长文本生成、代码、开放式推理，强加选项集合反而会压缩信息空间。它更像专用决策层，而不是通用聊天模型的完全替代品。

RLAF与一致性训练解决什么问题

Drex 的训练由监督微调、调整反馈强化学习 RLAF 和视觉调优组成。RLAF 调整标准答案被部分揭示或受约束时的反馈形式，使强化学习信号不只奖励最终选对，还能在有限监督下提供更平滑的学习信号。论文消融实验显示，RLAF 能够提高准确率。

更值得关注的是选项顺序一致性损失。多选任务中，候选排列变化本不应改变正确答案，但如果模型依赖位置编码或训练数据中的固定顺序，答案可能随选项重排而漂移。一致性损失显式约束模型在等价排列下保持概率和结论稳定，这对自动审核、风控分流和规则引擎集成尤其重要。

不过，摘要没有给出 RLAF 的奖励构造、反馈调整规则、训练数据规模与污染控制。公开论文全文、训练脚本和数据许可仍应作为复现与安全评估的前置检查项。

基准表现与延迟优势

论文报告，Drex Max 在 Decision Index 0.4.1 公共套件上取得 67.72 之外的实际公布值 67.52，高于 Jev 1.14.0 的 60.70。在 Decision Bench v4 上，它与 d3-turbo、GPT-6 Sol 的成绩在统计意义上相当，并落后 Claude Opus 5.5 约 1.6 分；在 DecideBench 上，它则是对比决策模型中准确率最高者。

速度是 Drex Max 更突出的卖点。典型请求耗时为 183 毫秒，GPT-6 Sol 约为 2.0 秒，Claude Opus 5.5 约为 3.5 秒。对实时智能体而言，这不只是端到端体验改善，还会减少长链任务中的累计等待，并扩大可承受的决策调用预算。

不过，这组数字不能直接外推到所有部署环境。183 毫秒通常与输入长度、批处理规模、GPU型号、精度格式、视觉输入以及是否启用额外验证机制有关；与闭源 API 的比较还受到远程网络和服务队列影响。论文基准也可能存在与训练分布相近的问题，独立复现时应至少覆盖：

• 短文本、长文档和智能体长上下文；
• 单候选、多候选、二分类与有序评分；
• 选项随机重排和近义干扰项；
• 无图与视觉输入的端到端延迟；
• p50、p95、p99 延迟及单位成本。

工程权衡：低延迟不是零成本

Drex 的第一项工程收益是取消自回归串行解码。对于固定候选集任务，响应时间更接近一次批量前向计算，单位请求能耗和 GPU 占用通常也更容易控制。其概率输出还能直接接入业务阈值，减少额外解析模型。

第二项收益是模型规模与推理预算可以分离。8B 和 9B 版本适合成本敏感服务，35B MoE 则试图以较少激活参数获得更大容量；但稀疏模型是否划算，取决于路由是否均衡、批处理能否合并专家任务，以及部署框架是否原生支持对应算子。

代价同样明确：

1. 任务边界更窄：开放生成可以容纳未知答案，决策模型必须先定义候选集合和标签体系。
2. 校准要求更高：用于自动执行时，概率是否可信比单纯 Top-1 准确率更重要。
3. 长上下文仍是成本瓶颈：取消逐 Token 解码不等于消除 Prefill 计算，文档与智能体上下文依然消耗显存带宽。
4. 视觉输入增加复杂度：Max 的多模态路径需要图像编码器、投影层和额外显存，其端到端收益尚未披露。
5. 固定决策可能被误用：模型并非事实核验器；若输入状态缺失或候选集合设计错误，高置信度也可能只是稳定地给出错误选项。

开发者落地建议

Drex 最适合承担现有系统中的离散判断层，例如：

• 从文档中抽取字段并映射到固定枚举；
• 为智能体选择下一工具、路由到专用模型或触发人工接管；
• 对内容、交易或工单进行多级分类；
• 在图像与文本混合输入中完成审批建议或量表评分。

生产接入时，建议保留传统生成模型作为复杂问题的回退路径，并设置三层防线：利用选项重排一致性检测输入偏差；利用概率校准与最低置信度阈值控制自动化范围；利用独立规则或第二模型复核高风险决策。

部署前还应核对四项信息：权重与代码许可证是否允许商用；不同版本对应的推理框架和硬件需求；RLAF 训练数据的来源与隐私边界；以及在自身流量下能否复现 183 毫秒级典型延迟。若上述条件成立，Drex 的核心价值并非“再造一个更小的聊天模型”，而是提供了一种面向业务决策、低串行开销且可程序化消费的新模型形态。

---

消息来源：Hugging Face Daily Papers (2026-11-05)

—— 完 ——

主题标签： #Drex 关注 #决策模型 关注 #非自回归推理 关注 #RLAF 关注 #MoE架构 关注