智客 ZICQ
EN 登录 / 注册
智客信息 大模型 #Nace AI #Drex Max #多模态决策 #256K上下文 #本地推理

Nace AI发布Drex Max v1.1:256K上下文瞄准多模态决策

Mr.Xu 的头像

文 / Mr.Xu 社区投稿

发布时间:

中文阅读 (Chinese) English Version

摘要:Nace AI推出Drex Max v1.1,并同步公开《Toward Foundation Decision Models: Drex》训练手册。按官方披露,v1.1在Artificial Analysis决策模型类别中达到SOTA并进入Pareto前沿,支持约256K上下文和Mac本地推理,推理成本据称仅为次优方案约八分之一;v1权重已以Open RAIL-M许可开放,v1.1权重仍在本地推理优化中。需要注意,排名、性价比与跨Mac运行能力目前主要来自团队自述和第三方榜单截图,仍需核对评测配置、模型规模、量化和端侧延迟。


Drex Max v1.1更新了什么

Nace AI发布Drex Max v1.1,并公开配套论文《Toward Foundation Decision Models: Drex》。与此前已开源的Drex模型家族相比,这次更新的重点不是继续扩大长文本生成能力,而是增强多模态状态理解与候选决策:模型读取环境状态和一组可选动作,在一次前向传播中直接给出各选项的归一化概率。

官方称,Drex Max v1.1在Artificial Analysis的决策模型类别中达到SOTA,并同时进入性能—成本Pareto前沿。它还提供约256K上下文,显著长于Glide 1.2的64K和Mammoth的16K;Drex Max v1权重已经以Open RAIL-M许可发布,v1.1权重则仍在针对本地推理优化。

决策模型的架构优势

Drex不是传统聊天模型的“生成答案再解析”路线。其核心接口更接近分类器或策略网络:输入包含当前观测、历史状态以及有限候选选项,输出是每个选项的概率分布。这种设计可以避免自回归解码带来的多步Token生成成本。

从系统角度看,其潜在优势主要体现在三方面:

  1. 决策延迟更可控。 单次前向传播即可产生动作分布,不需要逐Token生成再进行JSON解析,适合需要低延迟动作选择的交互式智能体。
  2. 多模态输入可直接参与决策。 视觉编码器提取环境状态,决策骨干结合语言与候选选项进行联合建模,减少“先描述图像、再让LLM规划”的串联误差。
  3. 状态编码可以复用。 在连续决策场景中,Pointer模型通过缓存已编码状态,降低多问题或多轮推理的重复计算。

Drex Max所采用的Gated DeltaNet混合架构、稀疏MoE及视觉编码器,为长上下文和端侧部署提供了不同层级的算力分配方式。不过,当前公开信息没有说明Drex Max v1.1的具体总参数、激活参数、视觉编码器规模及量化配置,因此不能仅根据“可在Mac运行”判断其真实性能边界。

256K上下文不只是窗口长度

对于标准全注意力Transformer,KV Cache显存通常随序列长度近似线性增长。在相同隐藏维度和数据类型下,窗口从64K扩展到256K,缓存占用理论上可增至约4倍;若再引入滑动窗口、分页缓存或状态压缩机制,具体比例则会改变。

Drex家族引入Gated DeltaNet等线性状态更新机制,目的正是降低长序列状态维护成本。对短上下文任务,状态模型未必优于全注意力;对长文档、持续环境观测和连续决策任务,其固定大小或缓慢增长的状态则更有吸引力。关键问题是状态维度是否足以保存决策所需信息,以及在超长输入上是否会出现状态饱和、遗忘或跨轮误差累积。

因此,256K更应被理解为“允许接收更长证据或轨迹”,而不是保证模型能在任意长度上稳定推理。生产评估仍需加入长上下文检索、跨段信息组合、状态更新正确性以及输入长度增加后的延迟曲线。

“成本低八倍”应如何解读

Nace AI宣称Drex Max在Artificial Analysis Index中的成本仅为该类别次优模型的八分之一。这说明其在官方计价口径下具有明显的单位请求经济性,但该结论不能直接等同于所有部署都更便宜。

推理总成本通常可拆为:

[ C_{total}=N_{req}\times(C_{prefill}+N_{output}\times C_{decode}+C_{state}) ]

Drex一次前向输出选项概率,避免了长文本解码,因此主要收益来自减少生成Token与结构化解析失败;与此同时,多模态编码、长上下文状态更新和MoE路由仍会产生预填充或状态维护成本。第三方榜单中的价格通常采用统一输入、输出Token假设,未必覆盖图像输入、缓存复用、批处理利用率及本地硬件折旧。

“Mac可运行”也需要实测语境:Apple Silicon的GPU内存容量、统一内存带宽、量化格式、KV或状态缓存大小,都可能决定模型能否完整驻留。能够加载只是第一步,交互式决策还要求首Token时间、每秒决策数和持续负载下的内存稳定性均达到要求。

评测仍需独立核验

Artificial Analysis是相对独立于模型团队的第三方评测平台,这比厂商自报分数更具参考价值。但本次信息来自Nace AI管理员发布的Reddit帖子,榜单截图无法单独证明所有细节。严谨复现至少需要确认:

  • Drex Max v1.1对应的具体权重、提交哈希与许可证;
  • 测试所用API、系统提示词及是否启用工具调用;
  • 输入长度、输出长度、缓存命中率和并发设置;
  • “八分之一成本”采用的价格单位是每百万Token、每次请求还是端侧能耗;
  • SOTA结论是否只对应某个决策模型子集,而非全部多模态模型。

官方技术报告称,Drex训练使用115万条已验证决策记录,并通过全参数SFT、一致性约束与RLAF改善准确率、校准及选项顺序稳定性。这些机制方向合理,但数据来源、训练算力、奖励模型偏差及跨架构消融仍需从论文和独立复现中确认。

开发者的落地建议

对于需要本地运行、连续感知或多候选决策的团队,Drex Max值得进入短名单。建议先从三类任务验证:

  1. 视觉决策任务。 测试候选对象识别错误是否会被概率输出放大,并分别评估图像分辨率带来的延迟和显存成本。
  2. 长轨迹任务。 将约256K窗口用于日志、截图与操作历史回放,测量早期关键信息被后期状态覆盖的程度。
  3. 校准与拒断任务。 检查概率是否真正反映正确率,而不只是分类准确率;生产系统应按置信度设置阈值,低置信场景转人工或调用更大模型复核。

部署上可先使用已公开的v1权重验证接口和任务适配,再等待v1.1开放权重后进行同配置A/B测试。Kapitsa可降低Mac本地推理的集成门槛,但生产环境仍应监控内存峰值、首Token延迟、吞吐、错误动作成本与许可合规性。


消息来源:Reddit r/MachineLearning (2026-11-08)

—— 完 ——

主题标签: #Nace AI #Drex Max #多模态决策 #256K上下文 #本地推理

编辑部与事实核查说明:本篇专刊由智客前沿资讯管线根据官方技术公告、学术论文及开源工程文档整理编译,经算法实体核验与人工编辑审校后发布。若发现技术事实纰漏,欢迎依据勘误方针或一键向编辑部发送勘误反馈。

社区整体评论区

正在加载实时智能评论与划词标注…