大模型· 2026-11-10
vLLM过载实验揭示:仅取消请求无法扭转重试风暴
论文在 vLLM 上复现大模型服务过载场景,发现客户端与代理层自动重试会持续制造额外执行;即使请求量已低于服务容量,单纯传播取消也未能在任何实验中恢复服务,过载后仅有12%至38%…
智客 ZICQ 每日整理大模型、开源基础设施与开发者现场的 AI 新闻与深度文章。
投稿技术文章大模型· 2026-11-10
论文在 vLLM 上复现大模型服务过载场景,发现客户端与代理层自动重试会持续制造额外执行;即使请求量已低于服务容量,单纯传播取消也未能在任何实验中恢复服务,过载后仅有12%至38%…
大模型· 2026-11-10
ChainFlow 是一种以目标模型隐藏状态为条件的新型推测解码草稿器。它把草稿生成建模为潜空间中的短程流传输,仅需一至两步即可生成候选 Token;变分自编码器负责压缩目标隐藏状…
大模型· 2026-11-10
论文提出 Aspect-wise Pairwise Tournaments(APT),把最佳候选选择从逐答案绝对评分改造成单淘汰式两两比较:每场比赛由多个现成验证器分别依据正确性、…
大模型· 2026-11-09
Amazon Bedrock Managed Knowledge Base 扩展 AgenticRetrieveStream,以 maxAgentIteration 在一次接口中统…
大模型· 2026-11-09
Anthropic发布Claude Fable 5.2与Claude Mythos 5.2两款模型,主攻高难度软件工程、复杂推理、视觉理解及长周期智能体任务。公司称,两款模型相较5…
智能体· 2026-11-10
论文在保持智能体脚手架不变的前提下,将仅使用交互式调试器的编码智能体与仅使用Bash的智能体进行对照,覆盖SWE-bench Verified全部500个实例,并以GPT-OSS-…
智能体· 2026-11-10
Forge Decision Context(forge_dc)面向智能体无法跨会话继承行为规则的问题,从人工纠正和工具调用失败中提炼命令式 RULE 指令,并仅在相关决策点注入上…
智能体· 2026-11-10
NormGym提出面向智能体规范能力的多智能体交互基准,要求新成员在完成自身任务的同时,从他人的行为与制裁反馈中推断隐藏、任意的社会规范,并在新情境中遵守它。评测显示,最强受测大语…
智能体· 2026-11-10
AWS Quick 将企业智能体划分为代理、技能、知识空间与连接器四层:代理负责规划和执行,技能封装可复用任务指令,知识空间提供文档与结构化数据,连接器则打通 Slack、Jira…
智能体· 2026-11-09
研究团队在ARC-AGI-3交互式游戏上提出MechEval,从游戏程序中标注20个游戏的69种环境机制,并按每次机制暴露后的状态变化预测进行评测。配套的35M参数视觉Transf…
开源AI· 2026-11-09
NVIDIA发布 Nemotron-Personas-Finance-Japan 合成数据集,用结构化人物画像、问答及金融情境覆盖日本人口特征、家庭结构、理财行为与本地制度语境,旨…
开源AI· 2026-11-07
WorldFoundry将视频、3D/4D、具身动作及交互式世界模型纳入统一的开源基础设施,覆盖模型与基准发现、运行时和资产准备、执行编排、制品管理及交互可视化。其核心不是提出单一…
开源AI· 2026-11-06
NVIDIA以开源AI Aerial、Sionna及CUDA加速RAN工具连接6G网络的研究、仿真、训练和真实空口验证。公开案例显示,语义通信可把机器人任务完成时间最多缩短52.6…
开源AI· 2026-11-05
NVIDIA 通过 Hugging Face 发布 Cosmos 3 开放模型,定位是面向机器人和自动驾驶任务的交互式世界模拟。其核心方向并非仅生成离线视频,而是根据动作或控制信号…
开源AI· 2026-11-04
网易有道发布并开源Confucius4-R2T2,一款面向实时转写的流式语音识别模型。其核心是“最长稳定前缀”(LSP)目标:在后续音频到达后不修改已输出文本,同时保持与全上下文解…
算力架构· 2026-11-09
NVIDIA发布面向A.X K2、K-EXAONE 2.0、Solar Open 2和Motif-3的Dynamo部署配方,面向B200 GPU环境优化多节点推理。核心价值是把模型…
算力架构· 2026-11-06
FlexFloor面向混合专家模型强化学习后训练中的响应生成阻塞,联合调整响应调度与活跃Worker集合,在保留长响应所需专家计算的同时,提前释放已完成本地生成的工作节点。系统依据…
算力架构· 2026-11-06
论文提出 LowRAM,将自回归解码中的 KV Cache 压缩拆成两条互补路径:跨层低秩压缩 Key,并通过逐头预测器从 Key 重建大部分 Value,仅保留最难预测 Toke…
算力架构· 2026-11-05
NVIDIA 推出 Vera CPU,将重点从 GPU 推理延伸至智能体所需的搜索、数据库查询、代码执行与沙箱调度。官方称,在 100MW 数据中心对比中,Vera 相比最快的 x…
算力架构· 2026-11-05
NVIDIA以GPU、CPU、互连、存储与推理软件协同设计应对智能体推理带来的HBM容量与带宽压力:通过NVFP4压缩权重和KV Cache,将模型分片至NVL72域,并用Dyna…
前沿论文· 2026-11-10
论文从最优传输视角重新审视结构因果模型中的反事实回溯推断。由于事实观测通常只能确定外生变量的后验分布,反事实推断本质上是一个分布传输问题。作者提出两种互补框架:点式投影直接寻找满足…
前沿论文· 2026-11-09
一项针对低预算分子优化基准的消融研究显示,LLM智能体在PMO上的优势很大程度来自可检索的任务信息,而非在线推理。隐藏任务名称和参考化合物后,GPT-4o mini的50次Orac…
前沿论文· 2026-11-09
IMSLab Research提出一套面向超参数化网络的拓扑自适应优化方法Top-SGD与Top-AdamW。方法以正则化Hessian度量描述参数轨迹,报告十亿参数网络的有效维度…
前沿论文· 2026-11-09
AttnRes 将图 Transformer 的残差流从固定单位系数累加,改造成可按节点自适应选择历史贡献的深度聚合接口。论文把图传播与前馈网络输出序列形式化为节点级因果历史,并以…
前沿论文· 2026-11-09
俄勒冈州立大学研究团队面向高温、高辐射环境中的传感器失效问题,提出融合图结构空间编码与GRU时序建模的稀疏传感器重构框架,并比较扩散模型、VAE、GAN、确定性GNN-GRU及岭回…
行业动态· 2026-11-09
OpenAI推出Control Room,用于集中跟踪其研究基础设施中的模型工作负载,并在出现安全或网络安全问题时快速终止相关任务。该系统把分散的工作负载可见性、运行状态管理与紧急…
行业动态· 2026-11-09
MIT Technology Review在弗吉尼亚“数据中心走廊”的实地调查指出,AI基础设施引发的社区反弹不应被简单归因于反科技情绪,核心矛盾是电网容量与成本转移。弗吉尼亚现有…
行业动态· 2026-11-09
Kuken Industries利用OpenAI API检索公司积累约70年的冷却塔工程图纸,将维修人员定位目标图纸的时间从接近1小时缩短至4.5分钟。该案例展示了生成式AI在非结…
行业动态· 2026-11-09
迪士尼与Adobe宣布建立多年战略合作,通过Adobe Firefly Foundry共同开发面向迪士尼IP与制作流程的“艺术家主导”生成式AI模型,并让迪士尼提前访问相关底层技术…
行业动态· 2026-11-09
美国唱片业协会(RIAA)CEO Mitch Glazier 在 The Verge 访谈中提出,生成式 AI 音乐应采用统一的机器可读标记,并由发行商和流媒体平台负责贯通标注链;…
大语言模型· 2026-10-09
Hugging Face推出了一种名为PreSTO的新方法,通过预测性子树预取技术加速大语言模型(LLM)的推理过程。PreSTO通过批量生成未来可能的接受/拒绝决策子树,并在不改…
安全与隐私· 2026-08-10
Checkpoint Research发布了一篇关于Cloudflare代码模式及其Workers功能的研究报告,揭示了这些工具在处理复杂任务时可能存在的安全漏洞。研究指出,攻击者…