算力架构· 2026-11-12#SGLang-Neuron#AWS Trainium#PyTorch#Prefill-Decode分离#LLM推理
文 / Mr.Xu1 次阅读0 条讨论与划词
SGLang-Neuron正式发布：原生PyTorch加速Trainium模型服务
AWS与RadixArk、Annapurna Labs联合推出SGLang-Neuron，并以AWS Deep Learning Container公开发布。该项目通过原生PyTo…
智客 AI 新闻
智客 ZICQ 每日整理大模型、开源基础设施与开发者现场的 AI 新闻与深度文章。
投稿技术文章当前筛选： 标签: #Locality-Sensitive Hashing 清除筛选
智能体· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
Natera用Bedrock AgentCore构建实验室运维智能体
Natera 与 AWS 联合推出实验室运维智能体 SWARM，以 Amazon Bedrock AgentCore 运行两套智能体运行时：swarm-agent 面向批量工单自动…
大模型· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
微软研究聚焦：智能体上下文压缩与104语言分词新进展
微软研究第98期汇总了语音翻译、KLS猜想、编码智能体效率和多语言分词等进展。开发者最值得关注的两项工作是：COMPACTIONBENCH与APEC针对长周期编码会话中的上下文压缩…
行业动态· 2026-11-12
Mr.Xu2 次阅读0 条讨论与划词
英伟达私下确认可追踪AI芯片，芯片安全法案再添变量
据 MIT Technology Review 报道，英伟达代表私下向美国众议员 Bill Foster 表示，其技术上能够落实《芯片安全法案》要求的先进 AI 芯片位置追踪措施，…
大模型· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
Amazon Bedrock推理成本优化：四类请求参数如何改变账单
AWS给出Amazon Bedrock推理计费的工程化拆解：缓存TTL、服务层级、推理强度和maxTokens都会改变实际计费。缓存长TTL在高频复用时可降低读取成本，但写入溢价可…
智能体· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
Amplitude用Wave把产品洞察、编码与效果验证串成闭环
Amplitude 基于 OpenAI 模型构建主动型产品智能体 Wave，将用户行为与产品数据转化为候选改进建议，再协同编码智能体完成变更并持续衡量上线影响。其关键价值不是单点生…
行业动态· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
黄仁勋离任后，Hugging Face重申开源AI立场并追问英伟达收购承诺
在黄仁勋辞任英伟达CEO后，Hugging Face CEO公开重申维护开放模型与开放AI基础设施的立场，并借此追问英伟达拟以129亿美元收购Hugging Face后将如何保障模…
智能体· 2026-11-12
Mr.Xu0 次阅读0 条讨论与划词
AWS升级AgentCore运行时：15倍冷启动加速与数据级隔离
AWS更新Amazon Bedrock AgentCore托管运行时，为长时间运行的智能体提供更快的会话启动、更大的计算资源和更灵活的成本模型。每个会话仍运行在独立的Firecra…
大模型· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
Google Search 全球接入 Gemini 4 Hydrogen，强化可视化交互式回答
Google 开始面向全球用户将 Gemini 4 Hydrogen 集成至 Google Search，目标是提供更直观、视觉化且具有交互性的搜索回答。此次更新把生成式模型从独立…
前沿论文· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
苹果推导KL约束对齐的收益上限，明确强化学习与Best-of-N边界
苹果机器学习研究团队从信息论角度分析语言模型对齐：模型在相对基础模型仅允许有限KL散度时，奖励究竟最多能提升多少。研究同时比较KL约束强化学习与Best-of-N采样两种常见路线，…
行业动态· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
软银AI算力押注受挫：30亿美元燃气轮机预订单损失引发市场震动
软银为支撑AI数据中心扩张而预购天然气轮机，据报道产生逾30亿美元损失，暴露算力基础设施扩张中的设备交付周期、燃料成本、长期合同和项目执行风险。这一事件不只是财务问题：当AI数据中…
行业动态· 2026-11-12
Mr.Xu1 次阅读0 条讨论与划词
黄仁勋辞任英伟达CEO：AI芯片出口管制与治理风险重估
英伟达CEO黄仁勋因涉及一名被指称为中国情报人员的私人关系及公司治理争议辞职，将AI产业的算力、出口管制与地缘政治风险集中到台前。节目采访认为，争议可能影响美国对华GPU出口政策、…