4位量化端侧LLM幻觉检测审计:排名倒置与标签器失灵
研究在单张Colab T4上,以4位NF4加载Llama-3.2-3B-Instruct与Qwen2.5-3B-Instruct,审计四种幻觉检测器。跨模型结果出现排名倒置:Spe…
智客 ZICQ 每日整理大模型、开源基础设施与开发者现场的 AI 新闻与深度文章。
投稿技术文章当前筛选: 标签: #MXFP8 清除筛选
研究在单张Colab T4上,以4位NF4加载Llama-3.2-3B-Instruct与Qwen2.5-3B-Instruct,审计四种幻觉检测器。跨模型结果出现排名倒置:Spe…
智能体· 2026-11-17
论文把粉末X射线衍射(pXRD)结构解析重构为可验证的智能体爬山搜索:候选结构经前向模拟生成衍射轮廓,再与实测图谱匹配,形成推理期校验器。pXRD-Bench含200个模拟单相任务…
前沿论文· 2026-11-17
论文提出 Model Annealing:将交叉熵训练饱和后的预算转向模型自身的“复习与巩固”。每轮重新升温再冷却,并把冷却模型的预测加入记忆;学生同时拟合真实标签、记忆的 tem…
智能体· 2026-11-17
研究以Gemma 3 12B模拟伦敦白银定盘诉讼,并用真实庭审记录构建260次市场博弈。提示层面的损失与责难框架将参与合谋的比例从中性条件的5%推至25%和33%,同业背书则把赞扬…
算力架构· 2026-11-17
论文面向数字广告中的推荐与排序模型,在AMD MI350X上评估MXFP8与6位MXFP6量化。原生MXFP6 GEMM同时量化权重和激活并直接以6位元素计算,在两个生产模型上相对…
前沿论文· 2026-11-17
论文提出NLS depth,用模型计算图中不经过“自然语言根植”瓶颈的最长路径,近似衡量模型可执行但未语言化的串行认知。判据可由架构、训练配方和部署配置在训练前判定,且原则上不受提…
前沿论文· 2026-11-17
LoRAWeaver把LoRA适配器路由从“训练一个路由器”改写为表示空间对齐:针对查询在候选适配器条件下生成表征,并与任务原型做余弦相似度匹配,从而在新增适配器时免去路由器重训。…
智能体· 2026-11-17
arXiv 预印本把 LLM 记忆系统中的“过时即删除”拆成风险决策问题:解析器误删当前查询所需事实时,准确率损失显著大于误留过时事实。三个模型上的受控干预显示,完美解析时硬删除收…
前沿论文· 2026-11-16
Calpha把Qwen3.5-9B的残基隐藏状态接入预训练SimpleFold结构头,并以专用触发Token调用折叠,试图让通用语言模型的内部表示直接承载几何信息。固定折叠请求下,…
前沿论文· 2026-11-16
论文提出潜在反馈训练法:把前一词元的顶层隐藏状态送入下一词元输入,为同一训练预算提供不同于增加轮次的替代路径。作者在60M—271M参数模型上与等算力、多轮次基线逐档调参比较,并用…
行业动态· 2026-11-16
LangChain宣布完成由CapitalG领投的3亿美元C轮融资,估值达到30亿美元;公司称将借助LangSmith这一智能体工程平台,帮助企业拥有并运营自身的智能体。交易显示,…
算力架构· 2026-11-16
NVIDIA 在 SC26 发布由四台 DGX Spark 组成的 HPC Developer Kit。节点通过 ConnectX-7 构成无交换机环形互连,合计提供 512GB …