研究揭示RAG中的从众偏差:多数有毒证据导致模型检测率下降
一项由arXiv发布的研究探讨了检索增强生成(RAG)模型在面对多数一致的有毒证据时的表现。研究发现,随着有毒证据数量的增加,Gemma-3-12b模型检测错误信息的能力显著下降,…
智客 ZICQ 每日整理大模型、开源基础设施与开发者现场的 AI 新闻与深度文章。
投稿技术文章当前筛选: 标签: #CausalWAM 清除筛选
一项由arXiv发布的研究探讨了检索增强生成(RAG)模型在面对多数一致的有毒证据时的表现。研究发现,随着有毒证据数量的增加,Gemma-3-12b模型检测错误信息的能力显著下降,…
大模型· 2026-11-02
TensorSSM是一种新型隐式神经表示方法,通过动态状态空间模型(SSM)实现了对高维张量数据的有效压缩。该方法通过将模式坐标分解为粗到细的编码序列,并扩展SSM的状态空间以显式…
前沿论文· 2026-11-02
arXiv发布了一项关于对抗性多臂老虎机问题的新研究,提出了一种新型算法以解决最优一阶遗憾问题。该算法针对具有强可观测性的反馈图,通过结合EXP3更新规则和基于优化的探索采样策略,…
大模型· 2026-11-02
arXiv近日发布了一种名为FARO的新型优化器,旨在解决大语言模型训练中的计算瓶颈问题。FARO通过将参数分割为多个块,并基于函数空间的反事实收益自适应地分配预算,显著提升了训练…
前沿论文· 2026-11-02
arXiv最新研究深入探讨了科学基础模型(SciFM)在仿真到现实迁移过程中面临的灾难性遗忘问题。以Walrus-1.3B模型为例,研究发现,在仿真数据上的微调会迅速降低模型在原始…
前沿论文· 2026-11-02
arXiv近日发布了一种名为AutoHebb的新型神经网络架构,旨在实现零样本推理(ZI)和持续学习(CL)。AutoHebb通过结合外部反馈和内部生成的活动信号,生成全局学习信号…
大模型· 2026-11-02
arXiv发布了一项名为Certified Anchor-Based Adaptation (CABA)的新研究,旨在解决持续适应中的行为保留问题。CABA通过比较旧策略与候选策略…
大模型· 2026-11-02
arXiv近日发布了一种名为LIDFS的无监督特征选择新方法,旨在解决高维数据对机器学习算法效率和效果的影响。LIDFS基于局部内在维度(LID),通过将数据矩阵转置并估计每个特征…
前沿论文· 2026-11-02
arXiv发布了一种名为任务感知扩散精炼器(TADR)的新方法,用于解决工业物联网(IIoT)边缘数据流中由于网络故障和硬件问题导致的数据缺失问题。TADR通过在冻结的下游检测器损…
前沿论文· 2026-11-02
arXiv发布了一项名为PoSE (Posterior Sampling for State Estimation) 的新研究,旨在解决中压配电网状态估计 (DSSE) 中的数据稀…
大模型· 2026-11-02
arXiv近日发布了一项名为BILAL-BENCH的新基准测试,旨在评估大语言模型在孟加拉语中生成伊斯兰教源内容(如古兰经经文或圣训)时的表现。该基准测试包含240个专家验证的问题…
大模型· 2026-11-02
arXiv最新研究提出,通过在推理前剪除大模型中冗余的注意力头,可以显著抑制模型的逐字记忆行为,同时保持甚至提升模型的语言建模性能。研究以GPT-2-XL(1.5B参数)为例,剪除…