免梯度权重编程:LLM自设计稀疏联想记忆挑战Transformer
论文把模型构建从梯度训练转向“权重空间编程”:在仅10个标注样例、少量指引和沙箱环境中,让三种前沿LLM直接生成固定架构权重,或自行设计架构。三者均选择把文本事实编译为稀疏表并以固…
智客 ZICQ 每日整理大模型、开源基础设施与开发者现场的 AI 新闻与深度文章。
投稿技术文章当前筛选: 分类: 前沿论文 清除筛选
论文把模型构建从梯度训练转向“权重空间编程”:在仅10个标注样例、少量指引和沙箱环境中,让三种前沿LLM直接生成固定架构权重,或自行设计架构。三者均选择把文本事实编译为稀疏表并以固…
前沿论文· 2026-11-17
MemeEconomy 将模拟经济生存压力引入多模态 LLM 智能体市场。代理需在五级伤害分类与目标社区间选择投资内容,系统以 BDI(信念—愿望—意愿)日志记录事件理解、优先级与…
前沿论文· 2026-11-17
GRAFT针对LoRA通常只能在同一骨干模型间复用的问题,引入模态感知适配器检索与源、目标特征空间的线性桥,将Qwen2.5文本LoRA迁移到Qwen2.5-VL,并在多模态任务中…
前沿论文· 2026-11-17
论文基于博世覆盖25种产品配置、跨度五年的真实维护数据,将新品导入后的预测模型更新建模为域增量学习:既要吸收新配置数据,又不能遗忘仍在产线运行的旧配置。研究将持续学习与鲁棒优化结合…
前沿论文· 2026-11-17
论文用机制可解释性方法审计六层Mamba在约21年美股日频数据上的牛熊震荡状态识别。以Top-K稀疏自编码器分解隐藏状态后,研究移除与HMM标签重叠的3项输入、关闭辅助状态分类头,…
前沿论文· 2026-11-17
受控研究比较五类数据泄漏对表格分类ROC-AUC的虚高幅度,覆盖6个公开数据集、2个合成压力测试、3类模型和5次分层重复划分,共600组配对比较。统计推断以数据集为单位,并采用聚类…
前沿论文· 2026-11-17
论文提出 Check Token:在词表中加入功能标记 <CHECK>,让模型在推理链任意位置主动触发分析、错误定位、截断与重写,并以推测性分叉降低误触发等待、用分段奖励学习触发时…
前沿论文· 2026-11-17
研究在单张Colab T4上,以4位NF4加载Llama-3.2-3B-Instruct与Qwen2.5-3B-Instruct,审计四种幻觉检测器。跨模型结果出现排名倒置:Spe…
前沿论文· 2026-11-17
论文提出 Model Annealing:将交叉熵训练饱和后的预算转向模型自身的“复习与巩固”。每轮重新升温再冷却,并把冷却模型的预测加入记忆;学生同时拟合真实标签、记忆的 tem…
前沿论文· 2026-11-17
论文提出NLS depth,用模型计算图中不经过“自然语言根植”瓶颈的最长路径,近似衡量模型可执行但未语言化的串行认知。判据可由架构、训练配方和部署配置在训练前判定,且原则上不受提…
前沿论文· 2026-11-17
LoRAWeaver把LoRA适配器路由从“训练一个路由器”改写为表示空间对齐:针对查询在候选适配器条件下生成表征,并与任务原型做余弦相似度匹配,从而在新增适配器时免去路由器重训。…
前沿论文· 2026-11-16
ETH AlgOpt 提出 AuXSpec:在 Lean 中把声明式后置条件与可执行实现配对,以类型类解析或等价性证明建立对应,再把两者在测试用例上的一致性用作强化学习奖励。团队构…