大模型· 2026-10-21#Prefix-Tuning#大语言模型#参数高效微调
arXiv研究:前缀微调技术突破任意输出序列生成难题
本研究针对大语言模型(LLM)的参数高效微调方法——前缀微调(Prefix-Tuning)进行了理论突破。研究证明,在给定预训练自回归Transformer模型的情况下,对于任意输…
智客 ZICQ 每日整理大模型、开源基础设施与开发者现场的 AI 新闻与深度文章。
投稿技术文章当前筛选: 标签: #科学探索 清除筛选
大模型· 2026-10-21#Prefix-Tuning#大语言模型#参数高效微调
本研究针对大语言模型(LLM)的参数高效微调方法——前缀微调(Prefix-Tuning)进行了理论突破。研究证明,在给定预训练自回归Transformer模型的情况下,对于任意输…
前沿论文· 2026-10-21
本研究探讨了如何利用大语言模型(LLM)和稀疏自编码器(SAE)解析代码中的变量角色(如累积、遍历等),并评估其在生成控制中的应用效果。研究引入了针对11种角色类型的静态标注规则,…
大模型· 2026-10-21
arXiv推出OR-License,这是一个针对大语言模型(LLM)智能体在运营研究(OR)领域表现的全新基准测试,包含31个实例,覆盖10个工业场景,总价值达368万美元。该基准…
大模型· 2026-10-21
arXiv发布的一项研究探讨了大语言模型(LLM)智能体在面对提示注入时的决策机制。研究通过分支回溯技术,分析了Qwen3模型在不同攻击模板下的表现,发现模型是否遵循注入指令在读取…
大模型· 2026-10-21
Huvyuan-MT-7B是一款开源的翻译模型,旨在替代GPT-4作为文化对齐机器翻译的解决方案。研究团队评估了该模型在三个风格维度(正式性、礼貌性和亲密性)和十二种语言对上的表现…
大模型· 2026-10-21
arXiv发布了一种名为PARADE的新框架,用于在计算社会科学中模拟人口分布的异质性响应。PARADE利用可组合的LoRA模块表示人口属性值,通过分离任务通用能力和人口特定值变化…
前沿论文· 2026-10-21
arXiv发布了一项关于自动化定理证明的研究,提出了一种基于编译器指导的修复方法,通过在线采样候选策略并利用预训练修复模型对失败步骤进行修复,显著提升了Lean 4定理证明的解决率…
大模型· 2026-10-21
本研究探讨了如何利用大语言模型(LLM)结合个体行为历史预测用户群体中采取特定行为的比例,特别是在电子商务领域。研究重点关注两种设计选择:汇总产品会话以减少推理成本但可能丢失预测细…
大模型· 2026-10-21
arXiv发布了一款名为miniTE的轻量级框架,旨在解决原生NVFP4(4-bit weights and activations)强化学习(RL)中的执行一致性难题。该框架通过…
前沿论文· 2026-10-21
arXiv发布了一项关于分离共形可靠性(Conformal Reliability)和频率校准(Frequency Calibration)的研究,通过引入边界重置规则实现了对独立…
大模型· 2026-10-21
SAGE-CP是一种新型自适应视觉语言模型(VLM)集成管道,旨在解决传统方法中因边际覆盖不足导致的路径条件失败问题。通过冻结路由选择并对早期退出和升级输入分别进行校准,SAGE-…
大模型· 2026-10-21
arXiv发布了一种基于动作条件的世界模型,用于电子病历(EHR)的患者轨迹预测。该模型通过分离患者状态与临床动作,并使用状态和动作依赖的转换算子学习其演变过程,显著提升了时间解析…