EleutherAI发布奖励机制破解研究进展:探索AI模型安全漏洞
EleutherAI发布了一项关于AI训练中奖励机制被破解(Reward Hacking)的研究进展报告。研究团队开发了一个名为djinn的测试环境,包含约750个编程问题和26种…
智客 ZICQ 每日整理大模型、开源基础设施与开发者现场的 AI 新闻与深度文章。
投稿技术文章当前筛选: 分类: 大模型 清除筛选
EleutherAI发布了一项关于AI训练中奖励机制被破解(Reward Hacking)的研究进展报告。研究团队开发了一个名为djinn的测试环境,包含约750个编程问题和26种…
大模型· 2025-09-22
DeepSeek发布了其最新版本DeepSeek-V3.1-Terminus,该版本在语言一致性方面进行了优化,减少了中英文混合错误,并提升了Code Agent和Search A…
大模型· 2025-09-22
Qwen团队正式发布Qwen3Guard,这是Qwen系列中的首个安全护栏模型。Qwen3Guard基于强大的Qwen3基础模型,并针对安全分类任务进行了微调,能够对提示和响应进行…
大模型· 2025-09-18
Stability AI宣布将其图像编辑服务集成至Amazon Bedrock平台,为企业提供专业级图像编辑工具。这些工具包括图像修复、着色、背景移除等功能,支持多步骤创意流程的精…
大模型· 2025-08-21
DeepSeek 发布了其最新版本 V3.1,引入混合推理模式(Think & Non-Think),显著提升了模型在复杂任务中的推理效率,并支持长达 128K 的上下文长度。此外…
大模型· 2025-08-18
Qwen团队推出Qwen-Image-Edit,这是一款基于20B参数Qwen-Image模型构建的图像编辑工具。该工具通过扩展Qwen-Image的文本渲染能力,实现了精准的文本…
大模型· 2025-08-12
EleutherAI推出名为Deep Ignorance的新研究项目,通过对预训练数据进行过滤,为开放权重大语言模型(LLMs)构建抗篡改的安全机制。该方法旨在从源头上消除潜在风险…
大模型· 2025-08-12
EleutherAI宣布推出名为Deep Ignorance的新技术,通过对预训练数据进行过滤,为开放权重的大语言模型(LLM)构建防篡改的安全屏障。该技术旨在解决开放权重模型在训…
大模型· 2025-08-04
Qwen团队正式发布Qwen-Image,这是一款20B参数的多模态图像生成模型(MMDiT),在复杂文本渲染和精准图像编辑领域取得重大突破。Qwen-Image支持多行文本布局、…
大模型· 2025-08-02
Hugging Face推出了一款名为Kronos的时序基础模型,旨在解决现有时间序列模型在金融领域应用中的不足。Kronos通过创新的分词器将市场信息离散化为token序列,并使…
大模型· 2025-07-24
Qwen团队发布了Qwen-MT的全新版本(qwen-mt-turbo),该版本基于强大的Qwen3模型,通过整合数万亿多语言和翻译数据以及强化学习技术,显著提升了多语言理解和翻译…
大模型· 2025-07-22
Qwen团队正式发布其最新编程智能体模型Qwen3-Coder,该模型以4800亿参数和35亿激活参数为基础,支持高达256K原生上下文长度,并通过外推方法扩展至1M上下文长度。Q…