智客信息 · 2026-10-21
Hugging Face发布RecursiveSI/flint (40B A2.5B):高性能开源大语言模型
Hugging Face推出了开源大语言模型RecursiveSI/flint (40B A2.5B),该模型在Hugging Face平台上发布,旨在为开发者提供高性能的语言处理能力。模型采用先进的架构设计,在多个基准测试中表现出色,尤其…
智客专题 开源旗舰专题
DeepSeek / Qwen / Llama / Mistral 等开源旗舰模型的技术解析、推理性能、部署实践与生态横评,覆盖权重、推理框架与下游微调。
· 2026年9月15日 #开源模型#开源AI#DeepSeek#Qwen#Llama#Mistral · 30 / 1602 篇内容
智客信息 · 2026-10-21
Hugging Face推出了开源大语言模型RecursiveSI/flint (40B A2.5B),该模型在Hugging Face平台上发布,旨在为开发者提供高性能的语言处理能力。模型采用先进的架构设计,在多个基准测试中表现出色,尤其…
智客前沿 · 2026-10-21
Hugging Face推出开源工具CoDA,旨在通过人机协作加速领域专家开发文本标注指南的过程。CoDA通过迭代优化语言模型的错误预测并整合专家反馈,将标注指南的开发时间从数周缩短至两小时,同时减少5倍的人工标注样本需求。该工具在健康指标…
智客前沿 · 2026-10-21
NVIDIA宣布扩展其开源模型家族,涵盖语言、机器人、生物和量子计算等领域。新发布的模型包括NVIDIA Nemotron 3.5 Super VL、Bolt和Retriever系列,NVIDIA Kumo用于结构化业务数据,NVIDIA …
智客信息 · 2026-10-21
Zion Sati发布了一款名为NetWasm的新工具,该工具通过优化C#代码在WebAssembly(WASM)中的编译过程,实现了在WASM文件大小上超越Rust的目标。这一突破性进展表明,C#在WebAssembly应用场景中具有更高…
智客前沿 · 2026-10-21
Huvyuan-MT-7B是一款开源的翻译模型,旨在替代GPT-4作为文化对齐机器翻译的解决方案。研究团队评估了该模型在三个风格维度(正式性、礼貌性和亲密性)和十二种语言对上的表现,并发现尽管整体性能不如GPT-4,但在亲密性和中文方向上表…
智客前沿 · 2026-10-20
Hugging Face发布了一款RL训练框架追踪器,通过分析2025年1月至2026年6月间的6939篇arXiv论文和7个开源RL训练框架的提交历史,量化了强化学习方法从论文到开源框架的实际转化效率。研究发现,在1598篇提出通用RL训…
智客前沿 · 2026-10-20
阿里发布Qwen-Audio-3.1-ASR系列模型,在语音识别、说话人分离转录以及通用音频理解能力上实现显著提升。该模型支持30种语言和16种中文方言,并提供指令控制功能,如历史上下文条件化、分层热词定制和原生转录优化。其说话人分离ASR…
智客信息 · 2026-10-20
DeepSeek推出DeepInfer,这是一款专为DeepSeek系列模型设计的高性能推理框架,旨在提升大模型在推理阶段的效率和性能。DeepInfer通过优化模型计算图、改进内存管理和引入自适应批处理机制,显著降低了推理延迟和资源消耗。…
智客信息 · 2026-10-20
开发者sjmelia利用大语言模型(LLM)对经典游戏《文明1》进行了高精度反编译,并将重构的C语言源码发布至GitHub。该源码能够使用原始的Microsoft C编译器进行编译,并与原版游戏的可执行文件几乎完全匹配(仅存在4字节的链接后…
智客信息 · 2026-10-20
Gradium公司宣布开源其首个模型系列Phonon,这是一组专为边缘设备设计的轻量化文本到语音(TTS)模型。该模型推理栈完全开源,支持超过10种后端硬件平台,包括CPU、GPU和NPU,并主要使用Rust语言开发。Phonon的发布旨在…
智客信息 · 2026-10-20
Google于2026年10月20日开源了TorchTPU,这是一款专为谷歌张量处理单元(TPU)优化的原生PyTorch后端。TorchTPU旨在弥合PyTorch与TPU硬件之间的性能差距,通过提供高效的张量计算支持和优化的内存管理机制…
智客前沿 · 2026-10-20
Anthropic于2026年10月20日正式开源其全新推理引擎DeepInfer。该引擎采用创新的架构设计,支持动态批处理、混合精度计算和自适应资源调度,显著提升AI模型的推理效率并降低计算成本。DeepInfer不仅兼容主流大模型,还针…
智客信息 · 2026-10-20
Respan发布了一款开源的AI网关,采用Rust语言开发并基于插件化架构设计。该网关的核心设计理念是解耦化,所有功能均以插件形式实现,包括不同AI模型提供商、协议、模态以及网关特性(如智能路由、PII数据脱敏等)。这种设计允许开发者通过添…
智客前沿 · 2026-10-20
美国政府已下令联邦民用机构移除DeepSeek AI产品及其相关第三方服务,理由是存在国家安全风险。这一决定标志着美国在AI技术领域对中国产品的进一步限制,可能对中美AI技术合作及全球AI供应链产生深远影响。
智客信息 · 2026-10-20
DeepSeek于2026年10月20日正式开源其推理引擎DeepInfer。该框架采用创新的架构设计,支持动态批处理、混合精度计算和自适应资源调度,显著提升AI模型的推理效率并降低计算成本。DeepInfer不仅兼容主流大模型,还针对长序…
智客信息 · 2026-10-20
TacoTakumi 发布了开源项目 VoiceManager 和 HermesConsole。VoiceManager 是一个低延迟的流式语音转语音(STT/TTS)服务器,支持本地化语音交互和会话上下文管理。HermesConsole …
智客信息 · 2026-10-20
Hugging Face于2026年10月20日正式开源其全新推理引擎DeepInfer。该引擎采用创新的架构设计,支持动态批处理、混合精度计算和自适应资源调度,显著提升AI模型的推理效率并降低计算成本。DeepInfer不仅兼容主流大模型…
智客信息 · 2026-10-20
MadBradSmith发布了一款名为DUMEdb的开源记忆引擎,旨在解决AI智能体在长上下文处理中的“会话遗忘”问题。该引擎借鉴了1959年IBM 1401系统的不可变单元记录会计方法,通过零转唤醒握手(Zero-Turn Wake Ha…
智客信息 · 2026-10-20
DeepSeek于2026年10月20日正式开源其推理引擎DeepInfer,旨在提升AI模型推理效率并降低计算成本。该引擎采用创新的架构设计,支持多种推理优化技术,包括动态批处理、混合精度计算以及自适应资源调度。DeepInfer不仅兼容…
智客信息 · 2026-10-20
MicroG项目发布了GmsCore,这是谷歌Android用户空间组件的开源替代实现。该项目旨在为用户提供一个无需依赖谷歌专有服务的Android生态系统,支持包括位置服务、云消息传递等功能。GmsCore通过开源方式为开发者提供了更高的…
智客前沿 · 2026-10-20
Hunyuan团队开源了一款名为Hunyuan-MT-7B的机器翻译模型,旨在为文化对齐的机器翻译提供开源替代方案。该模型基于检索增强的风格对齐框架RASTA,但采用开放权重设计,消除了对GPT-4等闭源模型的依赖。评估显示,尽管在正式性维…
智客前沿 · 2026-10-20
本研究探讨了五种开源大语言模型(TII Falcon 7B Instruct、Google Gemma 7B、Meta Llama 3.1 8B Instruct、Microsoft Phi Mini MoE Instruct 和 Qwen…
智客前沿 · 2026-10-19
Hugging Face发布了一款名为LOB-Impact Benchmark的开源基准,用于评估生成式限价订单簿(LOB)模型对市场影响的模拟能力。该基准通过注入执行型元订单并测量模型对市场反应的响应,评估模型在自由生成、元订单注入和执行…
智客前沿 · 2026-10-19
Hugging Face提出了一种名为Bridged Self-Distillation (BSD)的新框架,旨在解决从强教师模型向小规模学生模型进行推理能力迁移时的两大关键挑战:学生模型难以模仿复杂解决方案,以及教师模型的token级概率…
智客前沿 · 2026-10-19
MSR-Orchard推出WildAWM,这是一种可扩展的管道,用于合成可控环境和任务,以训练通用计算机使用智能体(CUAs)。WildAWM支持多种交互接口,包括图形用户界面、模型上下文协议服务和命令行接口,允许智能体灵活结合视觉交互、工…
智客前沿 · 2026-10-19
NX-AI推出KronLSTM,这是一种基于Kronecker Delta Rule的新型线性注意力架构,专为长上下文语言建模设计。该模型通过一种最小侵入性的记忆修正机制,仅沿矩阵空间单一方向修改记忆,从而减少对先前存储信息的干扰。实验表明…
智客信息 · 2026-10-19
美国国土安全部(DHS)发布了一项新命令,禁止DeepSeek AI的产品进入联邦民用机构的信息系统。这一决定源于对AI技术潜在安全风险的担忧,尤其是涉及敏感数据和关键基础设施的应用。尽管DeepSeek AI在开源社区中具有影响力,但此次…
智客信息 · 2026-10-19
Tac0mania团队发布了一款名为Taco的跨平台大语言模型(LLM)压缩方案,旨在解决不同硬件平台(如CPU、GPU)之间浮点运算差异导致的推理不一致问题。Taco通过整数化推理(int8权重、固定舍入、查找表)、精确的float32到…
智客信息 · 2026-10-19
Reddit用户Winter_Mistake_3185发布了一个免费的GPU内核工程系列教程,涵盖从基础GEMM(通用矩阵乘法)到高级FlashAttention及NVIDIA Hopper与Blackwell架构的优化技术。该系列以代码优…
智客信息 · 2026-10-19
Cohere宣布其最新模型架构已全面支持llama.cpp,包括North Micro Vision Instruct的视觉编码器。这一举措标志着Cohere模型在本地化部署和开源社区中的进一步兼容性和可扩展性提升。llama.cpp的支持…