Together AI

Together AI 是 2022 年成立于旧金山的前沿模型云平台， 口号"去中心化 AI"，专注开源大模型的训练 + 推理 + 微调一体化服务。 公司由早期 Apache TVM / OctoML 团队衍生，技术底子是高性能 ML 编译与 分布式训练。在生成式 AI 浪潮里，它和 Fireworks AI 一起成为 "OpenAI 替代方案"的主力阵营。

关键能力

推理

• 100+ 开源模型托管（Llama / Qwen / DeepSeek / Mistral / Yi / Gemma 等）
• 自研推理引擎 Together Inference Engine，主打低延迟 + 低成本
• 兼容 OpenAI API，企业可平滑迁移
• 端到端 function calling / JSON mode 支持

训练

• Together Training：分布式 GPU 集群，支持 LoRA / QLoRA / 全参数
• 推出 RedPajama 开源数据集（1.2T token），推动开源 LLM 训练
• 与学术团队合作训练多个开源 LLM（如 StripedHyena / Yi）

研究

• 长期投入 FlashAttention 系列工作的复现与扩展
• Together Kernel Collection：高性能 attention 内核
• 发布开源 LLM 如 StripedHyena，对标 Llama / Mistral

影响力

• RedPajama 数据集是开源 LLM 训练的事实标准之一
• 与 Fireworks AI 一起把"开源模型可商用"的边界往前推
• 服务过 Character.ai、Perplexity、Salesforce Einstein 等头部 AI 产品
• 2024 年完成 $305M B 轮，估值 $3.3B

限制

• 与 Fireworks 同质化竞争严重，价格战压缩利润
• 训练集群规模不及 hyperscaler，企业级 SLA 不及 Azure / Bedrock
• 自研模型（StripedHyena）声量小，未进入主流开源阵营第一梯队