LangChain
LangChain 是当前最流行的 LLM 应用开发框架,覆盖从原型到生产的完整链路。 核心模块:langchain-core(抽象)/ langchain(集成)/ langgraph(图编排)/ langsmith(可观测性)。
核心概念
- Model I/O:统一封装各种 LLM、Chat Model、Embedding。
- Prompt Templates:模板化 prompt,支持变量、Few-shot。
- Output Parsers:把 LLM 输出解析成结构化数据。
- Chains:把多个步骤串成 pipeline。
- Agents:基于 LLM 的决策循环 + 工具调用。
- Retrievers:检索抽象层,跨向量库统一接口。
LangGraph:状态机 Agent
LangGraph 把 Agent 建模为状态图(StateGraph):
- 节点:每个步骤(LLM 调用、工具执行、人介入)。
- 边:转移条件(路由、循环、条件分支)。
- State:跨节点共享的状态对象(TypedDict)。
适合复杂流程:multi-agent、human-in-the-loop、可恢复执行。
LangSmith:可观测性
- Trace 每次 LLM 调用、工具执行、token 用量、延迟。
- 在线评估数据集。
- Prompt 版本管理 + A/B 测试。
- 生产监控告警。
适用
- Agent / 多步骤工具调用:首选 LangGraph。
- 复杂 RAG / 检索增强:LangChain + LlamaIndex 混用。
- 生产可观测性:LangSmith 必备。
限制
- API 迭代频繁:版本间 breaking change 多,文档跟不上。
- 抽象层有时过度:简单需求反而绕远路。
- 学习曲线:Chain / Agent / Graph / Expression Language 概念多。