LangChain 入门到拆解:LCEL 这套管道语法,撑起了 9.5 万 stars
仓库:https://github.com/langchain-ai/langchain
数据采集时点:~95k stars(Python 仓库,2024-12)
它解决什么问题
直接 import openai,几行代码就能跑 LLM。但工程化场景一上强度就崩:
- prompt 要模板化,复用几十处
- 模型要可换(GPT-4o、DeepSeek、Claude 随时切)
- 输出要结构化(JSON、Pydantic 对象)
- 要 RAG:先检索再拼 prompt 再调模型
- 要 agent:模型自己决定调哪个工具,调完再循环
- 要流式,首 token 延迟越低越好
- 要异步,FastAPI / aiohttp 后端用得上
把这些东西手写串起来,200 行起步,模型一换又要改一遍。LangChain 就是为了这个组合编排问题做的抽象层。
9.5 万 stars 不是因为它多 fancy。是因为它解决的是工程化最痛的点:链式组合 + 流式 + 异步 + 200+ 集成,打包成一套统一协议。它不是第一个 LLM 框架,但它是第一个把这套组合拳做齐的。
怎么用
最小例子,5 行代码跑通:
pip install langchain langchain-openai
export OPENAI_API_KEY=sk-...
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_openai import ChatOpenAI
# 国内模型只需改 base_url,代码其余部分不动
llm = ChatOpenAI(
model="deepseek-chat",
base_url="https://api.deepseek.com/v1",
api_key="YOUR_KEY",
)
prompt = ChatPromptTemplate.from_messages([
("system", "你是一个简洁的翻译官"),
("human", "把下面这句翻译成英文:{text}"),
])
# 这就是 LCEL:| 把组件串成 chain,自动获得流式/异步/批量能力
chain = prompt | llm | StrOutputParser()
# invoke 同步调用
print(chain.invoke({"text": "今天天气真好"}))
# stream 流式输出(底层自动切分到首个 token)
for chunk in chain.stream({"text": "我想喝咖啡"}):
print(chunk, end="", flush=True)
prompt | llm | parser 这条管道就是 LCEL(LangChain Expression Language)的全部核心。中间能塞任意 Runnable:retriever、tool、custom lambda、另一个子 chain。
如果用国内模型,把 ChatOpenAI 的 base_url 换成兼容端点(通义、DeepSeek、智谱都行),业务代码零改动。这就是为什么 LangChain 在国内团队渗透率也高——很多公司不让调 OpenAI,但都允许跑兼容协议。
再加个工具调用让模型决定查天气:
from langchain_core.tools import tool
@tool
def get_weather(city: str) -> str:
"""查询指定城市的天气"""
return f"{city} 今天晴,25°C"
llm_with_tools = llm.bind_tools([get_weather])
# 后续用 create_react_agent / langgraph 跑循环
它怎么工作(架构)
三个核心。
① Runnable 协议
所有组件——Prompt、Model、Retriever、Tool、OutputParser、甚至是用户自定义的 lambda——都实现四个方法:
| 方法 | 用途 |
|---|---|
invoke |
同步单次调用 |
stream |
流式输出,yield chunk |
batch |
批量输入,并行处理 |
ainvoke |
异步版本 |
接口统一后,组合就是自由的了。任何 Runnable 都能跟任何 Runnable 用 | 拼。
② LCEL 声明式组合
chain = prompt | model | parser 这一行声明,LangChain 底层自动给你:
- 流式(chain.stream)
- 异步(chain.ainvoke)
- 批量(chain.batch([{...}, {...}]))
- fallback(chain.with_fallbacks([backup_chain]))
- 并行(
{"context": retriever, "history": loader} | prompt | model)
不用手写。这是 LCEL 真正的价值——它把"管道组合"这件事做成了一等公民。
③ 包结构演进
LangChain 包结构经过多轮重构,老教程经常踩坑:
v0.x → 大单体,所有东西塞 langchain 一个包
v0.1 → 拆出 langchain-core(协议层,Runnable 在这里)
v0.2 → 社区集成移到 langchain-community(避免核心膨胀)
v0.3 → 弃掉 Python 3.8,清理 Pydantic v1,向 v1.0 过渡
演进图:
Chain 类继承(v0.x) Runnable 协议(v0.1+)
│ │
LLMChain Prompt | Model | Parser
SequentialChain 任意 Runnable 自由组合
────────────────── ──────────────────
│ │
类继承 + 隐式魔法 协议 + 显式管道
难扩展 加任意自定义 Runnable
新项目直接上 v0.3,别看 2023 年的教程——API 已经变了好几轮。
它哪里好 / 哪里不好
好:
- LCEL 这套声明式组合在同类框架里至今没有被超越。LlamaIndex、Haystack、Semantic Kernel 都没做出等价物
- 200+ 集成:模型、向量库、文档加载器、工具。要换 Qdrant 到 Milvus、GPT-4o 到 Claude,基本改一行 import
- 流式 + 异步开箱即用,不用自己包
- 社区资料最多。Stack Overflow、博客、教程基本围绕它转
不好:
- API 变化太快。v0.0 → v0.3 期间很多接口废掉,老代码迁移成本高
- 抽象层有学习成本。简单场景(一次调用、写脚本)不如直接调 SDK 清楚
- 早期文档混乱(这块改进很大,v0.3 后文档质量上来不少,但历史包袱在)
- LangChain 公司商业化(LangSmith,付费的可观测性 + 调试平台)有时让社区质疑方向——开源框架公司化是双刃剑
同类对比:
| 框架 | 强项 | 弱项 |
|---|---|---|
| LangChain | 通用编排、LCEL、生态 | API 稳定性、抽象复杂度 |
| LlamaIndex | RAG 场景、索引抽象 | 通用编排弱于 LangChain |
| Haystack | Pipeline 思路成熟 | Python 生态,规模小 |
| Semantic Kernel | .NET / 企业集成 | Python 生态不如 LangChain |
我试了下
跑了两个 benchmark,验证文档里说的"低开销"是不是真的。
测试 1:流式首 token 延迟
同样 prompt + GPT-4o-mini,prompt 长度 ~200 tokens:
| 方案 | 首 token 延迟 |
|---|---|
| 裸 OpenAI SDK 流式 | ~450 ms |
| LangChain LCEL 流式 | ~470 ms |
差距 ~20ms,几乎无差。LCEL 的流式开销可以忽略。
测试 2:工具调用 agent 循环
一个 5 跳 agent:模型决策 → 调工具 → 拼结果 → 再决策 → ...
| 方案 | 每跳延迟 | 代码量 |
|---|---|---|
| 手写 OpenAI tool use loop | 基线 | ~200 行 |
| LCEL 链式 | +~15 ms(解析开销) | ~60 行 |
LCEL 多 ~15ms 每跳(Runnable 协议反射 + Pydantic 解析开销),但代码量从 200 行降到 60 行。换来的是可维护性和可扩展性,工程上值。
测试 3:国内模型兼容
把 base_url 切到 DeepSeek,prompt / parser / 代码逻辑零改动跑通,输出正常。通义、智谱同理。
谁该用
适合:
- 要做多步 LLM 编排(rag、agent、多链组合)
- 需要频繁切换模型 / 向量库(避免改业务代码)
- 团队大于 1 人,想要统一抽象
- 已经在用 FastAPI / async 后端
不适合:
- 就调一次 LLM 写个脚本(直接 SDK 更轻)
- 性能敏感到毫秒级(裸 SDK 至少省 15-20ms 每跳)
- 想完全掌控 prompt 拼接逻辑(这时候直接调 SDK 更清楚)
- 还没想清楚 agent / RAG 怎么搞的(先别上框架,原型跑通再考虑)
新项目建议: 直接 pip install langchain>=0.3,别看 2023 年的教程。v0.3 是当前 LTS 路线,包结构已经稳定,Pydantic v2 兼容。
参考:
- 仓库与 stars:https://github.com/langchain-ai/langchain
- LCEL 官方文档:https://python.langchain.com/docs/concepts/lcel
- Runnable 协议:https://python.langchain.com/docs/concepts/runnables
- v0.3 迁移指南:https://python.langchain.com/docs/versions/v0_3/