框架

LangChain 深度拆解:LCEL 管道語法撐起 9.5 萬星的秘密

從一行鏈式呼叫開始,看 LangChain 如何把 LLM 應用工程化變成一門正經的技術活。

字級

它解決什麼問題

直接 import openai,幾行程式碼就能跑 LLM。但工程化場景一上強度就崩:

  • prompt 要模板化,複用幾十處
  • 模型要可換(GPT-4o、DeepSeek、Claude 隨時切)
  • 輸出要結構化(JSON、Pydantic 物件)
  • 要 RAG:先檢索再拼 prompt 再調模型
  • 要 agent:模型自己決定調哪個工具,調完再迴圈
  • 要串流,首 token 延遲越低越好
  • 要非同步,FastAPI / aiohttp 後端用得上

把這些東西手寫串起來,200 行起跳,模型一換又要改一遍。LangChain 就是為了這個組合編排問題做的抽象層。

9.5 萬 stars 不是因為它多 fancy。是因為它解決的是工程化最痛的點:鏈式組合 + 串流 + 非同步 + 200+ 整合,打包成一套統一協定。它不是第一個 LLM 框架,但它是第一個把這套組合拳做齊的。

怎麼用

最小例子,5 行程式碼跑通:

pip install langchain langchain-openai
export OPENAI_API_KEY=sk-...
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_openai import ChatOpenAI

# 國內模型只需改 base_url,程式碼其餘部分不動
llm = ChatOpenAI(
    model="deepseek-chat",
    base_url="https://api.deepseek.com/v1",
    api_key="YOUR_KEY",
)

prompt = ChatPromptTemplate.from_messages([
    ("system", "你是一個簡潔的翻譯官"),
    ("human", "把下面這句翻譯成英文:{text}"),
])

# 這就是 LCEL:| 把元件串成 chain,自動獲得串流/非同步/批次能力
chain = prompt | llm | StrOutputParser()

# invoke 同步呼叫
print(chain.invoke({"text": "今天天氣真好"}))

# stream 串流輸出(底層自動切分到首個 token)
for chunk in chain.stream({"text": "我想喝咖啡"}):
    print(chunk, end="", flush=True)

prompt | llm | parser 這條管道就是 LCEL(LangChain Expression Language)的全部核心。中間能塞任意 Runnable:retriever、tool、custom lambda、另一個子 chain。

如果用國內模型,把 ChatOpenAI 的 base_url 換成相容端點(通義、DeepSeek、智譜都行),業務程式碼零改動。這就是為什麼 LangChain 在國內團隊滲透率也高——很多公司不讓調 OpenAI,但都允許跑相容協定。

再加個工具呼叫讓模型決定查天氣:

from langchain_core.tools import tool

@tool
def get_weather(city: str) -> str:
    """查詢指定城市的天氣"""
    return f"{city} 今天晴,25°C"

llm_with_tools = llm.bind_tools([get_weather])
# 後續用 create_react_agent / langgraph 跑迴圈

它怎麼運作(架構)

三個核心。

① Runnable 協定
所有元件——Prompt、Model、Retriever、Tool、OutputParser、甚至使用者自訂的 lambda——都實作四個方法:

方法用途
invoke同步單次呼叫
stream串流輸出,yield chunk
batch批次輸入,並行處理
ainvoke非同步版本

介面統一後,組合就是自由的了。任何 Runnable 都能跟任何 Runnable 用 | 拼。

② LCEL 宣告式組合
chain = prompt | model | parser 這一行宣告,LangChain 底層自動給你:

  • 串流(chain.stream)
  • 非同步(chain.ainvoke)
  • 批次(chain.batch([{...}, {...}]))
  • fallback(chain.with_fallbacks([backup_chain]))
  • 並行({"context": retriever, "history": loader} | prompt | model)

不用手寫。這是 LCEL 真正的價值——它把「管道組合」這件事做成了一等公民。

③ 套件結構演進
LangChain 套件結構經過多輪重構,老教學經常踩坑:

v0.x      → 大單體,所有東西塞 langchain 一個包
v0.1      → 拆出 langchain-core(協定層,Runnable 在這裡)
v0.2      → 社群整合移到 langchain-community(避免核心膨脹)
v0.3      → 棄掉 Python 3.8,清理 Pydantic v1,向 v1.0 過渡

演進圖:

Chain 類別繼承(v0.x)        Runnable 協定(v0.1+)
        │                              │
   LLMChain                  Prompt | Model | Parser
   SequentialChain            任意 Runnable 自由組合
   ──────────────────  ──────────────────
        │                              │
   類別繼承 + 隱式魔法            協定 + 顯式管道
   難擴充                       加任意自訂 Runnable

新專案直接上 v0.3,別看 2023 年的教學——API 已經變了好幾輪。

它哪裡好 / 哪裡不好

好:

  • LCEL 這套宣告式組合在同類框架裡至今沒有被超越。LlamaIndex、Haystack、Semantic Kernel 都沒做出等價物
  • 200+ 整合:模型、向量庫、文件載入器、工具。要換 Qdrant 到 Milvus、GPT-4o 到 Claude,基本改一行 import
  • 串流 + 非同步開箱即用,不用自己包
  • 社群資料最多。Stack Overflow、部落格、教學基本圍繞它轉

不好:

  • API 變化太快。v0.0 → v0.3 期間很多介面廢掉,老程式碼遷移成本高
  • 抽象層有學習成本。簡單場景(一次呼叫、寫腳本)不如直接調 SDK 清楚
  • 早期文件混亂(這塊改進很大,v0.3 後文件品質上來不少,但歷史包袱在)
  • LangChain 公司商業化(LangSmith,付費的可觀測性 + 除錯平台)有時讓社群質疑方向——開源框架公司化是雙刃劍

同類對比:

框架強項弱項
LangChain通用編排、LCEL、生態API 穩定性、抽象複雜度
LlamaIndexRAG 場景、索引抽象通用編排弱於 LangChain
HaystackPipeline 思路成熟Python 生態規模小
Semantic Kernel.NET / 企業整合Python 生態不如 LangChain

我試了一下

跑了兩個 benchmark,驗證文件裡說的「低開銷」是不是真的。

測試 1:串流首 token 延遲
同樣 prompt + GPT-4o-mini,prompt 長度 ~200 tokens:

方案首 token 延遲
裸 OpenAI SDK 串流~450 ms
LangChain LCEL 串流~470 ms

差距 ~20ms,幾乎無差。LCEL 的串流開銷可以忽略。

測試 2:工具呼叫 agent 迴圈
一個 5 跳 agent:模型決策 → 調工具 → 拼結果 → 再決策 → ...

方案每跳延遲程式碼量
手寫 OpenAI tool use loop基準~200 行
LCEL 鏈式+~15 ms(解析開銷)~60 行

LCEL 多 ~15ms 每跳(Runnable 協定反射 + Pydantic 解析開銷),但程式碼量從 200 行降到 60 行。換來的是可維護性和可擴充性,工程上值。

測試 3:國內模型相容
把 base_url 切到 DeepSeek,prompt / parser / 程式碼邏輯零改動跑通,輸出正常。通義、智譜同理。

誰該用

適合:

  • 要做多步 LLM 編排(rag、agent、多鏈組合)
  • 需要頻繁切換模型 / 向量庫(避免改業務程式碼)
  • 團隊大於 1 人,想要統一抽象
  • 已經在用 FastAPI / async 後端

不適合:

  • 就調一次 LLM 寫個腳本(直接 SDK 更輕)
  • 效能敏感到毫秒級(裸 SDK 至少省 15-20ms 每跳)
  • 想完全掌控 prompt 拼接邏輯(這時候直接調 SDK 更清楚)
  • 還沒想清楚 agent / RAG 怎麼搞的(先別上框架,原型跑通再考慮)

新專案建議:直接 pip install langchain>=0.3,別看 2023 年的教學。v0.3 是目前 LTS 路線,套件結構已經穩定,Pydantic v2 相容。


參考:

來源: https://github.com/langchain-ai/langchain