大型語言模型

用一組 prefill 提示,讓 Qwen 3.8 複製 GPT-5.5 Pro 的推理語氣

通義實驗室開發者 wsxiaoys 把 GPT-5.5 Pro 的推理軌跡塞進 Qwen 3.8 的 prompt 開頭,輸出風格幾乎如出一轍——不需微調、不需蒸餾。這篇 Gist 在 Hacker News 衝上首頁,獲得 90 分與 35 則討論。

字級

用一組 prefill 提示,讓 Qwen 3.8 複製 GPT-5.5 Pro 的推理語氣

事情是這樣的:通義系開發者 wsxiaoys 在 GitHub Gist 上公開了一個手法,把 GPT-5.5 Pro 的推理軌跡(reasoning trace)直接灌進 Qwen 3.8 的上下文開頭,後者輸出推理的語氣就和目標模型幾乎一模一樣。

不必 fine-tune,不必蒸餾,只靠 prompt。

原帖在 Hacker News 拿到 90 分、35 則評論,直接衝上首頁。Gist 連結:

https://gist.github.com/wsxiaoys/e0286dc6bb624ff5fdf49e7f4c528ba3

技術細節:reasoning prefill 怎麼寫

核心手法叫做 "reasoning prefill"。在 prompt 開頭注入目標模型的思維鏈前綴,讓 Qwen 順著同一條思路展開。

Gist 裡的 prompt 模板大致長這樣:

You are a helpful assistant.

<reasoning_trace>
The user is asking about X. Let me think step by step...
First, I need to consider...
Then, I should evaluate...
Finally, the answer is...
</reasoning_trace>

Now answer the following question:
[使用者的實際問題]

prefill 部分包含三個欄位:

  1. 角色指令。告訴模型「你是誰」
  2. 目標模型的推理前綴。直接從 GPT-5.5 Pro 的輸出裡截取,包括它的 "let me think..."、"first...then...finally..." 這類思維鏈標記
  3. 續寫約束。暗示模型「接著這個思路往下寫」

為什麼有效?因為 LLM 在生成時對前面的 token 高度敏感。一旦上下文出現目標模型的推理痕跡,Qwen 就會「模仿」那個語氣繼續輸出,而不是走自己的預設格式。

wsxiaoys 測試發現,Qwen 3.8 接收到 GPT-5.5 Pro 的推理前綴後,輸出的格式、用詞、甚至分段習慣都和 GPT-5.5 Pro 高度一致。

這和過去哪些做法不一樣

蒸餾、few-shot、prompt templating。三種老路子各有局限:

  • 蒸餾(distillation):要算力、要資料、要訓練。拿 GPT-5.5 Pro 的輸出 fine-tune Qwen,效果最好但成本也最高
  • few-shot:在 prompt 裡塞幾個範例讓模型學格式。只能學到表層,學不到深層推理語氣
  • prompt templating:硬編碼格式指令,例如「請用以下格式回答」。效果最弱,模型經常忽略

reasoning prefill 介於 few-shot 和蒸餾之間。不需要訓練,卻能學到深層推理模式。本質上是在「污染」模型的上下文,讓它以為「前面那個推理語氣是自己開始的」。

可控性的另一面:開源模型的語氣是可複製資產

這是我覺得最值得聊的一點。

大公司花大錢打造「品牌語氣」。OpenAI 的簡潔、Anthropic 的嚴謹、Google 的囉嗦。這些語氣差異本來是護城河的一部分。

但 prefill 證明了:語氣可以零成本遷移。

對閉源廠商來說,這意味著什麼?你花幾百萬調出來的「品牌口吻」,別人一組 prompt 就能複製。護城河從「語氣」轉移到「能力」。決勝點變成你能不能解決更難的問題,而不是你的輸出像不像。

對開源社群來說,Qwen、Llama、Mistral 這些模型的潛力被進一步釋放。你不必等官方 fine-tune,自己拿 prompt 就能調出想要的語氣。

實測與邊界:哪些場景能用,哪些會翻車

我看了 HN 討論串和 Gist 留言區,整理出目前的邊界:

適用場景:

  • 程式碼補全(推理語氣一致,程式碼風格也跟著一致)
  • 結構化報告(格式模仿效果好)
  • 長文件摘要(思維鏈遷移有效)

失效場景:

  • prefill 超出上下文窗口,塞不進去直接無效
  • 推理路徑依賴工具呼叫。GPT-5.5 Pro 的推理裡如果有 function call,Qwen 不一定能復現
  • 多輪對話語氣漂移。聊到第 5 輪,Qwen 會慢慢回到自己的預設語氣

還有一個隱藏問題:如果 GPT-5.5 Pro 的推理本身有錯,Qwen 會順著錯下去,不會自行修正。

編輯觀點

這件事讓我重新思考「語氣護城河」這個概念。

過去我們覺得,開源模型和閉源模型的差距在「能力」。閉源更強。但現在看來,「語氣」這個維度上的差距也被 prefill 抹平了。競爭點會進一步收窄到純粹的「能不能解決問題」。

我的判斷是:2026 年下半年,會有更多廠商把這招產品化。不是開源社群偷偷用,而是 SaaS 產品直接推出「語氣遷移」功能。你選一個目標模型,它幫你生成 prefill prompt,讓你的模型輸出和目標模型一樣。Cursor、v0、Devin 這些工具已經在做模型路由了,加一個「語氣路由」並不難。

這件事和過去不同的地方在於:以前的 prompt 工程是「讓模型理解任務」,這次是「讓模型假裝是另一個模型」。目標從理解變成模仿,攻擊面從輸出層擴展到了語氣層。

不確定的地方:Qwen 團隊官方是否知情?他們會不會在下個版本做防禦?例如偵測到 prefill 注入就主動重置上下文,或者反過來把這個能力做成官方 feature。目前沒看到 Qwen 官方表態。

還有一個空白點:wsxiaoys 的測試只在 Qwen 3.8 上做,換成 Llama 4、Mistral Large 效果如何?Gist 裡沒有對比資料。

但無論如何,這個 Gist 證明了一件事:開源模型的「可塑性」比大多數人想像的高。你不必等官方發新版本,一組 prompt 就能解鎖新能力。

來源: https://gist.github.com/wsxiaoys/e0286dc6bb624ff5fdf49e7f4c528ba3