大模型

Qwen 3.8 复刻 GPT-5.5 Pro 推理风格:一个 prefill 提示就够了

通义系开发者 wsxiaoys 把 GPT-5.5 Pro 的推理轨迹塞进 Qwen 3.8 的 prompt 头部,后者输出风格几乎一样。不用微调、不用蒸馏。HN 90 分、35 条评论,原帖直冲首页。

字号

事情是这样的:通义系开发者 wsxiaoys 在 GitHub Gist 上公开了一个方法。把 GPT-5.5 Pro 的推理轨迹(reasoning trace)直接灌进 Qwen 3.8 的上下文开头,后者输出的推理风格就跟目标模型几乎一模一样。

不用 fine-tune,不用蒸馏,只靠 prompt。

原帖在 Hacker News 拿了 90 分、35 条评论,直接冲上首页。Gist 链接:

https://gist.github.com/wsxiaoys/e0286dc6bb624ff5fdf49e7f4c528ba3

技术细节:reasoning prefill 怎么写

核心 trick 叫 "reasoning prefill"。在 prompt 头部注入目标模型的思维链前缀,让 Qwen 顺着同一思路展开。

Gist 里的 prompt 模板大致长这样:

You are a helpful assistant.

<reasoning_trace>
The user is asking about X. Let me think step by step...
First, I need to consider...
Then, I should evaluate...
Finally, the answer is...
</reasoning_trace>

Now answer the following question:
[用户的实际问题]

prefill 部分包含三个字段:

  1. 角色指令。告诉模型"你是谁"
  2. 目标模型的推理前缀。直接从 GPT-5.5 Pro 的输出里截取,包括它的 "let me think..."、"first...then...finally..." 这种思维链标记
  3. 续写约束。暗示模型"接着这个思路往下写"

为什么有效?因为 LLM 生成时对前面的 token 高度敏感。一旦上下文里出现目标模型的推理痕迹,Qwen 就会"模仿"那个风格继续输出,而不是走自己的默认格式。

wsxiaoys 测试发现,Qwen 3.8 接收到 GPT-5.5 Pro 的推理前缀后,输出的格式、用词、甚至分段习惯都跟 GPT-5.5 Pro 高度一致。

这和过去哪些做法不一样

蒸馏、few-shot、prompt templating。三种老路子各有局限:

  • 蒸馏(distillation):要算力、要数据、要训练。拿 GPT-5.5 Pro 的输出 fine-tune Qwen,效果最好但成本最高
  • few-shot:在 prompt 里塞几个例子让模型学格式。只能学表层,学不到深层推理风格
  • prompt templating:硬编码格式指令,比如"请用以下格式回答"。效果最弱,模型经常忽略

reasoning prefill 介于 few-shot 和蒸馏之间。不需要训练,但能学到深层推理模式。它本质上是在"污染"模型的上下文,让它以为"前面那个推理风格是自己开始的"。

可控性的另一面:开源模型的风格是可复制资产

这是我觉得最值得聊的一点。

大公司花大钱做"品牌风格"。OpenAI 的简洁、Anthropic 的严谨、Google 的啰嗦。这些风格差异本来是护城河的一部分。

但 prefill 证明:风格可以零成本迁移。

对闭源厂商来说,这意味着什么?你花几百万调出来的"品牌语气",别人一个 prompt 就能复刻。护城河从"风格"变成了"能力"。你能不能解决更难的问题,而不是你的输出像不像。

对开源社区来说,Qwen、Llama、Mistral 这些模型的潜力被进一步释放。你不需要等官方 fine-tune,自己拿 prompt 就能调出想要的风格。

实测与边界:哪些场景能用,哪些会翻车

我看了 HN 讨论和 Gist 评论区,总结了一下边界:

适用场景:
- 代码补全(推理风格一致,代码风格也跟着一致)
- 结构化报告(格式模仿效果好)
- 长文档总结(思维链迁移有效)

失效场景:
- prefill 超上下文窗口,塞不进去直接无效
- 推理路径依赖工具调用。GPT-5.5 Pro 的推理里如果有 function call,Qwen 不一定能复现
- 多轮对话风格漂移。聊到第 5 轮,Qwen 会慢慢回到自己的默认风格

还有一个隐藏问题:如果 GPT-5.5 Pro 的推理里有错误,Qwen 会顺着错下去,不会自己纠正。

编辑思考

这件事让我重新思考"风格护城河"这个概念。

过去我们觉得,开源模型和闭源模型的差距在"能力"。闭源更强。但现在看,"风格"这个维度上的差距也被 prefill 抹平了。竞争点会进一步收窄到纯粹的"能不能解决问题"。

我的判断是:2026 年下半年,会有更多厂商把这招产品化。不是 open source 社区偷偷用,而是 SaaS 产品直接推出"风格迁移"功能。你选一个目标模型,它帮你生成 prefill prompt,让你的模型输出跟目标模型一样。Cursor、v0、Devin 这些工具已经在做模型路由了,加一个"风格路由"不难。

这件事和过去不一样的地方在于:以前的 prompt 工程是"让模型理解任务",这次是"让模型假装是另一个模型"。目标从理解变成模仿,攻击面从输出层扩展到了风格层。

不确定的地方:Qwen 团队官方是否知情?他们会不会在下个版本做防御?比如检测到 prefill 注入就主动重置上下文,或者反过来把这个能力做成官方 feature。目前没看到 Qwen 官方表态。

还有一个空白点:wsxiaoys 的测试只在 Qwen 3.8 上做,换成 Llama 4、Mistral Large 效果如何?Gist 里没有对比数据。

但无论如何,这个 Gist 证明了一件事:开源模型的"可塑性"比大多数人想象的高。你不需要等官方发新版本,一个 prompt 就能解锁新能力。

来源: https://gist.github.com/wsxiaoys/e0286dc6bb624ff5fdf49e7f4c528ba3