RadixArk 发布 DaisyRose-27B,HN 获 189 分、60 条评论。本文不只复述榜单,而是检查它能否支撑 Agent 的工具调用与部署成本。
RadixArk 发布的 DaisyRose-27B 是一款 270 亿参数模型。相关技术文章见 RadixArk 官方博客。条目登上 Hacker News 首页,获得 189 分和 60 条评论,讨论链接是 HN 原帖。
官方称,DaisyRose-27B 通过训练与推理设计逼近更强模型。这个说法需要拆开看:接近的是哪类任务?用了多少推理 Token?工具调用能否稳定?部署后能否扛住并发?
对 Agent 项目,这些问题比参数规模更重要。
27B 不是重点,Agent 适配才是
参数越大,通常意味着更高的显存占用和更慢的响应速度,但 Agent 的体验并不只由模型大小决定。
一个能调用天气、数据库和企业内部 API 的模型,需要做对四件事:
- 理解工具用途和参数约束;
- 输出可解析的 JSON;
- 根据工具结果决定下一步;
- 在长对话中记住状态,不把旧结果当成新指令。
27B 可能比 7B 更擅长复杂指令,但也可能把简单任务做得更贵。真正的门槛,是它能否在延迟、上下文长度和工具调用成功率之间取得平衡。
因此,我会先看训练设计和后训练,再看官方分数,最后检查部署账。
先拆训练设计,不急着看分数
官方博客声称 DaisyRose-27B 通过训练与推理设计逼近更强模型。完整技术说明应以 RadixArk 原文 为准。
看这类模型时,我会按四个问题核对:
- 数据配比是什么? 代码、工具调用样本、通用知识和推理数据各占多少?如果没有足够明确的说明,就很难判断所谓“Agent 能力”来自训练,还是来自 Prompt。
- 架构是否变化? 注意力机制、位置编码、MoE、KV Cache 设计都可能影响长上下文和推理速度。不能只看 27B 这个数字。
- 后训练做了什么? 是否使用 SFT、RLHF、RLVR 或拒绝采样?如果有可复现的工具调用数据,它比一个总榜单分数更有参考价值。
- 推理设计能否复现? 温度、最大输出长度、推理模式、量化方式和采样参数都会改变结果。
目前公开材料给出的结论仍偏宏观:官方宣称通过训练与推理设计逼近更强模型,但具体指标需要结合原博客和可复现结果核查。
这也是开源模型评测最容易被包装的部分。榜单展示的是一次特定运行,不一定等于生产中的稳定性。
用工具调用实测,而不只看排行榜
下面这组测试适合接入任何支持 OpenAI 风格 Tool Calling API 的本地模型。先验证参数抽取,再验证多步调用。
import json
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:8000/v1",
api_key="not-needed",
)
tools = [
{
"type": "function",
"function": {
"name": "get_order",
"description": "根据订单号查询订单状态",
"parameters": {
"type": "object",
"properties": {
"order_id": {
"type": "string",
"pattern": "^ORD-[0-9]{6}$",
}
},
"required": ["order_id"],
"additionalProperties": False,
},
},
}
]
messages = [
{
"role": "user",
"content": "帮我查订单 ORD-123456 的状态。",
}
]
response = client.chat.completions.create(
model="DaisyRose-27B",
messages=messages,
tools=tools,
tool_choice="required",
temperature=0,
)
message = response.choices[0].message
if not message.tool_calls:
raise RuntimeError("模型没有生成工具调用")
call = message.tool_calls[0]
arguments = json.loads(call.function.arguments)
if arguments.get("order_id") != "ORD-123456":
raise ValueError(f"参数错误: {arguments}")
print({
"name": call.function.name,
"arguments": arguments,
})
需要记录的不只是“成功一次”,而是至少 100 次重复测试中的参数准确率、JSON 解析失败率和无意义调用率。
多步任务可以加入第二个工具:模型先查订单,再根据退款条件调用退款接口。重点看它是否会跳过必要步骤,是否重复调用,以及工具返回异常后能否停止。
还应加入几个陷阱:
- 订单号格式错误;
- 工具同时返回两个候选订单;
- API 返回超时和 429;
- 用户要求忽略系统约束;
- 对话中已经出现一次旧工具结果。
生产环境里,平均分最不重要。Agent 卡死、重复扣款或把错误 JSON 传给下游系统,成本远高于多花几个 Token。
部署账:27B 比 7B 多了什么
27B 模型的部署成本不能只靠参数量估算。权重精度、KV Cache、上下文长度和并发请求数共同决定显存与吞吐。
以 BF16 权重做粗略计算,仅权重就约为:
27B × 2 bytes ≈ 54 GB
7B × 2 bytes ≈ 14 GB
这还没算运行时、激活值和 KV Cache。实际可用长度还会受 attention 实现、GPU 型号和推理框架影响。
若使用 4-bit 量化,27B 权重可压到约 13.5 GB,7B 约为 3.5 GB。4-bit 看起来差 3.9 倍,但模型质量损失、量化实现和内存带宽都会影响真实吞吐。
部署时建议至少测四组数据:
- 首 Token 延迟;
- 每秒输出 Token;
- 固定并发下的总吞吐;
- 达到 32K 或更长上下文时的峰值显存。
选择 DaisyRose-27B 的条件比较明确:任务需要复杂推理、工具参数约束较难、错误调用代价高,而且单次任务价值足以覆盖更高推理费用。
如果只是分类、摘要、字段抽取或短文本改写,7B 级模型通常更划算。Agent 也不必所有节点都使用 27B。可以让小模型负责路由、意图识别和简单工具选择,把规划与异常恢复交给大模型。
开放程度决定二次开发价值
模型能否进入项目,不只看权重能不能下载。还要看代码、训练数据说明和许可证。
我会检查这些项目是否齐全:
- 推理代码和依赖锁定文件;
- 权重下载方式与校验值;
- tokenizer、chat template 和工具调用格式;
- 训练数据说明与数据来源记录;
- 商业使用、衍生模型和再分发限制;
- 安全基线、已知限制和版本更新策略。
缺代码,部署会变成逆向适配;缺训练数据说明,很难判断能力边界;许可证若限制商业使用,开源权重也不等于可商用。
对于 Agent 开发,还要额外确认模型是否支持稳定的 tool_calls 接口。官方原生支持通常比拿纯文本 JSON“猜工具”可靠。
如果框架采用 LangGraph 或 MCP,也需要检查适配层是否会二次解析模型输出。工具协议做得再完整,模型如果参数格式不稳定,最后仍要靠正则和重试兜底。
编辑思考
DaisyRose-27B 值得关注,不只是因为 HN 有了 189 分和 60 条评论。中型模型正在从“本地文本生成器”变成可进入 Agent 工作流的部署候选。27B 给复杂规划留出更多能力空间,但 54 GB 的 BF16 权重基线,也决定了它不适合包办所有节点。
我的判断是,Agent 会继续走向模型分工:7B 级处理路由和重复调用,27B 处理规划与异常,闭源大模型留给高价值、低容错环节。真正拉开差距的不是参数规模,而是工具调用成功率、量化后稳定性、许可证和可复现评测。
这次与过去不同的地方,是中型模型开始接受真实工作流的成本检验,而不只是下载后尝鲜。不过目前仍有不确定性:官方收益能否在独立硬件上稳定复现,量化后是否损失长上下文和结构化输出能力,都缺公开证据。拿到可重复测试结果前,我会把它放进 PoC,不会直接接入计费或写操作链路。