Jev 是什么,凭什么上 HN 首页
9 月 21 日,Simon Willison 的博客更新了一篇短文,标题里直接写着 "Jev: A new shape for LLMs"——"新形状"三个字没加引号,也没加问号。原文链接:simonwillison.net/2026/Sep/21/jev/。
Jev 的开发者把它定位为一种"新型 LLM",主张走一条和当下主流架构不同的路。Simon 这个人不是会为平庸东西写博客的作者,他盯新模型的速度在独立评论员里算最快的之一,Mistral 早期、Llama 各种变体、GPT-5 前瞻,基本都是他第一个出声。所以他愿意写,至少说明 Jev 不是又一个 LoRA 微调套壳。
同一天,Jev 上了 Hacker News 首页。分数 20,评论 3 条——这个比例有点怪。正常情况下 HN 首页帖子的评论数大致是分数的 30%–60%,20 分的帖子通常会有 8–15 条评论。3 条说明:要么进来的人多但没人敢说话,要么看的人其实没那么多。两种情况我后面会展开。
HN 帖子链接:item?id=49796843。
"新形状"到底新在哪?
老实说,我现在写不出确切的答案,因为目前公开信息里:
- 没有 benchmark 数字
- 没有技术原理 paper 或 blog post
- 没有训练方法说明
- 没有开源权重(截止到 Simon 发稿时)
Simon 的博客摘要本身就一句话带过:"A new LLM with a new shape." 这种极简措辞在 AI 圈并不常见,大家通常恨不得把"颠覆性"三个字塞进标题。
基于这些线索,我能猜的方向有几个:
- 非 Transformer 主干——比如状态空间模型(Mamba 那一脉)、线性注意力变体、或者某种混合架构。
- 非自回归解码——并发生成、扩散式 LLM(像 Mercury 那种夹击生成)。
- 新拓扑——非链式推理、非 token-by-token,改成图结构或树结构生成。
- 完全另起炉灶——用一种全新的记忆机制替代 KV cache。
我个人倾向认为最可能是 #1 或 #4,因为这是过去两年非 Transformer 路线最有积累的方向。但这种猜测目前没法证实,只能等 Jev 自己出来说话。
为什么大家不爱评论——不是没人看,是没人敢评
20 分 / 3 条评论的奇怪比值,我给一个解释:
不是没人看,是社区无从下手。
HN 上技术帖的评论活跃度,跟两个东西强相关:
- 可验证的 benchmark:MMLU、HELM、HumanEval、LiveCodeBench 这些榜单上的数字一出,底下立马吵起来。
- 可读的代码 / 论文:要么 arxiv link,要么 GitHub repo,要么 demo URL。
Jev 这三条都没有。对于一个声称"新形状"的 LLM,连一张 loss curve 都没放出来,评论区的资深用户只会保持沉默——因为说啥都是猜,没人想当小丑。
这也解释了为什么 20 分还有 3 条评论——这 3 条大概率是好奇型短评("Interesting"、"Watching"),而不是真正的技术讨论。
我当年关注 Mamba 早期、Mistral 7B 泄露那段时期,HN 上的讨论曲线也是这样:先沉默,一旦有 repo 或 paper 立刻井喷。
Transformer 一统天下的这几年,挑战者们都怎么样了
把时钟拨回 2023 年底到 2026 年初,Transformer 的替代品至少冒出来过这几个:
| 项目 | 核心思路 | 现状 |
|---|---|---|
| Mamba / Mamba-2 | 状态空间模型,线性复杂度 | 有 paper、有开源版本,但生态(Hugging Face、vLLM 支持)远远落后于 Llama 系 |
| RWKV | RNN + Transformer 混合,强调长上下文高效 inference | 小众社区在跑,主流厂商基本没接入 |
| RetNet / TransNormer | 保留多尺度衰减注意力,号称替代 Transformer | 微软系项目,学术影响力大,工业部署几乎为零 |
| xLSTM | 扩展 LSTM 的记忆机制 | 2024 年由 Sepp Hochreiter 团队提出,paper 级热度 |
| Mercury / diffusion LLM | 扩散式生成,并行出 token | Inception Labs 在做,商业 demo 已上线 |
它们的共同点很扎心:inference 确实更便宜,但生态完全打不过 Transformer。
什么是生态?
- Hugging Face Transformers 一行代码加载
- vLLM、TensorRT-LLM、llama.cpp 这些推理框架原生支持
- 社区微调(LoRA、QLoRA)的工具链
- 教学资料、博客、Stack Overflow 答案
这套东西不是一两年能攒起来的。Llama 2 出来到 vLLM 稳定支持,中间花了一年多。Mamba 到现在 vLLM 支持还是 experimental 状态。
所以 Jev 如果真是非 Transformer 路线,它要解决的第一个问题不是"我的模型更好",而是"我的模型能被跑起来"。
我会怎么验证 Jev 是真活还是 PPT
给你一份我自己的实操清单——如果是你想认真看一个新模型,按这个顺序查:
1. 找 benchmark
第一眼盯三个榜单:
- MMLU-Pro(综合推理)
- HumanEval+ / LiveCodeBench(代码)
- IFEval(指令遵循)
如果这三个都没分数,先按 30% 折扣听。
2. 找推理成本
非 Transformer 模型最大的卖点通常是长上下文 inference 成本。问三个问题:
- 100K token 上下文下,吞吐量多少 token/s?
- KV cache 占用多少显存?
- 部署门槛——单卡 A100 / H100 能跑多大?
3. 跑你自己的测试
别只信官方数字。我一般会跑:
# 简单的长上下文检索测试
import jev # 假设的包名
model = jev.load("jev-base")
context = "..." * 50000 # 50K token
question = "在第 47,382 个 token 处,作者提到了哪个城市的名字?"
response = model.generate(
context=context,
prompt=question,
max_tokens=100,
)
print(response)
# 对比 Llama 3.1 70B 在同样输入下的回答
如果 Jev 真的有"新形状"的卖点,长上下文检索应该是它的强项。
4. 找代码 / 论文
- 有 GitHub repo 吗?star 数不重要,看 commit 频率和 issue 响应。
- 有 arxiv paper 吗?看看是不是只有架构图没有实验。
- 有 demo URL 吗?能不能注册就玩?
5. 什么时候该信,什么时候该观望
- 该信:开源权重 + 第三方复现 benchmark 一致 + 推理成本低于同档 Llama
- 该观望:仅有 demo、闭源、benchmark 全是自家跑
- 该直接忽略:连 demo 都没有,benchmark 也是转述别人的
按这个标准,Jev 目前处于"纯观望"阶段。
编辑思考
"新形状"这三个字如果是真的,意味着 2026 年 LLM 圈最大的叙事可能从"参数怎么变大"转向"架构能不能换"。这件事比 GPT-5 后一代更大参数模型更值得关注——因为它影响的不是单点性能,而是整个推理成本曲线和硬件需求结构。
但我对这条新闻保持谨慎乐观,原因有三:
第一,新架构 LLM 的死亡谷在生态,不在技术。Mamba、RWKV 都死在 Hugging Face 适配这一步,Jev 要么自己长出生态,要么被某个大厂收购后并入主流框架,否则三年内很可能消失在 AI 历史书脚注里。
第二,Simon 的博客不等于背书。他写的是"这值得注意",不是"这很厉害"。他写 Llama 4、GPT-5、Claude 新版本同样用类似的语调。读者要分清"注意到"和"推荐"的区别。
第三,目前公开信息太少。20 分 3 条评论这个数据点本身就说明社区还没形成共识。我个人预测:Jev 要么两周内放出一份完整 paper + repo,要么两周后从 HN 首页消失、被下一个新模型盖掉。
我赌前者 30%,后者 60%,还有 10% 是被某个大厂悄悄收编,从此再无独立消息。
不论哪种结局,2026 年剩下的几个月,我会一直盯着这件事。
来源(必须引用)
https://simonwillison.net/2026/Sep/21/jev/