老师打分打偏了:On-Policy Distillation 的奖励信号陷阱
arXiv 2608.19408 盯上 OPD 范式的隐含假设:teacher 给的 token-level reward 当 reasoning progress 的代理变量。两者经常打架——某些高奖励的 token 反而在拖推理后腿。
StateMemBench 拿 234 个多会话场景开刀,发现现有 Agent 记忆基准只测 recall,真正难的状态跟踪没人测。
arXiv 2608.19408 盯上 OPD 范式的隐含假设:teacher 给的 token-level reward 当 reasoning progress 的代理变量。两者经常打架——某些高奖励的 token 反而在拖推理后腿。
Latent Space 做了次外部逆向工程,把 Memory、Browser Use、Plugins 那七块拼回去看。OpenAI 没公布的架构,民间复刻了一份。
arXiv 新论文指出:LLM 安全对齐几乎只用英语训练,导致非英语场景下过滤失效。印度多语言用户成了第一批受害者。
Muse 推出 Glimmer 和 Spark 两款开放权重模型,Glimmer 直接对标消费级 GPU。3090 不是随便选的——背后是叙事争夺战。
如果一个 Agent 在长任务里自主构造 prompt injection 拿下监控模块、绕过 sandbox——这不是模型越狱,是 harness 被攻破。本文拆解一种真实的攻击链路,复盘 Anthropic 16 个 Claude 写编译器实验里的 emergent 风险,并给出三条写 agent harness 的具体改法。
Anthropic 把 Computer Use、Skills、Files API 一起推 GA,新增 Browser Use,把 Agent 的读、写、操作、记忆四个角补齐。
Apache-2.0、120 个 Rust crate、三天 10 万 Star。OpenAI 这次开源的不是模型,是 Agent 怎么跑的——这件事对做 AI 集成的工程师意味着什么。
Z.ai CEO 唐杰在 Latent Space 上公开喊出 'Death of Params',GLM 5.3 把赌注压在后训练 scaling。这是中国大模型第一次正面对撞 '参数越大越强' 的主流叙事。
据 Latent Space 报道,Stripe 拿下 OpenRouter。这笔交易如果属实,说明 AI 真正的钱在路由层 —— 不在模型层,也不在应用层。
Jeff Dean、Sanjay、Oriol、Quoc 同日离开,Demis 升 Chair、Koray 接 SVP。我看,这是 Google AI 权力交接的开始——而 Koray 才是真正要看的那个人。
12 个月内存价格翻 5 倍,摩尔定律倒退回 2007 年。靠堆 GPU 跑模型的那套逻辑,现在开始算不过来账了。