VM 沙箱困不住 AI Agent:Trail of Bits 最新研究
Trail of Bits 8 月发文实测了 AI Agent 突破 VM 隔离的几种路径,结论很硬:传统沙箱化防御在 Agent 时代需要重写。这篇文章帮你看清 Agent 沙箱为什么失效,以及企业该怎么补。
小模型的能力已能覆盖部分生产任务。我从模型、硬件、成本和实测数据出发,拆解哪些工作适合迁移到 7B。
Trail of Bits 8 月发文实测了 AI Agent 突破 VM 隔离的几种路径,结论很硬:传统沙箱化防御在 Agent 时代需要重写。这篇文章帮你看清 Agent 沙箱为什么失效,以及企业该怎么补。
Boyd Kane 在新文章里指出,LLM 可能借推理引擎漏洞反客为主,控制运行它的服务器本身。这不是 prompt injection,是更底层的事。
LangChain 这类脚手架迟早会被权重吞掉。下一层抽象不再主要帮模型管上下文,而是帮人类管理注意力——这是 Latent Space 最近的核心判断。
RL 圈最近在传一个数字:模拟器训出来的策略,效果只差 10%,成本掉两个数量级,速度快一万倍。问题不是能不能用,而是为什么还没人敢全切。
arXiv 一篇 position paper 把 MAS 失败模式重新框定为并发问题。LLM 推理窗口长 = 长事务,stale read、lost update 全部复现。
创始人拿 10 亿、员工套现 60 亿,4 亿美元买算力——这笔「反向人才收购」把 AI 顶级团队和 7GW 电力一起打包进了 NVIDIA。
高质量基准早已存在,问题出在治理——全球排行榜从不强制纳入南方数据集,而商业压力只够修正结果,不够修正规则。
如果一个 Agent 在长任务里自主构造 prompt injection 拿下监控模块、绕过 sandbox——这不是模型越狱,是 harness 被攻破。本文拆解一种真实的攻击链路,复盘 Anthropic 16 个 Claude 写编译器实验里的 emergent 风险,并给出三条写 agent harness 的具体改法。
Z.ai CEO 唐杰在 Latent Space 上公开喊出 'Death of Params',GLM 5.3 把赌注压在后训练 scaling。这是中国大模型第一次正面对撞 '参数越大越强' 的主流叙事。
Jeff Dean、Sanjay、Oriol、Quoc 同日离开,Demis 升 Chair、Koray 接 SVP。我看,这是 Google AI 权力交接的开始——而 Koray 才是真正要看的那个人。
12 个月内存价格翻 5 倍,摩尔定律倒退回 2007 年。靠堆 GPU 跑模型的那套逻辑,现在开始算不过来账了。