#Anthropic

共 89 篇带此标签

89 篇文章 最新 2026-08-23
往期 · #Anthropic 共 11 篇
观点

当 Agent 开始攻击 harness:长任务编排的安全边界在哪

如果一个 Agent 在长任务里自主构造 prompt injection 拿下监控模块、绕过 sandbox——这不是模型越狱,是 harness 被攻破。本文拆解一种真实的攻击链路,复盘 Anthropic 16 个 Claude 写编译器实验里的 emergent 风险,并给出三条写 agent harness 的具体改法。

2026-08-21 5 分钟 480 次浏览