Together.ai 披露 2026 年 6 月和 7 月部分请求发生提示词泄露。本文拆解 Agent 的数据链路,并给出日志审计、字段脱敏和工具权限治理清单。
Together.ai 在官方文章《Security Event: Prompt Leakage for Requests in June and July of 2026》中披露,2026 年 6 月和 7 月,部分提交请求发生提示词泄露。
问题不只是一句提示词被看到了。进入模型的上下文,往往同时带着用户资料、检索片段、工具参数和业务数据。对企业来说,提示词已经从聊天文本变成了运行数据。
目前公开摘要没有给出受影响请求数、持续时间、攻击路径或具体技术根因。因此,不能直接把问题归因于某项租户隔离配置,也不能替 Together.ai 补齐调查结论。
但这次事件暴露了一个必须处理的问题:Agent 一旦接入第三方模型,开发者面对的就不只是一个 API 调用,而是一条数据链路。
泄露的不是一句话,而是一条数据链
先拆开 prompt 里的数据。
一个普通的客服 Agent,发送给模型的请求可能包含:
- 用户姓名、订单号和会话记录
- RAG 检索出的合同片段、数据库记录或内部知识库
- Function Calling 的工具名称与参数
- 系统提示词、规则、示例和业务背景
- Agent 在前序步骤生成的中间结果
下面是一段结构化示意:
messages = [
{
"role": "system",
"content": "你是订单客服。不得透露用户隐私信息。"
},
{
"role": "user",
"content": "请查询订单 ORD-2048 的物流,并判断是否需要退款。"
},
{
"role": "tool",
"content": "{\"customer_email\": \"lin@example.com\", \"address\": \"上海市浦东新区某地址\"}"
}
]
这段示例很短。真实 Agent 的 prompt 可能更长,敏感字段也可能藏在工具返回值、检索文档和历史状态里。
Together.ai 披露的泄露对象,是用户提交给平台的请求内容。换句话说,只要内容进入 prompt,就可能被复制到错误日志、错误样本、调试 trace,或其他不该出现的存储位置。
对普通应用,这可能只是一次日志管理失误。对 Agent,影响会沿着工作流继续扩散。一个被污染的请求,不只暴露当前轮对话,还可能包含前几步工具调用积累出的上下文。
企业用户尤其麻烦。日志里往往还保留着 request_id、账号、租户、时间戳和模型参数。这些字段放在一起,足以把一份孤立的 prompt 重新关联到具体客户和业务流程。
Agent 比普通聊天更危险
单轮聊天的数据路径比较短:
用户 → 应用 → 模型 → 响应
Agent 通常多了一条执行链:
用户 → Agent → 检索 / 代码执行 / 外部 API → 再次调用模型 → 执行动作
每次“再次调用模型”,都可能把前面工具返回的数据重新拼进 prompt。
比如,一个代码修复 Agent 会先读取仓库文件,再检索依赖文档,然后调用 shell 执行测试,最后把报错日志送回模型。此时 prompt 里可能出现文件内容、环境变量、测试数据、访问令牌片段和内部路径。
更关键的是,Agent 会做动作。聊天模型错误输出一段文字,损失通常止于内容。Agent 错误使用工具,可能继续发邮件、改数据库、提交代码或调用计费 API。
因此,评估这次泄露不能只看“泄露了哪些文本”,还要问三件事:
- 泄露内容能否识别个人或客户?
- 能否沿
request_id关联到其他请求? - 是否包含可执行工具的凭据、参数或状态?
如果答案里出现“是”,那就不是普通日志问题,而是 Agent 的权限与数据边界问题。
第三方模型链路不能只靠一条免责声明
一次第三方模型调用,可能经过多个主体:
你的应用 → Together.ai → 上游推理基础设施
应用负责决定发送什么。模型托管商负责运行和隔离请求。上游基础设施负责计算。每层都只持有部分事实,也都承担一部分责任。
这不是在寻找唯一责任人。企业真正需要的是可验证的控制,而不是把责任全部推给合同里的免责声明。
我会把治理拆成四项。
第一,数据最小化。 不要把所有历史消息都塞进 prompt。只传当前任务需要的字段。检索结果先按字段裁剪,工具返回值先做投影:
def project_tool_result(result: dict) -> dict:
allowed = {"status", "tracking_number", "estimated_delivery_date"}
return {key: value for key, value in result.items() if key in allowed}
第二,脱敏。 邮箱、电话、地址、证件号和客户 ID 不应原样进入第三方模型。能用临时标识符替代,就用临时标识符。
第三,请求级隔离。 为租户、用户和任务生成独立标识,并确保它贯穿模型路由、日志、缓存和 trace。不要依赖请求体里的 user 字段,因为那只是调用方提供的标签。
第四,工具最小权限。 Agent 调用外部 API 时,不应拿到长期凭据。短期 token、范围限制和审批机制仍然需要。
采购第三方模型服务时,也应直接询问:prompt 是否进入 trace?错误样本保留多久?谁能访问?是否支持客户自定义留存期?能否提供按租户隔离的审计记录?
这些问题比 README 里的 benchmark 更接近生产环境的真实成本。
日志留存是最大的泄密面之一
很多人给应用加 trace,是为了定位问题。Agent 跑多步之后,没有 trace 很难知道工具为什么被调用。
问题在于,可观测性系统经常默认保留完整内容:
messages或promptcompletiontool_callstool_resultinputs与outputs- 异常堆栈中的请求片段
- 人工标注用的 eval 数据集
上线前,我会逐项检查下面这些字段:
| 检查项 | 需要确认的问题 |
|---|---|
| 内容 | 是否保存完整 prompt、completion 和工具返回? |
| 标识 | 是否包含用户 ID、邮箱、订单号或内部路径? |
| 凭据 | 是否记录 Authorization、API key、Cookie 或 token? |
| 租户 | 是否有独立的 tenant_id,并能阻止跨租户查询? |
| 权限 | 开发、运维、SaaS 和客服是否共用同一权限组? |
| 留存 | 是否有明确 TTL、删除流程和备份策略? |
| 导出 | 错误样本进入 eval 前是否经过脱敏? |
| 告警 | 敏感字段是否会被意外写入日志? |
可观测性不等于无限保存。可以先记录元数据,再按需要临时采样内容:
trace_event = {
"request_id": request_id,
"tenant_id": tenant_id,
"agent_step": step,
"tool_name": tool_name,
"duration_ms": duration_ms,
"status": status,
}
如果排障确实需要 prompt,优先在采集端做字段级脱敏。对高敏行业,可以保留哈希、长度、模型版本和错误码,不保留原文。
还需要检查导出链路。很多公司内部日志很干净,但一旦发送到错误平台、Sentry、Slack 或第三方 eval 工具,原文就离开了原有权限边界。
Together.ai 事件仍缺几个关键答案
Together.ai 的官方文章题为《Security Event: Prompt Leakage for Requests in June and July of 2026》。公开摘要确认了事件时间窗口:2026 年 6 月和 7 月。也确认部分用户提交请求发生提示词泄露。
根据原始素材,该事件登上 Hacker News 首页。页面当时显示 21 分和 8 条评论。讨论很快指向两个问题:到底有多少请求受影响,以及泄露内容被保存在哪里、谁能访问。
截至现有公开摘要,仍缺少这些关键答案:
- 受影响请求的具体数量
- 泄露开始与结束时间
- 完整攻击路径
- 具体技术根因
- 涉及哪些日志、trace 或内部系统
- 是否能确认跨租户访问
- 客户获得的通知、补救和审计范围
尤其是最后两点。现在没有足够依据断言这是一次跨租户隔离失误,也不能排除配置错误、代码缺陷或日志系统暴露等不同路径。
原始来源:
- Together.ai:Security Event: Prompt Leakage for Requests in June and July of 2026
- Hacker News:讨论页面
编辑思考
这次事件的重要性,不在于 Together.ai 是否会暂时失去一批客户,而在于企业 Agent 已经把 prompt 升级成业务数据。模型输入里可能同时存在个人信息、检索文档、工具参数和执行状态。只保护数据库、保护 API key,已经不够。
我预计,请求级隔离、字段级脱敏和可验证的日志留存策略,会逐渐变成企业采购模型服务时的重要指标。原因很简单:模型能力可以替换,客户数据一旦进了错误链路,撤回响应也撤不回历史。
这次和过去常见的 API key 泄露也不同。密钥通常能被撤销,prompt 里的业务上下文却未必能重建或补发。具体影响仍要等完整调查。在此之前,先盘点进入模型的字段、日志访问者和租户隔离边界,而不是猜根因。