实战

Together.ai 提示词泄露:Agent 数据边界失守

Together.ai 披露 2026 年 6 月和 7 月部分请求发生提示词泄露。本文拆解 Agent 数据链路,并给出日志审计、字段脱敏和工具权限治理清单。

字号

Together.ai 披露 2026 年 6 月和 7 月部分请求发生提示词泄露。本文拆解 Agent 的数据链路,并给出日志审计、字段脱敏和工具权限治理清单。

Together.ai 在官方文章《Security Event: Prompt Leakage for Requests in June and July of 2026》中披露,2026 年 6 月和 7 月,部分提交请求发生提示词泄露。

问题不只是一句提示词被看到了。进入模型的上下文,往往同时带着用户资料、检索片段、工具参数和业务数据。对企业来说,提示词已经从聊天文本变成了运行数据。

目前公开摘要没有给出受影响请求数、持续时间、攻击路径或具体技术根因。因此,不能直接把问题归因于某项租户隔离配置,也不能替 Together.ai 补齐调查结论。

但这次事件暴露了一个必须处理的问题:Agent 一旦接入第三方模型,开发者面对的就不只是一个 API 调用,而是一条数据链路。

泄露的不是一句话,而是一条数据链

先拆开 prompt 里的数据。

一个普通的客服 Agent,发送给模型的请求可能包含:

  • 用户姓名、订单号和会话记录
  • RAG 检索出的合同片段、数据库记录或内部知识库
  • Function Calling 的工具名称与参数
  • 系统提示词、规则、示例和业务背景
  • Agent 在前序步骤生成的中间结果

下面是一段结构化示意:

messages = [
    {
        "role": "system",
        "content": "你是订单客服。不得透露用户隐私信息。"
    },
    {
        "role": "user",
        "content": "请查询订单 ORD-2048 的物流,并判断是否需要退款。"
    },
    {
        "role": "tool",
        "content": "{\"customer_email\": \"lin@example.com\", \"address\": \"上海市浦东新区某地址\"}"
    }
]

这段示例很短。真实 Agent 的 prompt 可能更长,敏感字段也可能藏在工具返回值、检索文档和历史状态里。

Together.ai 披露的泄露对象,是用户提交给平台的请求内容。换句话说,只要内容进入 prompt,就可能被复制到错误日志、错误样本、调试 trace,或其他不该出现的存储位置。

对普通应用,这可能只是一次日志管理失误。对 Agent,影响会沿着工作流继续扩散。一个被污染的请求,不只暴露当前轮对话,还可能包含前几步工具调用积累出的上下文。

企业用户尤其麻烦。日志里往往还保留着 request_id、账号、租户、时间戳和模型参数。这些字段放在一起,足以把一份孤立的 prompt 重新关联到具体客户和业务流程。

Agent 比普通聊天更危险

单轮聊天的数据路径比较短:

用户 → 应用 → 模型 → 响应

Agent 通常多了一条执行链:

用户 → Agent → 检索 / 代码执行 / 外部 API → 再次调用模型 → 执行动作

每次“再次调用模型”,都可能把前面工具返回的数据重新拼进 prompt。

比如,一个代码修复 Agent 会先读取仓库文件,再检索依赖文档,然后调用 shell 执行测试,最后把报错日志送回模型。此时 prompt 里可能出现文件内容、环境变量、测试数据、访问令牌片段和内部路径。

更关键的是,Agent 会做动作。聊天模型错误输出一段文字,损失通常止于内容。Agent 错误使用工具,可能继续发邮件、改数据库、提交代码或调用计费 API。

因此,评估这次泄露不能只看“泄露了哪些文本”,还要问三件事:

  1. 泄露内容能否识别个人或客户?
  2. 能否沿 request_id 关联到其他请求?
  3. 是否包含可执行工具的凭据、参数或状态?

如果答案里出现“是”,那就不是普通日志问题,而是 Agent 的权限与数据边界问题。

第三方模型链路不能只靠一条免责声明

一次第三方模型调用,可能经过多个主体:

你的应用 → Together.ai → 上游推理基础设施

应用负责决定发送什么。模型托管商负责运行和隔离请求。上游基础设施负责计算。每层都只持有部分事实,也都承担一部分责任。

这不是在寻找唯一责任人。企业真正需要的是可验证的控制,而不是把责任全部推给合同里的免责声明。

我会把治理拆成四项。

第一,数据最小化。 不要把所有历史消息都塞进 prompt。只传当前任务需要的字段。检索结果先按字段裁剪,工具返回值先做投影:

def project_tool_result(result: dict) -> dict:
    allowed = {"status", "tracking_number", "estimated_delivery_date"}
    return {key: value for key, value in result.items() if key in allowed}

第二,脱敏。 邮箱、电话、地址、证件号和客户 ID 不应原样进入第三方模型。能用临时标识符替代,就用临时标识符。

第三,请求级隔离。 为租户、用户和任务生成独立标识,并确保它贯穿模型路由、日志、缓存和 trace。不要依赖请求体里的 user 字段,因为那只是调用方提供的标签。

第四,工具最小权限。 Agent 调用外部 API 时,不应拿到长期凭据。短期 token、范围限制和审批机制仍然需要。

采购第三方模型服务时,也应直接询问:prompt 是否进入 trace?错误样本保留多久?谁能访问?是否支持客户自定义留存期?能否提供按租户隔离的审计记录?

这些问题比 README 里的 benchmark 更接近生产环境的真实成本。

日志留存是最大的泄密面之一

很多人给应用加 trace,是为了定位问题。Agent 跑多步之后,没有 trace 很难知道工具为什么被调用。

问题在于,可观测性系统经常默认保留完整内容:

  • messages 或 prompt
  • completion
  • tool_calls
  • tool_result
  • inputs 与 outputs
  • 异常堆栈中的请求片段
  • 人工标注用的 eval 数据集

上线前,我会逐项检查下面这些字段:

检查项 需要确认的问题
内容 是否保存完整 prompt、completion 和工具返回?
标识 是否包含用户 ID、邮箱、订单号或内部路径?
凭据 是否记录 Authorization、API key、Cookie 或 token?
租户 是否有独立的 tenant_id,并能阻止跨租户查询?
权限 开发、运维、SaaS 和客服是否共用同一权限组?
留存 是否有明确 TTL、删除流程和备份策略?
导出 错误样本进入 eval 前是否经过脱敏?
告警 敏感字段是否会被意外写入日志?

可观测性不等于无限保存。可以先记录元数据,再按需要临时采样内容:

trace_event = {
    "request_id": request_id,
    "tenant_id": tenant_id,
    "agent_step": step,
    "tool_name": tool_name,
    "duration_ms": duration_ms,
    "status": status,
}

如果排障确实需要 prompt,优先在采集端做字段级脱敏。对高敏行业,可以保留哈希、长度、模型版本和错误码,不保留原文。

还需要检查导出链路。很多公司内部日志很干净,但一旦发送到错误平台、Sentry、Slack 或第三方 eval 工具,原文就离开了原有权限边界。

Together.ai 事件仍缺几个关键答案

Together.ai 的官方文章题为《Security Event: Prompt Leakage for Requests in June and July of 2026》。公开摘要确认了事件时间窗口:2026 年 6 月和 7 月。也确认部分用户提交请求发生提示词泄露。

根据原始素材,该事件登上 Hacker News 首页。页面当时显示 21 分和 8 条评论。讨论很快指向两个问题:到底有多少请求受影响,以及泄露内容被保存在哪里、谁能访问。

截至现有公开摘要,仍缺少这些关键答案:

  • 受影响请求的具体数量
  • 泄露开始与结束时间
  • 完整攻击路径
  • 具体技术根因
  • 涉及哪些日志、trace 或内部系统
  • 是否能确认跨租户访问
  • 客户获得的通知、补救和审计范围

尤其是最后两点。现在没有足够依据断言这是一次跨租户隔离失误,也不能排除配置错误、代码缺陷或日志系统暴露等不同路径。

原始来源:

编辑思考

这次事件的重要性,不在于 Together.ai 是否会暂时失去一批客户,而在于企业 Agent 已经把 prompt 升级成业务数据。模型输入里可能同时存在个人信息、检索文档、工具参数和执行状态。只保护数据库、保护 API key,已经不够。

我预计,请求级隔离、字段级脱敏和可验证的日志留存策略,会逐渐变成企业采购模型服务时的重要指标。原因很简单:模型能力可以替换,客户数据一旦进了错误链路,撤回响应也撤不回历史。

这次和过去常见的 API key 泄露也不同。密钥通常能被撤销,prompt 里的业务上下文却未必能重建或补发。具体影响仍要等完整调查。在此之前,先盘点进入模型的字段、日志访问者和租户隔离边界,而不是猜根因。

来源: https://www.together.ai/blog/security-event-prompt-leakage-for-requests-in-june-and-july-of-2026