実践

Together.aiのPrompt漏洩、Agentのデータ境界が崩壊

Together.aiは2026年6月と7月の一部リクエストでPromptが漏洩したと公表した。Agentが扱う個人・業務データとツール権限を保護するうえで、ログ監査、フィールドマスキング、アクセス制御obacすべきだ。

文字サイズ

Together.aiは公式記事「Security Event: Prompt Leakage for Requests in June and July of 2026」において、2026年6月と7月に一部のリクエストでPromptが漏洩したと公表した。

問題は、単一のPromptが誰かに見られたことにとどまらない。モデルのコンテキストには、ユーザープロフィール、検索で取得した情報、ツールの引数、業務データが同時に含まれている对企业而言、Promptはチャット上の文章から、動作するデータへと変化している。

公開されている概要には、影響を受けたリクエスト数、漏洩期間、攻撃経路、具体的な技術的根本原因は示されていない。そのため、問題を特定のテナント分離設定の不備だけに帰結させることも、`Together.ai`の調査結果の先回りもできない。

ただし、この事件は対応を迫る問題を露呈した。Agentがサードパーティのモデルと接続すると、開発者が管理すべき対象は単なるAPI呼び出しではなく、データの流れ全体になる。

漏洩したのは一文ではなく、データの流れだった

まず、Promptに含まれるデータを分解してみる。

一般的なカスタマーサポートAgentがモデルへ送るリクエストには、次のような内容が含まれる可能性がある。

  • ユーザー名、注文番号、会話履歴
  • RAGで取得した契約の一部、データベースレコード、内部ナレッジベース
  • Function Callingで使うツール名と引数
  • システムプロンプト、ルール、例、業務背景
  • Agentが前の工程で生成した中間結果

以下は構造化の例である。

messages = [
    {
        "role": "system",
        "content": "あなたは注文Edgesporterです。ユーザーのプライバシー情報を開示してはいけません。"
    },
    {
        "role": "user",
        "content": "注文 ORD-2048 の配送状況を確認し、返金が必要かどうかを判断してください。"
    },
    {
        "role": "tool",
        "content": "{\"customer_email\": \"lin@example.com\", \"address\": \"上海市浦东新区某地址\"}"
    }
]

この例は短い。実際のAgentではPromptがさらに長くなり、機密フィールドがツールの戻り値、取得文書、履歴状態に隠れていることもある。

`Together.ai`が漏洩対象として開示したのは、ユーザーがプラットフォームへ送信したリクエスト内容である。つまり、Promptに入った内容は、不適切なログ、エラーサンプル、デバッグ用trace、または本来保存されるべきでない场所へ複製される可能性があった。

通常のアプリケーションなら、これはログ管理のミスに留まる。Agentでは影響がワークフロー全体へ広がる。汚染されたリクエストは、現在のターンの対話だけでなく、前段のツール呼び出しで蓄積したコンテキストも含む可能性がある。

企業ユーザーの場合はさらに複雑だ。ログには`request_id`、アカウント、テナント、タイムスタンプ、モデルパラメータも残りがちだ。これらを組み合わせると、孤立的だったPrompt从一个具体客户和业务流程重新关联起来。

Agentは通常のチャットよりリスクが高い

単一ターンのチャットでは、データの経路は比較的短い。

ユーザー → アプリケーション → モデル → レスポンス

Agentでは通常、実行チェーンがもう一段増える。

ユーザー → Agent → 検索 / コード実行 / 外部 API → 再度モデルを呼び出し → アクションを実行

「再度モデルを呼び出す」たびに、前のツールが返したデータをPromptへ組み直す可能性がある。

たとえば、コード修正Agentはリポジトリのファイルを読み込み、依存関係の文書を検索し、shellでテストを実行し、最後にエラーログをモデルへ戻す。この場合、Promptにはファイルの内容、環境変数、テストデータ、アクセストークンの断片、内部パスが含まれ得る。

より重要なのは、Agentがアクションを実行する点だ。チャットモデルが誤った文章を出しても、被害は通常その内容に限られる。Agentがツールを誤って使うと、メール送信、データベース変更、コードのコミット、課金APIの呼び出しまで 이어질 수 있다.

したがって、この漏洩を評価するには「どのテキストが漏洩したか」だけでなく、次の3点を確認する必要がある。

  1. 漏洩した内容から個人や顧客を特定できるか。
  2. `request_id`を通じて他のリクエストと関連付けられるか。
  3. ツールを実行するための資格情報、引数、状態が含まれているか。

1つでも「はい」があれば、通常のログ問題ではなく、Agentの権限とデータ境界の問題である。

サードパーティモデルとの接続を免責条項だけで管理するな

サードパーティのモデル呼び出しは、複数の主体を経由する可能性がある。

あなたのアプリケーション → Together.ai → 上流の推論インフラ

アプリケーションは何を送るかを判断する。モデルホスティング事業者はリクエストの実行と分離を管理する。上流インフラは計算を担当する。各層は一部の事実だけを持ち、それぞれが一部の責任を負う。

これは単一の責任者を特定するための議論ではない。企業に必要なのは、検証可能な制御である。契約上の免責条項へ責任をすべて押しつける方法であってはならない。

ガバナンスは4項目に分けられる。

第一に、データ最小化。すべての履歴メッセージをPromptへ詰め込まず、現在のタスクに必要なフィールドだけを渡す。検索結果はフィールドごとに絞り込み、ツールの戻り値は先に投影する。

def project_tool_result(result: dict) -> dict:
    allowed = {"status", "tracking_number", "estimated_delivery_date"}
    return {key: value for key, value in result.items() if key in allowed}

第二に、マスキング。メールアドレス、電話番号、住所、証明書番号、顧客IDは、そのままサードパーティのモデルへ渡すべきではない。一時的な識別子で置き換えられるなら、そうする。

第三に、リクエスト単位の分離。テナント、ユーザー、タスクごとに独立した識別子を生成し、モデルルーティング、ログ、キャッシュ、trace全体で一貫して使う。リクエストボディ内の`user`フィールドには依存しない。これは呼び出し側が付けたラベルにすぎないからだ。

第四に、ツールの最小権限。Agentが外部APIを呼び出す際、長期的な資格情報を渡すべきではない。短期トークン、スコープ制限、承認の仕組みも必要となる。

サードパーティのモデルサービスを購入する際、次を直接確認することも重要である。

  • Promptはtraceに入るか。
  • エラーサンプルは多久保管されるか。
  • 誰がアクセスできるか。
  • 顧客ごとに保持期間を変更できるか。
  • テナントごとに分離された監査記録を提供するか。

こうした質問は、READMEに記載されたbenchmarkよりも、本番環境でHAVINGするコストに近い。

ログ保持は主要な漏洩経路の1つ

問題の調査用にtraceを追加するWritableは多い。Agent是多段の処理を行うため、traceがなければ、ツールがなぜ呼ばれたのかを把握しにくい。

ただし、可観測性システムは完全な内容をデフォルトで保持することが多い。

  • `messages`または`prompt`
  • `completion`
  • `tool_calls`
  • `tool_result`
  • `inputs`と`outputs`
  • 例外スタックに含まれるリクエストの一部
  • 人手によるアノテーション用のevalデータセット

本番へ公開する前に、次のフィールドを1項目ずつ確認する。

確認項目確認する内容
内容完全なPrompt、completion、ツールの戻り値を保存しているか。
識別子ユーザーID、メールアドレス、注文番号、内部パスが含まれているか。
資格情報Authorization、API key、Cookie、tokenを記録していないか。
テナント独立した`tenant_id`があり、テナントをまたぐ検索を防げているか。
権限開発、運用、SaaS、サポートが同じ権限グループを共有していないか。
保持明確なTTL、削除手順、バックアップ方針があるか。
エクスポートエラーサンプルをevalへ送る前にマスキングしているか。
アラート機密フィールドが誤ってログへ書き込まれる仕組みはないか。

可観測性は、無制限の保存を意味するものではない。まずメタデータを記録し、必要に応じて内容を一時的にサンプリングできる。

trace_event = {
    "request_id": request_id,
    "tenant_id": tenant_id,
    "agent_step": step,
    "tool_name": tool_name,
    "duration_ms": duration_ms,
    "status": status,
}

トラブルシューティングに本当にPromptが必要なら、まず収集側でフィールド単位のマスキングを行う。高機密率の業界では、本文ではなくハッシュ、長さ、モデルバージョン、エラーコードを保持する方法がある。

エクスポート経路も確認する必要がある。社内のログがクリーンでも、エラープラットフォーム、Sentry、Slack、サードパーティのevalツールへ送信した時点で、原文は従来の権限境界から外へ出る。

Together.aiの事件には重要な答えがまだ欠けている

`Together.ai`の公式記事タイトルは「Security Event: Prompt Leakage for Requests in June and July of 2026」だ。公開された概要で確認できるのは、事件の発生期間である2026年6月と7月、および一部ユーザーからのリクエストでPromptが漏洩したこと。

提供された情報によると、この事件はHacker Newsのフロントページに立った。当時のページには21ポイントと8件のコメントが表示されていた。議論はすぐに、影響を受けたリクエスト数と、漏洩内容がどこに保存され、誰がアクセスできるかという2つの論点へ向かった。

現時点で公開されている概要だけでは、次の重要な答えが欠けている。

  • 影響を受けたリクエストの正確な数
  • 漏洩の開始・終了時刻
  • 完全な攻撃経路
  • 具体的な技術的根本原因
  • 涉及的ログ、trace、内部システム
  • テナントをまたぐアクセスが確認されているか
  • 顧客への通知、補償、監査範囲

特に最後の2点について、現時点ではテナント分離の不備であったと断定する根拠が不足している。設定ミス、コード上の欠陥、ログシステムの露出など、別の経路も排除できない。

一次情報源:

編集者の視点

この事件の重要性は、`Together.ai`が一時的に顧客を失うかどうかではない。企業のAgentでは、Promptが業務データへと昇格している点上にある。モデル入力には、個人情報、検索で取得した文書、ツールの引数、実行状態が同時に存在し得る。データベースとAPI keyを守るだけでは、もう不十分だ。

今後、リクエスト単位の分離、フィールド単位のマスキング、検証可能なログ保持方針が、企業がモデルサービスを選ぶ際の重要な評価基準になると予測される。理由は単純である。モデルの能力は置き換えられるが、顧客データが誤った経路へ一度入ると、レスポンスを取り消しても履歴は取り消せない。

これは以往よく起きたAPI key漏洩とは異なる。キーは通常、失効できる。しかし、Prompt内の業務コンテキストは、再構築も再配信もできない。具体的な影響は全面的な調査結果を待つ必要がある。それまでは、根本原因を推測する代わりに、モデルへ流入するフィールド、ログへのアクセス者、テナント分離の境界を点検することが先である。

出典: https://www.together.ai/blog/security-event-prompt-leakage-for-requests-in-june-and-july-of-2026