実践

LiteLLM 投毒事件から読み解くAgent密钥漏洩リスク

SafeDepは、LiteLLM 1.107.0がサプライチェーン攻撃を受け、Credential StealerとBackdoorを搭載したと報告した。本稿では、攻撃経路、権限拡大の名$th, AI Agentチームが直ちに講じるべき-containment measureを整理する。

文字サイズ

LiteLLM 1.107.0が、Credential Stealer(credential窃取ツール)とBackdoor(バックドア)を含むバージョンとして Reportsされた。影響を受けるのは依存パッケージのバージョンだけにとどまらず、AgentチームがPyPI、環境変数、runtime権限をどう調査すべきかという問題にも及ぶ。

SafeDepのOriginal Analysisによると、このMalicious VersionはCredential Stealer(Credential窃取ツール)とBackdoor(バックドア)をインストールする。

先に結論を述べる。AgentのSecurity Boundaryは、Prompt Injectionだけに収まらない。Model Input之外でも、Python Dependency、Model Gateway、環境変数、Tool権限がAttack Surfaceになり得る。

PyPIへのSupply Chain PoisoningがAgent Credentialを奪う経路

LiteLLMはMulti-Model Gateway兼Agent Frameworkである。ApplicationとModel Providerの間に配置され、Request Routing、Model設定管理、各ProviderへのCall処理を担うことが多い。

たとえば、次のような構成でDeployされている場合が考えられる。

from litellm import completion

response = completion(
    model="anthropic/claude-sonnet-4-5",
    messages=[{"role": "user", "content": "Summarize this ticket"}],
    api_key=os.environ["ANTHROPIC_API_KEY"],
)

この場合、LiteLLMが動作するProcessは、通常1つのModel Providerだけでなく、複数のCredentialにアクセスできる。

保持している可能性があるのは次のCredentialである。

  • AnthropicやOpenAIなどのModel ProviderのAPI key
  • AWS、Azure、Google CloudのAccess Credential
  • Database、Object Storage、内部ServiceのCredential
  • Agent Tool Callに必要な内部API token
  • Log、Billing、Monitoring、Tracing SystemのSecret

PyPI Package UpdateのDangerは、「Malicious Versionがインストールされた」という点だけに限らない。Malicious CodeがGateway Process内で実行されれば、そのProcessが既に持つ権限を悪用できる。

LiteLLM 1.107.0における具体的なリスク

SafeDepのReportによると、LiteLLM 1.107.0のPyPI PackageがSupply Chain Compromiseを受けた。ReportのTitleとAbstractでは、このVersionがCredential StealerとBackdoorをインストールすることが確認されたと明記されている。

ここでは2つの概念を区別する必要がある。

  1. Supply Chain Compromise:攻撃者が正規のPackage ReleaseまたはDistribution Pathに侵入した
  2. Malicious Functionの搭载:インストール後、PackageにCredential StealerとBackdoorの機能が含まれていた

これは通常のtypo-squattingとは異なる。typo-squattingではlitellmなどのPackage Nameを誤った類似名のPackageを作り、Install 유도する。攻撃者が利用するのは利用者の入力ミスである。

今回のRiskは、「正規Packageが差し替えられた」あるいは「Release Processが制御された」状況に近い。Dependency Nameに誤りはなく、Projectも実際にLiteLLMを使っているが、特定VersionへのUpdateを機にPackage自体が変わっている。

Engineering Teamが前提とするSecurity Assumptionは変更する必要がある。

Package Nameが正しい ≠ Versionが安全である
Lock Fileが存在する ≠ すべてのPackageが信頼できる
CIでのInstallが成功する ≠ Production EnvironmentでMalicious Logicが実行されていない

特にpostinstall、Build Script、Dynamic Install Logicには注意が必要だ。Malicious CodeがBusiness LogicのCall時だけ動くとは限らない。Install時、Process起動時、Module Import時に実行される可能性がある。

Original Security Analysis:https://safedep.io/litellm-pypi-compromise-credential-stealer-backdoor/

最大のリスクはInstallではなく、Secretの奪取

Credential StealerとBackdoorは、異なるレベルのRiskを表す。Credential Stealerが扱うのは「何を盗むか」であり、対象には次のようなものがある。

  • 環境変数
  • Cloud Serviceの設定
  • ローカルCredential File
  • Process内のtoken
  • Proxy Serviceが使用するAPI key

一方、Backdoorが扱うのは「後でどのように侵入するか」である。

  • Systemへの再Access Pathを残す
  • 後続のCommandを待つ
  • 特定の条件下でExecutionを再開する
  • 短期間の修正ではRiskを完全には除去できないようにする

2つを組み合わせると、Attackは1回限りのData Theftから、継続的なRiskへ発展する可能性がある。通常のApplicationでは、Chat API keyのLeakがBillやRequest Quotaに影響 делоが限界である。AI Agentの場合、影響は一般に大きくなる。

Agentは単に「文章を生成する」だけではない。Tool Call能力を持つ場合、次のようなActionを実行できる。

  • Code Repositoryの読み取り
  • File変更とCommitの実行
  • 内部DatabaseへのQuery
  • Ticket、CRM、Mail SystemのCall
  • ServiceのDeploy
  • PaymentやCloud Resource操作の実行

Model GatewayまたはAgent Runtimeが高権限のSecretを保持していれば、Prompt Injectionは後続のExploit手段の1つにすぎない。攻撃者が先にModelを騙してLinkを開かせる必要もない。Malicious Codeが直接Credentialを読み取ったり、偽のCallを生成したりできる。

本当に注意すべきは、このPermission Chainである。

Malicious PyPI Package
    ↓
Agent Runtime / LiteLLM Process
    ↓
環境変数、設定File、Cloud Credential
    ↓
内部API、Code Repository、Production System

AI Engineering Teamが講じるべき3つのContainment Measure

1. Versionを固定し、hashも固定する

Version Rangeだけを指定してはいけない。

[project]
dependencies = [
  "litellm>=1.100.0",
]

この書き方では、Buildごとに異なるVersionが解決される可能性がある。Productionで動くAgentには不十分である。

Versionを固定し、Lock Fileで完全なDependencyを記録する。Install時にはhashも検証できる。

python -m pip install --require-hashes -r requirements.txt

CIでは次を保存し、Review 대상として扱う必要がある。

  • requirements.txtの正確なVersion
  • poetry.lock、uv.lock、pip-toolsが生成したLock File
  • Package Fileのhash
  • pip list、pipdeptree、uv pip treeによるDependency Tree
  • BuildおよびInstall段階で実際に実行されたScript

Event Window内に露出したVersionについては、Upgradeしてそのまま使い続けない。先にMalicious Versionが実行されたかを確認し、どのCredentialをローテーションすべきかを見極める。

2. Environmentに存在したSecretをローテーションする

1.107.0がDevelopment Machine、CI Runner、Container Image、Production Environmentのいずれかに存在した以上、「関連Credentialが露出した可能性あり」として扱うのが安全である。

最低限、次を確認する。

  • Model ProviderのAPI key
  • Cloud PlatformのAccess Key
  • Database PasswordとConnection String
  • GitHub、GitLab、GitHub ActionsなどのCode Platform token
  • Slack、Mail、Monitoring、Logging Serviceのtoken
  • AgentからCall可能な内部ServiceのCredential

ローテーションは新しいkeyを生成するだけではない。新旧のkeyを並行して切り替え、旧keyが無効化されていることを確認し、異常なCall Recordを調査する。

権限も確認する。ClaudeをCallするためのkeyが、Code Repositoryの読み取りやProduction ServiceのDeploy権限まで持つべきではない。

3. Deploy用Credentialを分離する

Model Gatewayは、独立した最小権限のEnvironmentで動かすべきである。

たとえば、次のようにLayerを分ける。

Agent API Service
  └─ 短期Agent tokenのみを保持

LiteLLM Gateway
  └─ 必要なModel Provider keyのみを保持

DeployおよびCloud Control Plane
  └─ Agent Containerからはアクセス不可

具体的なMeasureには次のようなものがある。

  • ContainerまたはVirtual MachineでRuntime Environmentを分離する
  • Agent RuntimeからCloud Platform Control PlaneのCredentialへのアクセスを禁止する
  • 短期tokenを使用し、自動期限を設定する
  • Tool Callにallowlistを設定する
  • GatewayのOutbound Networkを制限する
  • Production Deployを独立したCI/CD Identityで実行する
  • ~/.aws、~/.ssh、~/.configなどのSensitive Directoryをデフォルトで読み取れないようにする
  • External Inputを実行する前に、もう一度権限を確認する

CIからProductionまで、次のChecklistで調査できる。

[ ] LiteLLM 1.107.0はインストールされたか?
[ ] LockされていないDependencyが解決されたか?
[ ] postinstallまたはDynamic Downloadの挙動は存在したか?
[ ] Build ImageとCacheは調査したか?
[ ] Model、Cloud Platform、内部APIのCredentialはローテーションしたか?
[ ] Agent Runtimeに不要なProduction権限はないか?
[ ] 異常なtoken利用とOutbound Connectionは調査したか?

TeamがLangGraph、MCP、Custom Tool Layerを使っている場合は、それぞれのLayerも調査対象にする。GatewayはDependency Chainの1つの要素にすぎない。

Editorial Perspective

今回のEventの重要性がにあるのは、LiteLLMが恒久的に「poisoned」になるかどうかではない。Agent TeamにRuntimeまでSecurity Boundaryが広がったことを示している。Python Packageの1回のUpdateが、Model key、Cloud Credential、内部API権限に同時に接触し得る。従来のPrompt Injectionとは異なる。Prompt Injectionは通常Model Inputから始まり、Modelを誘導する必要がある。Supply Chain Attackは、Modelを説得しなくてもCodeと権限のLayerで直接起こる。

Agent Teamでは、「最小権限」をPrompt Injectionより基礎的な要件として扱うようになるだろう。ModelとToolをReviewするのは当然だが、1つのGateway Processが数十個の長期Secretを保持していれば、どのDependency Poisoningも影響が拡大する。

ただし、未解明な点が残っている。Malicious Codeが何の条件下でどのCredentialを収集したか、BackdoorがExternal Connectionを行ったか、Environmentが二次的に悪用されたかは、Version Numberだけでは判断できない。TeamはUpgrade後すぐRiskをゼロとせず、Install Log、Build Cache、Network Connection、Secret Call Recordを照合する必要がある。

Source

出典: https://safedep.io/litellm-pypi-compromise-credential-stealer-backdoor/