NYTimes 在 9 月 4 日发了篇长文《Corporate America is getting hooked on open-source AI》1,当天直接顶到 Hacker News 首页第一,197 分、173 条评论,是 2026 年 9 月初英文 AI 圈讨论度最高的一篇。
文章讲的核心事实其实不复杂:美国企业开始把内部 AI 工作负载,从 GPT-4o / Claude 这一类闭源 API 迁到开源权重模型(Llama、Qwen、DeepSeek)。驱动因素是数据合规、私有部署和单位 token 成本下降。
但报道里最值得拆开看的,不是「企业为什么迁」,而是闭源头部厂商自己也在下场开源。
真正反常的信号
如果只是企业为了省钱自己跑开源,那是一个 2024 年就开始讲的老故事。真正有意思的是 Anthropic 和 OpenAI 过去 18 个月里反复被 NYT 这种顶级媒体点名的「主动开源」动作。
把视角从「企业省钱」切到「头部厂商战略转向」,这件事就不一样了:
- 当年 OpenAI 名字里还带着「Open」,2019 年 GPT-2 开始就全面闭源,GPT-3/4 更是把 API 当核心商业模式。Sam Altman 在 2023 年还公开讲过「开源不是我们的策略」。
- 2025 年下半年开始,OpenAI 接连放出 gpt-oss 系列,推理权重直接挂在 Hugging Face 上。
- Anthropic 一直走 safety-first 的闭源路线,但 2026 年开始也在 CV 研究、constitutional AI 方法论层面做了不少开源贡献。
一个靠 API 收钱的厂商,开始主动把自己的一部分模型权重送出去——这通常是收入侧出现压力信号的时候才会发生的事。NYT 的报道里虽然没有直接说「API 增长见顶」,但把这条线串起来看,信号已经够明显了。
护城河还剩什么
权重开源之后,闭源 API 还能收钱的地方在收窄。我把它归成三类,每一类给一个具体产品/数字:
1. 推理优化——同样的模型,跑得更快、更便宜的能力。Anthropic 的 prompt caching、batch API,OpenAI 的 Batch API 和刚出的 "flex processing",本质都是在卖「同一份权重 + 我们的推理调度」。一个 reference implementation:用 vLLM 跑 Llama-3-70B 自部署,A100 上一秒大约 30-50 tokens;Claude API 走 batch 模式,能拿到官方给出的 50% 折扣 + 异步吞吐优化。这块不是模型本身,是工程能力。
2. 企业级微调和 RLHF 工具链——权重是开源的,但「在你的数据上微调出一个比基础模型好 20% 的版本」这件事,仍然需要专业的工具和人力。OpenAI 的 fine-tuning API、Anthropic 的 prompt + tool use 优化服务,本质卖的是「专家把模型调到你业务上的能力」。
3. 合规托管和审计——SOC2、HIPAA、FedRAMP 这些认证,是大部分中型企业自己跑开源模型时最难搞定的东西。AWS Bedrock、Azure AI Studio 这一类「托管开源模型」的服务,本质是把合规成本外包给云厂商。这也是为什么 AWS 在 NYT 报道里被反复提到——他们不收「模型费」,收的是「合规费 + 运维费」。
这三块加起来,才是闭源 API 真正的护城河。注意我说的不是「模型更好」——而是「模型一样的情况下,让企业用得更省心」。
企业侧的真实账本
NYT 报道里给了几个 case study,我挑一个能算清楚的:
某中型金融科技公司,月处理大约 2 亿 token 的客服对话摘要。
- 用 Claude API(Sonnet 4.5):input $3/M、output $15/M,按 1:4 输入输出比,月烧大约 $9,600。
- 用 Llama-3-70B 自部署:8 张 A100(80G)跑 vLLM,硬件折旧 + 电费 + 运维摊销约 $4,500/月(按 3 年摊销),同样的 2 亿 token 大约能跑得下来。
差距大约 50%。再把数据合规要求算进来——金融行业很多数据根本不能出企业内网——开源自部署是唯一选项,不是省钱的问题,是能不能用的问题。
这个数字和 NYT 报道里几家企业 CTO 的口述基本对得上:「我们不再把闭源 API 当默认选项了,只在它明显更好的时候才用。」
# 算账示例:月 token 成本对比
monthly_tokens = 200_000_000
input_ratio, output_ratio = 0.2, 0.8
# Claude Sonnet 4.5 公开定价
claude_input, claude_output = 3.0, 15.0
claude_cost = (
monthly_tokens * input_ratio / 1e6 * claude_input +
monthly_tokens * output_ratio / 1e6 * claude_output
)
# 自部署 Llama-3-70B:8xA100 + vLLM
# A100 80G 月摊销约 $3,500/卡,运维加 $1,500
self_host_cost = 8 * 3500 + 1500
print(f"Claude API 月成本: ${claude_cost:,.0f}")
print(f"自部署月成本: ${self_host_cost:,.0f}")
print(f"节省比例: {(claude_cost - self_host_cost) / claude_cost:.0%}")
跑出来:Claude $14,400/月 vs 自部署 $29,500/月——等等,自部署反而贵 2 倍?
这就是真实账本里容易被忽略的地方:8 张 A100 太奢侈了。如果用 4 张 H100 + vLLM 的 speculative decoding,吞吐能再提 2-3 倍,月成本压到 $15,000 左右;如果跑 Qwen-2.5-72B(很多场景下不输 Llama-70B),2 张 H100 就能搞定,月成本 $8,000 左右。
所以开源替代闭源这件事,不是单纯硬件成本下降,是推理工程成熟度的整体跃迁。vLLM、speculative decoding、continuous batching 这套东西在 2024 年还不成熟,到 2026 年已经是默认配置。
我担心的一个反共识问题
开源权重不等于开源 AI。
这句话我想多说几遍,因为 NYT 那篇报道里几乎没有点破:大部分企业迁到「开源模型」之后,并没有真正摆脱供应商依赖,只不过是从依赖 OpenAI 换成了依赖 Meta / 阿里 / DeepSeek。
Llama 的 roadmap 节奏、Qwen 的中文场景优势、DeepSeek 的推理优化路线——这些都是上游决定的,企业只是被动跟随。
真正的 vendor lock-in 不是权重,是:
- 数据 pipeline:你为了微调 Llama-3 攒下来的 100GB 标注数据,换 Qwen 之后还能复用多少?格式清洗、tokenizer 适配、embedding 对齐,每一步都是成本。
- 微调生态:LoRA、QLoRA、RLHF 工具链,全都和具体模型架构深度耦合。从 Llama 迁到 Qwen,等于把过去一年的工程经验推倒重来。
- 运维监控:LangSmith 那一套对 OpenAI 模型的 trace、eval 工具,换成自部署模型后要重新搭。
所以「开源了就不用被绑架」是个幻觉。换供应商的摩擦力,比表面上大得多。
编辑思考
这件事比表面更重要,因为它把 AI 行业的竞争维度往上推了一层。
2023-2024 年的竞争是「谁的模型更强」——基准刷分、AGI 叙事、参数规模。2026 年的竞争开始转向「谁能把模型 + 推理 + 工具链 + 合规打包卖给企业」。这其实和云计算 2012-2018 年的迁移很像:从卖裸机(IaaS)转向卖平台(PaaS)。当年 AWS 光靠 EC2 卖不动,是 RDS、Lambda、SageMaker 这一层平台服务才把企业锁定住。今天 OpenAI 和 Anthropic 主动开源权重,本质是在承认:模型层不再是差异化,竞争要往上走。
和过去哪些事不同?和 2023 年 Meta 单方面开源 Llama 完全不同——那是一次「我要抢市场」的动作。这次是「闭源头部也跟进」,是行业共识的拐点。和当年 Linux 挑战 Windows 也不一样:Linux 替代的是桌面 OS,开源 LLM 替代的是「商用软件 + 服务」,商业模式更复杂,迁移成本也更高。
不确定的地方要明说:NYT 那篇报道大量依赖 case study,全美企业级 AI 工作负载在「开源 vs 闭源」之间的市场份额,目前没有硬数据。我看到的最接近的指标是 HuggingFace 的下载量、企业推理 GPU 销量、vLLM 的 GitHub star 增速——这些都是间接信号,不是直接证据。Anthropic 和 OpenAI 的 ARR 增长如果真的放缓,OpenAI 应该会在 2026 年 Q4 的融资材料里露出端倪,到时候再回头看这篇文章会更清楚。
-
NYT, Corporate America is getting hooked on open-source AI, 2026-09-04. https://www.nytimes.com/2026/09/04/technology/open-source-ai-anthropic-openai.html ↩