企业为何开始转向开源模型：从“好用”到“可控”的分水岭

Baseten CTO Amir Haghighat 基于三年一线销售与落地经验，讲述了企业从 OpenAI、Anthropic 等闭源模型起步，却在 2025 年开始系统性转向开源模型的真实原因。这不是意识形态之争，而是质量、延迟、成本与“命运掌控权”的现实博弈。

为什么企业采用 AI 的“慢”，决定了这场技术浪潮的上限

Amir 一开场就把问题抛给所有人：如果企业真的采用 AI 很慢，那这轮 AI 变革到底是不是“被高估了”？在他看来，企业之所以重要，是因为它们“规模巨大、资金充足、影响面极广”。如果它们不动，AI 的长期价值就无法真正释放。

他反复听到一种声音：企业慢、流程重、风险厌恶。但 Amir 指出，这种判断本身就值得警惕——因为如果这是真的，那意味着 AI 的影响可能永远停留在个人效率工具或小规模应用上，而无法成为基础设施级的变革。这也是他为什么不谈 Baseten 产品，而是专门谈“企业 AI 采用本身”。

他的观察基于一个事实：企业不是不想用 AI，而是在等一个“不会失控”的方式。一旦这个条件成立，采用速度反而会非常快。

企业的第一站：闭源模型几乎是必然选择

在 Amir 看来，几乎所有企业的 AI 之旅都有一个相同的起点：“They all start with OpenAI and Anthropic.” 原因非常现实：上手极快、API 友好、效果稳定。

不同的是，企业并不会像个人开发者那样直接调用公共 API，而是选择在 Azure 或 AWS 上做专属部署，以满足安全、隐私和合规要求。随后，原本做预测模型的传统 ML 团队，被快速“升级”为 AI 团队，在这些闭源模型之上构建应用。

只要这套模式能跑，企业是极不愿意改变的。Amir 直言：“If they can continue doing that， they will.” 惯性极强、组织成本极高，是企业技术栈最真实的写照。这也让外界长期误以为：闭源模型会一直统治企业市场。

裂缝出现的时间线：2023 被拒，2024 犹豫，2025 改变

真正有价值的洞见，来自 Amir 描述的时间变化。2023 年，他去和大型企业 CIO 谈开源模型，得到的反馈几乎是敷衍甚至否定——“toying around”这个词，来自一家大型保险公司的 CIO。

2024 年，态度开始松动，但更多是“观望”。而到了 2025 年，他用一个词形容：palpable（可感知的）。企业开始系统性地质疑一个前提——“我们能否永远构建在闭源前沿模型之上？”

关键在于，这种变化并不是因为大家突然讨厌闭源模型。Amir 特别强调：并不是因为厂商锁定、也不是因为合规和安全，这些问题通过专属部署基本都解决了。真正的裂缝，来自业务层面的硬约束。

企业转向开源模型的四个真实驱动

Amir 列出的原因非常“反直觉”。第一是质量。在某些特定任务上，企业发现他们可以用开源模型微调出“更适合自己业务”的效果，而不是被通用模型牵着走。

第二是延迟。尤其是在语音等实时场景中，调用远端闭源模型的延迟开始成为产品瓶颈，而自部署模型能显著改善体验。

第三是单位经济学（unit economics）。随着调用规模扩大，推理成本开始失控，而企业第一次意识到：成本结构不是参数，而是战略。

最后，也是 Amir 认为最本质的一点：Destiny——命运感。企业不愿意把核心产品的未来，完全交到一家外部模型公司的路线图上。“Being in control of that”成为决策层能听懂、也最有分量的理由。

从“简单世界”到“龙之世界”：开源并不轻松

转向开源模型，并不意味着世界变简单。恰恰相反，Amir 把这一步称为进入“dragons”的世界。

他点名了多个真实挑战：推理优化（如 speculative decoding、prefix caching）、高可靠基础设施、突发流量下的弹性扩容、以及模型生命周期管理。尤其在“mission critical inference”场景下，这些问题会被无限放大。

很多企业低估了这一步的复杂度，以为“把模型跑起来就行了”，但 Amir 的原话是：“Harder than it seems.” 这也是为什么，企业并不是从闭源跳到完全自建，而是需要新的基础设施层来承接开源模型的复杂性。

总结

这场从闭源到开源的转变，并不是技术理想主义的胜利，而是企业在质量、延迟、成本和长期控制权之间做出的理性选择。Amir 的分享提醒我们：真正决定 AI 命运的，不是模型排行榜，而是企业是否愿意把“核心能力”握在自己手里。对创业者和技术决策者而言，理解这条迁移路径，比押注某一个模型更重要。

关键词： 企业AI， 开源模型， 闭源模型， 推理基础设施， Baseten

事实核查备注： 演讲者：Amir Haghighat（Baseten 联合创始人兼 CTO）；公司与平台：OpenAI、Anthropic、Microsoft Azure、Amazon AWS；关键时间点：2023、2024、2025；技术术语：closed models、open models、speculative decoding、prefix caching、mission critical inference；核心概念：unit economics、latency、dedicated deployment、VPC。