在AI前沿交付产品：什么是“Prompt Tax”以及如何偿还它

Andrew Thompson 结合自己在 AI Agent 一线交付产品的经验，提出了“Prompt Tax”这一概念：为了快速站上模型能力前沿，团队必须提前透支复杂性和风险。本文还原他在演讲中的核心洞见、真实案例与方法论，帮助工程团队理解如何在速度与稳定性之间做出理性的工程选择。

为什么在AI前沿做产品，注定伴随“进步的痛苦”

这一切的起点，是 Andrew Thompson 所说的“progress 的痛苦”。在演讲开场，他直接点明：如果你今天正在构建，或者明天就要构建一个 agentic system（具备自主决策和多步行动能力的 AI 系统），“我想向你介绍一个概念：prompt tax”。

他将整场分享拆成四部分，而第一部分专门用来解释这种痛苦从何而来。核心矛盾在于：前沿模型不断释放新的能力窗口，让产品可以做过去做不到的事；但与此同时，每一次模型升级、每一次能力解锁，都可能引入回归（regression）或完全意想不到的副作用。

Andrew 用一句话精准概括了这种张力：“shipping product at the frontier has this constant tension between the opportunities that new AI models can give versus the risks that you could introduce”。在传统软件中，复杂性通常是线性增长的；而在 AI Agent 中，复杂性往往是跳跃式的——一次 prompt 调整，就可能改变整个系统行为。

正是在这种背景下，“prompt tax” 成为一种必然存在的工程成本：你为了更快上线、更早获取真实用户反馈，不得不接受未来需要‘偿还’的技术债。

什么是真正在前沿“发货”：来自 Orbital 的一线经验

为了避免概念停留在抽象层面，Andrew 分享了自己作为 Orbital CTO 的真实经历。Orbital 是一家持续向客户交付可用 agentic 产品的公司，这意味着他们并不是在做实验，而是在承担真实业务风险。

在演讲中，他直接展示了一个产品 demo：一个 agent 在系统中完成多步推理与操作，最终“sent to a client in order to progress the transaction”。这里的重要性不在于具体 UI，而在于它已经嵌入了客户的真实流程，而非沙盒测试。

更有价值的是他随后抛出的问题：“Okay， so that agentic system， how has it actually performed over time？” 他展示的不是一次成功演示，而是系统在一段时间内被用户持续依赖的表现。这一点揭示了前沿交付的本质：真正的考验发生在上线之后，而不是 demo 那一刻。

在这种环境下，prompt 不再只是输入文本，而是业务逻辑的一部分。一旦 prompt 行为发生漂移，等同于隐形地修改了生产系统。

战术层面的答案：为高频失败而设计工程节奏

第三部分，Andrew 明确切换到了“battle tested tactics”。这一段之所以重要，是因为他承认一个现实：在 agentic 系统中，失败不是例外，而是常态。

他强调，团队必须适应更短的反馈与修复周期。相比传统软件中“days or weeks long cycles”的 bug 修复节奏，前沿 AI 产品需要的是近乎实时的观测、回滚与调整能力。这并不是流程优化的小改进，而是工程文化的转变。

这里隐含的一个关键观点是：prompt tax 本质上是一种时间错配。你在早期用 prompt 快速堆出能力，但真正的成本，会在系统规模化、用户依赖度提升之后集中爆发。

因此，他所说的“战术”，并不是如何写出完美 prompt，而是如何让系统在不完美的情况下依然可控、可恢复、可演进。

Prompt Tax 要不要还？以及留给行业的开放问题

在演讲后半段，Andrew 引用了 Google DeepMind CEO Demis Hassabis 的观点，指出更强大的模型与更成熟的工程范式，可能会为 AI 工程社区带来“incredibly promising proposition”。这并不是乐观主义，而是一种长期判断：部分 prompt tax，未来可能被模型能力本身“通胀掉”。

但在最后一节，他并没有给出确定答案，而是抛出一系列问题：什么时候应该开始偿还 prompt tax？哪些部分值得重构，哪些可以继续拖延？以及，这些经验是否应该被系统性地记录并分享给更广泛的社区？

他总结自己的核心论点时提到，这场讨论的价值，并不在于是否已经解决了所有问题，而在于是否帮助团队更清醒地看待自己正在承担的隐性成本。

这也是整场演讲最有力量的地方：它没有承诺捷径，只是帮助你在前沿行走时，知道脚下埋着什么。

总结

Andrew Thompson 用“Prompt Tax”这个贴切的比喻，揭示了当下 AI Agent 产品开发中的真实代价：速度与复杂性之间的结构性交换。站在前沿并不意味着鲁莽，而是要清楚哪些债务是主动选择、哪些风险需要被工程化管理。对正在构建 agentic 系统的团队来说，这场演讲最大的启发或许是：不要假装这些成本不存在，而要为未来的自己，留下偿还它们的空间。

关键词： Prompt Tax， AI Agent， Andrew Thompson， Orbital， Google DeepMind

事实核查备注： Andrew Thompson 为演讲者；视频标题为《Buy Now， Maybe Pay Later： Dealing with Prompt-Tax While Staying at the Frontier》；频道为 AI Engineer；发布时间 2025-06-03；涉及概念 Prompt Tax、agentic system；引用人物 Demis Hassabis（Google DeepMind CEO）；未提及具体模型名称或技术参数。