企业AI流水线的资金损耗不在于Token本身：问题早在此之前便已发生
有那么一个时刻，人工智能试点项目的不断积累开始从雄心壮志的象征，转变为混乱无序的写照。这个时刻在2026年降临到了许多大型企业身上，而最清晰的信号既不是技术崩溃，也不是模型失败。它更为平常，却也更难在董事会会议上自圆其说：Token消耗已远超预算，却没有产生与之相称的价值。
Uber是浮出水面的案例之一。当Token消耗超出计划后，该公司调整了内部AI支出。这并非一个罕见的例外，而是一种在过去两年以最大化逻辑采用AI的组织中反复出现的模式的显著症状：更多的使用场景、更多部署的智能代理、更多纳入系统的员工、更多消耗的Token。这种逻辑在一开始是站得住脚的。当一项技术尚新、其变革潜力尚不明朗时，广泛探索是有意义的。问题在于，当这种探索本应让位于深思熟虑的架构设计时，它却没有停下来。
Salesforce负责数据、AI治理和上下文工程的产品管理副总裁Sumeet Agrawal在《财富》杂志上发表了一篇诊断性文章，其所获得的关注远不及一篇企业专栏文章应有的程度。他的核心论点十分精准：降低Token价格无法解决问题，因为问题的根源并不在于价格本身，而在于企业使用Token的架构方式。
每个环节都在泄漏的流水线
Agrawal所使用的比喻之所以有用，正是因为它准确：大型企业中现代AI流水线的运作方式犹如一个滤器，在执行的每个阶段都在过滤Token，连同Token一起流失的还有资金。而这一切并非偶然，而是由设计所致。或者更确切地说，是由设计的缺失所致。
当一个智能代理收到销售咨询或客服请求时，如果其底层缺乏构建良好的数据基础设施，它所做的第一件事就是用原始上下文淹没提示词：未经整理的数据、重复记录、未经优先排序的历史信息。模型随后处理这庞大的信息堆，而其中大部分不过是噪音。据Agrawal所说，这种过度消耗意味着每次交互所用的Token可能是实际所需的五到十倍。以每百万Token十到十五美元的价格计算，加之中大型企业每天数以千计的交互次数，这笔账很快便难以忽视。
第二个泄漏点是对数据的无序访问。在没有清晰目录、没有数据血缘、没有质量信号的情况下，智能代理在数据仓库中四处搜寻可靠信息。这一过程既缓慢又昂贵，且产出的结果参差不齐。即便存在治理机制，通常也是作为事后的控制手段运行，而非作为路由信号，从一开始便将代理引导至经过认证的数据。
第三个泄漏点在直接预算支出方面或许是代价最高的：无论任务复杂程度如何，一律将其发送至当前可用的最大模型处理。一项常规分类或简单搜索所需的模型，与复杂推理或敏感决策所需的模型并不相同。对所有情况都使用同一个前沿模型，在组织层面无异于动用高级管理团队来处理初级分析师便能解决的任务：技术上可行，功能上却荒谬至极。
后两个泄漏点虽然不那么显眼，但同样代价高昂。没有持久记忆的智能代理每次交互都从零开始：重新加载上下文、重新处理历史记录、重新发现早已解决的例外情况。而缺乏可复用语义的智能代理则会反复生成本可被缓存或预计算的回复。每一次重复交互都被当作全新的第一次来支付费用。
供应商无法替你解决的问题
Anthropic、OpenAI和Google已经降低了输入Token的价格，并推出了提示词缓存机制。Cursor在其Composer 2.5版本中，将成本纳入模型选择的变量，而不仅仅是性能表现。这些都是对客户压力的理性回应，但如果企业尚未解决其内部架构问题，这些举措所针对的其实是错误的变量。
在一个消耗Token数量比实际所需多出十倍的系统中降低单价，只能带来相应比例的节省，却无法弥合结构性差距。这不过是对一个具有数量级解决方案的问题进行线性改进。率先解决架构问题的企业将获得一种降价无法复制的优势，因为这种优势并不存在于Token市场之中，而存在于自有数据的质量、流程治理能力，以及根据每项任务的性质将工作路由至正确模型的能力之中。
Agrawal将此表述得十分清晰：任何企业都可以购买更多Token，但很少有企业知道如何用更少的Token提取更多价值。两者之间的差异，在狭义的技术层面上并非技术问题，而是架构问题与组织问题。
他所举的例子非常具体：Informatica主数据管理与Salesforce客户数据平台Data 360之间的集成，确保了每个智能代理都能基于经过验证、语义丰富的客户上下文进行操作。其成果不仅仅是Token效率的提升，更是将无序的AI消耗转化为可量化、可审计的业务价值。
设计缺失的真实代价
从组织设计的角度来看，Agrawal所描述的既不是技术问题，也不是价格问题。它是一种被延迟支付的成本——因为企业跳过了有纪律的探索阶段，直接进入了对一项尚不具备高效利用基础的技术的过早开发阶段。
在2024年至2025年间以最大化逻辑采用AI的企业，是在合理压力下做出这一选择的：对于哪些模型、哪些工作流程和哪些团队能够创造价值，存在着高度不确定性，这使得广泛部署的策略具有合理性。然而，许多组织未能做到的是：与此同时，构建能够决定这种部署是否可持续扩展的数据与治理基础设施。如果缺少这一基础，最终的结果就只能是不断积累技术债务。
问题不在于进行了探索，而在于探索缺乏底层设计。而如今，这种设计的缺失正以超出计划的Token账单和无法归因于特定投资的成果的形式呈现出来。
在企业技术采用案例中，有一种值得点名的规律：组织往往过早地以错误的标准来衡量项目，将那些本不应与核心业务使用相同指标评判的举措扼杀于摇篮之中。但与此同时，它们也往往对那些本应已经产生价值的举措长期缺乏任何量化衡量标准。在企业AI领域，许多公司走向了后一种极端：在没有衡量、没有架构的情况下大规模部署，如今却在更大的混乱与更高的累积成本之中进行亡羊补牢式的调整。
这种纠偏在绝对意义上并不昂贵。构建良好的数据目录、作为路由器发挥作用的质量信号、智能代理的持久记忆、根据任务复杂程度进行模型分配的清晰规则——以上这些决策都不需要特殊预算的支撑。它们所需要的，是一种在已经处于规模化阶段的组织中更难获得的东西：深思熟虑的优先级排序，以及在时间维度上持续保持的架构纪律。
无法在模型市场上购买到的竞争优势
Agrawal将Token效率定位为企业AI领域的下一个竞争优势。这一判断是正确的，但可以进一步深化。真正的优势并不在于Token效率这一孤立的指标本身，而在于组织将自有数据转化为可靠的代理上下文的能力——这些代理能够在规模化条件下运作，并具备足够的治理机制，使得结果可被审计、可被归因。
这种能力既无法向模型供应商购买，也无法通过降低每百万Token的价格来获得。它必须在内部构建，依赖于先于代理部署而非滞后于代理部署的数据架构决策。已经拥有这种基础设施的企业将获得一种随时间不断扩大的优势：每一次交互都比上一次更便宜、更快速、更可靠。而那些尚未建立这种基础设施的企业，则面临着无论Token价格如何下降都不会随之降低的成本。
语言模型市场的价格将随着时间推移持续走低，这几乎是板上钉钉的事。但企业在高效使用AI方面的能力差距，将继续是一个关乎组织设计、数据质量与治理水平的问题。而这种差距，在任何外部供应商的产品目录中都找不到解决方案。
那些在2026年仍在运行无状态代理、没有可用数据目录、并将所有工作负载发送至最昂贵模型的组织，所付出的并不仅仅是Token的费用，而是当初在构建AI基础设施尚属廉价之时未能及时进行设计所产生的延迟代价。
