企业AI的回报问题是架构问题,而非智能问题
有一个数字让CIO们感到坐立不安:72%的组织承认,其AI投资在最好的情况下仅能维持收支平衡,最坏的情况下则处于亏损状态。Gartner公布了这一数字,它没有引发恐慌,却催生了某种更为持久的东西:一种挥之不去的沉默不安——没人知道在无法证明AI真正奏效的情况下,这场押注究竟还能撑多久。
通常的答案指向模型本身:要更好地挑选供应商,要精心打磨提示词,要等待推理成本下降。这个答案听起来令人宽慰,却几乎总是错的。出问题的不是机器的智能,出问题的是围绕机器构建的业务架构。
这个问题有一套极为具体的运作机制:每当企业上线一个新的AI智能体,该智能体就从零开始。它需要重新接入数据、重新构建业务上下文、重新协商权限、重新设计控制机制、重新建立自己的验证标准。如果生产环境中有六个智能体在运行,那就意味着存在六套并行且相互独立的基础设施。每一套都有自己的成本、自己的技术债务、自己的不透明性。最终的结果不是大规模的人工智能,而是大规模的数字官僚主义。
为什么AI的真实成本不会出现在推理费用那一行
这其中存在一个颇为精妙的会计陷阱。当一个团队评估某个AI项目是否在经济上可行时,通常只看模型成本:调用API花多少钱、每次查询消耗多少token、哪家供应商的性价比更高。这种分析本身并没有错,但它捕捉到的只是总成本的一小部分。
那一行数字里看不到的,是重复集成所产生的成本。每一个在没有共享业务上下文层的情况下部署的智能体,都需要有人从头开始构建它与企业记录系统的连接、授权机制、业务规则以及升级逻辑。这不是模型成本,这是工程成本、治理成本和运营成本,而且随着每一个新用例的出现,这些成本会被完整地重复一遍。
香港大学和Stellaris AI的研究人员对一支金融服务团队进行了调研,发现其超过70%的查询请求本质上足够常规,完全可以用更小、更廉价的模型来处理。然而,所有请求都跑在同一套高成本的基础设施上,因为从来没有人设计过一种能够按复杂程度进行区分路由的机制。推理费用每月超过20万美元,不是因为业务本身有多复杂,而是因为架构没有"记住"何时该展现复杂能力。
成本分配问题还有另一个不那么显眼的面向:当成本分散在各个集成层、各个团队和各种工具之间,从数学上就根本不可能追溯所产生的价值。不是ROI低,而是根本无法衡量——因为没有统一的记录来说明每个智能体使用了哪些数据、做出了哪些决策、每个步骤花费了多少、最终产出了什么结果。碎片化不仅推高了部署成本,还彻底摧毁了本可用来为投资提供正当性依据的可追溯性。
共享上下文层如何改变部署的经济逻辑
企业系统架构师之间开始明确提出的解决方案,既不是少用AI,也不是追求更好的模型,而是构建一个共享的上下文层,作为组织内所有智能体和工作流的骨干支柱。
这一思路有着精确的经济逻辑。如果企业知识、权限、业务规则和治理逻辑只需构建一次,并以可复用基础设施的形式对外暴露,那么部署第二个、第五个乃至第十个用例的边际成本将大幅下降。这不是因为模型变便宜了,而是因为企业每次新增一个应用,不再需要为重新接入自身业务而付出代价。
一家跨国化妆品企业经历了这一过程。他们的早期智能体在演示中表现良好,却在生产环境中频频崩溃,原因是他们集成的六个解决方案中,每一个都在各自独立的孤岛中维护着自己的知识库和治理规则。每个智能体都是冷启动,每个新项目都需要从零开始重新接入。成本所在不是模型,而是那无休止的重复。
上下文的集中化同样改变了路由的逻辑。当基础设施知道自己正在处理的是哪类任务,就可以将其导向合适的模型:复杂推理任务交给功能更强大、成本更高的模型,常规查询交给更小巧、更快速的模型。推理费用不再是固定成本,而是转变为随工作复杂程度动态调整的变量。这不是边际优化,这是成本模型的重构。
与此相辅相成的是,专业化智能体集群的架构从计算效率的角度产生了类似的效果。与其依赖一个在每个步骤都需要处理问题完整上下文的"超级智能体",不如让多个具有有限领域的专业智能体并行运作。每个智能体处理的上下文窗口更小、更精准、成本更低。智能体之间的协调需要共享治理机制才能在不引入新操作风险的前提下正常运转,但当这种治理机制存在时,每项任务可节省的token数量将相当可观。
治理不是刹车,而是规模化的前提条件
麦肯锡记录了许多技术团队以惨痛代价换来的教训:在AI已经上线生产之后才引入治理,所产生的再工程成本可能超过系统原本创造的全部价值。Gartner估计,集成良好的治理技术可将监管合规支出降低高达20%。这些不是合规层面的数字,这是架构层面的数字。
将治理作为最后附加层的问题,与把上下文当成反复重做的工作所产生的问题如出一辙:它要为每个应用从头重建。一个保险理赔工作流需要对被保险人数据的受控访问、决策的可追溯性、对智能体自主权的限制,以及移交人工审核的升级规则。如果这些只为某个工作流单独设计,那下一个工作流就得重头再来一遍。十个独立的智能体意味着同一套控制架构要构建十次、审批成本要付出十次、出现不一致的风险要承担十次。
当治理以平台形式构建时,控制逻辑一次性以代码形式定义,并横向应用于所有场景。随着智能体数量的增加,成本不会线性增长,因为控制机制在智能体到来之前就已存在。正是这一差异,将能够规模化AI的组织与那些自以为在扩张、实则不断积累技术债务和运营债务的组织区分开来。
治理平台所产生的可追溯性还有一项在ROI讨论中鲜少被明确提及的额外收益:它将AI从黑盒转变为可审计的系统。每个工作流都留有记录,说明使用了哪些数据、采取了哪些行动、需要哪些人工干预、花费了多少成本、产出了什么结果。这不仅仅是风险控制,这是一套使经济价值得以以精细粒度进行衡量的基础设施——而这正是董事会和投资者将越来越迫切地提出的要求。
架构作为价值分配的决策
有一个维度是技术分析惯于忽略的,但它却具有直接的经济后果:AI架构不仅决定企业的运营效率,还决定谁能捕获AI所创造的价值。
一个构建了共享上下文层、智能路由机制和统一治理平台的组织,正在建立内部资产,从而降低对外部供应商的依赖。它可以在不重建业务逻辑的情况下更换底层语言模型,可以在不重复支付全额集成成本的情况下添加新应用,可以审计每个工作流的价值——因为它拥有实现这一切的基础设施。
而一个没有建立这些的组织,则是在永久性地将AI的规模效益外包出去。每一个新供应商、每一个新模型、每一个新工具都能从中分走一部分价值,因为这家企业没有能让自身内化这些价值捕获的架构。切换成本不断攀升,议价能力持续下降,AI创造的价值向外渗漏,而非在内部积累。
这对如何评估AI支出具有重要意义。CIO们应当回答的问题不是模型花了多少钱,而是这些支出中有多少正在构建可复用的能力,有多少不过是在为本该早已拥有的能力再次买单。这个问题的答案,是架构投资与反复产生却毫无积累的支出之间的根本区别。
那72%处于收支平衡或亏损状态的组织,未必是因为拥有糟糕的模型。而是因为他们拥有一种架构,这种架构保证了每一个新用例的成本几乎与第一个同样高昂。这不是智能问题,这是设计问题。而设计问题有比静待推理价格跌到账面自然平衡更为具体、更为持久、也更易于衡量的解决方案。











