更多的AI代理，更多的人类工作：无人预见的悖论
自2023年起，几乎所有关于人工智能的产品介绍中都流传着一种承诺：部署足够多的自主代理，你的团队就能够集中精力进行重要工作。自动化将处理其他事项。这个承诺的问题在于，它假设认知工作的总量是固定的，可以被委派出去。实际上，并非如此。
Box的首席执行官亚伦·莱维（Aaron Levie）清晰地表达了这一点，行业中很少有人敢发声：多个AI代理的调度并不能消除人类的认知负担，而只是转变了它。曾经需要执行的工作，现在变成了对以人类无法实时跟上的速度运作的系统的监控、协调和决策。最终结果并不是劳动减少，而是劳动形式的变化，并在许多情况下，甚至更加苛刻。
被解放的管理者的幻想
当一个组织安排一个AI代理来管理文件流，另一个分析合同，第三个监控合规性时，执行委员会应该问的第一个问题不是每个代理分别节省了多少时间。正确的问题是：当三个代理的输出相互矛盾时，谁来协调它们？当一个代理发现了两个未曾察觉的异常时，谁负责？哪个人类标准决定了哪个代理是正确的？
这不是一个技术性的问题。这是一个治理的问题，而这要归结到人身上。
莱维所描述的模式有一个精确的机制：代理数量增加时，调度的复杂性呈非线性增长。两个代理需要一个监督界面；五个代理需要一种协议；二十个代理则需要一种类似于平行组织结构的模式，拥有自己的层级、升级规则和绩效评估标准。有人必须设计这个结构，有人必须维护它。并且，当它失败时，有人必须承担责任。
那些痛苦地认识到这一点的公司恰恰是那些在了解自己真正消除了什么工作和创造了什么新工作之前就根据减少人员来采纳代理的。他们购买了自动化，以为购得的是简单性。结果是用复杂性获得了规模。
自动化的不是真正问题
这个诊断让产品团队和数字化转型委员会感到最不安：大多数AI代理有效执行的任务并不是在组织中产生成本瓶颈的任务。
代理在处理数量方面表现突出：分类文件、提取结构化数据、在已知模板下撰写草稿。这些任务都是可衡量、可重复且容易评估的。而且在许多情况下，这些任务是员工已学会快速完成的低错误率操作。真正消耗精力的工作，涉及不确定性判断、与拥有相互冲突利益的各方进行谈判或没有明确先例的决策，这些工作无法委托给代理。然而，正是这种工作在有更多代理需要监督时成倍增加。
一家聘用AI代理来释放其最佳执行者的公司，结果却是这些执行者不得不花时间去监控机器，而不是解决商业问题。 这种转变发生了，但方向却背离了原先的承诺。
这并不意味着代理的采用是战略错误。这意味着成功的度量从一开始就错误校准。一家测量其代理以节省的人小时数的公司，计量的是错误的指标。相关的衡量标准是，多少高价值认知工作被解锁给人类，而不是多少低价值的工作被机器所吸收。
没有人在招聘的工作
这种情况揭示了一种组织行为模式。当公司采纳AI代理时，他们声明要消除的工作是操作性和重复性的。但实际上，他们真正需要某人完成的工作，在系统失败之前无人能够清晰表述，即在实时中保持分布式决策之间的一致性。
这种工作在任何组织结构中都没有名称。它没有作为特定职能的预算。然而，当一系列代理代表公司每小时做出一百个微决策时，必须有人确保这些决策彼此一致，不违反商业政策，不使组织面临监管风险，并且在系统出现错误时，错误不会在被发现前传播一百倍。
那些最有效地管理这一点的组织并不是最早部署更多代理的公司，而是那些在自动化之前花时间厘清哪些决策可以是自主的，哪些决策需要人类介入的公司。这个区分在书面上听起来似乎显而易见，但在实践中，受到采纳周期和数字转型公开承诺的压力时，这一辨别系统化地被推迟。
莱维并不反对AI代理。相反，他指出，认知解放的承诺假设了一种与企业在实际运行时所承担责任的模型并不相符的工作模式。当执行被自动化时，认知工作并不会消失，而是向决策链上游迁移，在这里，出错的后果更大，纠正的时间更短。
企业真正需要的工作
未来两年，AI代理策略的成功与否不会取决于公司部署了多少代理，也不取决于其架构的技术复杂程度，而是取决于管理团队是否及时认识到，他们的组织需要的并不是任务的自动化，而是更快、更少内部摩擦的决策能力。
这正是大规模采用代理背后的深层需求。并非操作效率。而是控制下的决策速度。这个问题单靠任何代理无法解决。它需要一个能够正确理清什么可以委托、什么需要保留、以及当自主系统走上错误轨道时，谁来负责的组织架构。
那些聘请代理来解决首要问题——效率，却忽视第二个问题——分散决策的治理的企业，将发现自己在扩展犯错能力之前，已经扩大了改正错误的能力。
