多智能体成本可达单智能体五倍:词元账该怎么算

一个反直觉的数字
多智能体一定比单智能体贵吗?答案取决于你怎么算。
据海外科技媒体在智能体基础设施峰会上的访谈报道,一位基础设施企业首席AI官提到,企业为AI智能体支付的算力支出普遍高于实际所需。其中一个原因是服务商与客户仍按词元消耗计费,而这会让多智能体团队看起来比单智能体更贵——即使前者每次完成任务的成本其实更低。他引用独立评测机构在编程基准上的结果称,多智能体团队为换取速度提升消耗了大量词元,成本达到单智能体的1.8至5.1倍,而质量提升几乎不可测。
这个数字值得警惕的地方,不在于倍数本身,而在于它揭示了一个更根本的问题:当计量的是消耗而不是产出,账面上的贵和实际上的贵,可能不是一回事。
为什么多智能体看起来更贵
访谈里给了一个技术层面的解释,对做架构决策的人很有用。
多智能体协作时,多个智能体需要在同一份上下文上工作。如果一个智能体已经把大量材料处理成缓存,而这份缓存在显存里被挤出去,后面的智能体接手时就得重新处理一遍前面的内容。企业为此多买的硬件,主要不是为了更强的算力,而是为了在高速内存里装下更多缓存。
换句话说,账面成倍上升的费用里,有一部分并不是新产生的价值,而是重复的搬运。访谈中提到的一条基本原则由此变得具体:不要重复计算同一个词元,也不要重复预填充。
四个动作,把糊涂账变成明账
把智能体当成有单位运行成本的业务资产,治理可以落在四步上。
计量:看清一次任务实际消耗。 一次请求往往经过意图识别、知识检索、上下文组装、答案生成、工具调用,判断不充分时还会重复其中几步。如果只记录最终回答的调用,中间的消耗就漏掉了。至少要把单次调用的输入输出量、所用模型、延迟、重试次数记下来,并且用一个统一的任务标识把同一次请求里的多次调用串起来,算出任务总成本。
归因:把成本落到场景和单位产出。 总支出只能说明花了多少,说明不了花得值不值。需要按团队、业务流程、任务类型分摊,并给每个场景设一个合适的单位指标——单次审核多少钱、单份报告多少钱、每处理一千条记录多少钱。指标选对了,场景之间的可比性才建立起来。
配额:给边界而不是给上限。 单纯的月度总额控制往往失效,因为月底才发现超支时已经晚了。更可行的做法是按场景设预算区间,配合阈值提醒、二次确认、单次封顶这类机制,让异常在发生时就暴露。
复盘:定期核对口径。 实际计费会受模型、输入输出类型、缓存规则影响,价格与能力也在变化。核算要按调用当时适用的公开价格口径来做,并且定期重新核对,避免用半年前的单价做今年的预算。
两种口径,两种结论
访谈里最值得记住的一句话是:行业仍然停留在按词元计费,也就是计费的是消费,而不是结果。
这两种口径会导出完全不同的决策。按消费衡量,一个多轮协作、多次重试的任务一定显得昂贵,团队会本能地压缩调用次数,甚至因此牺牲效果;按每次完成结果的成本衡量,同样的任务如果一次交付成功率更高、返工更少,反而可能是更便宜的那一个。
对企业的实际意义是:不要把单位词元价格当成主要抓手。先问清楚一件事——这项智能体任务最终要交付什么结果,这个结果现在需要多少成本才能稳定拿到。
访谈中另有一位平台基础设施负责人提到,其内部网关能追踪模型支出并归因到团队和服务,但覆盖不到训练、微调、人工纠错和工具调用所消耗的资源。这说明即使做了归因,账本也未必完整。企业自建计量体系时,要提前把这几类隐性成本纳入视野,否则会低估真实投入。
企业侧的三个先手
对正在把智能体从试点推向日常业务的企业,有三件事可以现在动手。
把计量做到任务级。 先在统一入口处埋点,确保调用记录能跨模型、跨业务流程串联起来。口径不一致的多本账,比没有账更难用。
把归因做到场景级。 挑三到五个已经跑起来的场景,算出各自的单位成本,形成一个可比的小样本。这一步做完,预算讨论才有依据。
把优化做成顺序题。 先消除重复预填充与重复调用,再谈更换模型,最后才谈压缩用量。顺序反了,往往是用更贵的模型去解决本该由工程手段解决的问题。
词元作为计量单位的意义,正在从技术名词变成管理语言。企业积分体系、会员权益、内部结算,本质上都在回答同一个问题:一次消耗对应多少价值。谁先把这个问题答清楚,谁在扩大部署时就更从容。
一条边界
上述讨论全部围绕企业内部的成本计量与管理方法,不构成任何投资判断,也不涉及任何数字资产的价格与交易。对多数企业来说,把词元账算清楚,比预测词元本身的价格走势有价值得多。








