Agent 跑进生产后,企业开始排队补课了。
LangChain 今年对 1340 名从业者做了一次调查,发现 89% 的组织给 Agent 配上了可观测能力;在已经上线 Agent 的团队里,这一比例达到 94%。这些数字足以说明,当 Agent 真正开始干活后,过去在 Demo 阶段容易被忽视的运行、监控和排障,很快就会变成生产环境里的硬需求。
这还只是其中的一部分。一个 Agent 长时间运行,还要处理任务调度、资源分配等,失败之后还要恢复。Agent 越多、任务越长,这部分工程就越重。
过去几个月,国内外大厂已经陆续把手伸到这一层。9 月 10 日,OpenAI 推出 Agents API 公测版,把 Codex 能力作为云端服务,开发者调用一次 API 就能创建托管式 Agent;5 月 19 日,Google Cloud 推出 Managed Agents API,托管 Agent 的运行环境、Harness 和 Sandbox;4 月 8 日,Anthropic 推出 Claude Managed Agents,将 Agent Harness 和运行环境进一步托管化。
阿里也在持续推进这一方向。5 月 20 日上线的 Qoder Cloud Agents(QCA),于 9 月 16 日迎来 1.0 版本。
作为企业级云端 Agent 托管平台,Qoder Cloud Agents 以「Agent as a Service」为核心,将原本需要企业自己搭建的生产级能力整合进统一的云端底座,让 Agent 成为可调度、可恢复、可观测、可扩展的云服务。
Qoder Cloud Agents 背后复用的是阿里云与 Qoder 已经跑过大量真实任务的 Agent 底座。换句话说,阿里这次不是从零做了一套新平台,而是把一套已经在生产环境里跑过的能力,进一步做成了对外开放的云服务。并且在正式发布前,Qoder Cloud Agents 就已经经过了一轮真实生产验证。今天,Qoder Cloud Agents1.0 发布,已支持超过百家大型企业及内部业务持续调用,月调达千万级。
从 Anthropic、Google Cloud 到 OpenAI、阿里,几家公司的产品形态各有差异,但都不约而同地把托管式 Agent 放到更核心的位置。足以说明,在模型之外那套过去不太受关注的工程系统,也开始成为产品的一部分。
Agent 跑进生产,最先变重的是工程
在 Demo 阶段,关于 Agent 的工程问题几乎没什么讨论。一个 Agent 能把任务跑通,基本就算验证完成。
但到了生产环境,情况完全不同。真实用户会持续提交任务,一次执行可能只有几十秒,也可能持续几个小时,中间还会反复调用模型和工具,穿插等待、暂停和重试。这意味着,同样的请求量,背后可能对应完全不同的资源消耗。系统能同时承接多少任务,需要预留多少计算资源,模型和工具的调用额度会不会成为瓶颈,都需要重新做容量评估。 随着任务规模扩大,调度、状态管理、权限隔离和监控,也必须跟上。工程上的复杂度,比传统应用服务高出一大截。
LangChain 在今年 4 月的一篇文章里专门讨论过这个变化。它提到,普通 Web 请求通常在毫秒级返回,Agent 的执行却可能持续几分钟甚至几小时,一次任务里包含几十次模型调用,还可能拉起子 Agent、等待人工审批。
LangChain 在今年 4 月的一篇文章中,明确区分了 Harness 和 Runtime:Harness 围绕模型提供提示词、工具和技能等支持;而让 Agent 在生产环境中持续运行,还需要底层运行时提供持久化执行、多租户、人工介入、可观测和沙箱等能力。Agent 能完成任务之后,仍有一整套生产工程需要补齐。
工程变重以后,成本账也跟着变了。过去算大模型成本,最直观的数字是 Token,它有明确的标价,输入多少、输出多少,乘上单价,很容易算出总账单。但 Agent 的经济账,不能只算 Token。它不会只调一次模型,为了完成一个任务,它可能反复规划、调用工具、修改结果,再重新验证。上下文越积越长,任务路径也不固定。哪怕同一个需求跑两遍,调用次数和最终成本都可能不同。
麦肯锡今年 7 月在讨论 Agent 经济性时直接提出,按 Token 单价已经很难衡量企业真正为生成式 AI 支付了多少钱。它总结的 Agent 成本来源里,包括长上下文、反复检查和修正、多模型调度,以及 Agent 自己选择不同执行路径带来的成本波动。
但这些还只是 Agent 跑起来之后能直接看到的成本。对企业来说,前面还有一笔容易被忽略的投入:为了让 Agent 真正进生产,得先把整套工程底座搭起来。
所以,这笔账至少要分成两部分:
-
建设投入:要投入多少工程人力,把调度、状态、权限、沙箱、监控和恢复能力搭起来。
-
持续运行成本:每个任务消耗多少模型调用、工具服务和执行资源,失败重试增加多少开销,以及需要多少人持续维护。
这也带来两个直接的问题:那些生产级 Agent 普遍需要的工程能力,能不能由平台统一提供,减少企业的重复建设?Agent 跑起来以后,能不能在满足任务质量和可靠性要求的前提下,减少资源消耗和维护负担?
阿里这次的 Qoder Cloud Agents,试图回答的正是这些问题。值得进一步讨论的是:它具体承接了哪些过去需要企业自己搭、自己养的工程能力,企业还需要负责什么,以及这些变化能在多大程度上减少建设投入和持续运行开销?
Qoder 先跑了一遍,Qoder Cloud Agents 把哪些工程收进了底座?
如前文所说,Qoder Cloud Agents 不是阿里从零开始做的,它与 Qoder 家族全系产品共享同源 Agent 内核,复用经大规模真实任务验证的推理、工具调用与执行能力。并且,Qoder Cloud Agents 将这套能力继续往下拆,把 Agent 从开发到生产过程中那些重复出现的工程问题,一层层收进平台。
这也决定了 Qoder Cloud Agents 和很多从 API 起步的托管式 Agent 服务思路不太一样。托管式 Agent 服务解决的,是程序写好之后怎么持续运行的问题,比如,Anthropic 的 Claude Managed Agents 侧重把 Agent 的运行层托管起来,解决 Session、Harness、Sandbox 这些长任务执行问题。
Qoder Cloud Agents 往前又走了一步,除了托管 Agent 怎么才能跑的稳,它还要处理同一套 Agent 怎么交付给不同终端用户。解法是企业可以统一配置及分发 Template,再通过 Identity 为每个用户挂上各自的资产、权限、凭证,实现“千人千面”。
在把 Agent 交到用户手里之前,Qoder Cloud Agents 还要回答一个更基础的问题:如何加速 Agent 从开发走到生产?
做出一个能跑的 Agent,在今天来看已经不是什么难事,几个小时也许就能做出一个 Demo。但 Demo 跑通以后,企业还得把它接进自己的系统,这中间隔着一整套复杂工程问题。比如,API 怎么封,运行环境怎么准备,任务状态怎么管,出了问题怎么查,模型或 Harness 升级以后原来的代码还能不能继续用。
Qoder Cloud Agents 给出的第一个回答,就是把开发和生产之间的这段路缩短。它提供 Skill、Plugin、CLI、API 和多语言 SDK 等不同入口,开发者可以先从熟悉的工具里把 Agent 调通,再用同一套能力接入业务系统。根据阿里披露的数据,据阿里介绍,开发者最快 10 分钟可完成业务系统首次全链路调用;验证通过后,可沿用这套接入方式推进生产部署,减少重复开发。
Qoder Cloud Agents 还把执行任务所需的云端环境(Sandbox) 一起收进了运行层。据介绍,平台可以承载十万级并发 Sandbox,根据任务量按需拉起和释放执行环境,企业不需要为了峰值长期准备资源。这背后其实是很典型的云计算思路,只是过去被用来调度计算资源,现在开始被用来调度 Agent。
Agent 接入系统后,下一个难题在于,接入之后,企业还要解决“谁来用、能用什么、费用算给谁”的问题。这决定了同一套 Agent 能否从少数人试用,扩展到更多员工或客户。
这也是 Template、Identity、Credential 这套机制要解决的问题。Template 负责统一定义能力。管理员可以先配置一个标准版本,决定 Agent 可以使用哪些能力和工具,再把它分发给终端用户。Identity 解决的是,让每个用户拥有自己的 Agent 配置、资产、权限和凭证。公司管的是一套模板,落到用户身上却可以是不同的 Agent。Credential 用来连接不同用户自己的业务系统,并按用户归属统计用量和成本。企业可以统一管理 Agent 的能力,又不用把所有用户做成完全相同的一份配置。
Qoder Cloud Agents 将这部分能力归结为“让 Agent 长在业务中”,实际上它针对的是一个非常具体的工程问题。比如一家企业把同一个数据分析 Agent 发给销售、财务和运营部门。三类人使用的是同一个 Agent 能力,但能看的数据库、能调用的工具和最终生成的内容并不相同。如果没有这一层身份和资产隔离,企业最后还是得自己再搭一套账号、权限和配置系统。
当 Agent 进入生产、开始承担业务任务后,怎样判断事情真的做完了?
判断任务是否完成,既要看执行过程是否正常,也要验证最终产物是否满足业务要求。Qoder Cloud Agents 将观测、评测、验收与记忆连成闭环:
-
观测与评测:观测记录模型调用、工具执行和任务过程,帮助定位问题;评测检验任务表现,并检查新版本是否出现能力退化。
-
Outcomes:按照用户定义的验收标准检查产物,并据此推动修正,让交付围绕明确的业务目标收敛。
-
Memory 与 Dreaming:将经验跨会话保留下来,通过夜间整理记忆,让已有经验能够用于后续任务,逐步沉淀为可复用的组织知识。
当 Agent 真正接入业务系统,需要面对的还有不同类型的业务任务,以及持续增长的并发请求。从实时交互到长时间运行的任务,平台既要保障执行环境彼此隔离,也要支撑高并发下的稳定运行,同时控制规模增长带来的资源成本。
为此,Qoder Cloud Agents 提供独立隔离的执行环境,并采用“手脑分离”架构,将推理编排与沙箱中的工具执行解耦,为并发调度、故障恢复和弹性扩容提供支撑,也让沙箱的生命周期不必与整个任务绑定。
这种解耦进一步带来了成本优化空间:工具执行时投入计算资源,空闲后及时回收,后续步骤再按需恢复,减少 Agent 等待期间的资源占用。相比全天常驻,沙箱时长及对应按量计算成本上可节省高达 95% 以上。Qoder Cloud Agents 还提供夜间折扣,进一步降低大规模任务的执行成本,让企业在扩大 Agent 应用规模时,也能保持成本可控,让规模保持轻盈。
开发者负责业务逻辑、目标和验收标准,Qoder Cloud Agents 承接部署、调度、恢复与交付验证等平台能力,让企业在扩大 Agent 应用规模时,减少基础设施和运维负担,把更多投入用在业务本身。
谁在用 Qoder Cloud Agents 扛生产:从阿里云安全风控到消费电子行业
Qoder Cloud Agents 的价值,最终还是需要交给真实业务来验证。它已经跑在 Qoder 在内的多个阿里内部多类业务,覆盖研发排障、客服质检、法务分析、商家运营和数据分析等业务。
阿里云整个数据安全体系的告警研判环节,也是由 Qoder Cloud Agents 承担。
安全风控体系的告警,覆盖阿里云全线业务的数据安全。它的麻烦不在于发现,而在于研判:告警和风险信号来自多个平台,运营要逐条登录、拉上下文、比历史资产和基线,再判断风险等级。人工逐条研判成本高、效率低,结果是量最大的那批中低风险告警长期看不过来——而这恰恰是风控最不能留的盲区。
阿里云让这条研判链路优化成为“Agent 辅助研判 + 人工复核”,并把研判环节放在 Qoder Cloud Agents 上常态运行:
-
Agent 辅助研判:Agent 自动拉取上下文、关联资产与历史基线,运营直接处理已标注风险等级和研判依据的工单,不需要再逐项分析。
-
风险定级与响应:过去看不过来的中低风险告警如今全量覆盖,处置全程留痕,形成可审计的运营闭环。
底座这一层,Qoder Cloud Agents 支撑研判规则可配置、误报自动回流优化、效果持续可度量。这意味着风控标准能跟着攻防形势一起迭代,而不是把规则焊死在一次性脚本里。
数据显示,这套机制日均研判告警 2000+,人均告警研判人效提升 10 倍以上;在异常召回有保障的前提下,AI 与专家研判结论的一致率达到 95.3%,研判结论可以直接使用;单条告警的多源分析由 AI 在 1 分钟内完成,比人工快 10 倍以上。
安全风控是对准确率、可追溯性和稳定性要求最苛刻的一类场景,把整个体系的告警研判长期交给 Qoder Cloud Agents 承载,本身就是对这套底座生产可用性最直接的一次背书。
还有一类问题——业务量太大,人根本看不过来。淘宝淘工厂的客服质检就是这一类,它的痛点是“能不能全都看一遍”。
客服质检过去最典型的问题,是覆盖率和效率很难同时兼顾。依赖人工抽检,能看的会话有限;想做全量质检,又要面对大量订单信息、用户诉求和复杂的售后规则。并且,客服场景很难只靠关键词判断。一条会话背后,可能同时涉及物流、商品咨询、退款等不同问题,还需要结合订单信息和业务 SOP 才能给出结论。
淘工厂把这套流程改造成了一套多 Agent 协作系统,并通过 Qoder Cloud Agents 承载 Agent 的运行和调用。用户会话先结合订单信息和 RAG 进入主 Agent,由主 Agent 判断意图、规划任务,再根据具体场景调用物流意图、商品咨询、货盘等子 Agent;涉及退款、赔付、催发货和工单等动作时,再交给执行 Agent 处理,最终结果回到用户侧。
最终,原来靠人工抽检的质检,变成全量、可解释的 AI 质检。数据显示,判断精度从 20% 提升到 75%,难样本判定从 82% 提升到 91%,单轮迭代时间也从天级缩短到了小时级。
目前,Qoder Cloud Agents 已经进入数百家大性企业,行业覆盖金融服务、企业软件与 SaaS、零售、电商、消费电子、航运科技、教育等领域。
比如晓多 AI 的 Belly VOC 助手,解决的就是如何把海量消费者原声变成能持续使用的业务资产。
晓多接入质检、退款、订单与企业知识,Qoder Cloud Agents 托管专属 VOC Agent。过去散落在不同系统里的原声数据,被重新组织成可以持续追问、反复验证的业务信息。用户不仅能问“为什么最近流失增加”,还能继续往下追原因、看证据,再把结论变成后续动作。
此外,系统还能按日、周、月自动生成报告,通过钉钉、飞书、企业微信推送,并输出 HTML、PDF 等多种产物。数据显示,这套做法把原本依赖人工反复翻查、整理和归因的分析流程大幅压缩:人工分析投入下降了 80%,专项分析从按天计算缩短到分钟级,每人每年可释放超过 200 小时。
几个案例放在一起看,会发现 Agent 进入生产后,企业开始重新划分什么该自己做、什么可以交给基础设施。重复造底座,还是专心做业务?这道选择题对于企业来说,其实不回难答。
Qoder Cloud Agents 面向的用户,还包括个人创作者。有人已经用 Qoder Cloud Agents 做出了面向真实用户的 AI 应用,其中还有 AI 小游戏跑出了较高日活。这可能也是 Qoder Cloud Agents 更值得观察的一面:生产级 Agent 不再只属于拥有完整基础设施团队的企业,也属于每个人。
如果想自己跑一遍, Quickstart 体验:https://qoder.com/zh/cloud-agents
结束语:Agent 的经济账,最后算的是总成本
过去很长一段时间里,行业习惯了用 Token 价格衡量 Agent 成本,但当 Agent 进入生产,账单显然复杂得多。
一个 Agent 真正进入生产,花钱的地方远不止模型调用。上线之前,要有人把运行环境、调度、权限、Sandbox、监控和恢复搭起来;上线之后,还要持续支付计算资源、长任务占用、失败重试和运维人力的成本。调用量越大,这些原本藏在模型之外的支出就越容易被放大。
Qoder Cloud Agents 想做的,就是把这些零散在模型之外的成本,尽量收进一套底座里。当“生产级 Agent”从自建工程变成可直接获得的云服务,企业真正要算的也会从单次调用价格,转向一笔更完整的账:前期少搭多少工程,上线后少养多少资源和人,Agent 能不能以更低的长期成本稳定跑下去。
当然,Token 仍然重要,但它只是这张账单里最容易被看见的一项。Agent 真正进入生产后,决定一项业务能不能长期跑下去的,最终还是整个生命周期的总成本。