ARTICLE DETAIL

资讯详情

深耕网站建设与运营推广的一线实战洞察。

Agentic Cloud:为智能体而生的开放云底座,企业落地的关键

Agentic Cloud:为智能体而生的开放云底座,企业落地的关键 这两年我帮不少企业落地智能体项目翻车现场比成功案例多得多。有个团队折腾了三个月最后发现卡住他们的不是模型能力而是底层的云平台——只能在某个私有化环境里跑想接一个第三方模型要等排期Agent要访问企业内部系统得走两套审批多集群容灾更是想都不敢想。这件事让我确定了一个判断智能体项目能不能做成很多时候不取决于智能体本身而取决于承载它的那朵云够不够开放。所以当华为云提出“做最开放的Agentic Cloud联手伙伴帮企业做好、用好智能体”时我第一反应是方向终于对了。所谓Agentic Cloud就是为智能体这类负载重新设计的云基础设施——从算力调度、工具接入、记忆存储到多Agent协作和治理都围绕Agent的工作方式来构建而不是让Agent迁就传统云。这篇文章我想从底座、开发、使用、生态、落地这几个角度把Agentic Cloud这件事拆开讲清楚。如果你正在规划企业级智能体项目或者想搞明白云厂商们为什么突然都在讲Agentic Cloud这篇应该能给你一个完整的坐标系。1. 智能体为什么需要一朵“Agentic Cloud”1.1 我见到的智能体翻车现场过去半年我接触过不少Agent项目先说几个有代表性的失败案例。一个制造企业团队选型时用了某个商业Agent框架Demo跑得很顺结果上线前想换模型发现框架和特定大模型深度绑定换模型就得换框架采购流程直接重启。另一个金融客户做智能客服多轮对话需要长期记忆知识库在私有云Agent推理在公有云每次读写都走专线延迟高到用户能明显感觉到“卡”。最夸张的是一个零售企业做供销协同的多Agent想同时编排库存、采购、物流三个Agent结果发现每个系统接口协议、认证方式全不一样集成的成本比开发Agent本身还高三倍。这三个案例指向同一个结论现在的云对Agent并不友好。模型选择被锁死、工具接入没有标准、跨域运行没有底座。企业想把Agent真正用起来第一步往往不是在写Prompt而是在跟云平台斗智斗勇。1.2 Agentic Cloud与传统云到底差在哪传统云计算是为“无状态、短任务、可预测”的微服务设计的但Agent是完全不同的负载。我把两者的差异整理成一张表你看完就明白为什么不能直接拿传统云来跑Agent。维度传统云计算Agentic Cloud调度对象容器、微服务Agent、任务流、模型调用资源特征用量稳定可预测推理突发性强GPU/NPU波动大运行模型无状态、短任务为主有状态、长时运行、多步决策状态管理依赖外部数据库上下文记忆、短期/长期记忆工具集成API网关人写代码MCP等统一协议工具动态发现可观测性调用链、日志、指标Token消耗、推理轨迹、工具调用链安全治理网络策略、IAM身份授权链、数据隔离、Agent行为管控Agentic Cloud并不是凭空多出来一朵新云而是把云里的算力、存储、网络、安全、可观测性这些能力按Agent的工作模型重新做了一遍。比如调度器要能感知GPU/NPU的闲置情况而不是只按CPU内存分配存储系统要为Agent的记忆和向量索引做优化而不是只存业务表安全体系要能回答“这个Agent替谁执行了什么操作”而不是只放行IP和端口。1.3 为什么“开放”是这次的关键词华为云自己也做盘古大模型也有昇腾算力按理说完全可以走“全家桶”路线为什么反而要把“开放”两个字放在Agentic Cloud前面原因其实很现实。模型现在处于快速迭代期今天最强的模型三个月后可能就被超越没有任何企业敢把自己锁死在一家模型上。Agent要真正融入企业业务流程一定会跨多云、混合云运行数据主权和合规要求决定了企业不能把所有东西都放在一家云上。再往后看Agent会像今天的App一样生态化如果平台不开放伙伴凭什么在你的生态里投入所以“开放”不是市场口号而是Agent时代云厂商的生存底线。华为云这次把开放当作核心主张说明它已经想清楚了一个问题Agent时代吃独食是吃不长久的企业要的是选择权和迁移自由。2. 底座的底气Karmada毕业与多云编排2.1 Karmada到底是干什么的聊Agentic Cloud绕不开一个叫Karmada的项目。最近它从CNCF正式毕业了很多人看到新闻没太在意但在我看来这件事对Agentic Cloud的意义比发布任何一个新功能都重要。Karmada是华为云发起的多云容器编排项目2021年开源核心目标是一句话把多个Kubernetes集群管得就像一个集群。企业通常不会只用一朵云自建机房有K8s集群华为云上有生产集群可能还有一朵私有云跑敏感业务。每朵云各自为政应用部署、扩容、灾备都要分开搞运维复杂度是成倍上涨的。Karmada做的事情就是在这群集群之上加一个统一控制面把分散的算力聚合成一个大的资源池。应用要部署到哪里、每个集群跑多少副本、集群故障了流量怎么切都由Karmada统一编排。你可以把它理解成“云上的HR”各家集群里的节点和Pod都是员工Karmada负责按项目需求临时调岗、跨地区支援、紧急替补而且全程不用员工自己操心。2.2 智能体负载压在云底座上的三个特殊要求Karmada毕业的消息出来之后我仔细想过一个问题Agent工作负载对多云编排的要求和传统应用有什么不一样归纳下来有三个。第一是异构算力感知。Agent推理要跑GPU/NPU不同集群里卡的型号、显存、可用数量差异很大。Karmada的调度器必须能感知这些异构资源否则可能出现A集群CPU空闲但显卡被占满、B集群显卡空闲但任务调度不过去的情况。第二是有状态漂移。Agent是有记忆的多轮对话的上下文、向量数据库里的索引、长期记忆缓存这些状态不能因为跨集群迁移就丢掉。传统应用可以做成无状态靠数据库持久化但Agent的状态和运行时强相关跨集群迁移时要连状态一起平滑搬迁。第三是就近与合规约束。不同行业对数据留在哪个区域有硬性要求有些数据只能在本地处理。多云编排在做调度决策时要把这些约束当作最高优先级而不是简单地“哪个集群空闲就扔哪个”。2.3 多云编排如何让“开放”真正成立把这三个要求放在一起看Karmada在Agentic Cloud里承担的角色就很清晰了把华为云、伙伴云、企业私有云聚合成一个统一的算力底座Agent跑在哪里由策略决定而不是被平台锁死。集群故障或资源不足时Agent任务可以平滑迁移到其他集群对外几乎不中断。模型和Agent框架也可以在多云环境里统一部署企业随时保留把负载迁走的自由。没有这类多云底座Agentic Cloud的“开放”就是空话。你云上跑的东西搬不走开放就只是个营销词。Karmada正式毕业意味着项目稳定性和治理模型经过了CNCF全套治理标准的检验企业用户敢把生产负载放到上面了。从实用角度看这才是“最开放”三个字的第一块基石。3. 帮企业“做好”智能体从模型、框架到工具链3.1 模型层把选择权还给企业“做好”智能体第一步是选好模型底座。华为云自己有盘古大模型昇腾芯片也能打但它在这层做的最重要的事恰恰是不逼你只用自研模型。我看到的方案是提供一个标准模型网关盘古是一个选项开源模型像DeepSeek、Llama也可以接入第三方的闭源模型同样能挂上来。企业按场景需求选模型想换的时候通过网关切换业务代码不动。这个设计在只有一家模型可用的时候看不出价值但到了模型快速迭代的今天价值会被无限放大——今天你用的模型可能有更好的替代品如果换模型等于重构业务你就失去了所有议价能力。算力层面的开放同样关键。昇腾提供国产化算力底座但兼容主流的训练推理框架不是锁死你只能用某一种。我接触过的客户里确实有合规上必须用国产算力的昇腾这条线对他们很重要但也有团队只是单纯看中性价比想用开源模型跑推理平台也得支持。两边都能覆盖这才能叫开放。实际落地时我建议你做一个“模型替换演练”在开发早期就验证一下把核心场景的模型从A换成B业务代码要改多少。如果只需要改配置项说明网关层做对了如果要动业务逻辑说明你被模型绑定住了这是很危险的信号。3.2 Agent运行时与工作流编排模型之上是Agent运行时。它承担两件事理解用户任务、拆解执行计划调用外部工具、维护会话记忆。这个环节的技术选型比较乱LangGraph、Dify、CrewAI各家框架都有自己的拥趸还有不少企业自研框架。华为云在这层的做法也延续了开放策略主流Agent框架都支持而不是只认自家那套。为什么这么做因为Agent框架还在快速演进期今天最火的架构明年可能就被新的范式替代。平台方如果在框架层做绑定企业的应用就会被一个不成熟的生态锁住这是很危险的。工作流编排是我比较看重的能力。Agent在真实业务里往往不是单打独斗而是按照预设流程一步步调用工具、判断结果、决定下一步动作。编排平台要提供可视化的流程设计器、断点调试、人工审批节点。这里有个经验之谈真正上线时工作流里一定要预留人工审批或人工干预节点初期不要追求全自动。全自动的Agent一旦在关键业务上犯错业务方就再也不敢用它了有一个人在环里把关既控制风险也给业务方建立信心。3.3 工具接入MCP协议与统一工具网关Agent的价值在于会使用工具。但很长时间里工具接入是个噩梦——每个系统都有自己的API规范、认证方式、数据格式Agent要接一个内部系统开发和联调成本高得离谱。行业里已经出现了解决方案就是MCPModel Context Protocol。你可以把它理解成Agent界的USB-C——以前每个设备要专用充电线现在一个标准接口全部搞定。MCP把Agent和工具之间的连接标准化企业的内部系统只要实现了MCP Server所有支持MCP的Agent都能直接调用一次接入、多处复用。华为云这层做的事情是把工具网关做在企业侧工具注册、权限控制、频率限制、操作审计都放在网关统一管理。Agent要调用某个系统不再直接打通业务系统而是先过网关由网关校验身份、检查权限、记录日志再放行或转发。实操上要提醒一句不是所有工具都适合MCP直连。高敏操作比如转账、删除数据、修改生产配置必须设计成“人工二次授权”。Agent提出请求系统先把请求推送给有权限的人人点确认后工具才真正执行。这个设计不能省省了迟早出事。3.4 从Demo到产品开发者平台还缺什么很多团队做到这里就停了——Demo能跑了工作流能走了工具能调了以为万事大吉。但从Demo到真正的产品中间还有一段很长的路。首先是完整的开发流水线。Prompt、知识库、工作流这些都应该有版本管理有开发环境、测试环境、生产环境之分。我在不少客户那里看到的情况是Agent在开发环境调得好好的一上生产就变傻就是因为知识库和生产数据没有及时同步或工作流改了一版没走测试。这些看起来是管理问题实际上平台在早期就该提供对应的工程能力。然后是模拟环境和影子模式。新版本上线前先在模拟环境里用历史真实请求跑一遍确认行为符合预期再进影子模式线上流量复制一份给新版本对比新旧版本的回答和操作没问题再全量切换。这套机制在传统软件里很成熟但很多Agent平台根本没有导致每次更新都像拆盲盒。华为云的开发者社区在这块也出力不小ICT大赛和开发者联盟持续在做案例沉淀和人才培养。Agent开发挑战跟传统编程不一样它更像是“驯化”一个系统——把判断力、行为边界、业务规则一点一点注入进去。这些经验的传递光靠文档是不够的需要大量实战案例和社区交流。3.5 框架之争不是重点标准之争才是说了这么多你会发现华为云在“做好智能体”这件事上的姿态很明确模型层全支持框架层全支持工具层推标准协议。它不是要让开发者在某一个环节对它产生依赖而是要成为那个让所有环节都能自由组合的适配层。框架之争在企业级市场其实是伪命题。今天押注一个框架明天可能就被替代。真正有长期价值的是标准——谁定义了Agent连接模型、连接工具、连接业务系统的标准协议谁就站在了生态的枢纽位置。华为云这步棋落子在标准上。4. 帮企业“用好”智能体评估、可观测、安全与治理4.1 没有评估体系的Agent项目一定会失控开发完智能体只算走了一半真正难的是“用好”——让Agent稳定、可靠、可管。很多人对这事没有概念觉得Agent跑起来了就行但我的经验是没有评估体系的Agent项目上线后三个月内一定会失控。Agent的输出天然有不确定性同一个问题今天答和明天答可能不一样换个模型可能行为就飘了。没有评估体系你根本不知道改了一个Prompt是变好了还是变坏了。评估要做两层离线评估和在线评估。离线评估用固定的测试集跑一遍看任务完成率、工具调用准确率、回复合规率、Token消耗这些指标每次修改上线前都拿同一套题考一遍在线评估是对真实流量做持续监控、A/B对比和人工抽检。评估集的建设要下功夫不能随便攒几十条问题就拿来用。比较科学的方式是按业务场景拆分明细数据集覆盖正常请求、边界条件、恶意输入、易错场景并且按周持续补充线上发现的新问题。模型判断加上人工抽检评估结果才可信。华为云也发布了智能体评估相关的方法论核心就是把评估从“凭感觉”变成“跑指标、看数据、有回归”。4.2 可观测性把Agent的每一步变成可审计的轨迹Agent一次任务执行下来可能涉及多次大模型调用、多次工具调用、多次知识库检索中间任何一步出错结果都可能跑偏。出了问题你去排查如果只能看到最终答案连它中间调了什么工具、为什么这么决策都不知道那就根本无从修起。Agent的可观测性和传统可观测不一样除了延迟、错误率这些常规指标还得关注几个Agent特有的数据。指标说明为什么重要Token消耗模型调用输入输出总量直接决定成本便于优化工具调用成功率Agent调工具的成败比例低可能说明工作流设计有问题重试次数Agent做决定前反复尝试的频次过高说明指令不清晰或上下文缺失单任务成本一次完整任务的资源和Token总和业务上量后成本必看端到端延迟用户提问到拿到最终结果的时间直接影响体验我见过一个客户上线Agent后成本一个月翻了几倍没人说得清钱花在哪。后来接了可观测才发现是某个Prompt设计得含糊Agent每次都要反复调用模型重试确认Token消耗比正常高了五倍。这就是可观测性的价值——Agent项目上线后你至少要能回答“我的Agent为什么做了这个决策花了多少钱结果对不对”。4.3 安全边界给Agent画好“活动半径”Agent是有权限的真实操作者它会真的去查数据、写工单、调用内部API。这就是一颗定时炸弹——如果没有严格的安全边界一个Prompt注入攻击就能让Agent替黑客执行高危操作。把Agent当成一个新入职员工来管理思路就清晰了。新员工要发工牌Agent也要有明确的身份标识而且这个身份必须能追溯到最终的用户——Agent是替谁在办这件事。权限上遵循最小授权原则Agent默认没有权限需要什么工具就临时授什么权用完回收。数据层面RAG检索的知识要按密级隔离记忆要脱敏涉及个人隐私的字段不能原样存在长期记忆里。安全防御也要前置。Prompt注入检测是Agent安全里最特殊的一项攻击者把恶意指令藏在输入文本里试图让Agent执行非预期操作。平台要有专门的检测能力对工具调用做异常识别发现请求中包含危险操作或异常指令时直接拦截并告警。我见过太多人把Agent安全等同于IAM加防火墙这是完全不够的Agent的每一次工具调用都是一次潜在的攻击面。4.4 多智能体治理当Agent数量超过100个单Agent管理做起来之后还要面对一个更长远的问题当企业里的Agent数量超过100个怎么治理你可能觉得100个Agent很遥远但按现在的趋势这个数字来得出乎意料地快。财务一个Agent客服一个HR一个IT运维一个每个业务线再细分几个大型企业一百个Agent只是时间问题。到那个阶段没有治理体系的后果就是彻底失控Agent之间互相调用形成死循环权限冲突没人调解成本归属说不清Agent版本没人维护。这就要建设企业级的Agent治理平台了。所有Agent统一注册、发布、下架形成Agent目录——就像企业的应用商店。Agent之间要编排协作任务怎么分发、结果怎么仲裁、冲突怎么消解都得有约定。生命周期管理、配额管理、成本归属、运行监控全部集中起来。最近WAIC上有个行业共识2026年是工业智能体从概念演示走向工程化落地的分水岭。我对这句话的理解是工程化落地拼的不是单个Agent有多聪明而是治理体系能不能跑起来。治理不补齐Agent数量越多风险越大。5. 伙伴们到底在Agentic Cloud上做什么5.1 三类典型伙伴的协作姿势华为云反复强调“联手伙伴”那伙伴在这个生态里具体做什么我的观察是伙伴大致分三类各自切入的位置不一样。伙伴类型在Agentic Cloud里做什么典型案例模型与工具厂商向平台提供模型服务、工具接入第三方大模型、垂直领域算法工具ISV独立软件开发商基于平台能力做行业智能体产品金融风控Agent、工业质检AgentSI与咨询公司做场景咨询、系统集成、交付运维帮企业规划蓝图、实施落地华为云做底座和标准伙伴做差异化和行业Know-how这是整个生态分工的原则。底座和标准是重资产、低利润、长周期的活行业应用是利润高但碎片化的事没有一家公司能同时吃下两者。5.2 行业智能体的“上下文”从哪来做行业智能体会遇到一个绕不开的问题模型是通用的但行业知识才是壁垒。金融的合规条款、制造行业的设备参数、医疗的临床路径——这些专业知识不在任何基础模型里而是沉淀在企业自身的系统、文档和专家经验中。伙伴在这层的价值就体现出来了。ISV通常深耕行业多年手里有大量行业数据和业务流程积累他们把这些东西做成行业知识库、专用工具和预设工作流再配上华为云的底座能力输出给企业。企业买到的不是一个空壳Agent而是一个自带行业上下文、开箱就能处理业务问题的系统。这里面临一个现实约束很多行业的知识和数据有合规要求不能直接上公有云。所以平台必须支持数据不出域的方案——知识库可以私有化部署专线接入云端推理集群敏感数据留在本地Agent用网络专线去读。华为云这个方向上的架构我已经在几个客户那里看到过实际落地模式是走得通的。5.3 开放生态的运转规则生态想可持续发展不能只靠情怀得有清晰的运转规则。我观察下来的核心规则是华为云定义底座和标准伙伴在标准之上做差异化账号、权限、审计等基础设施由平台统一管收益分配做成可配置的模式——按调用量计费、按订阅分成、按项目效果分成由伙伴根据商业场景自己选。但更关键的是另一个维度开放不光是开API而是让伙伴和客户拥有选择权、数据权和退出权。你的Agent跑在华为云上数据你有权带走负载你有权迁走工具你有权换掉——这才是开放。如果真的是这个标准那Agent时代里华为云做的就不仅仅是云而是整个智能体经济的基础设施。6. 企业落地Agentic Cloud的参考路径6.1 从场景开始而不是从技术开始很多企业一谈智能体就说“我要上一个平台”然后开始比选模型、选框架。这顺序是反的。落地智能体的第一步是选场景而且是按业务价值选不是按技术炫酷程度选。我总结三个选场景的原则高频率、强流程、低容错。Agent最适合切入的是那种每天都发生、流程成熟清晰、一旦出错代价可控的场景。客服助手是一个经典场景——高频、流程清晰答错了用户顶多不满意可以再转人工。IT服务台也一样工单分类、常见问题回复效率提升明显。营销素材生成加合规预审也是投入产出比很高的场景。反例是那种一年只发生几次的核心决策比如投资策略、重大采购——这种场景你上个Agent谁敢用选场景时要把业务价值量化。不是“提升效率”这种空话而是具体的指标客服平均响应时间从多少降到多少工单处理人力节省了多少素材生产周期从多少天缩短到多少天。指标没有定下来项目就不要启动。6.2 技术栈选型清单场景定了之后才轮到技术选型。我建议你按这张清单逐项过别只盯着模型选型那一步。层级选型要点关键问题算力底座能否多云/混合云部署是否支持GPU/NPU异构数据合规能否满足负载能否迁移模型服务是否支持多模型切换模型网关是否标准换模型要不要改业务代码Agent框架主流框架是否都能兼容会不会被特定框架绑定工作流编排是否有可视化设计、人工审批节点关键节点能不能留人在环记忆与知识库长期记忆、向量检索、私有化部署知识数据能不能不出域工具接入是否支持MCP等标准协议企业内部系统接入成本高不高评估体系离线评估、在线回归、A/B实验有没有固定的评估测试集可观测安全调用链追踪、Token成本、权限审计每一步行为能不能追溯没有很完美的平台每个选项都要回到“场景优先级”来判断。比如你的核心场景是客服那模型服务、记忆与知识库这几项的权重就非常高工具接入反而不是最紧急的。但如果场景是做办公助手要调各类办公系统那工具接入和权限管理才是第一优先。6.3 试点、评估、规模化三步走选型完成后的落地节奏我强烈建议按三步走不要一口气铺开。试点阶段控制在两到四周选一到两个场景搭好最小可用流程。这阶段的目标不是交付完美产品而是跑通端到端链路用户提问到Agent调模型、调工具、回复全链路打通。同时把基线指标采出来业务方能看到一个可衡量的起点。评估阶段的核心是建评估集。把试点期间遇到的真实用户请求、边界情况、易错场景收集整理成评测数据集上线前跑上线后持续跑。没有这套回归机制后续每次改Prompt都是在赌运气。评估通过后可以小流量放量先让一部分用户用起来收集真实反馈。规模化阶段才考虑横扩展。把试点阶段打磨好的模板和方法论复制到更多场景同时把治理平台补上——Agent多了注册、权限、监控、审计都得体系化。我见过不少企业在这个阶段翻车就是因为Agent数量上去了管理工具没跟上最后盘点都盘不清。6.4 我建议你提前避开的五个坑最后把这两年踩过的坑集中做个提醒。第一个坑是追求全自动。一上来就想做无人值守的Agent出一次错业务方就把你拉黑了。初期一定要人在环里人机协同跑一段时间信任建立起来再慢慢减少干预。第二个坑是模型和框架深度耦合。选型时只考虑当下最好的模型没想过后路。一定要求平台提供标准网关模型可替换性要作为硬性要求写进选型清单。第三个坑是没有评估集就敢上线。没有回归机制你根本不知道线上Agent是变好还是变坏了出了问题连复现都没办法。评估集建设必须在试点阶段就做起来。第四个坑是忽略成本治理。Token费用一开始看着不多量上来之后每月账单会让你怀疑人生。上线第一天就要建立Token消耗监控和成本归属机制不然每笔成本都摊在部门头上到年底财务对账要疯。第五个坑是把Agent当普通微服务运维。Agent有状态、有不确定性、会调用外部工具传统监控方式覆盖不了。日志要保留Prompt和工具调用记录告警规则要针对Token消耗和工具成功率做专门的阈值这些都要提前规划好。我自己这两年最深的感受是Agentic Cloud这条路表面上是为Agent重构云基础设施本质上是在为下一个计算时代定规则。做最开放的平台把选择权交给客户和伙伴短期看是让利长期看是生态护城河。华为云这次喊出“最开放”背后是有多云底座、标准协议、伙伴体系这些实打实的东西支撑的不是一句空话。最后再分享一个实操建议不管你现在用不用华为云都值得重新审视一下手上的Agent项目把所有环节按“开放底座标准协议多云可迁”这个框架过一遍——模型能不能自由换工具接入是不是标准协议负载能不能迁走。这三条没有满足的趁早排上改造计划。模型和框架更新迭代的周期只会越来越短你今天省下的迁移功夫未来会以十倍的成本还回来。
返回列表