如何构建企业级智能体应用 -- 两天的“AI智能体构建工作坊”有感

5月21~22日，IBM针对合作伙伴在上海举办了“AI智能体构建工作坊”，基于watsonx平台进行了实战教学，两天亲身完整体验了企业级智能体应用的构建。

2025年是智能体AI元年，已经有88%的企业开始积极探索智能体在业务中的应用，这其中有51%的企业开始探索智能体，37%的企业开始使用特定的业务场景进行验证，12%的企业开始实施智能体。然而智能体要在企业内使用，还需要面临合规性、准确性、可靠性等要求，通用智能体在使用时往往会存在跟企业业务整合和解决前述各类要求的难题。

IBM的watsonx将智能体运用于企业场景，已经在企业的很多垂类业务上发挥了巨大的价值，比如HR、销售、采购、IT支持等业务领域，并基于自身多年的实践，在HR、采购、销售等最能看到业务价值的业务领域提供了预构建的智能体。

针对企业级智能体，IBM针对不同类型的用户部门提供了两套平台，针对业务部门提供了watsonx Orchestrate，watsonx Orchestrate为智能体在企业应用提供了完整的工作包，从多个预构建智能体，到图形化拖拉拽方式配置新的智能体，以搭积木的方式为配置智能体准备了若干形式的技能集合。

watsonx Orchestrate通过Skill Studio实现企业基于API、技能流和自动化智能决策工作流的技能构建，构建好的技能可以直接用于AI智能体或AI助手。

针对IT开发部门提供了watsonx.ai。watsonx.ai提供了各种大小模型的训推环境，为智能体的构建提供了Langraph，CrewAI等框架，提供基于Notebook和可视化界面方式构建智能体，并封装提供AI服务的能力。watsonx.ai提供AutoAI的能力，用AI帮助构建机器学习AI模型，并提供pipeline用来自动化从训练数据集到选择最优的模型，并发布成AI服务的完整过程。watsonx.ai提供基于通用大模型上的微调能力，用户可以提交领域知识，让通用大模型学习领域知识，并基于系统提示词进行领域大模型的构建。watsonx.ai还提供了构建RAG知识库，让大模型基于RAG的模式使用领域知识进行内容生成。

作为企业级人工智能平台，watsonx.ai 提供了丰富的模型构建和操控能力，可以构建AI Agent来自动化任务，可以基于AutoAI自动构建机器学习和RAG方案，可以基于基础模型和提示词模板进行提示词工程，可以微调一个基础模型，可以可视化构建一个新模型，可以基于Python或R语言notebook构建智能体和模型等。

watsonx.ai 作为AI服务的提供方，供给AI能力，包括大小模型，Agent等，而watsonx Orchestrate则可以消费这些AI能力，并组合业务能力，进行技能流和智能工作流的编排，构建出多Agent协作的架构。

watsonx Orchestrate提供了一个总协调智能体，提供用户交互统一入口，并按照用户交互意图协调使用各领域专业Agent进行工作。

各领域专业Agent负责规划和执行领域任务，包括使用技能流或智能工作流或调用其他Agent API或工具或业务API来完成特定的分解任务。比如调用workday或SAP SuccessFactors完成HR相关的任务，调用Salesforce或Seismic完成市场和销售相关的任务。

IBM本身也是AI转型的积极实践者和领跑者，在IBM内部已经利用上述智能体协作模式，重新构建了企业内部服务能力，AskIBM作为总协调智能体，负责协调和连接各个专业领域的智能体，包括AskHR，AskIT，AskSales，AskProcurement等。

回过头来再看一张我原来画的面向AI的架构AOA（AI Oriented Architecture）。

可以看到watsonx.ai 和watsonx.orchestrate，以及watsonx产品家族在AOA架构的能力覆盖情况。

一个企业级的智能体要能够合规、准确、可靠地工作，需要能够利用各种智能体模式，调动和利用好各种能力、技术和工具，包括基础模型在计划、分析、推理方面的语义理解、反思和生成能力，领域模型在文本到领域语言转化能力如Text2SQL能力，Text2Code能力，多模态的语义理解和生成能力，机器学习模型的数据分析和预测能力，业务系统的业务能力，使用包括邮件、搜索在内的各种辅助工具，运用包括AutoAI，技能流和智能工作流编排，CrewAI，LangGraph等技术框架。

智能体模式包括反思、工具使用、推理-行动、规划和多智能体协作等模式。一个强大的智能体AI平台，应该能够整合各种智能体工作模式，整合业务能力、工具和各种技术。

为了方便地给业务人员快速构建智能体的能力，IBM watsonx Orchestrate定义了通用的Agent模板。

以潜客销售智能体为例，可以从任务、知识和行为三个方面，基于基座模型整合出该智能体的各种知识和技能。在任务完成方面可以使用网页搜索工具，协调使用研究智能体、CRM智能体和数字化销售助手以委派特定业务任务。在知识方面，提供潜客销售的一些最佳实践，销售赋能知识库，术语和行业黑话等。在行为方面，通过提供行动指南和业务规则进行智能体的行为约束，确保智能体在进行任务执行的一致性和可预测性。

企业级智能体平台应该能够为构建智能体提供所有的构建积木块（能力、工具和技术），提供简便的构建方法，并提供部署运行和运营监控的载体。

工作坊提供的实验案例是一个采购智能体的构建全过程，我们看到对于这样的一个智能体需要有具备业务数据的观察和分析能力，包括对既往销售数据的分析，当前库存状态的分析，以及产品供应商的分析，基于上述数据洞察，再给出具体的行动，比如向特定的供应商发起采购订单。

这个过程中，销售分析使用了CrewAI进行多智能体协同，一个Business Analyst智能体接受输入，分解任务，并协调使用Database Analyst智能体进行自然语言到SQL的转换，进行数据库查询，获取既往的销售数据。CrewAI运行于watsonx.ai，通过标准的Open API向watsonx Orchestrate提供AI服务。同样通过watsonx Orchestrate通过Open API使用watsonx.ai提供的AutoAI能力实现基于机器学习模型的数据分析和预测，可以预测未来特定产品的销售数据。

库存分析则使用watsonx Orchestrate，整合调用Salesforce的API，获取产品和库存信息。

供应商分析则结合使用网页搜索、知识库RAG检索，匹配使用数据库信息进行。知识库提供了往年供应商销售报告以及企业选择供应商的一些业务规则。

传统的完全基于RAG的方式会存在过量检索，搜索匹配度不够等问题，将RAG 向量检索、网页搜索和数据库查询结合起来的混合检索可以获得更精准的答案。

有了前面销售分析基于AutoAI预测的销售数据和供应商分析后所选择的供应商，就可以通过执行自动化智能工作流，完成发送邮件和在Salesforce中进行供应商采购订单的创建工作。

智能工作流编排界面提供了基于机器学习ML模型的智能决策规则，而ML模型则是基于AutoAI自动构建出的最优ML训练模型，最优模型是通过准确性、精度、召回等评价指标上从多个候选模型中评定而得出的。

自动化智能工作流，可以基于ML模型进行智能决策，可以基于业务规则进行分支路径选择，可以使用GenAI能力生成邮件并调用邮件工具发送邮件，可以调用业务API，如Salesforce API自主进行供应商订货下单。

通过工作坊，让我们体验了一回将智能体完整地运用于真实业务的场景。感受到了借助于watsonx.Orchestrate和watsonx.ai平台，企业合规、精准和可靠地开发和使用智能体已经开始成为现实。现代AI对企业传统ERP和业务流程的重构也正刚刚开始。

上图是我自己绘制了现代AI下业务流程演化的思维象限图，可以看到，AI智能体为满足探索性用户需求、为客户提供个性化方案提供了解决方案。

能够工作在语义层面的基础模型正成为各种基于Agent和大模型解决方案的能力基础，不论是服务于领域能力的ERP系统，还是满足用户端到端旅程的场景应用，都会以大模型和Agent为基础进行其能力的重构，让智能成为一种内生能力，未来系统间的信息沟通也会从语法层面的集成，逐渐上升成语义级别的交互。