IBM 推出多模型网关，助力企业精准应用大型语言模型

IBM认识到企业在人工智能（AI）应用中倾向于使用“一切”方法，选择合适的大型语言模型（LLM）成为关键挑战。6月25日，在VB Transform 2025大会上，IBM AI平台副总裁Armand Ruiz详细阐述了IBM如何应对这一市场趋势。 Ruiz强调，企业客户不再满足于单一供应商的AI策略，而是采用多模型方法，根据具体需求选择不同的LLM。IBM开发了自己的开放源码AI模型Granite系列，但并未将其作为唯一选项。相反，IBM将自己定位为AI工作负载的“控制塔”，帮助企业根据不同场景匹配最合适的模型。 为此，IBM推出了一种新的模型网关，通过单一API接口，让企业能够在不同LLM之间切换，同时保持跨所有部署的可观测性和治理能力。该网关的技术架构允许用户在敏感用例中运行自有的推理栈上的开源模型，而在非关键应用中使用AWS Bedrock或Google Cloud的Gemini等公共API。 与常见的锁定客户于专有生态系统的供应商策略不同，IBM倡导开放和灵活的方法。这一策略也得到了其他多模型管理工具的支持，这些工具同样旨在提高灵活性并减少集成负担。 此外，IBM还应对了代理间通信的新兴挑战，开发了ACP（代理通信协议），并已贡献给Linux基金会。ACP和Google的A2A协议都致力于简化代理间的交互，减少定制开发工作。虽然两种协议存在一定的技术差异，Ruiz预计它们终将融合，形成标准化的AI系统交互方式。这在企业规模下尤为重要，IBM的一些客户已经在试点项目中部署了超过100个代理，没有标准化通信协议将导致不可持续的集成挑战。 对于AI在企业中的应用，Ruiz认为仅仅是聊天机器人或降低成本并不足以体现AI的价值。真正的变革在于全面重塑工作流程和业务执行方式。IBM内部HR系统的案例说明了这一点，员工不再直接与HR人员交流，而是通过专门的HR代理处理常规问题，如薪酬、招聘和晋升，只有在必要时才人工介入。这种模式代表了从人机互动向计算机中介的工作流自动化的根本转变，使AI能够自主执行多步骤业务流程。