章节 01
导读 / 主楼:UiPath 发布统一 LLM 客户端:企业级多模型接入的新范式
UiPath 开源的 Python LLM 客户端为企业提供了统一的多模型接入方案,支持 OpenAI、Anthropic、Google 等主流厂商,并通过 AgentHub 和 LLMGateway 双后端实现灵活的认证与路由机制。
正文
UiPath 开源的 Python LLM 客户端为企业提供了统一的多模型接入方案,支持 OpenAI、Anthropic、Google 等主流厂商,并通过 AgentHub 和 LLMGateway 双后端实现灵活的认证与路由机制。
章节 01
UiPath 开源的 Python LLM 客户端为企业提供了统一的多模型接入方案,支持 OpenAI、Anthropic、Google 等主流厂商,并通过 AgentHub 和 LLMGateway 双后端实现灵活的认证与路由机制。
章节 02
随着大型语言模型(LLM)在各行各业的广泛应用,企业面临着一个日益严峻的问题:如何在统一的技术架构下接入来自不同厂商、不同平台的多样化模型?OpenAI 的 GPT 系列、Anthropic 的 Claude、Google 的 Gemini,以及 Azure OpenAI、AWS Bedrock、Google Vertex AI 等云平台的模型服务,各自拥有独立的 API 规范、认证机制和使用方式。
这种碎片化不仅增加了开发者的学习成本,更给企业的技术栈整合带来了巨大挑战。开发团队需要为每个模型提供商编写独立的接入代码,维护多套认证逻辑,并在不同的框架(如 LangChain、LlamaIndex)之间进行繁琐的适配工作。
章节 03
UiPath 作为企业自动化领域的领导者,近期开源了其 LLM 客户端 Python 库,旨在为企业提供一个统一、标准化的多模型接入解决方案。这个客户端库采用 Monorepo 架构,包含三个核心组件:
章节 04
uipath_llm_client 作为基础 HTTP 客户端,封装了与 UiPath 基础设施通信所需的所有底层逻辑,包括认证管理、请求重试、错误处理等。这一层的设计目标是让开发者无需关心复杂的网络细节,只需关注业务逻辑。
uipath_langchain_client 和 uipath_llamaindex_client 则是针对两大主流 LLM 应用框架的专用适配包。它们提供了与 LangChain 和 LlamaIndex 完全兼容的 Chat Model 和 Embeddings 接口,使开发者可以在不改变现有代码结构的前提下,无缝切换到 UiPath 托管的模型服务。
章节 05
该客户端支持两种 UiPath 后端,以满足不同场景的需求:
AgentHub 是默认后端,面向 UiPath 的 AgentHub 基础设施。它通过 UiPath CLI 自动处理认证流程,支持模型发现、智能路由和全链路追踪功能。对于已经使用 UiPath 生态的企业来说,这是零摩擦的接入方式。
LLMGateway 则面向需要服务间认证(S2S)的场景。它支持通过客户端 ID 和密钥进行机器对机器的认证,适合微服务架构和自动化流水线。
章节 06
UiPath LLM 客户端目前支持的主流模型提供商包括:
| 提供商 | 聊天模型 | 嵌入模型 | 厂商类型 |
|---|---|---|---|
| OpenAI/Azure | GPT-4o、GPT-4 系列 | text-embedding-3-large/small | openai |
| Gemini 2.5、Gemini 2.0 系列 | text-embedding-004 | vertexai | |
| Anthropic | Claude Sonnet 4.5 等 | - | awsbedrock、vertexai |
| AWS Bedrock | Claude、Titan 等 | Titan Embeddings 等 | awsbedrock |
| Fireworks AI | 多种开源模型 | 多种 | openai |
| Azure AI | 多种 Azure AI 模型 | 多种 | azure |
这种广泛的支持意味着企业可以在单一技术栈内灵活选择和切换模型,无需为每个提供商维护独立的集成代码。
章节 07
UiPath 客户端在认证设计上充分考虑了企业级安全需求。对于 AgentHub 后端,开发者只需运行 uipath auth login 命令,CLI 会自动处理 OAuth 流程并将凭证安全地存储在本地 .uipath/.auth.json 文件中。令牌刷新也由客户端自动处理,开发者无需关心令牌的过期问题。
对于 LLMGateway 后端,支持传统的访问令牌和 S2S 认证两种方式。S2S 认证通过客户端 ID 和密钥进行,适合自动化场景和微服务之间的安全通信。
章节 08
对于使用 LangChain 的开发者,集成过程极为简单。只需安装 uipath-langchain-client 包,即可在现有的 LangChain 应用中替换模型来源:
from uipath_langchain_client import UiPathChatModel
# 使用 UiPath 托管的 GPT-4o
model = UiPathChatModel(model="gpt-4o")
# 其余代码完全不变
response = model.invoke("解释量子计算的基本原理")
同样的便利性也适用于 LlamaIndex 用户。这种设计哲学确保了企业可以在不改变现有应用架构的前提下,享受到 UiPath 提供的统一模型管理和企业级安全特性。