Supergate：面向大语言模型提供商的生产级多租户API网关

Supergate是一个统一的多租户API网关，为OpenAI、Anthropic、Google等LLM提供商提供单一稳定的API接口，具备语义缓存、速率限制、成本归因等企业级功能。

• 原作者/维护者: shivanshshekhar11
• 来源平台: GitHub
• 原始标题: supergate
• 原始链接: https://github.com/shivanshshekhar11/supergate
• 发布时间: 2026年6月

---

随着大语言模型（LLM）在企业中的应用日益广泛，开发团队面临一个共同挑战：如何统一管理多个LLM提供商的API访问。不同的提供商有不同的API格式、认证方式和计费模型，这给生产系统的运维带来了复杂性。

Supergate应运而生，它位于OpenAI、Anthropic、Google、Cohere和Mistral等提供商之前，为团队提供一个稳定的统一API，并具备生产系统所需的运营功能。

---

Supergate提供了一系列企业级功能，解决了LLM集成的常见痛点：

无论底层使用哪个提供商，Supergate都提供OpenAI兼容的端点。这意味着开发者只需学习一种API格式，即可在后台灵活切换或组合多个LLM提供商。

通过PostgreSQL的行级安全（RLS）实现租户隔离。每个租户拥有独立的API密钥、基于角色的访问控制（RBAC）和使用数据。这种设计既支持初创公司的简单场景，也能满足大型企业的合规要求。

支持两种密钥模式：

• 网关托管密钥：简化入门流程，适合快速启动
• 租户自带密钥（BYOK）：满足企业合规需求，租户自行管理提供商API密钥

BYOK密钥使用AES-256-GCM加密存储，确保安全性。

基于pgvector的余弦相似度缓存是Supergate的一大亮点。当收到相似提示词时，系统直接从缓存返回结果，无需调用底层LLM。这带来了两个显著优势：

• 降低延迟：缓存响应几乎是即时的
• 节省成本：避免重复调用产生的token费用