已收录307 条资讯/102 个 AI 工具/391 个开源项目/73 个学习资源
首页资讯开源榜单模型榜AI 工具学习资源
首页 / 开源榜单 / new-api

new-api

一个开源、自托管的 LLM 网关，将 OpenAI、Claude、Gemini 及其他 AI 提供商统一到一个 API 之后，并提供计费、路由和认证功能。

GoAGPL-3.0Deploy & Inference
⭐ GitHubhttps://github.com/QuantumNous/new-api
44,981
Star 数
+0
Star 增速
2026年8月11日
最后更新
3
点击数

1. 项目概述

New API 是一个开源的下一代 LLM 网关和 AI 资产管理平台，让组织能够将多个 AI 模型提供商聚合到一个统一 API 之后，同时在此基础上增加企业级认证、用量分析和成本核算功能。

2. 背景与定位

New API 构建在知名的 One API 项目之上，通过重新设计的界面、更丰富的计费能力，以及针对组织级自托管部署量身定制的功能对其进行了扩展。其核心使命是为团队和企业提供一个单一、可控的入口，用于调用众多不同的大语言模型（LLM）提供商——而无需为每个供应商分别管理不同的 SDK、API 密钥和计费面板。

与同类 LLM 代理/网关项目相比，New API 的差异化优势在于将 API 格式转换（OpenAI、Claude、Gemini 等）与功能完善的管理控制台相结合：按用户配额、多通道负载均衡、缓存感知计费，以及支持在自托管和社区运营部署中流行的社区登录提供商（Discord、LinuxDO、Telegram、OIDC）。

3. 功能分类

🖥️ 管理控制台与界面
现代化的多语言 Web 管理面板（中文、英文、法文、日文），用于管理渠道、用户和计费。包含可视化用量分析、统计报表，以及相比其前身 One API 重新设计的界面。目的：让管理员无需直接操作数据库即可获得全面的可见性和控制能力。

💳 计费与变现
内置充值钱包系统，支持 EPay 和 Stripe 集成、基于请求级别的用量成本核算，以及针对 OpenAI、Azure、Claude、DeepSeek 和 Qwen 等提供商的缓存计费支持。目的：让运营者能够以准确、可审计的成本转售或内部收取 LLM 访问费用。

🔌 API 格式兼容性
支持 OpenAI Chat/Responses 格式、Claude Messages API、Google Gemini 格式以及重排序 API（Cohere、Jina），并能在不兼容的上游和下游格式之间自动进行格式转换。目的：让客户端应用继续使用其偏好的 SDK，而网关则与实际配置的提供商进行通信。

🔀 路由与可靠性
加权随机渠道分配、上游故障时自动故障转移/重试，以及按用户模型限流。目的：即使个别上游提供商降级或限制请求，也能保持服务的可用性和公平性。

🔑 认证与访问控制
多种登录方式（Discord、LinuxDO、Telegram、OIDC），以及令牌和用户级别的权限控制。目的：既适用于社区/开放的自托管部署，也适用于受控的内部组织部署。

4. 核心亮点

  • 多提供商聚合：一个网关端点即可对接 OpenAI、Claude、Gemini、Azure、Midjourney-Proxy、Suno 及其他自定义上游，覆盖对话、图像、音频、嵌入和视频接口。
  • 格式转换层：自动在 OpenAI、Claude 和 Gemini 的请求/响应格式之间进行转换，因此客户端代码无需针对每个提供商重写。
  • 缓存感知成本核算：理解主要提供商的提示缓存计费行为，使成本报告反映实际（折扣后的）支出，而非标价。
  • 推理强度配置：在支持该功能的多个模型系列中开放推理强度控制，有助于对具备推理能力的模型进行成本/延迟调优。
  • 企业友好型计费：内置 Stripe 和 EPay 充值流程以及灵活的计费策略，使网关能够充当自助式、按需付费的内部平台。
  • 弹性路由：加权渠道分配与自动重试相结合，意味着单个上游密钥或提供商的故障不会导致整个网关宕机。

5. 按角色划分的使用场景

普通开发者：将现有的 OpenAI/Claude/Gemini 兼容 SDK 指向单个 New API 端点，即可在不修改应用代码的情况下切换或混合后端提供商。

DevOps/SRE：将 New API 作为自托管网关（Docker/Docker Compose）部署在多个 LLM 供应商之前，以集中管理密钥、监控用量并增加故障转移，确保单个提供商的故障不会导致整个应用级事故。

项目经理：使用内置的用量仪表板和成本核算功能，按团队、项目或 API 密钥跟踪支出，并设置配额以将 AI 使用量控制在预算之内。

6. 快速开始

查找所需内容——从项目 README 和 Wiki 开始，了解功能说明和配置参考：

https://github.com/QuantumNous/new-api

安装/集成——最快的方式是使用 Docker：

docker run --name new-api -p 3000:3000 -v ./data:/data calciumion/new-api:latest

生产环境推荐使用 Docker Compose，简单的本地部署可使用 SQLite，共享/远程数据库部署可使用 MySQL 5.7.8+ 或 PostgreSQL 9.6+。

参与贡献——克隆仓库，创建功能分支，并提交拉取请求：

git clone https://github.com/QuantumNous/new-api.git

7. 项目结构

new-api/
├── controller/     # 管理 API 和网关端点的 HTTP 处理器
├── relay/          # 到上游模型提供商的核心请求中继/代理逻辑
├── model/          # 数据库模型（用户、渠道、令牌、日志）
├── middleware/      # 认证、限流和请求中间件
├── web/            # 前端管理控制台（多语言界面）
├── docker-compose.yml
└── README.md

relay/ 目录是项目的核心——它包含格式转换和提供商调度逻辑，使单个请求能够被路由到不同的上游 LLM API 并为其重新整形。

8. 相关生态

New API 构建在 One API 开创的架构之上，并与包括 OpenAI、Anthropic (Claude)、Google (Gemini)、Azure OpenAI、Midjourney-Proxy 和 Suno API 在内的上游模型提供商集成。它还支持通过 Discord、LinuxDO 和 Telegram 等社区平台登录，并通过 Stripe 和 EPay 进行支付集成，使其成为连接 LLM 供应商、身份提供商和支付处理商的枢纽。

9. 许可证

✅ 在 AGPLv3 许可证下免费使用、修改和自托管，包括商业和内部企业部署。
✅ 您可以重新分发修改后的版本。
❌ 在修改/重新分发的版本中，您不得移除署名或指向原始仓库的可见链接。
ℹ️ AGPLv3 要求：如果您将修改后的版本作为网络服务运行，则必须向该服务的用户提供修改后的源代码——在商业部署定制分支之前，请仔细阅读许可证文本。

10. 常见问题

问：New API 是否需要特定的数据库？
答：不需要——它支持 SQLite 用于简单的本地部署，以及 MySQL 5.7.8+ 或 PostgreSQL 9.6+ 用于生产/多节点部署。

问：我可以在多个节点上运行 New API 吗？
答：可以，但所有节点必须共享同一个数据库和相同的 SESSION_SECRET 环境变量，并且建议使用 Redis 作为共享缓存层。

问：支持哪些模型提供商？
答：OpenAI、Claude、Google Gemini、Azure、Midjourney-Proxy、Suno 以及其他自定义配置的上游渠道，覆盖对话、图像、音频、嵌入和视频接口。

问：New API 可以免费自托管吗？
答：可以，它在 AGPLv3 下开源且免费部署；计费/充值功能让运营者可以在需要时向自己的最终用户收费。

11. 快速链接

12. 总结

New API 是一个成熟、积极维护的自托管网关，用于将多个 LLM 提供商的访问整合到一个 API 之后，并具备生产级的计费、路由和认证功能。它最适合需要集中管理多提供商 AI 成本和访问权限的团队、社区或企业，而无需分别集成每个提供商的 API。