1. プロジェクト概要
New APIは、オープンソースの次世代LLMゲートウェイ兼AI資産管理システムです。組織が複数のAIモデルプロバイダーを単一の統一APIの背後に集約し、その上にエンタープライズグレードの認証、利用状況分析、コスト会計を追加できます。
2. 背景と位置づけ
New APIは、よく知られたOne APIプロジェクトを基盤に構築され、再設計されたインターフェース、より豊富な課金機能、組織レベルのセルフホスト型デプロイに特化した機能を追加しています。中核となるミッションは、チームや企業に、さまざまな大規模言語モデル(LLM)プロバイダーを呼び出すための単一の制御可能なエントリポイントを提供することです。ベンダーごとに個別のSDK、APIキー、課金ダッシュボードを管理する必要はありません。
類似のLLMプロキシ/ゲートウェイプロジェクトと比較して、New APIはAPI形式の変換(OpenAI、Claude、Geminiなど)とフル機能の管理コンソールを組み合わせている点で差別化されています。ユーザーごとのクォータ、マルチチャネル負荷分散、キャッシュ対応課金、セルフホスト型およびコミュニティ運営のデプロイで人気のコミュニティログインプロバイダー(Discord、LinuxDO、Telegram、OIDC)のサポートなどです。
3. 機能カテゴリ
🖥️ 管理コンソールとUI
チャネル、ユーザー、課金を管理するためのモダンで多言語対応のWebダッシュボード(中国語、英語、フランス語、日本語)。視覚的な利用状況分析、統計レポート、One APIの前身と比較して再設計されたUIを備えています。目的: データベースに直接触れることなく、管理者に完全な可視性と制御を提供します。
💳 課金と収益化
EPayとStripeの統合を備えた内部チャージウォレットシステム、リクエストレベルの使用量ベースのコスト会計、OpenAI、Azure、Claude、DeepSeek、Qwenなどのプロバイダー向けのキャッシュ課金サポート。目的: オペレーターが正確で監査可能なコストでLLMアクセスを再販または内部請求できるようにします。
🔌 API形式の互換性
OpenAI Chat/Responses形式、Claude Messages API、Google Gemini形式、および再ランクAPI(Cohere、Jina)をサポートし、互換性のない上流と下流の形式間で自動変換を行います。目的: ゲートウェイが実際に設定されているプロバイダーと通信している間、クライアントアプリケーションは好みのSDKを使い続けることができます。
🔀 ルーティングと信頼性
重み付けランダムチャネル分散、上流障害時の自動フェイルオーバー/リトライ、ユーザーごとのモデルレート制限。目的: 個々の上流プロバイダーが劣化したりリクエストをレート制限したりしても、サービスを利用可能で公平に保ちます。
🔑 認証とアクセス制御
複数のログイン方法(Discord、LinuxDO、Telegram、OIDC)に加えて、トークンレベルおよびユーザーレベルの権限制御。目的: コミュニティ/オープンなセルフホスト型デプロイと、制御された内部組織デプロイの両方に適合します。
4. 主なハイライト
- マルチプロバイダー集約: 単一のゲートウェイエンドポイントがOpenAI、Claude、Gemini、Azure、Midjourney-Proxy、Suno、その他のカスタム上流をフロントに置き、チャット、画像、音声、埋め込み、ビデオインターフェースをカバーします。
- 形式変換レイヤー: OpenAI、Claude、Geminiのリクエスト/レスポンス形式を自動変換するため、クライアントコードをプロバイダーごとに書き直す必要がありません。
- キャッシュ対応コスト会計: 主要プロバイダーのプロンプトキャッシュ課金動作を理解しているため、コストレポートは定価ではなく実際の(割引された)支出を反映します。
- 推論努力の設定: 対応している複数のモデルファミリーにわたって推論努力の制御を公開し、推論能力のあるモデルのコスト/レイテンシ調整に役立ちます。
- エンタープライズ向け課金: 組み込みのStripeとEPayチャージフローに加えて柔軟な課金ポリシーを備えているため、ゲートウェイはセルフサービスの従量課金制内部プラットフォームとして機能できます。
- 回復力のあるルーティング: 自動リトライ付きの重み付けチャネル分散により、単一の上流キーまたはプロバイダーの障害でゲートウェイ全体がダウンすることはありません。
5. 役割別のユースケース
一般開発者: 既存のOpenAI/Claude/Gemini互換SDKを単一のNew APIエンドポイントに向け、アプリケーションコードを変更せずにバックエンドプロバイダーを交換または混合します。
DevOps/SRE: 複数のLLMベンダーの前にセルフホスト型ゲートウェイ(Docker/Docker Compose)としてNew APIをデプロイし、シークレットを一元管理し、使用状況を監視し、フェイルオーバーを追加して、単一のプロバイダー障害がアプリ全体のインシデントを引き起こさないようにします。
プロジェクトマネージャー: 組み込みの使用状況ダッシュボードとコスト会計を使用して、チーム、プロジェクト、またはAPIキーごとの支出を追跡し、AI使用量を予算内に保つためのクォータを設定します。
6. はじめに
必要なものを見つける — 機能の説明と設定リファレンスについては、プロジェクトのREADMEとWikiから始めてください:
https://github.com/QuantumNous/new-api
インストール/統合 — 最速の方法はDockerです:
docker run --name new-api -p 3000:3000 -v ./data:/data calciumion/new-api:latest
本番環境ではDocker Composeが推奨され、シンプルなローカルセットアップにはSQLite、共有/リモートデータベースのデプロイにはMySQL 5.7.8+/PostgreSQL 9.6+を使用します。
貢献 — リポジトリをフォークし、フィーチャーブランチを作成し、プルリクエストを開いてください:
git clone https://github.com/QuantumNous/new-api.git
7. プロジェクト構造
new-api/
├── controller/ # 管理APIおよびゲートウェイエンドポイント用のHTTPハンドラー
├── relay/ # 上流モデルプロバイダーへのコアリクエストリレー/プロキシロジック
├── model/ # データベースモデル(ユーザー、チャネル、トークン、ログ)
├── middleware/ # 認証、レート制限、リクエストミドルウェア
├── web/ # フロントエンド管理コンソール(多言語UI)
├── docker-compose.yml
└── README.md
relay/ディレクトリはプロジェクトの中心です。単一のリクエストを異なる上流LLM APIにルーティングして再形成できるようにする形式変換およびプロバイダーディスパッチロジックが含まれています。
8. 関連エコシステム
New APIはOne APIが開拓したアーキテクチャを基盤としており、OpenAI、Anthropic (Claude)、Google (Gemini)、Azure OpenAI、Midjourney-Proxy、Suno APIなどの上流モデルプロバイダーと統合しています。また、Discord、LinuxDO、Telegramなどのコミュニティプラットフォームを介したログイン、StripeとEPayを介した決済統合もサポートしており、LLMベンダー、アイデンティティプロバイダー、決済処理業者を結びつけるハブとなっています。
9. ライセンス
✅ AGPLv3ライセンスの下で、商用および内部エンタープライズデプロイを含め、自由に使用、変更、セルフホストできます。
✅ 変更したバージョンを再配布できます。
❌ 変更/再配布バージョンでは、帰属表示または元のリポジトリへの可視リンクを削除することはできません。
ℹ️ AGPLv3では、変更したバージョンをネットワークサービスとして実行する場合、そのサービスのユーザーが変更したソースコードを利用できるようにする必要があります。商用でカスタマイズしたフォークをデプロイする前に、ライセンス文を確認してください。
10. よくある質問
Q: New APIは特定のデータベースが必要ですか?
A: いいえ — シンプルなローカルデプロイにはSQLiteを、本番/マルチノードデプロイにはMySQL 5.7.8+またはPostgreSQL 9.6+をサポートしています。
Q: New APIを複数ノードで実行できますか?
A: はい、ただしすべてのノードが同じデータベースと同一のSESSION_SECRET環境変数を共有する必要があり、共有キャッシュレイヤーとしてRedisが推奨されます。
Q: どのモデルプロバイダーがサポートされていますか?
A: OpenAI、Claude、Google Gemini、Azure、Midjourney-Proxy、Suno、その他のカスタム設定された上流チャネルで、チャット、画像、音声、埋め込み、ビデオインターフェースをカバーしています。
Q: New APIはセルフホスト無料ですか?
A: はい、AGPLv3の下でオープンソースであり、デプロイは無料です。課金/チャージ機能により、オペレーターは必要に応じてエンドユーザーに請求できます。
11. クイックリンク
- リポジトリ: https://github.com/QuantumNous/new-api
- Dockerイメージ:
calciumion/new-api - 貢献: メインリポジトリに対してプルリクエストを開く
- コミュニティ/ディスカッション: リポジトリページのGitHub IssuesとDiscussions
12. まとめ
New APIは、複数のLLMプロバイダーへのアクセスを単一のAPIの背後に統合するための、成熟した積極的にメンテナンスされているセルフホスト型ゲートウェイであり、本番グレードの課金、ルーティング、認証機能を備えています。各プロバイダーのAPIを個別に統合するのではなく、マルチプロバイダーのAIコストとアクセスを中央で管理する必要があるチーム、コミュニティ、または企業に最適です。