1. 專案概述
OmniRoute 是一款免費、採用 MIT 授權、可自行託管的 AI 閘道，將 290 多家 AI 供應商與 500 多個模型的存取統一在單一 OpenAI 相容端點背後，解決了使用 LLM 開發時需同時管理多個 API 金鑰、速率限制與供應商停機的痛點。
2. 背景與定位
OmniRoute 的創立旨在讓開發者「永不停止編碼」——即使是最愛用的模型達到速率限制、免費額度用盡或完全停機。開發者無需將應用程式硬編碼至單一供應商，只需將工具指向 OmniRoute 的本地端點一次，閘道便會在幕後處理供應商選擇、故障轉移與成本最佳化。
相較於 OpenRouter 或 LiteLLM 等類似的閘道專案，OmniRoute 的獨特優勢在於：
- 更龐大的免費層供應商目錄（90 多家供應商提供免費存取，每月追蹤約 15.3 億個免費 Token）
- 本地優先架構——預設完全在開發者自己的機器上運行，零雲端遙測，而非透過第三方 SaaS 路由流量
- 內建 Token 壓縮管線，在路由與備援之外進一步降低每次請求的成本
- 原生支援代理協定（MCP、A2A）及 REST API，使其成為人類開發者與自主編碼代理的基礎設施
3. 功能分類
🔀 智慧路由——19 種策略，3-5 個範例：優先路由、加權路由、成本最佳化路由、「最後已知良好路徑」路由，以及「Auto」組合模式。目的：自動為每個請求挑選最佳可用供應商。
🛡️ 彈性與故障轉移——3 層系統，範例：供應商專屬斷路器、失敗自動重試、感知配額的備援、基於健康狀態的路由、遠端 VPS 故障轉移模式。目的：即使個別供應商限速或停機，仍能保持請求成功。
🗜️ Token 壓縮——12 引擎管線，範例：RTK（工具結果過濾）、Caveman（散文壓縮）、LLMLingua-2（語意修剪）、程式碼/URL/JSON 保留規則。目的：在不破壞結構化內容的情況下，將 Token 使用量減少 15–95%（平均約 89%）。
🔌 協定與整合支援——4 大介面，範例：OpenAI 相容 REST API、MCP 伺服器（104 個工具）、A2A 協定、Webhooks、80 多個 CLI 指令。目的：讓人類驅動的 IDE 與自主代理能以相同方式與閘道通訊。
🤝 編碼代理相容性——支援 33 種以上工具，範例：Claude Code、Cursor、Cline、Continue、GitHub Copilot、OpenCode。目的：作為無縫替換的端點，讓現有代理工具無需修改即可運作。
4. 核心亮點
- 單一端點背後整合 290 多家供應商、500 多個模型——包含 Claude、GPT、Gemini、DeepSeek、GLM、Kimi 與 MiniMax，無需管理數十個獨立的 API 金鑰即可存取。
- 90 多家免費供應商，每月追蹤約 15.3 億個免費 Token——提供機器可讀、定期重新審計的免費層目錄，大約每兩週更新一次。
- 12 引擎 Token 壓縮——在明確保留程式碼、URL 與 JSON 結構的同時，精簡請求/回應負載，降低每次呼叫的花費。
- 3 層斷路器彈性——自動偵測故障供應商並重新路由流量，確保單一供應商停機不會中斷開發。
- 本地優先、零遙測設計——閘道及其加密（AES-256-GCM）憑證儲存區完全在使用者自己的機器或自行託管的伺服器上運行。
- 代理原生協定——除了 REST API 外，還提供一流的 MCP 伺服器與 A2A 協定支援，專為日益壯大的自主編碼代理生態系統而建。
5. 角色使用情境
一般開發者——將任何 OpenAI 相容的 IDE 或 CLI 工具指向 http://localhost:20128/v1，使用 auto 模型，即可在免費與付費供應商之間自動備援，無需重寫整合程式碼。
DevOps/SRE——透過 Docker 部署 OmniRoute，或作為具有範圍限制遠端 Token 的 VPS 託管執行個體，以集中管理並監控整個團隊的 LLM 使用量、配額與供應商健康狀態。
專案經理——使用配額池與公平分配機制來控制與追蹤團隊的 AI 支出，無需每位成員都擁有獨立的供應商帳號。
6. 快速入門
尋找所需資源——瀏覽儲存庫 /docs 目錄中的免費層供應商目錄與比較文件，或查看 Wiki 了解架構與指南。
安裝/整合：
npm install -g omniroute
omniroute
或透過 Docker：
docker run -d --name omniroute -p 127.0.0.1:20128:20128 diegosouzapw/omniroute
然後將任何 OpenAI 相容用戶端指向 http://localhost:20128/v1。
貢獻：
git clone https://github.com/diegosouzapw/OmniRoute.git
cd OmniRoute
npm install && npm run dev
請遵循專案的貢獻指南開啟 Pull Request。
7. 專案結構
OmniRoute/
├── src/ # Core gateway, routing engine, compression pipeline
├── public/ # Dashboard assets and provider icons
├── docs/ # Guides: Docker, compression, providers, security
├── tests/ # Automated test suite
├── electron/ # Native desktop app (Windows/macOS/Linux)
└── examples/ # Integration examples for coding agents and IDEs
src/ 包含作為閘道核心的路由與壓縮邏輯，而 docs/ 則包含整個專案中引用的持續更新免費層供應商目錄。
8. 相關生態系統
- 上游依賴：其路由指向的 290 多家 AI 供應商（OpenAI、Anthropic、Google、Moonshot AI/Kimi、DeepSeek 及許多免費層服務），加上作為底層應用程式框架的 Next.js。
- 互補工具：編碼代理與 IDE，如 Claude Code、Cursor、Cline、Continue、OpenCode 與 GitHub Copilot，它們將 OmniRoute 作為模型後端進行連線。
- 類似專案：OpenRouter 與 LiteLLM，解決類似的多供應商路由需求。
9. 授權條款
✅ 可免費使用、自行託管、修改與散佈（MIT 授權）
✅ 允許商業使用
❌ 作者不提供任何保固
ℹ️ 需在軟體副本中保留原始版權與授權聲明
10. 常見問題
Q：OmniRoute 會將我的 API 金鑰或流量傳送到第三方雲端服務嗎？
A：不會——它被設計為本地優先的閘道，在您自己的機器或伺服器上運行，預設零雲端遙測，並採用加密的本地憑證儲存。
Q：我需要付費才能使用 OmniRoute 嗎？
A：OmniRoute 本身是免費且採用 MIT 授權的。它也整理了 90 多家供應商的免費層，因此您無需任何付費 API 金鑰即可開始使用。
Q：我可以將 OmniRoute 與哪些編碼工具搭配使用？
A：任何 OpenAI 相容的用戶端皆可開箱即用，包含 Claude Code、Cursor、Cline、Continue、OpenCode 與 GitHub Copilot——明確支援 33 種以上工具。
Q：「auto」模型是如何運作的？
A：將模型設定為 auto 可讓 OmniRoute 根據路由策略、配額與健康狀態動態選擇最佳供應商，並在供應商失敗時自動備援。
Q：Token 壓縮實際上能節省多少？
A：專案文件指出，根據內容類型可節省約 15–95%，平均約為 89%，這是透過 12 階段壓縮管線實現的，且始終保留程式碼、URL 與 JSON。
11. 快速連結
- 儲存庫：https://github.com/diegosouzapw/OmniRoute
- Wiki / 文件：https://github.com/diegosouzapw/OmniRoute/wiki
- 使用者指南：https://github.com/diegosouzapw/OmniRoute/blob/main/docs/guides/USER_GUIDE.md
- 發布版本：https://github.com/diegosouzapw/OmniRoute/releases
12. 總結
OmniRoute 為開發者提供一個單一、可自行託管的閘道，連接數百家 AI 供應商與模型，不僅削減了管理多個 API 金鑰的營運開銷，還降低了每次請求的 Token 成本。它最適合依賴 AI 編碼代理的個人開發者與團隊，讓他們在面對供應商速率限制與停機時保持彈性，同時無需放棄對憑證或流量的控制權。