1. 프로젝트 개요
New API는 오픈소스 차세대 LLM 게이트웨이이자 AI 자산 관리 시스템으로, 조직이 여러 AI 모델 제공업체를 단일 통합 API 뒤로 모으고, 여기에 엔터프라이즈급 인증, 사용량 분석, 비용 회계 기능을 추가할 수 있게 해줍니다.
2. 배경 및 포지셔닝
New API는 잘 알려진 One API 프로젝트를 기반으로 구축되었으며, 재설계된 인터페이스, 더 풍부한 결제 기능, 조직 수준의 자체 호스팅 배포에 맞춰진 기능을 추가로 제공합니다. 핵심 목표는 팀과 기업이 여러 LLM 제공업체를 호출할 때 각 공급업체별로 별도의 SDK, API 키, 결제 대시보드를 관리하는 대신, 단일하고 통제 가능한 진입점을 제공하는 것입니다.
유사한 LLM 프록시/게이트웨이 프로젝트와 비교하여 New API는 API 형식 변환(OpenAI, Claude, Gemini 등)과 완전한 기능을 갖춘 관리 콘솔(사용자별 할당량, 다중 채널 로드 밸런싱, 캐시 인식 결제, 자체 호스팅 및 커뮤니티 운영 배포에서 널리 사용되는 커뮤니티 로그인 제공업체(Discord, LinuxDO, Telegram, OIDC) 지원)을 결합하여 차별화됩니다.
3. 기능 분류
🖥️ 관리 콘솔 및 UI
채널, 사용자, 결제를 관리하기 위한 현대적이고 다국어를 지원하는 웹 대시보드(중국어, 영어, 프랑스어, 일본어)입니다. 시각적 사용량 분석, 통계 보고, One API 전임 버전에 비해 재설계된 UI를 포함합니다. 목적: 관리자가 데이터베이스에 직접 접근하지 않고도 전체적인 가시성과 제어 권한을 확보할 수 있게 합니다.
💳 결제 및 수익화
EPay 및 Stripe 통합을 지원하는 내부 충전 지갑 시스템, 요청 수준 사용량 기반 비용 회계, OpenAI, Azure, Claude, DeepSeek, Qwen과 같은 제공업체의 캐시 결제 지원을 포함합니다. 목적: 운영자가 정확하고 감사 가능한 비용으로 LLM 접근 권한을 재판매하거나 내부적으로 청구할 수 있게 합니다.
🔌 API 형식 호환성
OpenAI Chat/Responses 형식, Claude Messages API, Google Gemini 형식, rerank API(Cohere, Jina)를 지원하며, 호환되지 않는 업스트림 및 다운스트림 형식 간의 자동 형식 변환을 제공합니다. 목적: 게이트웨이가 실제로 구성된 제공업체와 통신하는 동안 클라이언트 애플리케이션이 선호하는 SDK를 계속 사용할 수 있게 합니다.
🔀 라우팅 및 안정성
가중치 기반 무작위 채널 분배, 업스트림 실패 시 자동 장애 조치/재시도, 사용자별 모델 속도 제한을 지원합니다. 목적: 개별 업스트림 제공업체가 성능 저하 또는 요청 속도 제한을 겪더라도 서비스 가용성과 공정성을 유지합니다.
🔑 인증 및 접근 제어
여러 로그인 방식(Discord, LinuxDO, Telegram, OIDC)과 토큰 및 사용자 수준 권한 제어를 지원합니다. 목적: 커뮤니티/공개 자체 호스팅 배포와 통제된 내부 조직 배포 모두에 적합합니다.
4. 주요 특징
- 다중 제공업체 통합: 단일 게이트웨이 엔드포인트가 OpenAI, Claude, Gemini, Azure, Midjourney-Proxy, Suno 및 기타 사용자 정의 업스트림을 지원하며 채팅, 이미지, 오디오, 임베딩, 비디오 인터페이스를 포괄합니다.
- 형식 변환 계층: OpenAI, Claude, Gemini 요청/응답 형식 간 자동 변환을 제공하여 클라이언트 코드를 제공업체별로 다시 작성할 필요가 없습니다.
- 캐시 인식 비용 회계: 주요 제공업체의 프롬프트 캐싱 결제 동작을 이해하여 비용 보고서가 정가가 아닌 실제(할인된) 지출을 반영합니다.
- 추론 노력 구성: 이를 지원하는 여러 모델 제품군에서 추론 노력 제어를 노출하여 추론 가능한 모델의 비용/지연 시간 조정에 유용합니다.
- 엔터프라이즈 친화적 결제: 내장된 Stripe 및 EPay 충전 흐름과 유연한 결제 정책을 통해 게이트웨이가 셀프 서비스, 종량제 내부 플랫폼으로 작동할 수 있습니다.
- 탄력적인 라우팅: 가중치 기반 채널 분배와 자동 재시도를 통해 단일 업스트림 키 또는 제공업체의 실패가 전체 게이트웨이를 중단시키지 않습니다.
5. 역할별 사용 사례
일반 개발자: 기존 OpenAI/Claude/Gemini 호환 SDK를 단일 New API 엔드포인트로 연결하고 애플리케이션 코드를 변경하지 않고 백엔드 제공업체를 교체하거나 혼합할 수 있습니다.
DevOps/SRE: 여러 LLM 공급업체 앞에 New API를 자체 호스팅 게이트웨이(Docker/Docker Compose)로 배포하여 비밀 키를 중앙 집중화하고 사용량을 모니터링하며 장애 조치를 추가하여 단일 제공업체 중단이 앱 전체 장애를 유발하지 않도록 합니다.
프로젝트 관리자: 내장된 사용량 대시보드와 비용 회계를 사용하여 팀, 프로젝트 또는 API 키별 지출을 추적하고 할당량을 설정하여 AI 사용량을 예산 내로 유지합니다.
6. 시작하기
필요한 것 찾기 — 기능 설명과 구성 참조는 프로젝트 README와 Wiki에서 시작하세요:
https://github.com/QuantumNous/new-api
설치/통합 — 가장 빠른 방법은 Docker입니다:
docker run --name new-api -p 3000:3000 -v ./data:/data calciumion/new-api:latest
프로덕션 환경에서는 Docker Compose를 권장하며, 간단한 로컬 설정에는 SQLite를, 공유/원격 데이터베이스 배포에는 MySQL 5.7.8+/PostgreSQL 9.6+를 사용합니다.
기여 — 저장소를 포크하고 기능 브랜치를 만든 다음 풀 리퀘스트를 여세요:
git clone https://github.com/QuantumNous/new-api.git
7. 프로젝트 구조
new-api/
├── controller/ # 관리 API 및 게이트웨이 엔드포인트용 HTTP 핸들러
├── relay/ # 업스트림 모델 제공업체로의 핵심 요청 릴레이/프록시 로직
├── model/ # 데이터베이스 모델 (사용자, 채널, 토큰, 로그)
├── middleware/ # 인증, 속도 제한 및 요청 미들웨어
├── web/ # 프론트엔드 관리 콘솔 (다국어 UI)
├── docker-compose.yml
└── README.md
relay/ 디렉토리는 프로젝트의 핵심입니다. 단일 요청을 다양한 업스트림 LLM API로 라우팅하고 형식을 변환하는 형식 변환 및 제공업체 디스패치 로직이 포함되어 있습니다.
8. 관련 생태계
New API는 One API가 개척한 아키텍처를 기반으로 하며 OpenAI, Anthropic (Claude), Google (Gemini), Azure OpenAI, Midjourney-Proxy, Suno API를 포함한 업스트림 모델 제공업체와 통합됩니다. 또한 Discord, LinuxDO, Telegram과 같은 커뮤니티 플랫폼을 통한 로그인과 Stripe 및 EPay를 통한 결제 통합을 지원하여 LLM 공급업체, ID 제공업체, 결제 처리업체를 연결하는 허브 역할을 합니다.
9. 라이선스
✅ AGPLv3 라이선스에 따라 상업적 및 내부 엔터프라이즈 배포를 포함하여 자유롭게 사용, 수정, 자체 호스팅할 수 있습니다.
✅ 수정된 버전을 재배포할 수 있습니다.
❌ 수정/재배포 버전에서 원본 저장소에 대한 저작자 표시 또는 표시 링크를 제거할 수 없습니다.
ℹ️ AGPLv3는 수정된 버전을 네트워크 서비스로 실행하는 경우 해당 서비스 사용자에게 수정된 소스 코드를 제공해야 합니다. 상업적으로 맞춤형 포크를 배포하기 전에 라이선스 전문을 검토하세요.
10. FAQ
Q: New API는 특정 데이터베이스가 필요한가요?
A: 아니요. 간단한 로컬 배포에는 SQLite를 지원하고, 프로덕션/다중 노드 배포에는 MySQL 5.7.8+ 또는 PostgreSQL 9.6+를 지원합니다.
Q: New API를 여러 노드에서 실행할 수 있나요?
A: 네, 가능합니다. 단, 모든 노드가 동일한 데이터베이스와 동일한 SESSION_SECRET 환경 변수를 공유해야 하며, 공유 캐시 계층으로 Redis를 권장합니다.
Q: 어떤 모델 제공업체를 지원하나요?
A: OpenAI, Claude, Google Gemini, Azure, Midjourney-Proxy, Suno 및 기타 사용자 정의 구성 업스트림 채널을 지원하며 채팅, 이미지, 오디오, 임베딩, 비디오 인터페이스를 포괄합니다.
Q: New API는 자체 호스팅이 무료인가요?
A: 네, AGPLv3 오픈소스이며 무료로 배포할 수 있습니다. 결제/충전 기능을 통해 운영자는 원하는 경우 최종 사용자에게 요금을 청구할 수 있습니다.
11. 빠른 링크
- 저장소: https://github.com/QuantumNous/new-api
- Docker 이미지:
calciumion/new-api - 기여: 메인 저장소에 풀 리퀘스트 열기
- 커뮤니티/토론: 저장소 페이지의 GitHub Issues 및 Discussions
12. 요약
New API는 여러 LLM 제공업체에 대한 접근을 단일 API로 통합하고 프로덕션급 결제, 라우팅, 인증 기능을 갖춘 성숙하고 활발하게 유지 관리되는 자체 호스팅 게이트웨이입니다. 각 제공업체의 API를 개별적으로 통합하는 대신 다중 제공업체 AI 비용과 접근 권한을 중앙에서 관리해야 하는 팀, 커뮤니티 또는 기업에 가장 적합합니다.