ChatGPT 공동 개발자의 새 Jev 모델, 텍스트를 버리고 AI 의사결정을 200배 빠르게 하다

뉴스 요약

ChatGPT를 만든 연구진 중 한 명이 설립한 스타트업이 자연어를 완전히 건너뛰고 텍스트 대신 구조화된 확률적 의사결정을 반환하는 AI 모델을 출시했으며, 초기 테스터들은 이 모델이 목표로 하는 작업에서 주류 대규모 언어 모델보다 훨씬 빠르고 저렴하다고 말한다. Jev라고 불리는 이 모델은 전 OpenAI 연구원이자 인간 피드백 기반 강화학습(RLHF)의 공동 발명가로 알려진 Diogo Almeida가 창업한 TypeSafe AI에서 나왔다. RLHF는 ChatGPT와 그 후속 모델을 대규모로 사용 가능하게 만든 학습 기법으로 널리 인정받고 있다.

TypeSafe AI가 발표한 내용

TypeSafe AI는 2026년 9월 16일 화요일 미국 동부 시간에 2년간의 비공개 작업 끝에 모습을 드러내며, 자사가 "System One 모델"이라고 부르는 것을 공개했다. GPT 스타일 대규모 언어 모델처럼 한 번에 하나의 토큰씩 대화형 텍스트를 생성하는 대신, Jev는 다른 소프트웨어가 직접 소비하도록 설계되었다. 구조화된 입력을 받아 타입이 지정되고 확률 점수가 매겨진 출력을 반환한다. 예를 들어 요청을 분류하거나, 레코드에 점수를 매기거나, 정책 위반을 표시하는 식이며, 산문은 전혀 생성하지 않는다. 회사는 Almeida가 "기계 네이티브 AI에 초점을 맞춘 AI 연구의 대안 경로"라고 설명한 것을 추구하기 위해 4,000만 달러의 자금을 조달했다고 밝혔다.

Jev가 기존 LLM과 다른 점

Jev는 TypeSafe가 Calibrated Decisions를 위한 강화학습(RLCD)이라고 부르는 기법으로 학습되며, 회사는 이를 현재 대부분의 대화 지향 모델을 뒷받침하는 RLHF와 RLVR(검증 가능한 보상 기반 강화학습) 방법의 후속으로 위치시킨다. Jev는 출력을 토큰 단위로 순차적으로 예측하는 대신, 단일 쿼리 내에서 가능한 모든 출력을 병렬로 샘플링한다. 개발자가 고정된 출력 스키마를 미리 정의하기 때문에, TypeSafe는 이 모델이 잘못된 형식이나 "환각" 결과를 수학적으로 생성할 수 없도록 제약된다고 말한다. 즉 주어진 스키마에 맞는 값만 반환할 수 있다.

Almeida는 이번 출시를 자신이 업계에서 보는 공백을 해결하는 것으로 설명했다. "모델은 수년간 채팅에서 초인적인 능력을 보여왔는데, 자동화는 어디에 있는가?"라는 것이다. 요청 라우팅, 콘텐츠 정렬, 탈옥 시도에 대한 출력 검사 같은 의사결정에서 대부분의 소프트웨어가 여전히 취약한 수작업 규칙이나 느리고 비싼 LLM 호출에 의존하고 있으며, 이런 작업은 범용 챗봇보다 목적에 맞게 설계된 의사결정 엔진이 더 잘 처리한다는 것이 TypeSafe의 주장이다.

성능 및 가격 주장

TypeSafe는 Jev가 약 70~500밀리초 안에 응답한다는 벤치마크 비교를 공개했으며, 회사는 이를 비교 가능한 구조화된 의사결정 작업에서 최전선 채팅 모델보다 40~200배 빠르다고 설명한다. 한 시연에서 회사는 Jev가 이미지 대신 구조화된 게임 상태 데이터를 입력받아 고전 비디오 게임 Doom을 플레이하도록 했다. TypeSafe는 같은 테스트 환경에서 비교 가능한 위치의 OpenAI 모델이 약 8.566초 걸린 데 비해 Jev는 약 0.114초 만에 응답했다고 밝혔다.

가격 책정에서 TypeSafe는 입력 토큰을 백만 토큰당 0.042달러로 책정하고 출력 토큰은 무료로 제공했으며, 회사는 이 구조를 대화형 LLM의 전형적인 입력·출력 종량제 가격과 대비시킨다. TypeSafe는 내부 워크플로 평가를 인용해 특정 프로덕션급 자동화 워크플로에서 Jev가 비교 가능한 대규모 언어 모델 접근법보다 약 193.6배 빠르고 444.6배 저렴하다고 주장하지만, 이 수치는 독립적인 제3자 테스트가 아니라 회사 자체 벤치마킹에서 나온 것이다.

개발자 반응

얼리 어답터들의 반응은 눈에 띄게 열광적이었다. Vercel의 엔지니어들은 인프라 일부에서 OpenAI 대화형 모델을 Jev로 교체한 결과 정확도를 유지하거나 개선하면서 5~18배 더 빠른 결과를 얻었다고 보고했다. Bryo AI의 엔지니어들은 Jev가 Google의 Gemini 제품군의 비교 가능한 제품보다 약 10~20배 저렴하다고 느꼈으며, 자유 텍스트 응답에서 신호를 파싱하는 대신 신뢰할 수 있는 워크플로 자동화 로직을 구축하기 쉽게 해주는 진정한 보정 확률 점수를 제공한다고 말했다.

발표 이후 수요는 TypeSafe의 API가 잠시 들어오는 트래픽을 따라가지 못할 정도로 강력했으며, 회사는 이 중단을 계획된 용량 제약이 아니라 개발자 관심의 양에 직접 기인한 것으로 돌렸다.

이 프레이밍이 중요한 이유

TypeSafe가 Jev에 붙인 이름은 19세기 경제학자 William Stanley Jevons를 연상시킨다. 그의 역설은 자원 사용 비용이 떨어지면 그 자원의 총 소비량이 줄어들기보다 오히려 늘어나는 경향이 있다는 것이다. Almeida는 이 아이디어를 인용해 AI 의사결정이 향해 가는 방향에 대한 자신의 비전을 설명했다. 모든 작업을 처리하는 소수의 매우 크고 범용적인 채팅 모델이 아니라, 소프트웨어 인프라 전반에 내장된 훨씬 더 많은 수의 작고 빠르며 저렴한 의사결정 모델이라는 것이다. Almeida는 "우리는 스마트 소프트웨어가 창발적이고 분산된 방식으로 곳곳에 존재하게 될 것이라고 생각한다"라고 말하며, System One 모델을 대화형 AI 제품을 구동하는 대규모 언어 모델의 대체물이 아니라 보완물로 설명했다.

다음 단계

TypeSafe는 Jev를 주로 백엔드 및 인프라 사용 사례, 즉 모델 라우팅, 콘텐츠 조정 및 안전 검사, 워크플로 자동화, 대규모 데이터 분류를 위해 위치시켰으며, 소비자 대상 채팅 애플리케이션용은 아니다. 이 모델의 출력은 개방형 텍스트가 아니라 스키마에 제약되므로 챗봇이나 글쓰기 도우미와 직접 경쟁하도록 의도되지 않았다. 독립 연구자와 경쟁 연구소들은 아직 TypeSafe의 성능 주장을 확인하는 제3자 벤치마크를 발표하지 않았으며, System One 범주가 TypeSafe 자체가 강조한 사용 사례를 넘어 더 넓은 범위의 실제 프로덕션 워크로드에서 어떻게 수행되는지는 더 많은 개발자가 이 모델을 프로덕션에 투입하면서 지켜봐야 할 것이다.