AI를 소프트웨어에 연결할 때 자연어 답변이 항상 필요하지는 않습니다. 고객 문의를 어느 팀으로 보낼지, 거래가 위험한지, 사람이 검토해야 할지 같은 업무에는 문장보다 정해진 선택지와 그 확률이 더 쓸모 있습니다.
TypeSafe AI의 Jev는 이런 업무를 위한 early access 모델입니다. 공식 소개 ↗에 따르면 Jev는 자유 텍스트를 생성하지 않습니다. 대신 입력 state에 대해 미리 정의한 질문의 타입 안전한 결정을 확률과 함께 반환합니다. 최근 외부 API 관측 기반 분석 ↗은 이 제품이 빠른 이유를 추정한 구조도 제시했습니다.
Jev는 텍스트 생성·파싱·재시도를 줄이고, 불확실성을 명시적인 정책 입력으로 바꿉니다. 속도만 보면 “LLM보다 빠른 분류기”로 보이지만, 설계의 초점은 확률을 코드의 입력으로 쓰는 데 있습니다. 이 구조만으로 자동화가 안전해지지는 않습니다. 실제 업무 데이터로 확률 보정을 확인하고, 선택지 변화에 대한 회귀 테스트를 먼저 만들어야 합니다.
2026-09-22 · Jev early access와 공식 API 문서 확인 내용 기준입니다. Jev의 내부 모델 구조는 공개되지 않았으므로, 외부 관측으로부터 나온 설명은 구현 사실이 아니라 가설로 구분합니다.
문장을 만들지 않는 모델은 무엇을 반환할까
Jev의 API reference ↗에 따르면 API는 하나의 state와 이름 붙인 questions 맵을 받습니다. 그리고 각 질문의 구조화된 답을 반환합니다. 질문 유형은 예/아니요(noul), 선택지 하나를 고르는 choice, 순서형 척도를 평가하는 score입니다.
flowchart TD
A[애플리케이션 state] --> B[공통 문맥 처리]
B --> C[질문: 긴급한가?]
B --> D[질문: 담당 팀은?]
B --> E[질문: 위험도는?]
C --> F[확률 기반 정책]
D --> F
E --> F
F --> G[사람 검토·라우팅·후속 코드]
예를 들어 고객 지원 메시지를 받으면, 모델은 “빠르게 확인해 보겠습니다” 같은 문장 대신 긴급성의 확률과 담당 부서 선택지를 반환합니다. 호출하는 코드는 그 값으로 Slack 알림, 담당팀 라우팅, 사람 검토 큐 같은 후속 동작을 명시적으로 결정합니다.
공식 문서의 choice는 선택된 값과 함께 모든 선택지의 확률 분포와 confidence를 반환합니다. 애플리케이션은 단일 라벨만 받는 기존 분류기보다 많은 정보를 얻습니다. 하지만 그 숫자를 곧바로 사실로 받아들이면 안 됩니다.
API는 결정의 모양을 먼저 고정합니다
공식 문서의 예시를 단순화하면 요청은 다음과 같습니다. state는 평가 대상 데이터이고, questions에는 질문과 허용 가능한 출력을 둡니다.
{
"state": "고객의 지급이 3일째 실패하고 있습니다.",
"model": "jev-latest",
"questions": {
"is_urgent": {
"type": "noul",
"instructions": "이 요청은 긴급성을 표현하는가?"
},
"department": {
"type": "choice",
"instructions": "어느 팀이 처리해야 하는가?",
"criteria": {
"billing": "결제, 청구, 환불",
"technical": "버그, 장애, 연동",
"sales": "가격, 업그레이드, 신규 계정"
}
}
}
}이 인터페이스에서는 모델 출력을 파싱할 필요가 없습니다. 코드가 결정 공간 자체를 제한하기 때문입니다. choice에는 최대 255개 선택지를 넣을 수 있고, score에는 순서가 있는 척도를 정의할 수 있습니다. 반면 고객에게 보내는 자연스러운 설명, 열린 질문의 탐색, 코드 작성처럼 답의 형태가 열려 있는 작업에는 생성 모델이 더 맞습니다.
외부 관측은 공유 문맥과 병렬 질문을 시사합니다
Archer Hume의 분석 글 ↗은 약 1만 회 API 호출로 응답 지연, 토큰 집계, 질문 간 정보 전달을 관찰했습니다. 분석이 유력하다고 보는 구조는 다음과 같습니다. 공통 state를 한 번 처리하고, 개별 질문은 서로 격리된 분기로 평가해 병렬로 결과를 돌려줍니다.
이 해석이 맞다면, 같은 고객 메시지로 긴급성·담당팀·위험도를 물을 때 공통 문맥을 매번 새로 만들지 않아도 됩니다. 또 토큰을 한 개씩 생성하는 자동회귀 디코딩 없이 수치 확률을 직접 읽으면, 출력이 길어질 때 생기는 생성 지연도 없습니다.
다만 공유 state, 질문별 분기, 직접적인 수치 출력은 관측 결과를 설명하려고 만든 재구성입니다. TypeSafe가 실제로 어떤 Transformer backbone, attention mask, 캐시, MoE 구조를 쓰는지는 공개되지 않았습니다. 이 분석을 읽을 때는 가능한 구현과 실제 구현을 구분합니다.
확률을 자동 실행 기준으로 쓰려면 정책이 필요합니다
모델이 확률을 주면 “90% 이상이면 자동 처리” 같은 규칙을 만들기 쉬워 보입니다. 그러나 공식 소개 ↗는 보정된 확률을 목표로 제시할 뿐입니다. 특정 팀의 데이터 분포에서도 같은 보정 품질이 나온다고 보장하지는 않습니다.
외부 분석에 따르면 선택지 순서를 바꾸거나 무관해 보이는 선택지를 추가해도 기존 선택지의 확률이 바뀝니다. 어떤 업무에서는 정상적인 상대 비교일 수 있습니다. 하지만 임계값 부근에서는 이 변화 때문에 자동 실행 여부가 달라질 수 있습니다.
OpenAI와 Codex의 워크플로 수렴에서 다룬 원칙이 여기에도 적용됩니다. 해석은 모델에 맡기고 검증은 코드에 맡깁니다. Jev는 모델의 출력 형식을 좁히지만, 임계값·승인·재시도·감사 로그는 애플리케이션이 설계해야 합니다.
에이전트를 대체하기보다 한 단계를 좁힙니다
Jev는 장기 계획을 세우거나 코드베이스를 탐색하는 에이전트를 대체하지 않습니다. 에이전트가 수집한 상태로 여러 독립 판단을 빠르게 내리거나, 사람이 매번 같은 기준으로 분류하던 단계를 자동화합니다.
장기 실행 앱의 harness 설계에서도 같은 역할 분리를 다뤘습니다. 시스템이 오래 실행될수록 “무엇을 결정했는가”와 함께 “어떤 근거와 임계값으로 다음 행동을 허용했는가”를 기록해야 합니다. 여러 작업을 나눠 처리한다면 Claude Code Agent Teams처럼 결과를 모으는 구조와 사람이 검토할 경계를 함께 설계합니다.
Jev는 AI를 대화 상대 대신 소프트웨어 안의 확률적 if 문으로 씁니다. 이 방식은 답이 열려 있는 작업보다 상태는 복잡하지만 행동 선택지는 제한된 작업에서 효과가 있습니다.
마무리
도입을 검토한다면 응답 속도와 함께 세 가지를 확인합니다. 해당 업무의 정답을 측정할 수 있는지, 선택지 설계가 안정적인지, 확신이 낮은 사례를 사람이 처리할 수 있는지입니다. 운영 정책이 불분명하면 빠른 자동화는 실수도 빠르게 만듭니다.
참고 자료
- TypeSafe AI: Introducing System One Models & Jev ↗ — Jev의 공개 목표와 early access 설명
- TypeSafe API reference ↗ — state, questions, choice·score·noul 인터페이스
- Jev’s Architecture Unmasked ↗ — API 관측 기반 재구성과 한계
- GeekNews 소개 ↗ — 한국어 요약