Jev란 무엇인가

왜 언어 모델이 아닌가

LLM이 만들어내는 것은 토큰입니다. 돌아오는 것의 형태는 보장이 아니라 기대일 뿐이고, 그래서 판단에 LLM을 쓰는 애플리케이션은 결국 파싱과 재시도에 둘러싸입니다. Jev가 만들어내는 것은 당신이 지정한 타입의 값입니다. 파싱할 것도 없고 깨진 경우를 처리할 일도 없습니다 — 재시도 루프를 대신하는 것은 모델이 확신하지 못할 때 타는 분기이고, 그것은 전혀 다른, 훨씬 쓸모 있는 정보입니다.

세 가지 형태, 그게 전부

숫자

TypeSafe가 공개한 것으로, 벤더 자신의 수치이지 우리의 측정값이 아닙니다.

자주 묻는 질문

시스템 1 모델이란 무엇인가요?

산문이 아니라 판단을 위해 만들어진 모델입니다. Jev는 하나의 state와 타입 있는 질문들의 맵을 받아 질문마다 타입 있는 답을 하나씩 돌려줍니다. 스트리밍되는 토큰도, 파싱할 것도 없고, 여러분이 정의한 집합 밖의 값을 내놓을 방법도 없습니다. TypeSafe의 정리는, 빠른 구조화된 판단이 시스템 1이고 정말로 언어가 필요할 때 쓰는 보통의 LLM이 시스템 2라는 것입니다.

확신도는 무엇을 뜻하나요?

Choice와 Score의 답은 확률 분포에서 끌어낸 확신도를 함께 가집니다. 분포가 모여 있으면 확실하다는 뜻이고, 퍼져 있으면 모델이 선택지를 갈라내지 못했다는 뜻입니다. 이는 두 번째 축입니다. 답은 "무엇인가"를, 확신도는 "행동해도 되는가"를 알려 줍니다. Noul에는 확신도 필드가 없는데, 확률 자체가 이미 그것을 담고 있기 때문입니다. 0.51은 모델이 모른다고 말하는 것입니다.

Jev도 환각을 일으키나요?

출력의 모양에서는 그렇지 않습니다. Choice는 여러분이 정의한 선택지만 돌려줄 수 있고, Score는 여러분의 루브릭 안에만 떨어지며, Noul은 0과 1 사이의 수입니다. 텍스트에 대해 틀릴 수는 있습니다 — 확신도는 바로 그것을 위해 있습니다.

왜 이름이 Jev인가요?

경제학자 윌리엄 스탠리 제번스에서 왔습니다. TypeSafe의 출시 글에 따르면, 증기기관이 효율적으로 바뀐 뒤 석탄이 걸어간 길을 기계 지능도 따라갈 것으로 본다고 합니다. 즉 제번스의 역설 — 무언가를 쓰는 비용이 싸지면 사용량이 줄기는커녕 늘어난다는 이야기입니다.

Jev를 로컬에서 돌릴 수 있나요? 오픈소스인가요?

아니요. Jev는 TypeSafe의 HTTP API로 접근하는 독점 호스티드 모델입니다. 내려받을 수 있게 공개된 가중치가 없고, 모든 계정이 같은 가중치를 씁니다 — 고객별 파인튜닝이나 LoRA 적용도 없습니다. 답을 빚는 것은 요청 쪽입니다. state에 무엇을 넣는지, 각 질문의 instructions와 criteria를 어떻게 쓰는지가 그것입니다.

Jev는 얼마나 빠른가요?

TypeSafe는 엔드투엔드 70–500 ms를 제시합니다. 프런티어 모델의 3–329초와 비교되며, 잘하는 종류의 질의에서는 40–200배 빠르다고 합니다. 벤더 자신의 수치입니다. 이 사이트가 자체 로그로 말할 수 있는 것은, 아홉 문항짜리 요청이 대개 수백 밀리초 안에 돌아온다는 점입니다. 결과 페이지마다 그 호출에서 실측한 왕복 시간이 표시됩니다.

Jev의 비용은 얼마인가요?

jev-1.13.0에서 입력 100만 토큰당 $0.042이고 출력은 무료입니다. 계량할 자기회귀 디코딩이 없기 때문입니다. state는 한 번만 읽히고 모든 질문이 병렬로 평가되므로, 열 가지를 묻는 비용이 하나를 묻는 것과 비슷합니다. 이 사이트의 각 결과 페이지는 바로 그 호출의 토큰 수와 비용을 찍어 줍니다.

Jev는 어떻게 훈련되었나요?

TypeSafe가 RLCD라고 부르는 방식 — 보정된 판단을 위한 강화학습입니다. 내세우는 목표가 RLHF나 RLVR과 다릅니다. 사람이 선호하는 답도, 검사기를 통과하는 답도 아니고, 확률이 인식론적으로 정직한 답을 목표로 합니다. 확신도가 장식이 아니라 임계값으로 쓸 만한 이유가 바로 그것입니다.

한계는 무엇인가요?

텍스트만 받습니다 — 이미지, 오디오, 비디오는 안 됩니다. 요청당 64k 토큰이고, 그중 state와 가장 긴 질문 하나가 32k 안에 들어가야 합니다. Choice는 최대 255개 선택지, Score는 2~10개 등급을 받습니다. 얼리 액세스의 속도 제한은 초당 250,000 토큰, 분당 1,200 요청이며 TypeSafe는 이 수치가 바뀔 수 있다고 알립니다.