Dejev

작동 방식

Dejev은(는) API 호출 한 번을 얇게 감싼 시각적 래퍼입니다. 결과 페이지의 모든 것은 한 번의 POST /v1/systemone에서 나옵니다.

요청 전체

state는 여러분이 제공합니다 — 붙여 넣은 그것입니다. 질문은 렌즈가 제공합니다. Jev는 질문마다 타입 있는 답을 하나씩, 같은 id를 키로 해서 돌려줍니다.

{
  "state": "Help! My payouts have been failing for 3 days.",
  "model": "jev-latest",
  "questions": {
    "is_urgent":  { "type": "noul",   "instructions": "Does this convey urgency?" },
    "department": { "type": "choice", "instructions": "Which team should handle this?",
                    "criteria": { "billing": "Payments, invoicing, refunds",
                                  "technical": "Bugs, outages, integrations",
                                  "sales": "Pricing, upgrades, new accounts" } },
    "frustration":{ "type": "score",  "instructions": "How frustrated is the customer?",
                    "criteria": ["Calm", "Frustrated", "Very angry"] }
  }
}

그림이 답에 대응하는 방식

Choice → 도넛
확률의 합이 1이므로 여기서는 고리가 정직합니다. 진짜 부분과 전체의 관계니까요. 범례는 모든 선택지를 정확한 값과 함께 다시 나열합니다. 도넛은 박빙을 표현하는 데 약하고 숫자는 그렇지 않기 때문입니다.
Score → 루브릭 띠
띠는 여러분의 등급을 순서대로 놓은 것이고, 바늘은 확률 가중값이라 대개 두 등급 사이에 멈춥니다. 아래 막대는 확률 질량이 어떻게 퍼져 있는지 보여 줍니다. 뾰족한 봉우리에서 나온 2.0과 멀리 떨어진 두 봉우리에서 나온 2.0은 완전히 다른 답입니다.
Noul → 미터
한계에 대한 하나의 비율이므로 차트가 아니라 미터를 씁니다. 가운데 회색 띠는 모델이 사실상 "모르겠다"고 말하는 구간을 표시합니다 — 0.51을 "예"로 읽어서는 안 됩니다.

렌즈

각 렌즈는 Jev가 할 수 있는 일의 서로 다른 면을 보여 주려고 고른 고정된 질문 묶음일 뿐입니다. 직접 쓸 수도 있습니다.

  • 메시지 엑스레이

    이 메시지는 실제로 당신에게 무엇을 요구하나요?

    질문 9개

  • 문의 분류

    사람이 열어 보기 전에 티켓을 보내 두기.

    질문 9개

  • 가드레일

    프롬프트가 모델에 닿기 전에 걸러내기.

    질문 9개

  • 초안 비평

    보내기 전, 초안에 대한 아홉 가지 해석.

    질문 9개

  • 리뷰 해독

    고객 리뷰가 실제로 말하고 있는 것.

    질문 9개

  • 버그 리포트 분류

    심각도, 담당 영역, 그리고 누가 재현할 수 있는지.

    질문 9개

  • 헤드라인 렌즈

    뉴스가 어떻게 틀지어지고 있는지.

    질문 9개

  • 피치 점검

    투자자나 고객이 계속 읽을까요?

    질문 9개

자주 묻는 질문

시스템 1 모델이란 무엇인가요?
산문이 아니라 판단을 위해 만들어진 모델입니다. Jev는 하나의 state와 타입 있는 질문들의 맵을 받아 질문마다 타입 있는 답을 하나씩 돌려줍니다. 스트리밍되는 토큰도, 파싱할 것도 없고, 여러분이 정의한 집합 밖의 값을 내놓을 방법도 없습니다. TypeSafe의 정리는, 빠른 구조화된 판단이 시스템 1이고 정말로 언어가 필요할 때 쓰는 보통의 LLM이 시스템 2라는 것입니다.
왜 모든 것이 한 번의 요청으로 돌아가나요?
Jev는 state를 한 번만 받아들이고 모든 질문을 그것에 대해 병렬로 평가합니다. 질문 열 개를 한 번의 호출에 담아도 입력 토큰은 열 번이 아니라 대략 한 번 분량이고, 걸리는 시간도 한 번과 비슷합니다. 여기 렌즈들이 프롬프트를 사슬처럼 잇지 않고 아홉 개를 한꺼번에 묻는 이유입니다.
확신도는 무엇을 뜻하나요?
Choice와 Score의 답은 확률 분포에서 끌어낸 확신도를 함께 가집니다. 분포가 모여 있으면 확실하다는 뜻이고, 퍼져 있으면 모델이 선택지를 갈라내지 못했다는 뜻입니다. 이는 두 번째 축입니다. 답은 "무엇인가"를, 확신도는 "행동해도 되는가"를 알려 줍니다. Noul에는 확신도 필드가 없는데, 확률 자체가 이미 그것을 담고 있기 때문입니다. 0.51은 모델이 모른다고 말하는 것입니다.
Jev도 환각을 일으키나요?
출력의 모양에서는 그렇지 않습니다. Choice는 여러분이 정의한 선택지만 돌려줄 수 있고, Score는 여러분의 루브릭 안에만 떨어지며, Noul은 0과 1 사이의 수입니다. 텍스트에 대해 틀릴 수는 있습니다 — 확신도는 바로 그것을 위해 있습니다.
왜 이름이 Jev인가요?
경제학자 윌리엄 스탠리 제번스에서 왔습니다. TypeSafe의 출시 글에 따르면, 증기기관이 효율적으로 바뀐 뒤 석탄이 걸어간 길을 기계 지능도 따라갈 것으로 본다고 합니다. 즉 제번스의 역설 — 무언가를 쓰는 비용이 싸지면 사용량이 줄기는커녕 늘어난다는 이야기입니다.
Jev를 로컬에서 돌릴 수 있나요? 오픈소스인가요?
아니요. Jev는 TypeSafe의 HTTP API로 접근하는 독점 호스티드 모델입니다. 내려받을 수 있게 공개된 가중치가 없고, 모든 계정이 같은 가중치를 씁니다 — 고객별 파인튜닝이나 LoRA 적용도 없습니다. 답을 빚는 것은 요청 쪽입니다. state에 무엇을 넣는지, 각 질문의 instructions와 criteria를 어떻게 쓰는지가 그것입니다.
Jev는 얼마나 빠른가요?
TypeSafe는 엔드투엔드 70–500 ms를 제시합니다. 프런티어 모델의 3–329초와 비교되며, 잘하는 종류의 질의에서는 40–200배 빠르다고 합니다. 벤더 자신의 수치입니다. 이 사이트가 자체 로그로 말할 수 있는 것은, 아홉 문항짜리 요청이 대개 수백 밀리초 안에 돌아온다는 점입니다. 결과 페이지마다 그 호출에서 실측한 왕복 시간이 표시됩니다.
Jev의 비용은 얼마인가요?
jev-1.13.0에서 입력 100만 토큰당 $0.042이고 출력은 무료입니다. 계량할 자기회귀 디코딩이 없기 때문입니다. state는 한 번만 읽히고 모든 질문이 병렬로 평가되므로, 열 가지를 묻는 비용이 하나를 묻는 것과 비슷합니다. 이 사이트의 각 결과 페이지는 바로 그 호출의 토큰 수와 비용을 찍어 줍니다.
Jev는 어떻게 훈련되었나요?
TypeSafe가 RLCD라고 부르는 방식 — 보정된 판단을 위한 강화학습입니다. 내세우는 목표가 RLHF나 RLVR과 다릅니다. 사람이 선호하는 답도, 검사기를 통과하는 답도 아니고, 확률이 인식론적으로 정직한 답을 목표로 합니다. 확신도가 장식이 아니라 임계값으로 쓸 만한 이유가 바로 그것입니다.
한계는 무엇인가요?
텍스트만 받습니다 — 이미지, 오디오, 비디오는 안 됩니다. 요청당 64k 토큰이고, 그중 state와 가장 긴 질문 하나가 32k 안에 들어가야 합니다. Choice는 최대 255개 선택지, Score는 2~10개 등급을 받습니다. 얼리 액세스의 속도 제한은 초당 250,000 토큰, 분당 1,200 요청이며 TypeSafe는 이 수치가 바뀔 수 있다고 알립니다.
제가 붙여 넣은 내용은 어떻게 되나요?
평가를 위해 TypeSafe로 전송되고, 결과에 영구 링크를 주기 위해 이 사이트의 데이터베이스에 저장됩니다. 공개 실행은 둘러보기와 검색 엔진에 나타납니다. 비공개 링크 실행도 저장되지만 둘러보기와 사이트맵에서 빠지고 noindex 헤더와 함께 제공됩니다 — 링크를 준 사람에게는 계속 열립니다. 어느 쪽이든 민감한 내용은 붙여 넣지 마세요. 이곳은 공개 데모입니다.
이 사이트는 어떤 언어를 쓰나요?
인터페이스, 렌즈 라이브러리, 모든 설명 페이지가 32개 언어로 제공됩니다. 헤더에서 고르거나 브라우저의 언어 설정을 따릅니다. 붙여 넣은 내용은 쓴 그대로 남고, Jev는 그것이 쓰인 언어 그대로 읽습니다. 각 렌즈 뒤의 질문은 어떤 언어에서도 영어로 전송되므로, 어떤 언어로 실행하든 한 번의 실행이 뜻하는 바는 같습니다.
TypeSafe가 운영하나요?
아니요. Dejev은(는) Jev의 출력을 그림으로 그리면 어떻게 보이는지 보여 주려고 만든 독립 데모입니다. 모델과 API, 문서는 TypeSafe의 것입니다.

더 깊이

모델, 가격, 거친 모서리들, 그리고 긴 선반을 채운 쿡북까지 모두 TypeSafe 자체 문서에 있습니다.

Jev와 LLM TypeSafe 문서 API 레퍼런스