Julia-1 vs Jev: 로컬 대 클라우드 의사결정 모델 비교 (2026)

Julia-1이란 무엇인가?

Julia-1은 Supersonic Labs가 존스홉킨스대학교 언어음성처리센터(CLSP)의 다국어 인코더인 mmBERT-small 위에 구축한 144.3M 파라미터 규모의 의사결정 모델입니다. 문맥, 질문, 2개에서 20개 사이의 후보 답변이 주어지면 Julia-1은 각 옵션에 점수를 매기고 최선의 것을 반환합니다 — 자유 텍스트를 생성하지는 않습니다.

이 모델은 mmBERT-small의 어텐션 구조를 그대로 유지합니다. 세 개 층마다 한 층이 전체 입력에 전역적으로 주의를 기울이고, 나머지 층들은 ±64토큰의 로컬 윈도우 내에서만 주의를 기울입니다. 256,000행 규모의 어휘 임베딩이 전체 144M 파라미터 중 98M을 차지하며, 하나의 요청은 실제로 사용되는 토큰에 해당하는 임베딩 행만 읽어들입니다 — 이는 이 모델이 GPU 없이 CPU에서 실행되는 이유 중 하나입니다.

Julia-1은 Apache 2.0 라이선스로 배포되며, 디스크에서 550.5 MiB(FP32 가중치)를 차지하고, 문맥·질문·후보 답변을 합쳐 최대 8,192토큰까지 받아들입니다. 이는 분류, 라우팅 결정, 순서화된 점수 매기기, 예/아니오 판단을 대상으로 합니다 — AI 에이전트가 도구를 호출하거나 티켓을 상위로 넘기기 전에 내리는 고정 선택지 결정과 같은 종류이며, 개방형 생성은 아닙니다.

그 기반 모델인 mmBERT-small 자체도 주목할 만합니다. JHU CLSP가 훈련시킨 이 모델은 MIT 라이선스 하에 1,800개 이상의 언어(최종 훈련 단계 기준 1,833개 언어)로 학습되었습니다. 이 수치는 mmBERT-small의 사전 학습 범위를 나타내는 것입니다 — Julia-1 자체의 정확도는 MASSIVE 벤치마크에서 52개 로케일에 대해서만 측정되었으므로, 1,800개 언어라는 숫자는 기반 모델에 관한 사실로 받아들이고 Julia-1 자체의 다국어 정확도에 대한 주장으로 받아들이지 마십시오.

Julia-1의 정확도는 어느 정도인가?

Julia-1은 AG News(4개 레이블 주제 분류)에서 94/100점, DAIR Emotion 벤치마크(6개 레이블)에서 86/100점을 기록했으며, 두 수치 모두 Supersonic Labs가 자체 보고한 것입니다. 52개 로케일을 다루는 MASSIVE 의도 벤치마크에서는 154,648개 항목 중 110,573개(71.5%)에 정확히 응답했고, 유형화된 결정으로 구성된 혼합 세트에서는 2,000개 중 1,463개(73.15%)를 기록했습니다.

가장 약한 결과는 72개 레이블로 구성된 은행 업무 의도 벤치마크인 Banking77에서 실시한 100개 예제 파일럿 테스트입니다. Julia-1은 87% 기준 점수 대비 64/100점을 기록했습니다. Supersonic Labs 자체 모델 카드는 "100개 예제 파일럿은 고무적인 신호일 뿐 보장은 아니다"라고 명시하며, Banking77의 72개 카테고리와 같이 길고 모호한 레이블 세트를 Julia-1의 현재 약점으로 지목하고 있습니다.

이 수치들 중 어느 것도 발표 시점 기준으로 Supersonic Labs 자체 모델 카드 외부에서 독립적으로 재현된 바 없습니다 — 제3자의 검증이 있기 전까지는 벤더가 보고한 수치로 취급해야 합니다.

Julia-1을 로컬에서 실행해야 할까, Jev의 클라우드 API를 사용해야 할까?

TypeSafe AI가 September 15, 2026에 출시한 Jev는 Julia-1의 로컬 접근 방식에 대응하는 클라우드 버전이며, 훨씬 더 큰 주목을 받았습니다. 출시 영상은 X에서 약 40 million회의 조회수를 기록했고, TypeSafe AI는 발표 시점을 전후해 DCVC가 주도한 $40 million 규모의 시드 라운드를 유치했으며, 블룸버그 보도에 따르면 투자자들은 그 이후 $10 billion을 넘는 기업 가치로 이 회사에 접근해 왔습니다.

Jev는 전직 OpenAI 연구원이 개발했으며 "System 1" 모델로 포지셔닝되어 있습니다. 텍스트가 아니라 라우팅, 점수 매기기, 트리아지, 모더레이션을 위한 유형화되고 보정된 결정을 반환하며, 이는 Julia-1과 동일한 작업 카테고리입니다. Julia-1과 달리 Jev는 DigitalOcean의 Model Catalog와 같은 파트너를 통한 클라우드 API로만 제공됩니다. TypeSafe AI는 Jev의 파라미터 수나 모델 아키텍처를 공개하지 않았으며, 외부 관찰자들은 그것이 오픈 가중치 기반 위에 구축된 트랜스포머일 것이라고 확인되지 않은 채 추측할 뿐입니다.

가격 책정은 다운로드 후 무료가 아니라 토큰당 방식입니다. Jev는 입력 토큰 100만 개당 $0.042를 청구하며 출력 토큰은 현재 무료이고, TypeSafe AI는 표준 클라우드 API 조건에서 70–500밀리초의 종단 간 지연 시간을 보고하고 있습니다. Jev와 Julia-1을 동일한 작업에서 직접 비교한 공개 벤치마크는 아직 없습니다 — 두 모델은 동일한 작업 세트에서 평가된 적이 없습니다.

의사결정 모델 카테고리 외의 CPU 전용 로컬 구성에 대해서는 CPU 전용 머신을 위한 최고의 Ollama 모델을 참고하십시오.