거대 언어 모델

Jev가 LLM에 새로운 형태를 제안한다: Transformer 밖의 길은 있을까

Simon Willison이 '새로운 형태'를 내세운 신모델 Jev를 보도했다. 9월 21일 Hacker News 1면에 떴지만 20점에 댓글 3개—시작이冷冷한 건지, 저평가된 서막인지 추적해 봤다.

글자 크기

Jev가 뭐길래 HN 1면에 올라갔나

9월 21일, Simon Willison의 블로그에 짧은 글이 올라왔다. 제목은 "Jev: A new shape for LLMs"—"새로운 형태"라는 표현에 따옴표도, 물음표도 달려 있지 않다. 원문 링크: simonwillison.net/2026/Sep/21/jev/.

Jev의 개발사는 이 모델을 "신종 LLM"으로 포지셔닝하면서, 현재 주류 아키텍처와 다른 길을 가겠다고 주장한다. Simon은 평범한 모델에 블로그를 쓰는 사람은 아니다. 독립 칼럼니스트들 중에서도 신모델을 가장 빠르게 주시하는 축에 속한다. Mistral 초기 버전, Llama 변종들, GPT-5 예측까지—대체로 그가 첫 발언권을 가졌다. 그 사람이 시간을 들여 썼다는 건, Jev가 단순한 LoRA 파인튜닝 wrapper가 아니라는 최소한의 신호다.

같은 날 Jev가 Hacker News 1면에 등장했다. 점수 20, 댓글 3개—이 비율이 약간 이상하다. 보통 HN 1면 글의 댓글 수는 점수의 30%–60% 사이인데, 20점짜리 글은 보통 8–15개 댓글을 끌어모은다. 3개라는 건 다음 중 하나다: 들어온 사람은 많지만 아무도 입을 못 떼거나, 본 사람이 생각보다 적거나. 두 시나리오 모두 아래에서 풀어본다.

HN 글 링크: item?id=49796843.

"새로운 형태"가 구체적으로 뭐가 다른가

솔직히 지금 정확한 답을 쓰기 어렵다. 공개된 정보가 다음과 같기 때문이다:

  • benchmark 수치 없음
  • 기술 원리를 설명한 paper나 blog post 없음
  • 학습 방법 설명 없음
  • 공개 가중치 없음 (Simon이 글을 쓴 시점까지)

Simon의 블로그 요약 자체가 한 줄로 끝난다: "A new LLM with a new shape." 이런 극도로 간결한 표현은 AI 커뮤니티에서 흔치 않다. 보통은 "파괴적"이라는 단어를 제목에 욱여넣는 게 일상이다.

이 단서들을 토대로 짐작 가능한 방향은 몇 가지다:

  1. 비 Transformer 백본—예컨대 상태 공간 모델(Mamba 계열), 선형 어텐션 변형, 또는 일종의 하이브리드 구조.
  2. 비자기회귀 디코딩—병렬 생성, 확산식 LLM(Mercury처럼 토큰을 동시에 찍어내는 방식).
  3. 새로운 토폴로지—체인형 추론이 아니거나, token-by-token이 아니라 그래프/트리 구조로 생성.
  4. 완전히 새로운 접근—KV cache를 대체할 새 메모리 메커니즘.

개인적으로는 #1 또는 #4일 가능성이 가장 크다고 본다. 최근 2년간 비 Transformer 루트에서 가장 쌓여 있는 방향이 거기이기 때문이다. 다만 이 추측은 현재로선 검증이 불가능하고, Jev 측이 직접 나서서 설명해 줘야 알 수 있다.

왜 댓글이 안 붙을까—못 본 게 아니라 못 쓴 거다

20점 / 댓글 3개라는 이상한 비율에 대해 한 가지 설명을 제시한다:

못 본 게 아니라, 커뮤니티가 입을 뗄 곳이 없다.

HN에서 기술 글의 댓글 활성도는 다음 두 요소와 강하게 묶여 있다:

  • 검증 가능한 benchmark: MMLU, HELM, HumanEval, LiveCodeBench 같은 리더보드 숫자가 나오면 그 아래에서 바로 논쟁이 시작된다.
  • 읽을 수 있는 코드 / 논문: arxiv 링크든 GitHub repo든 demo URL이든, 하나는 있어야 한다.

Jev는 셋 다 없다. "새로운 형태"를 주장하는 LLM이 loss curve 한 장도 공개하지 않은 상태에서, HN의 베테랑 유저들은 침묵을 택한다—뭘 말해도 추측일 뿐이고, 어중간한 소리 하고 싶지 않으니까.

이 점이 바로 20점에 댓글 3개라는 숫자를 설명한다. 그 3개는 대부분 "Interesting", "Watching" 같은 호기심형 짧은 반응이지, 본격적인 기술 토론이 아니다.

Mamba 초기 단계, Mistral 7B가 흘러나오던 시절에 내가 HN에서 본 토론 패턴도 똑같았다. 한동안 침묵, repo나 paper가 등장하는 순간 폭발적으로 댓글 증가.

Transformer가 천하통일하던这几年, 도전자들 명부는 이렇다

시계를 2023년 말에서 2026년 초로 돌려보면, Transformer 대체 후보는 최소한 이 정도는 나왔다:

프로젝트핵심 아이디어현황
Mamba / Mamba-2상태 공간 모델, 선형 복잡도paper·오픈소스 버전 존재하나 생태계(Hugging Face, vLLM 지원)는 Llama 계열에 비해 훨씬 뒤처짐
RWKVRNN + Transformer 하이브리드, 긴 컨텍스트 inference 효율 강조소수 커뮤니티에서 운용 중, 메이저 벤더는 사실상 미접촉
RetNet / TransNormer다중 스케일 감쇠 어텐션 유지, Transformer 대체 주장마소계 프로젝트, 학계 영향력은 있으나 산업 배포는 거의 없음
xLSTMLSTM의 메모리 메커니즘 확장2024년 Sepp Hochreiter 팀이 제안, paper급 화제성
Mercury / diffusion LLM확산식 생성, 토큰 병렬 출력Inception Labs 진행 중, 상용 demo 가동

공통점이 잔인할 정도로 명확하다: inference는 확실히 더 싸지만, 생태계는 Transformer를 전혀 못 이긴다.

생태계가 뭘까:

  • Hugging Face Transformers에서 한 줄로 로드
  • vLLM, TensorRT-LLM, llama.cpp 같은 inference 프레임워크의 네이티브 지원
  • 커뮤니티 파인튜닝(LoRA, QLoRA) 툴체인
  • 교재, 블로그, Stack Overflow 답변

이 스택은 한두 해에 쌓이는 게 아니다. Llama 2가 나온 뒤 vLLM이 안정적으로 받기까지 1년 넘게 걸렸다. Mamba는 아직도 vLLM 지원이 experimental 단계다.

따라서 Jev가 진짜 비 Transformer 루트라면, 풀어야 할 첫 번째 문제는 "내 모델이 더 낫다"가 아니라 "내 모델을 실제로 돌릴 수 있다"다.

Jev가 진짜인지 PPT인지, 내 검증 체크리스트

내가 새 모델을 살펴볼 때 실제로 쓰는 절차를 공유한다—진지하게 들여다보고 싶으면 이 순서대로 확인하면 된다.

1. benchmark 찾기

첫눈에 세 가지 리더보드를 본다:

  • MMLU-Pro (종합 추론)
  • HumanEval+ / LiveCodeBench (코드)
  • IFEval (지시 따르기)

이 셋에 숫자가 없으면 일단 30% 할인해서 듣는다.

2. inference 비용 확인

비 Transformer 모델의 가장 큰 셀링 포인트는 보통 긴 컨텍스트 inference 비용이다. 세 가지를 묻는다:

  • 100K 토큰 컨텍스트에서 throughput이 token/s로 얼마인가?
  • KV cache가显存을 얼마나 잡아먹는가?
  • 배포 장벽—단일 A100 / H100으로 어디까지 돌릴 수 있는가?

3. 내 손으로 테스트 돌려보기

공식 숫자만 믿지 않는다. 보통 이렇게 돌려본다:

# 간단한 장문 컨텍스트 검색 테스트
import jev  # 가상의 패키지명
model = jev.load("jev-base")
context = "..." * 50000  # 50K token
question = "47,382번째 token에서 저자는 어느 도시 이름을 언급했는가?"
response = model.generate(
    context=context,
    prompt=question,
    max_tokens=100,
)
print(response)
# 동일한 입력으로 Llama 3.1 70B의 답변과 비교

Jev에 정말 "새로운 형태"의 장점이 있다면 장문 검색이 강점이어야 한다.

4. 코드 / 논문 찾기

  • GitHub repo가 있는가? star 수는 중요치 않고 commit 빈도와 issue 응대를 본다.
  • arxiv paper가 있는가? 구조도만 있고 실험이 없는 수준인지 확인한다.
  • demo URL이 있는가? 가입만 하면 바로 만져볼 수 있는가?

5. 믿을 때와 기다릴 때

  • 믿을 때: 오픈 가중치 + 서드파티 재현 benchmark 일치 + inference 비용이 같은 급의 Llama보다 낮음
  • 지켜볼 때: demo만 있고, 폐쇄 소스이며, benchmark가 전부 자체 측정
  • 바로 무시할 때: demo조차 없고, benchmark도 남의 말을 그대로 옮긴 수준

이 기준에 따르면 Jev는 현재 "순수 관망" 단계다.

편집자 소견

"새로운 형태"라는 표현이 사실이라면, 2026년 LLM 씬의 가장 큰 서사가 "파라미터를 어떻게 더 키울 것인가"에서 "아키텍처를 바꿀 수 있는가"로 이동할 수 있다는 뜻이다. 이건 GPT-5 이후 더 큰 파라미터 모델보다 더值得关注하다—단일 지점 성능이 아니라, inference 비용 곡선과 하드웨어 요구 구조 전체에 영향을 주기 때문이다.

다만 이 뉴스에 대해 나는 조심스러운 낙관을 유지한다. 이유는 세 가지다.

첫째, 신규 아키텍처 LLM의 죽음의 계곡은 기술이 아니라 생태계다. Mamba, RWKV 모두 Hugging Face适配 단계에서 좌절했다. Jev는 스스로 생태계를 키우거나, 메이저 업체에 인수된 뒤 메인스트림 프레임워크에 흡수되거나, 둘 중 하나길 택해야 한다. 아니면 3년 안에 AI 교과서 각주에서 사라질 가능성이 크다.

둘째, Simon의 블로그는 보증서가 아니다. 그가 쓴 건 "이건 주시할 만하다"이지 "이건 훌륭하다"가 아니다. Llama 4, GPT-5, Claude 신버전도 그와 비슷한 톤으로 다룬다. 독자는 "주목함"과 "추천"의 차이를 구분할 줄 알아야 한다.

셋째, 공개 정보가 너무 적다. 20점에 댓글 3개라는 데이터 포인트 자체가 커뮤니티 합의가 아직이라는 증거다. 개인 예측: Jev는 2주 안에 완전한 paper + repo를 내놓거나, 2주 후 HN 1면에서 사라지고 다음 신모델에 묻히거나. 둘 중 하나다.

나는 전자에 30%, 후자에 60%, 나머지 10%는 어느 메이저 업체가 조용히 인수해서 이후 독립 소식은 끊기는 시나리오에 건다.

어떤 결말이든, 2026년 남은 몇 달 동안 이 건은 계속 주시할 생각이다.

출처(반드시 인용)

https://simonwillison.net/2026/Sep/21/jev/

출처: https://simonwillison.net/2026/Sep/21/jev/