RTX 3090은 이상한 앵커 포인트다
3090은 2024년 기준으로 더 이상 플래그십 카드가 아니다. 4090이 성능은 50% 더 높고 소비 전력도 낮으며, 5090은 CES에서 막 모습을 드러냈다. 그럼에도 오픈소스 모델 홍보에서는 이 두 신작보다 3090이 압도적으로 자주 등장한다. 이유는 단순하다.
- 보유량. 2021~2022년 채굴 광풍 기간 동안 대량의 3090이 채굴자들에 의해 쓸려나갔다. 광풍이 끝난 뒤 이 카드들이 중고 채널로 흘러 들어왔고, 지금 중고나라에 상태 좋은 3090 한 장이 대략 50만 원 선에 거래된다.
- 24GB VRAM. 이 부분이 핵심이다. 4090은 16GB에 불과해서 70B 모델을 돌리려면 양자화+CPU 오프로드가 필수인데, 이 조합은 경험이 좋지 않다. 반면 3090의 24GB는 양자화된 13B~30B 모델을 겨우 담아내면서 대화가 가능하다.
- 전원/케이스 호환성. 대부분의 워크스테이션 파워 서플라이로 그대로 구동할 수 있다.
즉, 3090이 선택된 이유는 성능이 가장 뛰어나서가 아니라 가장 많은 사람이 이미 갖고 있기 때문이다. Muse의 이 포지셔닝은 꽤 영리하다. 그들의 타깃은 새 카드를 사려는 개발자가 아니라, 집 서랍角落里에 3090 한 장이 먼지 쌓이고 있는 사람이다.
Glimmer와 Spark는 성격이 다르다
Muse가 이번에 한꺼번에 공개한 두 모델은 포지셔닝 차이가 꽤 크다.
| 모델 | 포지셔닝 | 타깃 하드웨어 |
|---|---|---|
| Glimmer | 소형 모델 | 3090 단일 카드 (24GB) |
| Spark | 대형 모델 (추정) | 멀티카드 / H100 |
소형과 대형을 묶어 공개하는 전략은 새로운 방식이 아니다. Meta가 Llama 3를 출시할 때도 같은 패턴이었다. 8B와 70B를 함께 내보내서, 개발자가 먼저 작은 모델로 POC를 돌려보고 부족하면 큰 모델로 갈아타게 만드는 식이다.
다만 Glimmer와 Spark의 구체적인 사양은 Muse 측에서 거의 공개하지 않았다. Latent Space의 보도에는 "Glimmer runs on a single RTX 3090"1 정도만 언급됐을 뿐, 파라미터 수, 컨텍스트 길이, 학습 데이터 같은 세부 사항이 나오지 않았다. 오픈 웨이트 모델의 만성적인 문제이기도 하다. 가중치만 풀고 기술 보고서는 내놓지 않으니, 외부에서는 추측만 가능하다.
"Personal Superintelligence"라는 표현이 눈에 띄는 이유
Sam Altman은 올해 초 블로그 글에서 OpenAI의 비전을 설명하면서 "Superintelligence"라는 표현을 처음 썼다. Muse가 "Personal Superintelligence promise"라는 문구를 내건 건 명백히 이 화제성에 올라타려는 움직임이다.
그렇다면 "Personal"이라는 수식어가 붙은 건 단순한 마케팅인지, 실제로 차별점이 있는 건지 판단해야 한다.
판단: 이 표현은 오픈 웨이트 + 로컬 배포라는 맥락에서 실제로 의미를 가진다.
이 상황에서 "Personal"의 뜻은 "당신만을 위해 커스터마이징됐다"가 아니다. 의미는 다음과 같다.
- 데이터가 내 머신 밖으로 나가지 않는다.
- 제3자 API를 거치지 않는다.
- 파인튜닝도, 수정도, 상업적 사용도 가능하다 (라이선스 조건 확인 필요).
- 벤더의 정책 변경 영향을 받지 않는다.
이 방향성은 OpenAI의 "Superintelligence"와 정반대다. OpenAI는 중앙 집중형, 초거대 AI를 지향하고, "Personal Superintelligence"는 분산형, 사용자 데스크톱에서 돌아가는 AI를 의미한다. 두 서사가 같은 인지적 지점을 두고 경쟁하고 있다.
미국 오픈소스 진영의 서사 불안
최근 반년 동안 오픈소스 벤치마크판의 풍경이 달라졌다.
- DeepSeek V3 / R1이 LMSys, OpenCompass에서 정상을 독점
- Qwen 2.5 시리즈가 HuggingFace 다운로드 수에서 꾸준히 상위권
- Kimi K2가 장문 태스크에서 GPT-4를 역전
- GLM-4.5 / Zhipu가 다국어 시나리오에서 우세
중국 업체들이 "오픈소스 모델"이라는 태그의 기본 연상을 "미국 빅테크 제품"에서 "중국 팀 작품"으로 끌어왔다.
이런 맥락에서 Latent Space가 Muse를 "a small win for American open models"1라고 규정했다는 점이 흥미롭다. 그들이 일부러 "American"이라는 단어를 강조했다는 건, 지금 이 태그가 의미를 갖는 영역이 됐다는 뜻이고, 따라서 경쟁해야 할 대상이 됐다는 뜻이다.
Glimmer는 이런 의미에서 기술 산물이 아니라 정치적 산물이다. Qwen2.5-32B보다 강한 것도, 심지어 Llama 3.1-8B보다 나은 것도 보장할 수 없지만, 미국인이 만들었고, 3090에서 돌아가고, 오픈 웨이트 깃발을 꽂았다는 조건을 동시에 만족해야 "a small win"으로 인정받는다.
오픈 웨이트 ≠ 오픈소스, 하지만 이번에는 충분할 수 있다
Glimmer는 Open Weights지, Open Source가 아니다. 차이점은 다음과 같다.
- Open Weights: 모델 가중치 파일만 공개해 다운로드해 돌릴 수 있게 한다. 학습 코드, 학습 데이터, 데이터 처리 파이프라인은 공개하지 않는다.
- Open Source: 위 항목 전부를 공개하고, 보통 OSI 인증 라이선스를 사용한다.
학계에서는 Open Weights에 대한 비판이 꾸준히 있어 왔다. Llama 시리즈도 같은 지점에서 지적받았다. "가중치만 풀어놓고 학습 과정을 재현할 수 없으면 그걸 뭐라고 오픈소스라 부르냐"라는 논리다.
다만 개인 사용자와 중소 입법 봇 회사에 있어 이 구분은 실제로 그다지 중요하지 않다. 로컬에서 돌릴 수 있고, 파인튜닝이 가능하며, 상업적 사용 제약이 적은 (구체적인 라이선스 확인 필요) 이 세 조건이 충족되면 충분하다. Glimmer의 진짜 가치는 학문적 순결성이 아니라 可用性에 있다. 3090 한 장이면 돈다는 사실 자체가야말로 가장 강력한 어필 포인트다.
한 가지 판단: Glimmer는 판을 바꾸지 못하지만, Spark는 가능할 수도 있다
판단이다.
Glimmer는 판을 바꾸지 못한다.
소형 모델은 데모용으로는 괜찮지만, 제품용으로는 역부족이다. 8B 급 모델은 이미 "장난감" 수준이다. 채팅은 가능해도, 코딩 작성은 부족하고, Agent 구동은 모자라고, RAG 리콜 품질도 기대 이하다. Qwen2.5-7B, Llama 3.1-8B가 이 구간에서 거의 1년 가까이 경쟁해 왔기 때문에, Glimmer가 돌파하려면 차별화된卖点가 있어야 하는데, 현재 공개된 홍보에서는 그런 부분이 언급되지 않았다.
Spark는 가능성이 있다.
하지만 벤치마크 결과가 나와 봐야 알 수 있다. Spark가 정말 70B 이상급이고, 코딩 / Agent / 장문 컨텍스트这几个 차원에서 Llama 3.1-70B를 누를 수 있다면, Muse가 다시 평가받을 자격이 생긴다. 지금 Latent Space의 보도에는 Spark의 기술 디테일이 거의 없고, Muse 측이 직접 정보를 공개할 때까지 기다릴 수밖에 없다.
마무리
Glimmer의 3090 앵커, Personal Superintelligence라는 수식어, Open Weights라는 포지셔닝 — 이 세 가지를 합치면 본질적으로 "SaaS 반대"라는 카드를 내는 셈이다. 구독하지 않고, 데이터를 업로드하지도 않으며, 벤더에 의존하지 않고, 한 번 다운로드하면 영구적으로 쓴다.
이런 전략은 DeepSeek도 써왔고, 더彻底하게 써왔다. Glimmer가 3090이라는 틈새 시장에서의 지분을 가져갈 수 있을지는 Qwen2.5-32B-Instruct와의 실제 격차에 달려 있다. 3090에서 32B 양자화 버전을 돌리는 것도 불가능한 일은 아니기 때문이다. 이 비교는 Muse가 언젠가는 해야 할 몫이다.
"미국 오픈소스 vs 중국 오픈소스"라는 서사 경쟁은 이제 막 시작됐을 뿐이다.
1 Latent Space, "AI News: Muse Glimmer and Spark open models", https://www.latent.space/p/ainews-muse-glimmer-and-spark-open