Qwen3-Max가 2.4T MoE를 오픈소스로 풀었지만, 진짜 흥미로운 건 27B
알리바바가 이번에 카드를 두 장 한꺼번에 내놓았다.
한 장은 Qwen3-Max다. 2.4T 파라미터 MoE 플래그십으로, GPT-5, Gemini 2.5 Pro, Claude 4.5 Opus 같은 클로즈드 소스 천장급 모델을 정조준한다. 다른 한 장은 Qwen3-27B dense 모델로, 단일/듀얼 소비자용 GPU에서도 추론과 미세 조정이 가능하다.
두 모델 모두 같은 두 시나리오를 노린다: Coding(코드 생성, Agent 프로그래밍)과 Cowork(멀티 Agent 협업).
카드가 펼쳐졌으니 질문은 단순하다 — 개발자가 실제로 집어 들 카드는 무엇인가?
2.4T라는 숫자가 실제로 뜻하는 것
먼저 가장 큰 오해를 걷어내자: MoE 2.4T는 2.4T 전부 가동된다는 뜻이 아니다.
MoE(Mixture of Experts)의 총 파라미터는 2.4T지만, 매 추론에서는 소수의 Expert만 활성화된다. Qwen 시리즈의典型적인 활성화 비율은 10% 미만이다. 다시 말해, "2.4T"라는 숫자는 능력 카탈로그에 가깝다 — 모델은 많은 걸 알고 있지만, 한 번 답할 때는 그중 일부만 호출한다.
이 숫자가 실제로 의미하는 바는 세 가지다:
- 지식 용량 상한이 높다. 학습 단계에서 dense 모델보다 더 많은 패턴이 압축돼 들어간다. RAG, 복잡한 지시, 긴 추론 체인처럼 "다양한 문제 유형을 접해본 경험"이 중요한 과제에서 자연스럽게 유리하다.
- 클로즈드 소스 플래그십에 맞서는 포즈. 2.4T급을 오픈소스로 내놓는 건 국내에서 쉽지 않은 결정이었다. Llama 4 Maverick도 활성 파라미터 400B, Llama 4 Behemoth는 아직 preview다. Qwen이 이번에 오픈소스 상한을 한 단계 끌어올렸다.
- 실행门槛은 그대로. 2.4T MoE 풀 배포에는 여전히 H100/H200이 우르르 필요하고, VRAM은 TB 단위다. 일반 개발자는 손대기 어렵고, 손대는 쪽은 기업급 추론 서비스 사업자다.
따라서 Max라는 카드는绝大多数 개발자에게 신호이지, 도구는 아니다.
27B가 이번 출시의 진짜 오픈소스 카드
다시 27B dense 모델로 돌아오면, 이쪽이 개발자가 오늘 바로 손을 댈 수 있는 카드다.
핵심 포인트 몇 가지:
- RTX 4090 / 5090 단일 카드에 추론 가능, INT4 양자화 기준 24GB VRAM이면 들어간다.
- A100 / H100 듀얼로 미세 조정 가능, LoRA / QLoRA 모두 무난하다.
- dense 아키텍처라 Expert 라우팅 같은 배포 함정이 없다. vLLM, SGLang, TensorRT-LLM이 그대로 지원한다.
개인적으로 더 주목하는 건 지향점이다: Coding과 Cowork를 동시에 오픈소스로 풀었다는 점.
기존 오픈소스 모델은 "범용은 그럭저럭, Agent는 약함"이 패턴이었다 — 코드 두 줄은 짜지만, Claude Code, Cline, Cursor 같은 툴 호출 체인에 연결하면 바로 무너졌다. Qwen은 이번에 Coding(코드 생성, 툴 호출, 계획)과 Cowork(멀티 Agent 협업, 역할 분담, 태스크 분해)를 한꺼번에 내놓음으로써 커뮤니티에 메시지를 던졌다: 이 두 워크플로의 오픈소스 베이스는 우리가 책임진다.
Coding + Cowork, 양쪽 라인에 동시 베팅
왜 하필 이 두 라인인가? 돈도 거기로 가고, 사람도 거기로 가고 있어서다.
Coding Agent는 2024년 하반기부터 2025년 가장 붐비는赛道다. Anthropic이 Claude Code로 제품급 경험을 만들었고, Cursor는 밸류에이션이 수백억 달러까지 뛰었고, Devin, Cline, Codex CLI가 줄줄이 등장했다.底层 모델의 능력이 이런 제품의 한계를 직접 결정한다.
Cowork(협업 Agent)는 Agent 프레임워크의 주전장이다. LangGraph, CrewAI, AutoGen 같은 프레임워크가 "여러 Agent가 어떻게分工하고, 어떻게 통신하고, 어떻게 상태를 공유하는가"를 그래프/상태머신으로 추상화했다. 底层 모델의 롤플레이 능력, 지시 준수 능력, 긴 컨텍스트 안정성이 이 프레임워크가 얼마나 복잡한 태스크를 받쳐낼 수 있는지를 좌우한다.
Qwen이 Coding과 Cowork 두 방향의 능력을 동시에 오픈소스로 내보낸 건, 두 라인의 오픈소스 베이스를 단단히 박아두겠다는 뜻이다. 중국 팀 입장에서 Cursor나 CrewAI 급 제품을 재현할 때 모델 레이어를 다시 만들 필요가 없어졌다.
오픈소스를 2T급으로 끌어올린 중국 팀의 반응 속도
가로로 한번 살펴보자:
- Meta / Llama 시리즈: Llama 3는 405B까지, Llama 4 Maverick은 활성 400B, Behemoth는 아직 preview.
- Mistral: 중소 모델 노선을 꾸준히 유지, Mixtral 시리즈의 MoE는 200B를 넘기지 못함.
- DeepSeek: V3가 671B MoE, 이번 전까지 가장 가까운 오픈소스 대형 모델.
Qwen이 이번에 2.4T MoE로 바로 한 단 점프했다. 그 뒤에는 엔지니어링 능력과 컴퓨팅 비축의 이중 베팅이 있다.
눈여겨볼 디테일 몇 가지:
- 알리바바는 2024년에 이미 Qwen2.5 시리즈를 깔아뒀고, 오픈소스 템포를 끊지 않았다.
- 이번에 Max + 27B를 동시에 내보낸 건 팀이 이미 "플래그십 + 현장이"의 제품 매트릭스 전략을 돌리고 있다는 뜻이다.
- 수개월 만의 복귀에 상한선을 한 번에 클로즈드 소스 플래그십급으로 끌어올린 건 — 국내 대형 모델 경쟁의 톤을 잡는 동작이다.
중국 개발자에게 가장 직접적인 영향: 前沿 Agent 모델을 재현하는 모델 비용이 극단적으로 낮아졌다. 27B은 돌릴 수 있고, 미세 조정할 수 있고, 어떤 Agent 프레임워크에도 붙일 수 있다. Coding 툴체인의 다음 물결 오픈소스 제품은大概率 Qwen 27B 위에서 태어날 것이다.
지금 바로 뭘 할 수 있는가
오늘 당장 손을 대고 싶다면, 바로 돌릴 수 있는 경로 몇 가지다.
1. 가중치를 받아 27B를 로컬에 배포
# Hugging Face에서 Qwen3-27B 받기
pip install transformers accelerate vllm
# vLLM으로 서빙 시작
vllm serve Qwen/Qwen3-27B-Instruct \
--tensor-parallel-size 2 \
--max-model-len 32768 \
--gpu-memory-utilization 0.9
VRAM 요구량 참고(FP16):
- 단일 카드 추론: ≥ 60GB (A100 80G, H100 80G)
- INT4 양자화 추론: 24GB (4090 / 5090 도전 가능)
- LoRA 미세 조정: 듀얼 80G부터
- QLoRA 미세 조정: 단일 24G 가능
2. Coding Agent 프레임워크에 연결
Qwen 시리즈의 tool calling은 오픈소스 쪽에서 가장 안정적인 축에 속한다. Claude Code 스타일의 CLI 툴에 그대로 꽠거나, Cline, Roo Code 같은 IDE 플러그인에 붙이거나 — 어느 쪽이든 코드 변경량이 적다.
# 예시: OpenAI 호환 프로토콜로 로컬 vLLM 호출
from openai import OpenAI
client = OpenAI(
base_url="http://localhost:8000/v1",
api_key="EMPTY"
)
response = client.chat.completions.create(
model="Qwen/Qwen3-27B-Instruct",
messages=[
{"role": "system", "content": "你是一个 Python 工程师"},
{"role": "user", "content": "帮我写一个 FastAPI 接口,读 CSV 返回 JSON"}
],
tools=[
{
"type": "function",
"function": {
"name": "run_shell",
"description": "执行 shell 命令",
"parameters": {
"type": "object",
"properties": {"cmd": {"type": "string"}},
"required": ["cmd"]
}
}
}
]
)
3. LangGraph / CrewAI에 연결
base URL을 로컬 vLLM으로 지정하면 끝이다. LangGraph의 ChatOpenAI 호환 레이어, CrewAI의 OpenAI-compatible LLM 모두 이 방식을 그대로 받는다.
주의할 함정 몇 가지:
- 라이선스: Qwen 시리즈는 대부분 Apache 2.0 또는 Qwen 자체 License를 따른다. 상업용 전에는 세부 조항을 확인할 것.
- VRAM: 27B 풀 정밀도는 대략 54GB, 양자화는 거의 필수다. Max 버전은 사실상 로컬 배포 불가.
- 툴 호출: Qwen 하위 버전에 따라 tool calling 지원이 다르다. 배포 전에 공식 eval을 먼저 돌려볼 것.
마무리
Qwen 이번 출시는 "또 대형 모델 나왔다" 정도로 끝나지 않는다.
세 가지 신호를 동시에 쏘아 올렸다: 오픈소스 상한을 클로즈드 소스 플래그십급으로 끌어올림, 현장 적용 능력을 소비자용 GPU까지 끌어내림, Coding과 Cowork 두 Agent 전선에 베이스를 동시에 깔아둠.
국내에서 Coding Agent, Agent 프레임워크, AI IDE를 만드는 팀에게는 "모델 레이어가 발목을 잡지 않는다"는 기회가 왔다. 남은 건 엔지니어링, 제품, 유통의 싸움이다 — 그쪽이야말로 더 어려운 문제다.
출처: Latent Space, Qwen 3 Max: 2.4T MoE + 27B Dense Open Sourced, https://www.latent.space/p/ainews-qwen-38-max24t-and-27b-new