#开源模型

共 111 篇带此标签

111 편 최신 2026-11-21
이전 · #开源模型 총 11편
의견

LLM 모델 가중치로 전염되는 공급망 위험

악성 패턴이 모델 가중치에 숨어 다운로드와 양자화, 微調를 거쳐 전파될 수 있다는 주장이 나왔다. 대규모 피해의 증거는 아직 부족하지만, 운영 팀은 모델 출처와 해시를 기록하고 배포 전 최종 가중치를 감사해야 한다.

2026-11-15 출처 2026-11-13 7 분 68 조회
거대 언어 모델

Qwen3.8-27B 양자화 선택 가이드:显存별 성능 비교

Unsloth의 Dynamic v3.1 양자화 모델을 중심으로 Qwen3.8-27B의 이론적显存 사용량과 실제 배포 조건을 살펴본다. 가변별로 추천할 양자화 수준을 제시하고, 같은 환경에서 속도·품질·안정성을 비교하는 재현 가능한 테스트 방법도 정리한다.

2026-11-15 출처 2026-11-14 8 분 68 조회
실전

GLM-5.3, DGX 2대로 607.8 tok/s…실측 성능 분석

NVIDIA가 DGX Station 2대와 vLLM으로 구성한 GLM-5.3 분산 추론 환경에서 607.8 tok/s의 처리량을 기록했다. 이 구성의 핵심과 함께 실제 운영 환경에서 추가로 검증해야 할 성능 지표를 정리한다.

2026-11-15 출처 2026-11-14 6 분 68 조회
실전

2만 달러로 만든 텍스트 이미지 모델, Apache 2.0의 진짜 비용

두 사람 규모의 연구팀이 약 2만 달러로 PJIT-21K를 처음부터 학습하고 Apache 2.0 라이선스로 가중치를 공개했다. 이 글에서는 학습·추론·라이선스·배포 비용을 분리해 AI Agent와 멀티모달 팀이 모델을 평가할 때 확인할 항목을 정리한다.

2026-11-06 출처 2026-11-04 7 분 68 조회