제품

Claude Haiku 5.5 공개:소형 모델의 새로운 기준, Anthropic이 다시 정의한 '쓸 만함'

Anthropic이 Claude Haiku 5.5를 내며 소형 모델 라인업을 완성했다. Agent 시대의 계층적 호출 구조가 본격화되면서, Haiku는 더 이상 '저렴한 차선책'이 아니라 핵심 구성 요소로 자리 잡고 있다.

글자 크기

Anthropic이 Claude Haiku 시리즈의 신버전 Haiku 5.5를 출시했다. 플래그십 모델을 줄인 버전이 아니라, 높은 QPS와 낮은 지연 시간이 요구되는 환경을 위한 독립적인 라인업이다. 출시 당일 Hacker News 메인에 올라 300포인트 이상의 토론이 벌어졌다.

이번 발표에서 눈에 띄는 세 가지 포인트

먼저 Haiku가 Anthropic 모델 포트폴리오에서 차지하는 위치를 정리할 필요가 있다. 공식 페이지(https://www.anthropic.com)에서 확인할 수 있듯, Anthropic은 모델을 세 등급으로 나눠 운영한다.

  • Opus: 최상위 등급. 속도는 느리고 가격은 비싸지만, 능력치 자체가 가장 높다
  • Sonnet: 중간 등급. 속도와 성능의 균형점
  • Haiku: 저비용·저지연 등급. 높은 QPS 시나리오 전용

Haiku에 대해 기존에 내려진 인상은 대부분 "싼 대안" 수준이었다. 사용 자체는 가능하지만, 복잡한 작업은 감당이 안 된다. 5.5 세대는 바로 그 인식을 깨겠다는 목표로 나왔다.

공식 페이지에서 강조하는 포지셔닝은 다음과 같다.

  • sub-agent, 실시간 작업, 배치 처리를 명확한 타겟으로 삼고 있다. 단발성 고난도 추론용이 아니다
  • 컨텍스트 윈도우가 중간 등급과 동일한 수준이라, 긴 문서 처리 자체는 약점이 아니다
  • 코딩 능력 향상을 명시적으로 강조한다. 그동안 Haiku 시리즈가 가장 꾸준히 지적받던 부분이다

4.5 시절 직접 써본 체감은 이랬다. 보일러플레이트 코드를 작성하는 정도는 괜찮았지만, 여러 단계에 걸친 디버깅이 들어가면 금방 한계가 드러났다. 5.5에서 이 부분이 보강됐다는 게 공식 입장이지만, 자세한 벤치마크는 아직 공개되지 않은 상황이다. 아래에서 다시 언급한다.

소형 모델이 HN에서 300포인트를 넘긴 이유

HN 댓글을 훑어보면, 개발자들이 실제로 신경 쓰는 부분은 벤치마크 수치가 아니었다. 자주 등장한 키워드를 추려보면 다음과 같다.

  1. 지연 시간: 가장 빈도가 높았다. Agent 루프에서 단계당 200ms만 늘어나도 누적되면 수 초 단위로 차이가 난다
  2. 가격 비교: 다른 벤더의 소형 모델과 가로로 비교하는 글들이 많았고, 월 단위 청구서를 직접 계산한 사용자도 있었다
  3. 로컬 배포 가능 여부: 가능성은 없다. Anthropic에 오픈소스 계획 자체가 없다
  4. 플래그십 모델의 fallback 용도: Haiku를 "모델 라우팅"의 저가 티어로 쓸 수 있는지 묻는 글이 눈에 띄었다
  5. Agent 프레임워크 통합: 서브태스크 호출 시나리오에 대한 관심이 컸다

댓글 중 인상적인 내용이 하나 있다.

"Finally a small model that doesn't feel like punishment when you hit the rate limit."

한국어로 옮기면 이렇다. "레이트 리미트에 걸려서 강제로 전환되는데, 그래도 형벌처럼 느껴지지 않는 소형 모델이 드디어 나왔다."

이 코멘트가 Agent 개발자의 실제痛痛점을 잘 짚는다. 트래픽이 몰리는 상황에서 소형 모델로 강제 다운그레이드되는데, 품질이 무너지면 제품 전체의 경험이 무너진다. Haiku 5.5가 노리는 바는 "다운그레이드는 하되 품질은 유지"다.

Agent 시대에는 소형 모델이 진짜 주력이다

다소 반직관적인 주장일 수 있지만, 데이터는 그렇게 말해준다.

하나의 Agent 시스템을 실제로 돌려보면, 메인 모델이 호출되는 횟수는 상대적으로 적다. 주로 기획, 의사결정, 복잡한 추론에 쓰이기 때문이다. 반면 서브태스크에서 호출이 폭증한다.

  • 구조화 데이터 추출
  • 분류 및 라우팅 판정
  • 짧은 텍스트 생성 및 리라이팅
  • 도구 호출 파라미터 조합
  • 다단계 루프 안에서의 중간 단계

바로 이 구간이 토큰을 가장 많이 소모한다.

구체적인 예시로, 일반적인 RAG Agent 흐름을 들 수 있다.

# 메인 모델: 기획 + 의사결정
plan = sonnet.invoke(f"사용자 질문:{query},검색 결과 중 관련 항목을 골라 요약하라")

# 서브태스크(Haiku): 검색된 각 문서의 관련도 점수 산출
for doc in retrieved_docs:
    score = haiku.invoke(f"다음 문서가 '{query}'에 답하는지 0~1로 점수를 매겨라\n\n{doc}")
    
# 메인 모델: 점수가 매겨진 결과를 바탕으로 최종 답변 생성
final = sonnet.invoke(f"관련 문서:{top_k_docs}\n\n답변:{query}")

이 루프 안에서 Haiku의 호출 횟수는 Sonnet의 5~10배에 달한다. 전부 Sonnet으로 돌리면 청구서가 폭발하고, 전부 Haiku로 돌리면 첫 단계의 기획 품질이 받쳐주지 못한다.

Anthropic이 Haiku 5.5에 공을 들이는 이유가 바로 여기에 있다. 소형 모델의 존재 가치를 입증하려는 것이 아니라, Agent 아키텍처의 현실적 요구를 채우기 위한 움직임이다.

편집자 관점의 정리

왜 이번 발표가 표면보다 더 중요한가.

이건 하나의 전환점을 가리킨다. 빅모델 기업 간 경쟁의 무게중심이 "누가 더 똑똑한가"에서 "누가 더 잘 계층화하는가"로 옮겨가고 있다. 각 사의 플래그십 모델 간 격차는 점차 좁아지는 반면, 소형 모델 라인업의 격차는 여전히 분명하다. Anthropic은 세 등급 매트릭스를 통해 "어떤 작업에 어떤 모델을 쓸 것인가"를 제품 차원에서 풀어낸 셈이다.

하반기를 향한 개인적 예측은 이렇다. 소형 모델이 Agent 프레임워크의 기본 설정이 되는 흐름이 가속될 것이다. LangGraph, AutoGen 같은 프레임워크의 차기 메이저 버전에서는 상당히 높은 확률로 "모델 라우팅" 레이어가 내장될 것이고, 개발자가 직접 if-else를 작성할 일은 줄어들 것이다. Cursor 같은 IDE 제품들은 이미 이런 방식을 채택하고 있다. 단순 자동완성은 소형 모델이 맡고, 복잡한 리팩터링에서만 플래그십이 투입되는 구조다.

아직 확정되지 않은 부분도 있다. SWE-bench, HumanEval 같은 코딩 벤치마크에서의 구체적인 수치는 아직 공개 전이라, Haiku 5.5의 코드 능력이 공식 주장만큼 끌어올려졌는지는 커뮤니티 측정 결과가 나와봐야 알 수 있다. 만약 코딩 능력이 공식대로 눈에 띄게 개선됐다면, Agent 서브태스크의 품질 천장 자체가 한 단계 올라가는 효과가 있다.

추가로, 이번에는 TTFT나 TPS 같은 구체적인 지연 시간 수치가 함께 공개되지 않았다는 점이 이례적이다. 1차 제3자测评이 나와야 전체 그림이 보일 가능성이 크다.

참고 링크:

출처: https://www.anthropic.com/claude-haiku-5-5