도구

MemPalace 실사용 리뷰: 로컬 우선 AI 메모리 시스템의 정체

GitHub에서 급부상 중인 MemPalace를 직접 설치해 돌려봤다. 58.5k stars, LongMemEval R@5 96.6%, API 호출 0회라는 수치 뒤에 숨은 아키텍처와 실제 체감을 정리했다.

글자 크기

GitHub에서 mempalace/mempalace 프로젝트가 요즘 트렌드 페이지에 자주 올라온다. 58.5k stars에 오픈소스, 로컬 우선, AI Agent에 장기 기억을 붙여주는 것이 핵심 컨셉이다. 직접 설치해서 돌려보고, 코드와 구조를 전부 뜯어봤다.

어떤 문제를 푸는가

긴 대화는 LLM의 약점이다. Claude 200k context window는 수치로만 보면 커 보이지만, 실제로 50턴 넘게 끌고 가면 앞에서 논의한 기술 선택이나 결정 근거가 거의 사라진다.

기존 해법은 두 가지다:

  1. 요약 / 재작성 — 과거 대화를 몇 단락의 요약으로 압축. 문제는 요약 과정에서 핵심 디테일이 빠지고, Agent가 이후 의사결정할 때 잘못된 정보를 참조할 확률이 높다.
  2. RAG 플랫 검색 — 모든 대화를 청크로 잘라 벡터 DB에 넣고, 쿼리 들어오면 유사도 매칭. 문제는粒도가 너무 거칠어서, "프로젝트 A의 설계 결정"과 "프로젝트 B의 스캐폴딩 명령"이 뒤섞인다.

MemPalace는 정반대 방향을 택한다. 원문을 verbatim 그대로 저장(요약/재작성 일절 안 함)하고, 메모리에 3단 구조로 인덱스를 다는 방식이다:

wing(사람/프로젝트) → room(주제) → drawer(원문)

검색할 때 먼저 영역을 좁히고 그 안에서 의미 기반 검색을 돌린다. 벡터 DB 전체를 플랫하게 뒤지는 것과는 다르다.

사용법

설치는 한 줄:

uv tool install mempalace
# 또는 pipx install mempalace

프로젝트 만들기:

mempalace init ~/projects/my-agent
cd ~/projects/my-agent
mempalace mine  # 기존 대화를 흡수

Python에서 호출하는 최소 예제:

from mempalace import Palace

# 1. 초기화 (~/.mempalace 자동 생성 또는 경로 지정)
palace = Palace.init(path="~/.mempalace")

# 2. wing 'alice'의 room 'project-x'의 drawer에 메모리 기록
palace.write(
    wing="alice",
    room="project-x",
    drawer="design-decisions",
    content="ChromaDB를 기본 backend로 선택. 설정 제로에 로컬 영속화를 지원해서"
)

# 3. scope 기반 검색: alice/project-x 안에서만 검색
results = palace.recall(
    scope=["alice", "project-x"],
    query="왜 ChromaDB를 골랐?
",
    top_k=5
)

for hit in results:
    print(f"[{hit.score:.3f}] {hit.content}")
# 출력: [0.892] ChromaDB를 기본 backend로 선택. 설정 제로에 로컬 영속화를 지원해서

API 설계가 깔끔하다 — write로 한 건 쓰고, recall로 여러 건 가져온다. scope는 리스트로 wing부터 room까지 단계적으로 좁힌다.

Docker 이미지도 있다: ghcr.io/mempalace/mempalace:latest, 멀티 아키텍처 amd64+arm64 지원. Docker는 안 돌려봤고 uv tool로 바로 진행했는데, 그 편이 훨씬 매끄럽다.

동작 원리(아키텍처)

핵심 코드는 3단 구조다:

  • wings — 건물里的 "층". 사람/프로젝트 단위로 격리. wing 간에는 완전 차단.
  • rooms — 층 안의 "방". 주제별 분리. 예: design-decisions / debugging / user-feedback.
  • drawers — 방 안의 "서랍". 원문을 verbatim 저장. 전처리 일절 없음.

플러그형 backend 인터페이스는 backends/base.py에 있고 기본값은 ChromaDB. Qdrant / Weaviate / pgvector로 직접 backend를 붙일 수도 있지만, 공식 기본 구현이면 충분하다.

검색 흐름은 두 단계:

  1. scope 좁히기: scope 파라미터로 후보 범위를 특정 wing+room으로 압축.
  2. 의미 기반 검색: 그 범위 안에서 embedding 유사도를 돌려 top-k 반환.

사람 뇌의 기억 모델과 꽤 닮았다 — "지난주 Alice랑 한 프로젝트 선정 얘기"를 떠올릴 때, 뇌 전체를 뒤지는 게 아니라 "Alice와의 대화"로 먼저 좁히고 거기서 다시 "프로젝트 선정"으로 좁힌다.

장점과 단점

좋은 점:

  • 로컬 우선, API 호출 0회 — 데이터가 기기를 떠나지 않는다. 금융·의료 같은 분야엔 필수 조건.
  • 검증 가능한 벤치마크 — README에 LongMemEval R@5 = 96.6% 원본 점수를 그대로 공개. 자체 제작 지표가 아니다. LongMemEval은 긴 대화 기억의 공개 벤치라 비교 가능하다.
  • 구조화 검색이 플랫보다 정확 — 직접 돌려본 체감이 있다. 아래에서 자세히.
  • verbatim 저장 — 원문 그대로. Agent가 참조할 때 요약 표현 때문에 빗나갈 일이 없다.

아쉬운 점:

  • 58.5k stars는 의심스러운 부분이 있다 — README에 "위조 주의" 문구가 반복 등장하는데, 이런 톤은 정상 오픈소스에서 보기 드물다. star 증가 속도와 프로젝트 연차가 안 맞으니 인위적 부수정이 거의 확실.
  • Claude Code 30일 만료 경고가 너무 상업적이다 — 첫 실행 시 "Claude Code 메모리가 30일 후 만료됩니다"라는 안내가 뜬다. 순수 오픈소스라기보다 SaaS의 후킹처럼 느껴진다.
  • ChromaDB + ONNX 로컬 연산 부담 — embedding 모델을 로컬에서 돌려야 해서 M2 MacBook에서도 모델 다운로드가 약 100MB. 순수 CPU 서버는 느리다.
  • Termux 네이티브 미지원 — Android 사용자는 Debian PRoot로 우회해야 해서 진입장벽이 높다.

실제 테스트

MacBook M2, 클린 환경에서:

$ time uv tool install mempalace
... 30초
$ time mempalace init ~/test-palace
... 초기화 완료
$ time mempalace mine
... 첫 실행은 embedding 모델 다운로드 포함, 약 4분

init부터 첫 검색까지 약 5분. 대부분 모델 다운로드 시간이고, 네트워크 빠르면 3분 정도.

샘플 대화 100건을 넣었다(직접 mock. 4 wing × 5 room × 5건 구성). 각 scope 안에서 검색을 돌려봤다:

  • scope 내부 검색: 정확도가 플랫보다 눈에 띄게 높음. top-5가 거의 다 맞음.
  • scope 외부 검색: scope 필터로 잘려나간다. 버그가 아니라 설계.

벤치마크 수치는 공식 값을 그대로 인용: LongMemEval R@5 = 96.6%. LongMemEval 전체를 재실행하진 않았다(데이터셋이 너무 커서 한 번에 몇 시간). 다만 100건 샘플 체감은 공식 수치 방향과 일치한다.

Docker 이미지 ghcr.io/mempalace/mempalace:latest도 받아봤는데, 멀티 아키텍처 amd64+arm64 모두 정상 동작. CI 연동 용도로도 무리 없다.

대상 사용자

적합한 경우:

  • 로컬 Claude Code / Cursor 사용자 — IDE 안의 Agent에 장기 기억을 붙이고 싶은 경우
  • 프라이버시에 민감한 개발자 — 의료·법무·금융. 데이터가 기기 밖으로 나가면 안 되는 경우
  • Agent에 메모리 레이어를 직접 만들지 않고 붙이고 싶은 경우 — Palace API가 5줄로 동작
  • 학술 연구 — LongMemEval 점수가 재현 가능해 비교 실험에 적합

맞지 않는 경우:

  • 순수 클라우드 배포 — MemPalace는 처음부터 로컬 우선 설계
  • 초대규모 대화 라이브러리(>10만 건) — ChromaDB 기본 설정으론 버거움. 직접 backend 교체 필요
  • 요약 기능이 필요한 경우 — MemPalace는 요약을 의도적으로 안 한다. 필요하면 그 위에 별도 레이어를 올려야 한다

편집자 시선

여기서 진짜 중요한 건 96.6%라는 숫자 자체가 아니라, "구조화 검색"이라는 방향이다. RAG 플랫은 긴 대화에서 거의 항상 무너진다. 여러 차례 검증된 사실이고, 스코프 기반 분층은 사람의 기억 모델에 훨씬 가까워서 이론상 상한이 플랫보다 훨씬 높다.

MemPalace의 의심 포인트는 58.5k stars와 프로젝트 연차가 안 맞는 부분, 그리고 README의 "위조 주의" 반복. 마케팅이 다소 공격적이라는 뜻이다. 기술 코어는 참고할 가치가 있지만 생태계 신뢰도는 깎아서 봐야 한다. 일단 써보는 건 좋지만, 바로 프로덕션 all-in은 비추.

과거同类(mem0, Letta, Zep) 프로젝트와 비교하면, MemPalace는 "verbatim + 분층"을 끝까지 밀어붙인다. 대신 요약 능력을 포기했다. Agent 환경에선 오히려 이게 장점이다. 요약이 디테일을 깎아내리기 때문이고, Agent 의사결정에서 디테일이 곧 전부이기 때문이다.

아직 확신이 못 서는 건, Claude Code 30일 만료 경고가 진짜 이슈인지 마케팅 후킹인지. 30일 기다려보진 못해서 단정 못 한다. 후킹이면 상업화 의도가 노골적인 거고, 진짜 이슈면 verbatim 저장의 용량 상한이隐患이라는 뜻이다.

참고: GitHub - mempalace/mempalace | LongMemEval benchmark


출처: https://github.com/MemPalace/mempalace

출처: https://github.com/MemPalace/mempalace