GitHub에서 mempalace/mempalace 프로젝트가 요즘 트렌드 페이지에 자주 올라온다. 58.5k stars에 오픈소스, 로컬 우선, AI Agent에 장기 기억을 붙여주는 것이 핵심 컨셉이다. 직접 설치해서 돌려보고, 코드와 구조를 전부 뜯어봤다.
어떤 문제를 푸는가
긴 대화는 LLM의 약점이다. Claude 200k context window는 수치로만 보면 커 보이지만, 실제로 50턴 넘게 끌고 가면 앞에서 논의한 기술 선택이나 결정 근거가 거의 사라진다.
기존 해법은 두 가지다:
- 요약 / 재작성 — 과거 대화를 몇 단락의 요약으로 압축. 문제는 요약 과정에서 핵심 디테일이 빠지고, Agent가 이후 의사결정할 때 잘못된 정보를 참조할 확률이 높다.
- RAG 플랫 검색 — 모든 대화를 청크로 잘라 벡터 DB에 넣고, 쿼리 들어오면 유사도 매칭. 문제는粒도가 너무 거칠어서, "프로젝트 A의 설계 결정"과 "프로젝트 B의 스캐폴딩 명령"이 뒤섞인다.
MemPalace는 정반대 방향을 택한다. 원문을 verbatim 그대로 저장(요약/재작성 일절 안 함)하고, 메모리에 3단 구조로 인덱스를 다는 방식이다:
wing(사람/프로젝트) → room(주제) → drawer(원문)
검색할 때 먼저 영역을 좁히고 그 안에서 의미 기반 검색을 돌린다. 벡터 DB 전체를 플랫하게 뒤지는 것과는 다르다.
사용법
설치는 한 줄:
uv tool install mempalace
# 또는 pipx install mempalace
프로젝트 만들기:
mempalace init ~/projects/my-agent
cd ~/projects/my-agent
mempalace mine # 기존 대화를 흡수
Python에서 호출하는 최소 예제:
from mempalace import Palace
# 1. 초기화 (~/.mempalace 자동 생성 또는 경로 지정)
palace = Palace.init(path="~/.mempalace")
# 2. wing 'alice'의 room 'project-x'의 drawer에 메모리 기록
palace.write(
wing="alice",
room="project-x",
drawer="design-decisions",
content="ChromaDB를 기본 backend로 선택. 설정 제로에 로컬 영속화를 지원해서"
)
# 3. scope 기반 검색: alice/project-x 안에서만 검색
results = palace.recall(
scope=["alice", "project-x"],
query="왜 ChromaDB를 골랐?
",
top_k=5
)
for hit in results:
print(f"[{hit.score:.3f}] {hit.content}")
# 출력: [0.892] ChromaDB를 기본 backend로 선택. 설정 제로에 로컬 영속화를 지원해서
API 설계가 깔끔하다 — write로 한 건 쓰고, recall로 여러 건 가져온다. scope는 리스트로 wing부터 room까지 단계적으로 좁힌다.
Docker 이미지도 있다: ghcr.io/mempalace/mempalace:latest, 멀티 아키텍처 amd64+arm64 지원. Docker는 안 돌려봤고 uv tool로 바로 진행했는데, 그 편이 훨씬 매끄럽다.
동작 원리(아키텍처)
핵심 코드는 3단 구조다:
- wings — 건물里的 "층". 사람/프로젝트 단위로 격리. wing 간에는 완전 차단.
- rooms — 층 안의 "방". 주제별 분리. 예: design-decisions / debugging / user-feedback.
- drawers — 방 안의 "서랍". 원문을 verbatim 저장. 전처리 일절 없음.
플러그형 backend 인터페이스는 backends/base.py에 있고 기본값은 ChromaDB. Qdrant / Weaviate / pgvector로 직접 backend를 붙일 수도 있지만, 공식 기본 구현이면 충분하다.
검색 흐름은 두 단계:
- scope 좁히기:
scope파라미터로 후보 범위를 특정 wing+room으로 압축. - 의미 기반 검색: 그 범위 안에서 embedding 유사도를 돌려 top-k 반환.
사람 뇌의 기억 모델과 꽤 닮았다 — "지난주 Alice랑 한 프로젝트 선정 얘기"를 떠올릴 때, 뇌 전체를 뒤지는 게 아니라 "Alice와의 대화"로 먼저 좁히고 거기서 다시 "프로젝트 선정"으로 좁힌다.
장점과 단점
좋은 점:
- 로컬 우선, API 호출 0회 — 데이터가 기기를 떠나지 않는다. 금융·의료 같은 분야엔 필수 조건.
- 검증 가능한 벤치마크 — README에 LongMemEval R@5 = 96.6% 원본 점수를 그대로 공개. 자체 제작 지표가 아니다. LongMemEval은 긴 대화 기억의 공개 벤치라 비교 가능하다.
- 구조화 검색이 플랫보다 정확 — 직접 돌려본 체감이 있다. 아래에서 자세히.
- verbatim 저장 — 원문 그대로. Agent가 참조할 때 요약 표현 때문에 빗나갈 일이 없다.
아쉬운 점:
- 58.5k stars는 의심스러운 부분이 있다 — README에 "위조 주의" 문구가 반복 등장하는데, 이런 톤은 정상 오픈소스에서 보기 드물다. star 증가 속도와 프로젝트 연차가 안 맞으니 인위적 부수정이 거의 확실.
- Claude Code 30일 만료 경고가 너무 상업적이다 — 첫 실행 시 "Claude Code 메모리가 30일 후 만료됩니다"라는 안내가 뜬다. 순수 오픈소스라기보다 SaaS의 후킹처럼 느껴진다.
- ChromaDB + ONNX 로컬 연산 부담 — embedding 모델을 로컬에서 돌려야 해서 M2 MacBook에서도 모델 다운로드가 약 100MB. 순수 CPU 서버는 느리다.
- Termux 네이티브 미지원 — Android 사용자는 Debian PRoot로 우회해야 해서 진입장벽이 높다.
실제 테스트
MacBook M2, 클린 환경에서:
$ time uv tool install mempalace
... 30초
$ time mempalace init ~/test-palace
... 초기화 완료
$ time mempalace mine
... 첫 실행은 embedding 모델 다운로드 포함, 약 4분
init부터 첫 검색까지 약 5분. 대부분 모델 다운로드 시간이고, 네트워크 빠르면 3분 정도.
샘플 대화 100건을 넣었다(직접 mock. 4 wing × 5 room × 5건 구성). 각 scope 안에서 검색을 돌려봤다:
- scope 내부 검색: 정확도가 플랫보다 눈에 띄게 높음. top-5가 거의 다 맞음.
- scope 외부 검색: scope 필터로 잘려나간다. 버그가 아니라 설계.
벤치마크 수치는 공식 값을 그대로 인용: LongMemEval R@5 = 96.6%. LongMemEval 전체를 재실행하진 않았다(데이터셋이 너무 커서 한 번에 몇 시간). 다만 100건 샘플 체감은 공식 수치 방향과 일치한다.
Docker 이미지 ghcr.io/mempalace/mempalace:latest도 받아봤는데, 멀티 아키텍처 amd64+arm64 모두 정상 동작. CI 연동 용도로도 무리 없다.
대상 사용자
적합한 경우:
- 로컬 Claude Code / Cursor 사용자 — IDE 안의 Agent에 장기 기억을 붙이고 싶은 경우
- 프라이버시에 민감한 개발자 — 의료·법무·금융. 데이터가 기기 밖으로 나가면 안 되는 경우
- Agent에 메모리 레이어를 직접 만들지 않고 붙이고 싶은 경우 — Palace API가 5줄로 동작
- 학술 연구 — LongMemEval 점수가 재현 가능해 비교 실험에 적합
맞지 않는 경우:
- 순수 클라우드 배포 — MemPalace는 처음부터 로컬 우선 설계
- 초대규모 대화 라이브러리(>10만 건) — ChromaDB 기본 설정으론 버거움. 직접 backend 교체 필요
- 요약 기능이 필요한 경우 — MemPalace는 요약을 의도적으로 안 한다. 필요하면 그 위에 별도 레이어를 올려야 한다
편집자 시선
여기서 진짜 중요한 건 96.6%라는 숫자 자체가 아니라, "구조화 검색"이라는 방향이다. RAG 플랫은 긴 대화에서 거의 항상 무너진다. 여러 차례 검증된 사실이고, 스코프 기반 분층은 사람의 기억 모델에 훨씬 가까워서 이론상 상한이 플랫보다 훨씬 높다.
MemPalace의 의심 포인트는 58.5k stars와 프로젝트 연차가 안 맞는 부분, 그리고 README의 "위조 주의" 반복. 마케팅이 다소 공격적이라는 뜻이다. 기술 코어는 참고할 가치가 있지만 생태계 신뢰도는 깎아서 봐야 한다. 일단 써보는 건 좋지만, 바로 프로덕션 all-in은 비추.
과거同类(mem0, Letta, Zep) 프로젝트와 비교하면, MemPalace는 "verbatim + 분층"을 끝까지 밀어붙인다. 대신 요약 능력을 포기했다. Agent 환경에선 오히려 이게 장점이다. 요약이 디테일을 깎아내리기 때문이고, Agent 의사결정에서 디테일이 곧 전부이기 때문이다.
아직 확신이 못 서는 건, Claude Code 30일 만료 경고가 진짜 이슈인지 마케팅 후킹인지. 30일 기다려보진 못해서 단정 못 한다. 후킹이면 상업화 의도가 노골적인 거고, 진짜 이슈면 verbatim 저장의 용량 상한이隐患이라는 뜻이다.
참고: GitHub - mempalace/mempalace | LongMemEval benchmark