제품

Mem 갑작스러운 서비스 종료, AI 기억의 비용과 데이터는

Mem의 서비스 종료와 Hacker News의 heated한 논의는 AI 기억 제품이 직면한 과제들을 드러냈다. 사용자 유지율, 지속 Inference 비용, 데이터 이전과 Exit 절차가 핵심이다.

글자 크기

Mem 서비스 종료, AI 기억을 성급하게 비관하지 말자

Mem은 제품을 종료하면서 Hacker News 메인 페이지에 올랐다. 59점과 81개 댓글보다 더 중요한 것은 AI 기억 제품이 사용자 유지율, 비용, 데이터 이관을 어떻게 해결해야 하는지다.

공식 설명은 get.mem.ai/blog/mem-is-shutting-down에 공개됐다.

토론 링크: news.ycombinator.com/item?id=50526537.

Mem 종료, AI 기억을 조롱할 때가 아니다

Mem의 핵심 포지션은 AI 장기 기억과 개인화 지식 관리다.

이 제품이 해결하는 문제는 ‘모델이 질문에 답할 수 있는가’가 아니라 ‘모델이 사용자의 자료, 선호, 과거 대화를 지속적으로 기억할 수 있는가’다. 이런 제품은 보통 노트, 웹페이지, 채팅 기록과 자료를 입력받고, 검색, 요약, 지속적인 업데이트를 통해 모델에 더 안정적인 Context를 제공한다.

LLM 애플리케이션에는 잘 어울리는 기능이다. 많은 Agent도 사용자 자료를 읽고, 작업 진행 상황을 기억하며, 세션이 바뀌어도 목표를 유지해야 한다.

문제는 제품 약속과 상업적 현실 사이에 있다.

사용자가 처음 제품을 열었을 때는 놀라워할 수 있다. 그럼 3개월 뒤는? 기억 기능이 업무 흐름을 눈에 띄게 개선하지 못한다면 구독 갱신은 어렵다.

따라서 Mem의 종료는 단순히 ‘기억 기능이 쓸모없다’는 뜻이 아니다. 기억 기능이 아직 사용자가 오래付费할 기반 인프라로 자리 잡지 못했다는 사실을 보여준다.

어떤 업계 판단보다도 중요한 것은 공식 발표에 담긴 종료 사실이다. Mem은 제품 종료를 공식적으로 밝혔다.

HN의 59점과 81개 댓글은 무엇을 말하는가

59점, 81개 댓글. HN 기준으로는 꽤 활발한 토론이다.

모두 AI 노트 도구가 하나 줄었다는 사실에 interested한 것은 아니다.

HN 사용자들은 더 직접적인 질문을 던졌다. 제품이 개인 지식을 정리해 줬는데 사라지면 그 데이터는 어떻게 되는가? Export할 수 있는가? 원본 대화는 온전한가? 요약에서 원천을 추적할 수 있는가? 언제부터 서비스가 중단되는가?

이는 AI 제품에서 종종 가려진 문제와 맞닿아 있다. 데이터가 Cloud에 저장되어 있다는 사실만으로 사용자가 그 데이터를 정말 소유한다고 볼 수는 없다.

전통적인 SaaS가 종료될 때 사용자는 적어도 파일, 스프레드시트, 메시지 기록이 어디 있는지 알고 있다. AI 제품의 Data Layer는 더 복잡하다. 원본 자료, Vector Index, 구조화된 요약, 모델이 생성한 연결 관계, Agent가 자동으로 만든 상태 기록이 포함될 수 있다.

PDF나 JSON 다운로드 패키지만 제공된다면 사용자가 받은 것은 입력 데이터일 뿐, 완전한 제품 상태가 아닐 수 있다.

따라서 이번 토론의 높은 관심은 HN 커뮤니티가 개인 지식 자산의 이동 가능성을 중요하게 본다는 뜻이다.

AI 기억 제품은 일반 도구보다 한 가지 책임을 더 부담한다. 콘텐츠뿐 아니라 콘텐츠에 대한 이해까지 누적하기 때문이다.

가장 비싼 기능이 장기 기억일 수도 있다

장기 기억은 소프트웨어 기능처럼 들린다. 실제로는 추론 Resources를 지속적으로 소비하는 Data Pipeline일 가능성이 크다.

전체链路는 최소한 다음 단계를 거친다.

  1. 새 자료를 연결하고 텍스트, 파일, Metadata를 파싱한다.
  2. 콘텐츠를 분할하고 Vectorize한 뒤 Index를 업데이트한다.
  3. 사용자가 질문하면 관련 Chunk를 검색한다.
  4. Chunk를 LLM에 전달해 답변을 생성한다.
  5. 이번 대화를 장기 기억으로 저장할 가치가 있는지 판단한다.
  6. 주기적으로 중복을 제거하고, 항목을 통합하거나 요약하고, 오래된 기억을淘汰한다.

1, 2단계에는 비용이 든다. 3, 4단계는 더 비싸다. 질문할 때마다 추가 검색과 Context Injection이 발생할 수 있기 때문이다. 5, 6단계는 사용자가 클릭해야만 실행되는 제품이 아니라는 뜻이다. Background에서도 지속적인 업데이트가 필요하다.

기억 시스템이 Claude, OpenAI 또는 다른 Model API와 연동된다면 비용은 Input Token, Output Token, 호출 빈도의 영향을 받는다.

여기에는 자주 간과되는 반직관적인 점이 있다. 기억 Layer가 일반 AI SaaS보다 저렴하다고 단정할 수는 없다.

일반 채팅 제품은 사용자가 열지 않을 때 거의 계산 비용이 발생하지 않는다. 반면 기억 제품은 ‘언제나 사용자를 이해한다’기 위해 Index 유지, 관련성 판단, Background 요약을 계속 수행해야 한다.

따라서 장기 기억에는 두 가지 상업 모델이 더 적합하다.

  • 모델, Office Suite 또는 협업 소프트웨어의 내장 기능으로 제공해 상대적으로 높은 Margin을 가진 사업이 비용을 부담한다.
  • 별도 Layer로 제공하면서, 세션 간 Context가 명시적으로 필요한 사용자에게만 요금을 받는다.

‘영구 기억功能’ 형태로 별도 요금을 부과하면 사용자는 곧바로 시스템 폴더나 Note Software와 가격을 비교하게 된다.

종료 공고는 데이터 이관 Test이기도 하다

공식 공고는 제품 Life Cycle 설명일 뿐 아니라 사용자를 위한 데이터 이관 Test이기도 하다.

첫째, 종료 시점을 확인한다

로그인, Synchronization, API 호출이 언제 중단되는지는 공식 공고와 고객지원 답변에서 확인해야 한다. 현재 공개된 자료에는 전체 일정이 빠져 있으므로 추측에 의존하면 안 된다.

둘째, 원본 데이터를 Export한다

요약만 받아서는 안 된다. 지식 관리 제품이라면 최소한 다음 항목을 함께 확인해야 한다.

  • 원본 노트, 첨부 파일, 인용한 웹페이지.
  • 대화 기록과 대화, 지식 항목 사이의 연결 관계.
  • 구조화된 요약, Tag, 생성된 콘텐츠.
  • Index를 재구성하는 데 필요한 Metadata. 여기에는 Source URL, 생성 시간, 업데이트 시간이 포함된다.

셋째, Export가 완전한지 검증한다

파일 수는 일치하는가? Timestamp는 정상인가? UTF-8 한글 문자가 손상되지 않았는가? 첨부 파일을 열 수 있는가? Export 패키지가 암호화되었거나 손상되지 않았는가?

넷째, 증거를 보존한다

원본 파일을 내려받고 Hash를 검증하며, 공고, 청구서, Terms of Service를 보관한다. 개인정보나 GDPR Data Deletion Request가 관련된다면 소통 기록도 남겨 둔다.

과하게 관리할 필요는 없지만 비용은 매우 낮다. 종료된 뒤에야 복구할 수 없다는 사실을 알게 되는 것보다 훨씬 저렴하다.

편집자의 생각

Mem 종료가 보내는 가장 중요한 신호는 AI 기억에 ‘수요가 없다’는 사실이 아니다. 독립형 기억 제품의 Unit Economics가 전면에 드러났다는 점이다. 기능에 가치가 있다는 사실과 구독 사업이 성립한다는 사실은 다르다. 사용자는 세션 간 기억을 좋아하면서도 ‘나를 기억한다’는 기능에 매달 추가 요금을 낼 의향이 없을 수 있다.

장기 기억은 독립된 제품 Category라기보다 모델과 협업 소프트웨어의 내장 기능으로 보는 것이 더 적절하다. Claude, Cursor, Notion 또는 기업 Knowledge Platform은 기존 사업 안에서 이 비용을 감당할 수 있다. 반면 소규모 제품은 소액 구독만으로 지속적인 Indexing과 Inference 비용을 덮기 어렵다.

이번 종료는 과거의 기능下线과 다르다. 일반 기능이 사라지면 사용자는 Button 하나를 잃는다. 기억 제품이 사라지면 관계, 요약, 이력이 함께 끊어진다. 사용자 유지율, 데이터 이관, Exit Mechanism이 직접 검증되는 셈이다.

공고에는 아직 완전한 종료 일정과 이관 세부 사항이 공개되지 않았고, 최종적으로 어느 정도의 granularity까지 Export할 수 있는지도 확인할 수 없다. 이 두 가지가 이번 종료를 Organization된 Exit으로 만들 것인지, 데이터 자산 손실로 끝날 것지를 결정한다.

출처: https://get.mem.ai/blog/mem-is-shutting-down