실전

Claude 일기가 끝내 신고당하다 — Anthropic이 먼저 경찰을 부른 사건

플로리다 여성의 사적인 Claude 일기 기록을 Anthropic이 스스로 경찰에 넘기며 felony(중범죄) 혐의가 제기됐다. AI가 사용자 대화를 능동적으로 신고한 첫 사례가 만들어낸 신뢰 경계의 논쟁을 짚는다.

글자 크기

플로리다의 한 여성이 Claude의 일기 기능을 사용해 사적인 생각을 적어 두었는데, 그 내용이 Anthropic의 자발적인 신고로 경찰에 전달됐다. 그녀는 현재 felony(중범죄) 혐의로 기소된 상태다.

이 사건이 큰 반향을 일으킨 이유는 AI가 "인간성을 이해한다"는 쪽이 아니다. 핵심은 모두가 당연하다고 여기면서도 한 번도 검증되지 않은 층위를 찢어버린 데 있다. 즉, AI에게 한 말은 도대체 "사적인" 것이 맞는가?

출처: TechSpot 보도. Hacker News에서 이 글은 추천 127표, 댓글 89개를 기록했는데, 일반적인 AI 뉴스보다 눈에 띄게 높은 수치였다. 대부분 "능동적 신고"라는 네 글자에 촉발된 반응이었다.


사건 정리: 일기에서 felony까지

사건 자체는 복잡하지 않다.

  • 당사자는 플로리다 거주자로, 구체적인 이름은 공개되지 않았다
  • Claude의 일기 기능(개인 글쓰기·성찰 도구 성격)을 사용 중이었다
  • 대화 내용이 Anthropic 내부의滥用 모니터링을 발동시켰다
  • Anthropic이 자발적으로 사법당국에 연락해 대화 기록을 넘겼다
  • 그녀는 felony로 기소됐다. 미국 법 체계에서 felony는 일반적으로 최고 형량이 1년을 초과하는 범죄를 가리키며, misdemeanor(경범죄)와 상대되는 개념이다

두 가지 디테일이 따로 떼어놓고 볼 만하다.

첫째, 자발적이었다는 점이다. 수동이 아니다. 뉴스 제목은 "Anthropic reported diary entry to police"이지 "responded to subpoena"가 아니다. 경찰이 압수 영장을 들고 찾아온 게 아니라, Anthropic이 직접 전화를 걸었다는 뜻이다. 책임이 곧장 플랫폼에 떨어진다.

둘째, 발동된 결과가 felony라는 점이다. 커뮤니티 경고가 아니라, 계정 정지가 아니라, 형사 중범죄다. 즉 Anthropic 내부 평가 기준에서 "국가 기관이 개입해야 할" 수준이라고 판단했다는 의미다.

Claude 일기 기능이라는 제품이 뭐냐면

많은 사람의 첫 반응이 "Claude에 일기 기능이 있다고?"인 것 자체가 이미 문제를 보여준다. 제품 경계가 흐리다는 뜻이다.

Claude 일기 기능은 Anthropic이 2024년에 출시한 개인 글쓰기·성찰 도구로, 사용자가 생각을 정리하고 감정을 기록하게 돕는 위치에 있다. journaling 류의 멘탈 헬프 보조 도구에 가깝다. 메인 대화 제품과는 분리된 진입점으로 운영되며, UI상 일반 채팅보다는 "프라이빗 공간"에 가까운 형태다.

따라서 사용자의 주관적 기대는 이렇다. "이건 내 노트인데, 이 노트가 우연히 말을 할 뿐이다." 그런데 Anthropic의 제품 정의는 분명히 다르다. 그쪽 입장에서는 모든 입력이 여전히 입력이고, 일기 기능은 겉만 바꾼 것이며, 같은 Claude, 같은 ToS, 같은 모니터링 체계가 그대로 적용된다.

이 간극이 이번 사건의 핵심이다.

Anthropic이 신고를 할 수 있는 근거: 신뢰 조항과 현실의 충돌

Anthropic의 이용약관을 한 번 까보자. 어떤 AI 회사의 ToS든 직접 읽어볼 필요가 있다는 점을 먼저 밝힌다. 아래는 요약이다.

  • 사용자는 입력 콘텐츠에 대한 저작권을 보유하나, 서비스 운영에 필요한 사용권을 Anthropic에 부여한다
  • Anthropic은滥用 방지를 위해 대화 내용을 모니터링하고 검토할 수 있다
  • 불법 행위, 특히 신체적 위해 위험이 있다고 "합리적으로 판단되는" 경우, 사법당국에 자발적으로 신고할 수 있다
  • 구체적인 발동 조건에는 폭력 위협, 미성년자 대상 범죄, 대량살상 무기 등이 포함된다

들어보면 합리적으로 들린다. 그런데 문제는 다음 세 가지다.

  1. 대부분의 사용자는 ToS를 끝까지 읽지 않는다. 마지막으로 어떤 제품의 이용약관을 처음부터 끝까지 읽어본 게 언제인가.
  2. 조항 해석권이 플랫폼에 있다. "합리적 판단"의 기준, "불법 행위"의 정의, 임계값이 어디인지 모두 Anthropic 내부에서 정한다.
  3. 독립적인 검토 절차가 없다. 사용자는 이미 신고당한 뒤에서야 알게 되며, 그 시점에는 형사 절차가 이미 시작된 상태다.

즉, Anthropic은 법률적으로는 발을 뗄 자리가 없다. 실제로 그럴 권한이 있을 가능성이 높다. 그러나 제품 경험의 관점에서 보면, 이 일은 사용자 입장에서 완전히 예상 밖이었다.

이번이 처음이 아니고, 마지막도 아니다

더 큰 타임라인 위에 놓아 보면, 이번 건은 고립된 사례가 아니다.

시점회사사건
2023OpenAIChatGPT 출력이 미성년자 대상 위해와 관련된 내용을 포함하자 자발적으로 사용자를 신고
2024MetaLlama 시리즈가 피싱 콘텐츠 생성에 사용된 정황이 보고되며, Meta가滥用 모니터링을 강화하고 수사에 협조
2024AnthropicResponsible Scaling Policy에서 사법당국과의 협력을 여러 차례 언급
2025다수AI로 생성된 CSAM, 딥페이크 협박 사건이 급증하면서 사법당국이 AI 회사를 일상적 협력처로 활용하기 시작

추세가 뚜렷하다. AI 회사는 이미 "기술 공급업체"에서 조용히 "콘텐츠 심사관 +执法 협력자"로 이동했다. 그런데 이 역할 전환을 규율하는 법률적 프레임은 어디에도 없다.

执法에 협조할 때마다, 플랫폼은 내부 기준으로 법률 공백을 메우고 있다. 다음번 기준은 누가 정할 것인가.

사용자·플랫폼·경찰, 삼각 지대의 회색 영역

이 사건이 어려운 이유는 세 가지 질문 모두에 정답이 없기 때문이다.

1) AI와의 대화에서 사용자가 가지는 합리적 프라이버시 기대란 무엇인가

현행 미국에는 연방 차원의 AI 프라이버시법이 없다. 주(州) 단위로 산발적인立法이 진행 중이다. EU의 GDPR은 적용되지만 정의가 모호하다. 사용자의 주관적 기대와 법적 현실 사이에는 거대한 간극이 존재한다.

  • 당신이 생각하기에: AI에게 한 말 = 변호사나 심리상담사에게 한 말
  • 실제로는: AI에게 한 말 = SaaS 회사에 한 말 (별도 합의가 없는 한)

이 어긋남은 반드시立法으로 메꿔야 할 지점이다. 그러나 그 전까지 모든 사용자는 실험 샘플이 된다.

2) 플랫폼은 언제 신고해야 하고, 어디서부터가 과도한가

Anthropic이 이번에 신고를 택한 건, 콘텐츠가 실제 신체 안전 위협과 관련되었기 때문일 수 있다. 그 부분은 현재 공개돼 있지 않다. 그러나 문제는 다음 세 가지다.

  • 발동 임계값이 불투명하다
  • 제3자 재의 절차가 없다
  • 플랫폼이 "선수"이자 "심판"이다

임계값이 너무 낮으면 모두가 불안해지고, 너무 높으면 실제로 위험한 사람을 놓친다. 이 균형점을 지금은 영리기업이 일방적으로 결정하고 있다.

3) 경찰은 AI를 informant으로 활용할 수 있는가

이 층위가 가장 미묘하다. 일단 AI 회사들이 "자발적 신고"를 상시화하면, 사법당국의 수사가 비용 거의 없는 상태가 된다. informant도, 잠입 수사관도, 압수 영장도 필요 없다. 사용자가 스스로 무언가를 입력하기만을 기다리면 된다.

이런 "자발에 의한 사찰"은 전통적 감시보다 더 은밀하다. 사용자가 심리적으로 감시당하고 있다고 느끼지 않기 때문이다. 그래서 이번 사건이 많은 사람에게 등골이 서늘해진 것이다.

필자의 판단

이 사건의 핵심은 "AI 밀고자"라는 단순한 서사가 아니다. 진짜 찢어진 것은 따로 있다. 대형 모델 회사들이 사실상 "콘텐츠 심사관 +执法 협력자"로 슬쩍 변신했는데, 그것을 규율하는 법률적 프레임이 없다는 점이다.

몇 가지 정리.

첫째, 이번이 대중에게 처음 보인 사례일 뿐, 마지막은 아니다. Anthropic만이 이 방식으로 움직이는 회사가 아니다. OpenAI, Meta, Google 모두 유사한滥用 모니터링 체계를 운영 중이다. 차이는 이번의 입력 상황이 "일기"였다는 데서 사용자의 심리적 마지노선을 건드렸다는 점이다.

둘째, 진짜 논쟁은 "신고했느냐 마느냐"가 아니라 "누가 신고 여부를 결정하느냐"다. 실제 신체 안전이 걸린 상황이라면 플랫폼의 자발적 신고를 비판하기는 어렵다. 다만 발동 임계값, 검토 절차, 사용자 통지는 모두 독립 기관이 개입해야지 플랫폼 내부에서만 정해서는 안 된다.

셋째, ToS보다 제품 경계가 더 중요하다. 사용자는 조항을 읽지 않는다. 그러나 제품 형태는 읽는다. Anthropic은 이 기능을 "일기"라 부르고, 별도 진입점에 넣고, UI에서 사적 공간의 인상을 만들었다. 그것 자체가 사용자에게 강력한 프라이버시 신호를 준 셈이다. 제품 언어와 법적 언어가 충돌할 때, 플랫폼이 양쪽 다 차지할 수는 없다.

넷째, 잘 모르겠는 부분. 이 사용자의 구체적 내용이 실제로 얼마나 심각했는지다. 뉴스에 공개되지 않았고, Anthropic도 설명하지 않았다. 만약 명확하고 입증 가능한 위해 위협이었다면, Anthropic의 처치는 도덕적으로 충분히 설득력이 있다. 이것이 이 사건을 가장 불편하게 만드는 지점이다. 흑백이 아니라 회색이라는 점. 그러나 바로 회색이기 때문에, 규칙이 더 필요한 법이다.


참고 출처:

출처: https://www.techspot.com/news/114091-florida-woman-used-claude-diary-anthropic-reported-shoot.html