고어만 Sachs가 은행가와 트레이더의 업무 흐름에서 Claude Code를 철회할 계획이다. 핵심은 코드를 얼마나 빠르게 작성하느냐가 아니라, Agent가 무엇에 접근하고 무엇을 실행할 수 있으며 오류가 발생했을 때 누가 책임져야 하는가에 있다.
고어만 Sachs의 Claude Code 철회와 Agent 권한 거버넌스
The State of AI의 보도에 따르면 고어만 Sachs는 은행가와 트레이더의 업무 흐름에서 Anthropic의 Claude Code를 철회할 계획이다. 관련 뉴스가 Hacker News 메인 페이지에 올라가 220점과 142개의 댓글을 모았다.
논쟁의 겉모습은 기업용 도구_NEWS처럼 보이지만, 실제로 다뤄지는 주제는 Agent 권한 거버넌스다. 개발 도구가 어떤 저장소를 읽고, 어떤 시스템을 호출하고, 어떤 데이터를 변경할 수 있으며, 문제가 생겼을 때 누가 책임질 수 있는지가 핵심이다.
원문 보도: https://www.thestateofai.com/news/goldman-sachs-claude-code-traders-bankers
Hacker News 토론: https://news.ycombinator.com/item?id=50415628
고어만 Sachs가 Claude Code를 철회한 배경
The State of AI는 고어만 Sachs가 은행가와 트레이더의 업무 흐름에서 Anthropic의 Claude Code를 철회할 계획이라고 보도했다. 보도에서 핵심은 더 빠른 코드를 생성할 수 있는 모델의 성능이 아니라, Claude Code라는 Agent가 어떤 행동 권한을 갖게 되는지에 놓였다.
이 뉴스는 Hacker News 메인 페이지에 올라가 220점과 142개의 댓글을 모았다. 토론의 중심은 은행 내부 시스템에서 범용 코딩 Agent가 직원의 권한을 그대로 이어받아 코드와 명령 및 서비스를 직접 조작해도 되는지로 향했다.
도구를 철회하는 것과 모델 사용을 금지하는 것은 다른 문제다. 고어만 Sachs는 여전히 Claude, GPT 또는 다른 모델을 검색, 요약, 분석에 사용할 수 있다. 변화한 것은 모델이 제안을하는 것과 모델이 직원을 대신해 실행하는 것이 서로 다른 위험 모델이라는 점이다.
채팅형 Copilot은 많아야 코드를 화면에 보여준다. Claude Code 같은 도구는 프로젝트 파일을 읽고 shell 명령을 실행하며 코드를 수정하고, 외부 서비스와 연결될 수도 있다. 프롬프트가 오염되면 도구 호출도 잘못된 방향으로 이어질 수 있다.
따라서 고어만 Sachs가 실제로 철회하는 대상은 ‘Claude’ 자체가 아니라, 세밀한 권한 경계가 없는 Agent 사용 방식일 가능성이 크다.
진짜 문제는 코드가 느리게 작성되는 일이 아니다
코드 생성 효율은 당연히 중요하다. 그러나 규제 대상 기관이 고려하는 지표는 다르다. 데이터 격리, 역할 분리, 작업 이력, 변경 승인과 사고 대응이 그 대상이다.
예를 들어 Claude Code가 트레이더의 작업 공간에 연결됐다고 가정하자. Agent는 다음과 같은 것을 볼 수 있다.
- 전략 코드와 백테스팅 프로젝트
- 고객 또는 주문 데이터
- 내부 API 접근 토큰
- 배포, 모니터링 및 경보 시스템
- 실제 자금 거래를 실행할 수 있는 스크립트
Agent는 단순히 ‘잘못된 코드를 읽는’ 수준에서 멈추지 않는다. 민감한 내용을 로그에 기록하거나, 파일을 잘못 삭제하거나, 잘못된 제안에 따라 핵심 설정을 변경할 수 있다. 더군다나 기존 권한 체계로는 ‘직원이 직접 실행한 것’과 ‘Agent가 직원의 지시에 따라 실행한 것’을 구분하기 어렵다.
Copilot의 오류는 보통 제안 단계에서 멈춘다. 사람이 코드를 복사하고 검토한 뒤 실행한다. Agent는 제안을 곧바로 행동으로 바꿀 수 있다. 그 사이에는 자연스럽게 존재하던 사람의 검토 단계가 사라진다.
이 때문에 은행은 일반적인 SaaS에 적용하는 권한 관리 방식을 Agent에 그대로 적용할 수 없다. Agent를 평범한 직원 계정처럼 취급하면 대개 과도한 권한을 그대로 물려받게 된다. 저장소 전체를 보고, 여러 환경에 접근하고, 배포 명령을 실행할 수 있다. 계정이 프롬프트 인젝션에 악용되면 영향 범위는 모델 성능이 아니라 부여된 권한에 따라 확대된다.
규제 대상 기관이 진짜 궁금한 것은 Claude Code가 코드를 얼마나 빠르게 작성하느냐가 아니라 다음 세 가지다.
- 어떤 데이터에 접근할 수 있는가?
- 어떤 상태를 변경할 수 있는가?
- 오류가 발생했을 때 과정을 복원하고 책임을 명확히 할 수 있는가?
Agent를 사람으로 볼 것인가, 서비스 계정으로 볼 것인가
Agent는 직원의 모든 접근 권한을 직접 물려받아서는 안 되며, 단순히 ‘사람’으로 취급해서도 안 된다. 더 적절한 개념은 제약이 적용된 비인간 서비스 계정이다.
서비스 계정은 명확한 질문을 남긴다. 코드는 누구의 신원으로 실행되며, 어떤 리소스를 읽고, 어떤 행동을 실행하고, 어떤 데이터 흐름을 갖는지를 시스템에서 확인할 수 있어야 한다. 작업별로 임시 권한을 부여하고, 완료되면 만료되는 단기 자격 증명을 사용해야 한다.
이는 단순히 개념을 바꾸는 문제가 아니라 구현 방식 자체를 바꾼다.
Agent가 은행가의 SSO 권한을 그대로 사용하면 도구를 호출할 때마다 사람의 전체 세션이 사용될 수 있다. 감사 로그에는 ‘어떤 은행가가 어떤 작업을 실행했다’는 사실만 남는다. 그 단계가 Claude Code의 계획에서 나왔는지, 외부 웹페이지에서 유입된 것인지, Agent가 직접 조합한 shell 명령인지 구분하기 어렵다.
반면 Agent가 독립 신원을 사용하면 로그에서 다음을 확인할 수 있다.
[09:31:04] agent=claude-code task=fix-trade-report
[09:31:07] granted read access to repo:risk-reporting
[09:31:11] denied write access to env:production
[09:31:14] proposed command: npm run test
[09:31:18] human approval requested
[09:31:22] human=trader_042 approved scoped test run
사람, 작업, 자격 증명, 명령과 승인을 서로 연결할 수 있다. 규제 환경에서는 이것이 ‘모델의 답변이 전문적으로 들리는 것’보다 훨씬 실용적이다.
단기 자격 증명도 중요하다. Agent 작업은 보통 몇십 분에서 몇 시간만 이어지므로 자격 증명을 몇 주 동안 유효하게 유지할 이유가 없다. 특정 저장소, 환경과 작업 유형에 자격 증명을 연결하고, 작업 종료 시 명시적으로 폐기할 수 있다.
최소 권한 역시 권한을 극도로 작게 설정한다는 의미만은 아니다. 행위 단위로 권한을 분리해야 한다. 코드 읽기 권한이 .env 읽기 권한을 뜻하지는 않으며, 단위 테스트 실행 권한이 배포 스크립트 실행 권한을 뜻하지도 않는다. 브랜치 생성 권한과 main 병합 권한 역시 달라야 한다.
금융 수준 권한 격리 도입 체크리스트
은행, 증권사 및 기타 규제 대상 팀을 위해 다음과 같은 실행 가능한 체크리스트를 제안한다.
1. 실행 환경 격리
Agent가 트레이더나 은행가의 일상 업무 장치에서 기본으로 실행되지 않도록 해야 한다. 최소한 코드 실행을 독립 컨테이너, 가상 머신 또는 전용 runner 안에서 수행해야 한다.
- 작업 공간에는 임시 복사본을 사용한다.
- 마운트 디렉터리는 작업별 허용 목록으로 설정한다.
- 호스트 socket, Docker socket 및 개인 디렉터리 접근을 기본 차단한다.
- CPU, 메모리, 실행 시간과 디스크 할당량을 설정한다.
- 작업이 끝나면 임시 환경을 삭제한다.
컨테이너만으로 모든 보안 경계를 만들 수는 없지만, 직원 단말에서 직접 스크립트를 실행하는 것보다 통제하기 쉽다. 특히 편의를 위해 Docker socket을 컨테이너에 마운트해서는 안 된다.
2. 외부 연결 제한
Agent가 문서를 읽을 수 있다는 이유로 임의의 인터넷에 접근할 수 있는 것은 아니다.
- 아웃바운드 포트만 설정하지 말고 도메인 허용 목록을 사용한다.
- 클라우드 사업자 메타데이터 주소와 내부 관리망 구간 접근을 차단한다.
- 다운로드한 파일의 유형, 크기와 악성 여부를 검사한다.
- 웹페이지, issue, PR 및 의존성 패키지를 신뢰할 수 없는 입력으로 취급한다.
- 데이터의 외부 반출이나 전송은 정책 검사를 거치게 한다.
프롬프트 인젝션은 대개 복잡한 모델 공격을 필요로 하지 않는다. issue, README 또는 웹페이지에 숨겨진 지시문이 Agent를 잘못된 도구 호출로 유도하기만 해도 실제 피해가 발생할 수 있다.
3. 민감 작업에 대한 재확인
코드 검토는 프로덕션 배포만 막아서는 안 된다. 민감 데이터 읽기, 전략 변경, 거래 인터페이스 호출과 메일 발송도 위험도에 따라 구분해야 한다.
다음 기본 규칙을 사용할 수 있다.
저위험: 현재 저장소 읽기, lint 실행, 단위 테스트 실행 -> 자동 실행
중위험: 브랜치 생성, 코드 커밋, CI 수정 -> diff 표시 후 확인
고위험: 고객 데이터 접근, 프로덕션 기록, 배포 또는 자금 관련 명령 실행 -> 별도 승인
승인 화면에는 ‘Claude의 실행을 허용하시겠습니까’만 표시해서는 안 된다. 전체 명령, 대상 환경, 관련 데이터, 변경 diff와 예상 부작용을 보여줘야 한다.
4. 명령 및 데이터 접근 로그 보존
로그에는 채팅 내용뿐 아니라 전체 실행 경로를 기록해야 한다.
- 사용자 신원과 Agent 신원
- 작업 ID, 모델 버전과 도구 버전
- 각 도구 호출과 매개변수 요약
- 읽기, 쓰기 및 삭제된 데이터 경로
- shell 명령, 종료 코드와 실행 환경
- 사람의 승인 및 거절과 승인자 신원
- 키 참조 및 사용 기록. 단, 평문 키는 기록하지 않는다.
로그는 임의로 변경하기 어렵게 보호하고 합리적인 보관 주기를 설정해야 한다. 외부 감사에서 ‘무엇이 일어났는지 아는 것’은 첫 단계일 뿐이며, ‘변경되지 않은 과정을 증명하는 것’이 두 번째 단계다.
5. 정책을 실행 계층에 적용
많은 팀은 ‘프로덕션 환경을 수정하지 마라’ 같은 시스템 프롬프트만 작성한다. 프롬프트는 권한 통제가 아니다.
제한 사항은 도구 계층에 적용해야 한다. 모델이 고위험 명령을 요구하더라도 실행 게이트웨이가 거부해야 한다. prompt가 오염되더라도 서비스 계정이 프로덕션 자격 증명을 얻지 못하게 해야 한다.
우선 도구를 다음과 같이 세 단계로 나눌 수 있다.
safe_read -> 자동 실행 및 기록
scoped_write -> 정책 검사 후 실행하고 필요하면 확인 요청
protected_ops -> 기본 거부하며 특정 역할 또는 승인 절차에서만 허용
정책을 통과한 뒤 도구 계층에서 범위가 제한된 임시 자격 증명을 발급한다. 그러면 승인의 대상은 자연어 문장이 아니라 구체적인 작업이 된다.
6. Red Team 및 철회 체계 구축
도입 전에 다음과 같은 일반적인 시나리오를 시험해야 한다.
- 저장소 README에 악성 지시문이 숨겨진 경우
- Agent가 관련 없는 디렉터리에 접근을 시도하는 경우
- 테스트 스크립트에 프로덕션 API 호출이 포함된 경우
- 승인 후 명령 내용이 변경되는 경우
- 한 작업에서 얻은 자격 증명이 다른 작업에 재사용되는 경우
각 시나리오에서 ‘거부가 실제로 발생했는지’와 ‘로그가 완전한지’ 검증해야 한다. 또한 도구를 한 번에 중지하고 자격 증명을 폐기하며 Agent 신원을 비활성화할 수 있는 절차도 마련해야 한다.
Editor의 생각
고어만 Sachs가 Claude Code를 철회한 사건은 특정 모델이 금융업에 적합하지 않음을 보여준 데서 의미가 크지 않다. 기업용 Agent 거버넌스의 경계가 ‘무엇을 추천하는가’에서 ‘무엇을 할 수 있는가’로 이동하기 시작했다는 데서 의미가 있다. 과거 Copilot은 주로 텍스트나 코드를 생성했고, 사람이 실행하기 전에 검토할 기회가 남아 있었다. 하지만 이번에는 Agent가 저장소를 읽고, 명령을 실행하고, 시스템을 변경할 수 있어 오류가 곧바로 실행 과정에 들어간다.
앞으로 기업은 단순히 Agent를 사용하지 않는 흐름으로 돌아가지 않을 가능성이 크다. 대신 데이터, 도구와 실행 환경을 고정하고 권한을 하나씩 개방하는 더 제한된 Agent 버전을 만들게 될 것이다. Claude Code는 개발 용도로 계속 쓰일 수 있지만, 거래, 고객 데이터와 프로덕션 시스템에는 독립 신원과 단기 자격 증명을 적용할 가능성이 크다.
보도된 ‘철회’가 전면 금지, 사용 제한 또는 통제된 파일럿으로 바뀔지는 아직 불확실하다. 해석에 따라 권한 개편의 규모도 달라질 수 있다. 다만 한 가지는 분명하다. 모델이 강해질수록 권한 설계는 프롬프트에 의존할 수 없다.