실전

Lovable 정보 노출 사건, AI 코딩 도구의 보안 대가

Lovable이 생성한 앱에서 여권 정보와 20만 건이 넘는 개인 메시지가 노출된 사건이發生했다. 이 사례는 코드 생성뿐 아니라 미리보기 환경, 배포 설정, 권한 기본값까지 AI 개발 도구가 안전하게 관리해야 함을 보여준다.

글자 크기

AI 코딩 도구가 만든 페이지가 아무 문제 없이 보이고, 회원가입과 로그인, 메시지 수신까지 정상적으로 동작한다고 해서 안전하게 운영할 수 있는 것은 아니다.

연구 페이지 “Lovable apps expose passport details and more than 200K private messages”에서는 사용자의 여권 등 민감한 개인정보와 20만 건이 넘는 개인 메시지가 노출됐다고abela냈다. 해당 연구는 Hacker News 메인 페이지에 올라가 256점과 댓글 79개를 받았다.

이 사건은 여러 층위로 나누어 살펴볼 필요가 있다. 단순히 ‘모델이 잘못된 코드를 생성했다’는 문제가 아니라, AI 앱의 프롬프트부터 미리보기 환경, 실제 서비스 배포까지 이어지는 과정에 단절이 있다는 점을 드러낸다. 코드는 생성할 수 있지만, 권한 설정에 대한 책임까지 AI가 대신 보장해 주지는 않는다.

원문 연구: https://www.crissyfield.de/research/lovable-en/
Hacker News 토론: https://news.ycombinator.com/item?id=50499017

노출된 것은 코드가 아니라 앱의 경계

전통적인 코드 감사에서는 보통 코드 자체부터 확인한다. SQL injection이 있는지, 하드코딩된 키가 있는지, 위험한 의존성이 쓰였는지를 살펴본다.

AI로 생성한 앱에는 한 단계가 더 생긴다. 개발자는 자연어 한 줄을 입력하고, 모델은 이를 프런트엔드, 백엔드, 데이터베이스 테이블, API로 바꾼다. 프롬프트에는 ‘소셜 앱을 만들어 달라’고만 되어 있고 다음 조건은 명시되지 않았을 수 있다.

  • 어떤 필드는 본인만 읽을 수 있는가
  • 어떤 API에 인증이 필요한가
  • 미리보기 환경에서 실제 데이터에 접근할 수 있는가
  • 배포할 때 테스트 환경의 넓은 권한을 그대로 사용하는가
  • 외부 서비스, 오브젝트 스토리지, 데이터베이스의 기본 정책은 무엇인가

이러한 항목은 모델이 스스로 추측해 올바른 제품 결정을 내릴 수 있는 사안이 아니다. 기본값이 너무 느슨하게 설정되어 있다면, 생성 속도가 빨라질수록 잘못된 설정 역시 빠르게 확산된다.

여권 정보는 민감도가 높은 개인정보다. 유출되면 비밀번호를 바꾸거나 메시지를 삭제하는 것을 넘어서는 피해가 발생한다. 신원 도용, 사기, 여러 서비스를横断한 신원 연결 위험도 함께 커진다. 20만 건이 넘는 개인 메시지가 노출됐다는 사실은 피해 규모가 단일 테스트 계정의 범위를 넘어섰음을 보여준다.

따라서 이 사건의 핵심은 ‘Lovable이 코드를 잘 작성하는가’가 아니라 ‘생성된 앱이 실제 사용자와 운영 데이터를 올바른 경계 안에 격리했는가’다.

프롬프트에서 실제 데이터까지, 세 단계의 연결

1. 빌드 단계: 악성 명령이 요구사항에 섞일 수 있다

사용자는 AI 코딩 도구에 다음과 같은 지시를 입력할 수 있다.

업로드 기능을 추가하고 파일을 공개 디렉터리에 저장해 주세요.

모델이 그대로 구현하면 업로드 디렉터리, 정적 리소스 서버, 접근 정책까지 함께 공개 상태로 설정될 수 있다.

더 문제는 저장소 안의 README, issue, 환경 관련 문서에도 악성 텍스트가 들어갈 수 있다는 점이다. 개발자가 별것 아닌 것처럼 보이는 설정을 복사해 붙여도 AI는 이를 프로젝트 컨텍스트로 해석한다. AI Agent가 터미널, 데이터베이스, 배포 권한까지 보유하게 되면 prompt injection은 잘못된 코드 생성을 넘어 잘못된 작업 실행으로 이어질 수 있다.

2. 미리보기 단계: 테스트 화면이 실제 데이터에 연결될 수 있다

미리보기 환경은 본래 위험이 낮은 샌드박스지만, 다음과 같은 설정이 흔히 사용된다.

DATABASE_URL=실제 운영 데이터베이스 주소
AUTH_SECRET=운영 환경 시크릿
OBJECT_STORAGE_PUBLIC=true

앱이 로컬에서 잘 동작하는 이유는 실제 운영 데이터를 직접 읽기 때문이다. 미리보기 주소가 누구나 접근할 수 있고, 인증 미들웨어 연결이 빠졌으며, 오브젝트 스토리지 정책이 완화됐다면 테스트 계정에서도 실제 사용자 콘텐츠를 볼 수 있다.

Lovable 사례에서는 여권 정보와 대량의 개인 메시지가 함께 나타났다. 이는 데이터 접근 경계와 UI 권한 경계가 서로 맞지 않았음을 가리킨다.

3. 배포 단계: 배포 성공은 올바른 권한을 뜻하지 않는다

배포 파이프라인은 보통 빌드 성공 여부, 포트 상태, 페이지가 열리는지를 검사한다. 이는 가용성 점검이지 보안 점검이 아니다.

다음 두 API는 모두 200을 반환할 수 있다.

GET /api/messages/:userId
GET /api/messages/:userId
Authorization: Bearer <임의의 유효한 토큰 또는 토큰 없음>

차이는 권한 로직에 있다. 데이터베이스에서 데이터를 조회할 수 있다는 것은 쿼리가 정상 실행됐다는 의미일 뿐이다. API가 사용자별로 검증하지 않는다면, 데이터 모델의 user_id가 접근 제어 조건으로 기능하지 못했다는 뜻이다.

이곳이 AI 코딩 도구에서 가장 놓치기 쉬운 부분이다. 모델은 CRUD API를 빠르게 완성할 수 있지만, 조직, 테넌트, 역할, 소유권, 감사 요건까지 자동으로 이해하지는 못한다.

Lovable 사례가 드러낸 문제

첫째, 코드 생성 품질과 접근 제어 품질은 서로 다른 지표다.

문법이 맞고 화면이 완성됐으며 데이터도 표시된다는 사실만으로 해당 API가 데이터 소유자에게만 접근을 허용한다고 볼 수는 없다. AI는 회원가입, 로그인, 목록, 상세 화면처럼 ‘주요 경로 생성에는 능하다. 하지만 권한은 보통 조건문, 행 수준 필터, 미들웨어 안에 숨어 있다. 이런 요구사항이 모호한 프롬프트 한 줄에만 들어 있다면, 모델은 데모는 되지만 실제 운영에는 부적합한 버전을 만들 수 있다.

둘째, 데이터베이스 접근을 우선 점검해야 한다.

다음과 같은 API는 전형적인 위험 예시다.

export async function GET(
  request: Request,
  { params }: { params: { userId: string } }
) {
  const messages = await db.messages.findMany({
    where: { userId: params.userId },
  })

  return Response.json(messages)
}

이 코드에는 문법 오류도, 런타임 예외도 없다. 하지만 URL에 포함된 userId를 그대로 신뢰한다. 로그인 세션이 쿼리에 반영되지 않는다면, 사용자가 매개변수만 바꿔 다른 사람의 메시지를 읽을 수 있다.

안전한 버전은 최소한 서버에서 검증된 세션의 식별 정보를 가져오고, 리소스 소유권을 명시적으로 확인해야 한다.

export async function GET(request: Request) {
  const session = await requireSession(request)

  const messages = await db.messages.findMany({
    where: { userId: session.user.id },
  })

  return Response.json(messages)
}

셋째, 인증과 인가를 혼동하면 안 된다.

‘사용자가 로그인했다’는 말은 누군지 알려줄 뿐이다. ‘이 개인 메시지를 읽을 수 있는가’는 해당 리소스에 접근할 수 있는지를 묻는다. 후자는 객체 수준 검사가 필요하다. 관리자 접근, 고객지원을 위한 장애排查, 테스트 계정, 공유 데이터에도 각각 별도의 규칙이 필요하다.

넷째, 미리보기 환경과 운영 환경은 강하게 격리해야 한다.

가장 간단한 방법은 데이터베이스 주소만 바꾸는 것이 아니라, 서로 다른 계정, 키, 버킷, 네트워크 정책을 사용하는 것이다. 운영 데이터는 일반적인 미리보기 절차에 등장해서는 안 된다.

개발자가 보완해야 할 5가지 보안 점검

1. 민감 데이터 최소화

먼저 간단한 질문을 해야 한다. 이 기능은 정말로 여권 이미지, 전체 생년월일, 장기 보존이 필요한 개인 메시지를 필요로 하는가?

기본적으로 업무에 필요한 필드만 수집한다. 상태만으로 충분하다면 이미지를 업로드하지 않고, 메시지 개수만 필요하다면 전체 본문을 복사해 저장하지 않는다.

파일 업로드에는 파일 형식, 크기, 저장 위치도 제한해야 한다. 여권 스캔 이미지 같은 데이터는 기본적으로 공개 오브젝트 디렉터리에 들어가면 안 된다.

2. 환경 변수와 데이터의 완전한 분리

최소한 로컬, 미리보기, 운영의 세 가지 환경을 준비하고, 각각 독립된 데이터베이스 계정과 버킷을 사용한다.

# 로컬과 미리보기에서는 테스트 데이터만 사용
DATABASE_URL="$PREVIEW_DATABASE_URL"
AUTH_SECRET="$PREVIEW_AUTH_SECRET"
OBJECT_STORAGE_BUCKET="app-preview-uploads"
OBJECT_STORAGE_PUBLIC=false

네임스페이스나 NODE_ENV만으로 환경을 구분해서는 안 된다. 진정한 분리는 데이터베이스 계정 권한, 네트워크 정책, 버킷 정책이 함께 작동해야 한다.

3. 모든 API에 인증과 객체 수준 검사 추가

점검 항목은 다음과 같다.

  • 로그인하지 않은 요청이 401을 반환하는가
  • 로그인했지만 다른 사용자의 데이터에 접근하면 403 또는 404를 반환하는가
  • 쿼리 조건이 URL 매개변수가 아니라 서버 세션에서 가져온 값인가
  • 관리용 API에 별도 역할이 설정되어 있는가
  • 쓰기 작업에 CSRF 방어 또는 적절한 Token 정책이 적용되어 있는가

curl로 최소한의 검증을 진행할 수 있다.

curl -i https://example.com/api/messages/target-user-id

기대 결과는 401이다. 그다음 다른 일반 사용자로 로그인해 같은 경로를 요청했을 때 대상 사용자의 데이터를 가져오지 못해야 한다. 403과 404 어느 쪽이든 괜찮지만 메시지 본문이 반환되면 안 된다.

4. 자동 스캔으로 일반적인 노출 지점 점검

점검은 배포 전 개발자가 감으로 확인하는 방식이 아니라 CI에 포함해야 한다. 주로 다음 항목을 검사한다.

  • 라우트 API가 존재하는지
  • 환경 변수를 참조하는지
  • 인증 미들웨어가 누락되지 않았는지
  • 데이터베이스 쿼리에 사용자 또는 테넌트 조건이 포함됐는지
  • 버킷에 공개 접근 설정이 있는지

먼저 정적 규칙 스캔을 수행하고, 통합 테스트로 권한 초과 접근을 검증하는 방식을 함께 사용할 수 있다. 스캐너는 코드로 표현된 문제를 찾아낼 수 있지만 권한 테스트를 대신할 수는 없다.

5. 배포 전 사람에 의한 권한 검토

최소한 두 역할을 실제 흐름으로 확인해야 한다. 일반 사용자와 관리자, 그리고 로그인하지 않은 방문자가 필요하다.

중요한 것은 ‘버튼을 누를 수 있는가’가 아니라 API를 직접 요청하는 것이다. 목록, 검색, 다운로드, 내보내기, 공유 링크, 일괄 작업을 중점적으로 검사한다. 특히 공개 API처럼 화면 바깥에 숨어 있는 문제에 주의해야 한다.

배포 전에는 데이터 노출 점검도 한 단계 추가해야 한다. 접근 로그를 기록해 최근 비정상적으로 빈도가 높은 조회, 여러 사용자 ID를 연속으로 탐색한 흔적, 짧은 시간에 대량으로 내보낸 기록을 확인한다.

편집자 생각

이번 사건은 과거 코딩 어시스턴트의 위험과는 성격이 다르다. 과거 AI는 주로 개발자가 함수 작성, 테스트 작성, 코드 설명을 돕는 역할을 했다. 생성 결과가 잘못되더라도 경계는 개발자가 익숙한 코드 저장소 안에 있었다. 반면 현재의 AI 코딩 제품은 프런트엔드, 백엔드, 데이터베이스, 미리보기, 배포를 하나의 흐름으로 연결한다. 잘못된 기본값은 곧바로 접근 가능한 운영 기능으로 바뀔 수 있다.

AI 코딩 제품의 다음 경쟁 지표는 ‘몇 분 안에 사용할 수 있는 앱을 생성하는가’에서 ‘기본 설정이 안전한가’로 이동할 것이다. 기업은 미리보기 환경이 운영 데이터에 접근할 수 있는지, Agent가 배포 권한을 얻은 뒤 무엇을 실행할 수 있는지, 배포할 때마다 권한 테스트와 감사 보고서가 자동으로 생성되는지 묻게 된다. 이러한 질문들은 첫 화면의 완성도보다 구매 결정에 더 큰 영향을 미칠 것이다.

다만 현재 확보된 자료만으로 정보 유출이 Lovable 플랫폼 자체에서 발생했는지, 특정 앱 설정이나 외부 구성요소, 잘못된 배포가 결합해 원인이 됐는지는 단정하기 어렵다. 원문 연구를 계속 추적해야 한다. 확실한 것은 코드가 실행된다는 사실이 권한 로직이 올바르다는 뜻은 아니며, 실제 여권 정보와 20만 건의 개인 메시지가 노출된 이상 AI 코딩 도구는 더 이상 보안 책임을 프롬프트에 전적으로 맡길 수 없다는 점이다.

출처: https://www.crissyfield.de/research/lovable-en/