의견

AI 생성 코드를 거부하는 오픈소스 프로젝트의 논쟁

여러 OSS 프로젝트가 AI로 생성된 기여물을 거부하기 시작하면서, 코드 생성 능력보다 책임 소재가 쟁점으로 떠올랐다. 흑백 논쟁을 넘어 검증 가능한 기여 기준을 마련할 필요가 커지고 있다.

글자 크기

43점 토론의 이면: 커뮤니티가 선을 긋기 시작

오픈소스 프로젝트들이 AI 생성 기여물을 받아들일지 여부를 공식적으로 밝혀 나가고 있다.

제가 찾은 취합 사이트는 osssaysno.com이다. 이 사이트는 AI 생성 기여물에 대한 오픈소스 프로젝트의 공개 입장, 코드 출처와 검토 방식, 유지보수 책임에 대한 메인테이너들의 태도를 모아 놓았다.

이 件은 Hacker News 메인 페이지에도 올랐다. 토론 주제는 “OSS projects banning AI-generated contributions”이며, 원문 링크는 osssaysno.com을 가리킨다.

자료를 기록한 시점 기준, 이 Hacker News 토론은 43점과 댓글 50개를 받았다. 토론 링크는 다음과 같다.

43점은 높은 수치는 아니지만, 50개의 댓글은 opinion이 꽤 집중됐다는 뜻이다. HN 기준으로 보면 주제의 규모는 크지 않지만 의견 간극은 분명하다.

한쪽은 오픈소스 프로젝트가 AI 사용에 제한을 두는 데 반대하지 않는다. 메인테이너가 익명 도구의 검토 비용까지 떠안을 의무는 없다는 시각이다. 다른 쪽은 전면 금지가 개인 개발자의 AI 활용을 막고, ‘AI 사용’을 ‘코드를 신뢰할 수 없음’이라는 등식으로 오해하게 할 수 있다고 반박한다.

겉으로는 ‘AI로 코드를 작성할 수 있는가’를 다투는 논쟁처럼 보인다. 더 정확히는 커뮤니티가 책임의 경계를 긋는 과정이다. 생성된 코드는 프로젝트에 들어갈 수 있지만, 생성자와 메인테이너, 제출자는 도구를 이용해 책임 체인을 숨길 수 없다.

거부되는 것은 AI가 아니라 책임 소재가 없는 패치

메인테이너들이 실제로 걱정하는 것은 LLM이 문법적으로 올바른 함수를 작성할 수 있는지 여부가 아니다.

논쟁의 핵심은 AI 생성 코드를 메인테이너가 이해하고 계속 유지보수할 수 있는가이며, 단순히 코드를 생성할 수 있는지가 아니다.

어떤 patch가 CI를 통과했다고 해서 장기적으로 유지보수할 코드베이스에 적합하다는 뜻은 아니다. 메인테이너는 더 까다로운 질문들에 답해야 한다.

  • 이 코드는 어디에서 왔는가?
  • 훈련 데이터에 포함된 저작권 보호 코드를 복제하지 않았는가?
  • 제출자가 구현 방식과 경계 조건을 이해하고 있는가?
  • 보안 문제가 발생했을 때 누가 설명하고 수정한 책임이 있는가?
  • 프로젝트 유지보수가 중단되면 이 AI 코드를 누가 이어받겠는가?

여기서 AI 코드와 일반적인 저품질 기여물의 차이가 드러난다. 저품질 코드에도 보통은 책임질 수 있는 작성자가 있다. 그 사람은 설계 의도를 설명하고 오류를 인정할 수 있다.

AI 생성 코드는 책임 체인을 끊는 경우가 많다. 제출자는 제출 버튼을 누르지만, 생성 결과를 줄마다 자신이 이해했다고 입증하기는 어렵다. 그 코드가 핵심 경로에 들어간 뒤 발생하는 유지보수 비용은 커뮤니티 전체가 부담한다.

라이선스 문제는 더 어렵다. 훈련 데이터는 일반적으로 공개되지 않으며, 모델 제공업체가 제공하는 것은 자신의 이용 조건일 뿐 생성물에 잠재적으로 포함된 복제물에 대한 개별 보증은 아니다.

이 사실만으로 생성 코드가 저작권 침해라고 단정할 수는 없다. 다만 증명 부담이 메인테이너에게 넘어간다는 점이 문제다. 프로젝트는 코드의 출처가 문제가 없음을 먼저 신뢰해야 안심하고 병합할 수 있다.

따라서 반대자들은 단순히 ‘AI를 쓰지 말라’고 말하는 것이 아니다. 이들은 “설명할 수도, 책임을 추적할 수도 없는 patch를 일반 기여물처럼 위장하지 말라_updates” 고지하고 있다.

‘금지’는 표면이고, 핵심은 기여 절차

‘모든 AI 생성 기여물을 금지한다’는 문장은 쉽게 퍼지지만 실제로執行하기는 쉽지 않다.

AI는 이미 편집기, Issue 템플릿, 코드 완성, 자동화 Agent에 깊이 침투했다. 메인테이너가 AI 생성을 직접 요구하지 않았더라도 최종 diff만으로 코드 출처를 정확히 판단하기는 어렵다.

더 실행 가능한 방법은 기여 절차를 추적 가능한 과정으로 만드는 것이다.

예를 들어 프로젝트는 PR에서 제출자에게 다음 내용을 밝히도록 요구할 수 있다.

  1. AI를 활용해 코드를 생성하거나 수정했는가?
  2. 어떤 도구와 모델을 사용했는가?
  3. 어떤 부분이 AI에 의해 생성되었는가?
  4. 제출자가 구현을 독립적으로 검증했는가?
  5. 라이선스, 비밀키 노출, 의존성 공급망 위험을 확인했는가?

이는 구호가 아니라 템플릿, CI, review 규칙에 포함되어야 한다. GitHub의 pull_request_template이나 기여 가이드의 점검 항목처럼 기록을 남길 수 있어야 한다.

다음은 단순화한 PR 템플릿이다. 특정 프로젝트의 공식 설정은 아니며, 실제로 적용할 수 있는 방식의 예시다.

name: AI-assisted contribution
description: Declare how AI tools were used in this pull request
body:
  - type: checkboxes
    id: ai-disclosure
    attributes:
      label: AI usage disclosure
      options:
        - label: This contribution was generated or modified with AI assistance
          required: true
        - label: I reviewed and understood every changed line
          required: true
        - label: I checked dependency licenses and accidental secret exposure
          required: true
  - type: textarea
    id: ai-details
    attributes:
      label: Tools, models, and affected files
    validations:
      required: true

정책을 일률적으로 적용하기보다 계층적으로 나눌 수도 있다.

  • 문서, 테스트 픽스처, 저위험 유틸리티 스크립트: AI 사용을 허용하되 반드시 공개해야 한다.
  • 핵심 라이브러리, 보안 모듈, 권한 관련 코드: 구간별 설명과 추가 reviewer 검토를 요구한다.
  • 의존성 업그레이드, 라이선스 변경, 비밀키와 인프라 코드: 자동 생성한 뒤 바로 제출하는 것을 금지한다.

중요한 것은 라벨이 ‘AI’인지 ‘사람’인지가 아니다. 메인테이너가 코드를 이해하고 검증할 수 있으며, 문제가 생겼을 때 책임 있는 사람을 찾을 수 있어야 한다는 점이 핵심이다.

기업이 관리하는 오픈소스 프로젝트는 더 빨리 기준을 높일 것

기업이 관리하는 OSS 프로젝트는 대체로 이 규칙을 더 일찍 시행할 가능성이 크다.

企业内部에서 처리해야 할 위험이 더 많기 때문이다. 코드는 공개 저장소에 들어가며, 기여자는 외부에서 올 수도 있다. 보안팀은 공격 면적을 확인하고, 법무팀은 라이선스를 검증하며, 감사팀은 의사결정 기록을 보존해야 한다.

설명 없이 제출된 AI 기여물 한 건으로 네 가지 비용이 발생할 수 있다.

  • 보안 비용: 생성된 코드에서 안전하지 않은 기본값, 무력화된 접근 제어, 은밀한 의존성이 발생할 수 있다.
  • 라이선스 비용: 코드와 서드파티 코드 조각의 출처를 검증하기 어렵다.
  • 감사 비용: 어떤 부분을 누가 작성했고 어떤 부분을 사람이 검증했는지 설명하기 어렵다.
  • 브랜드 비용: 프로젝트가 대규모 저품질 AI PR에 휘말리면 대응 과정 자체가 공개 사건이 된다.

이는 사내 개발과 다르다. 사내 프로젝트에는 적어도 직원 신원, 티켓, 코드 검토 기록이 남아 있다. 공개 저장소에는陌 생한 기여자가 접근할 수 있고, 누구나 완성된 것처럼 보이는 patch를 제출할 수 있다.

기업은 ‘보조 사용은 허용하되 반드시 공개하라’는 정책을 더 채택할 가능성이 크다. 현실적인 이유 때문이다. 규칙이 지나치게 엄격하면 정당한 AI 보조 기여자가 규칙을 우회하고, 완전히 방치하면 메인테이너가 저품질 PR에 압도당한다.

다만 기업은 가장 민감한 부분을 비공개 저장소에 남기는 경향도 있다. 공개 프로젝트는 AI 사용률을 보여주는 것보다 라이선스, 브랜드, 외부 공격 면적에 더 집중한다.

에디터의 생각

오픈소스 커뮤니티가 통일된 금지 규칙을 만들기는 어렵다. 프로젝트마다 위험 요소가 다르고 메인테이너 수에도 차이가 있기 때문이다. 현실적인 방향은 계층적인 제도를 마련하는 것이다. AI를 허용하되 사용한 도구와 생성 구간을 공개하고, 사람의 검증 책임을 남긴 뒤 핵심 코드에는 추가 검토 기준을 적용하는 방식이다.

이번 논쟁은 지난 몇 차례의 ‘AI 프로그래밍 도구가 생산성을 높이는가’ 논의와 성격이 다르다. 이전에는 개발자가 Copilot, Claude Code, Cursor를 사용하는지가 쟁점이었다. 지금讨论되는 것은 생성물이 공개 코드베이스에 들어갈 수 있는지와 문제가 생겼을 때 누가 책임질 수 있는가이다. 도구의 효율성은 개인의 이득이지만, 유지보수 책임은 커뮤니티의 비용이다.

제 판단으로는 최종적으로 살아남는 것은 가장 엄격한 프로젝트가 아니라 가장 명확한 규칙을 마련한 프로젝트일 것이다. 정식 검증이나 SBOM과 같은 접근 방식이 더 많은 프로젝트에 도입될 가능성이 크다. 출처를 증명할 수 없는 내용은 신뢰도가 높은 경로에 들어가서는 안 된다는 것이다.

여전히 답이 나오지 않은 문제가 하나 남는다. AI 생성 코드의 라이선스 출처는 여전히 확인하기 어렵다. 모델과 prompt를 모두 공개해도 코드가 훈련 자료를 복제하지 않았다는 사실을 자동으로 증명할 수는 없다. 공개 절차는 책임 체인을 해결하지만 저작권 체인을 해결하지는 못한다. 앞으로 오픈소스 커뮤니티가 긋는 선은 ‘AI와 사람’이 아니라 ‘검증 가능한 기여물과 검증 불가능한 patch’ 사이일 가능성이 크다.

출처: https://osssaysno.com