의견

AI 2027의 4가지 핵심 가정, 가장 의심스러운 건 '지능 폭발'

AI 2027은 2025~2027을 두 개의 시나리오로 나누고 2027년에 지능 폭발이 일어난다고 본다. 그러나 원자력, GMO, mRNA 백신의 사례처럼 기술 돌파와 실제 대규모 배치 사이에는 보통 10~20년의 간격이 존재한다. 이 예측의 맹점은 능력 돌파가 6개월 만에 사회적 영향을 낳을 것으로 가정한다는 점이다.

글자 크기

Hacker News 프론트페이지에서 38표 36댓글을 받으며 화제——AI 2027 예측이 최근 AI 안전 커뮤니티에서 큰 주목을 받고 있다. 저자 Daniel Kokotajlo는 AI 안전 연구 커뮤니티 출신이며, 팀에는 Scott Alexander, Thomas Larsen 등이 참여했다. 이들이 2025~2027을 두 개의 내러티브로 구성했다. 하나는 Race(경쟁 가속), 다른 하나는 Slowdown(거버넌스 지연)이다.

한 번 정독하고 나서, 핵심 가정 몇 개를 다시 들여다봤다. 전체 인상은 이렇다. 프레임은 잘 짜여 있고 마일스톤이 월 단위로 구체적이지만, 짚어봐야 할 핵심 가정이 여럿 있다.

AI 2027이 예측하는 것

이 사이트는 시나리오 추론이지 논문이 아니다. 작성 방식이 독특하다. 앞으로 2년의 AI 진행을 소설 형식의 스크립트로 쓰고, 매월 하나의 노드를 잡는다.

핵심 플롯:

  • 2025: 모델이 인간 전문가 수준에 근접
  • 2026: AI Agent가 연구 개발 업무를 점점 더 많이 떠맡음
  • 2027: AI가 AI 연구 자체를 자동화하기 시작하며 지능 폭발이 촉발

두 분기의 차이는 이렇다. Race 경로에서는 인간이 거버넌스 체계를 세우기도 전에 AI 능력이 통제 불능 상태로 치닫고, Slowdown 경로에서는 국제 공조가 성공해 연구 개발이 2년간 중단된다.

출처: https://ai-2027.com

핵심 숫자는 어떻게 나왔나

이 예측에서 가장 흥미로운 부분은 전부가 정성적 서사만은 아니라는 점이다. 팀은 구체적인 숫자들도 제시했다. 학습 컴퓨팅의 연간 증가 곡선(2019~2024의 scaling 데이터를 외삽), 연구 개발 업무를 'AIA'가 떠맡는 비율(5%에서 90%로 상승), 안전 정렬 실패 확률(약 20~30%), 핵심 마일스톤의 월 단위 위치.

이런 숫자 덕에 논의가 "AI가 통제 불능이 될까"라는 막연한 차원에서 "이 구체적인 곡선 기울기가 맞는가"라는 차원으로 이동한다. 합리주의 커뮤니티에서 인기를 끈 이유가 이것이다. 흐릿한 공포를 논의 가능한 구체적 변수로 분해해 놓았다.

문제는 여기 있다. 컴퓨팅 곡선은 모델 외삽(scaling law 확장)이지만, 'AI가 AI 연구를 자동화한다'는 부분은 대충 찍은 값이다. 전자에는 5년치 데이터가 뒷받침되지만, 후자는 전례가 없다.

지능 폭발이 실제로 일어날까

이것이 AI 2027의 가장 급진적인 가정이다. AI가 자기 자신의 연구를 자동화하고, 능력이 폭증하며, 통제를 벗어난다.

비슷한 실험을 직접 해봤다. Claude에 스크립트를 얹혀 모델이 스스로 prompt를 수정하고, 하이퍼파라미터를 조정하고, benchmark를 돌리게 했다. 진짜 병목은 컴퓨팅이 아니라 다음 세 가지였다.

  1. 데이터 폐쇄 루프: AI가 스스로 학습 데이터를 만들면 좁은 분포에 빠르게 과적합된다
  2. 실험 설계: 과학적 발견은 반직관적 가설에서 나오는 경우가 많은데, LLM은 보상받지 못한 시도를 할 강한 동기가 없다
  3. 평가 편향: AI는 기존 지표를 최적화하는 쪽으로 기울지만, 논문급 진보에는 새로운 지표가 발명되어야 한다

AI 2027은 이런 엔지니어링 현실을 거의 다루지 않는다. 'AI Agent 곱하기 컴퓨팅 = 연구 산출'이라고 가정하지만, 실제 식은 훨씬 복잡하다.

인간 의사결정 창은 사실 좁지 않다

글에서는 2027년을 핵심 노드로 설정한다. 그러나 역사적으로 기술 돌파와 대규모 배치 사이에는 보통 10~20년의 완충 구간이 존재한다.

몇 가지 비교 사례:

  • 원자력: 1945년 핵분열, 1960년대에야 대규모 민간 발전
  • 转基因(GMO): 1983년 최초 개체, 1996년에야 상업화 재배
  • mRNA 백신: 기술은 수십 년 전부터 성숙, COVID가 강제한规模化 배치

규칙은 이렇다. 기술 능력은 배포 능력이 아니다. 그 사이는 규제, 이해관계 충돌, 대중 수용성으로 채워져 있다. AI 2027은 이 둘을 섞어버리고, 능력 돌파가 6개월 후 사회적 영향을 낳을 것으로 가정한다.

이것이 낙관이라는 뜻은 아니다. 의사결정 창은 시나리오에서 쓴 것보다 넓을 수 있지만, 쓰임새가 다르다. '브레이크를 밟는' 데 쓰는 게 아니라 '가드레일을 세우는' 데 쓰는 시간이다.

그래도 한 번 읽어볼 만한 이유

위에서 툴툴 털었음에도, 이 예측은 읽을 가치가 있다고 본다. 이유가 예측의 정확성에 있지는 않다. 2027년 시나리오를 정확히 맞출 수 있는 예측은 원리적으로 불가능하다.

이유는 이것이다. 릿한 공포를 추론 가능한 마일스톤으로 구체화한다. "2026년 Q3: AI Agent가 연구 개발의 50%를 떠는다"라는 표현을 보면, 머릿속에서 즉각적인 반박이 떠오른다. 어느 회사? 어떻게 검증? 데이터 출처는? 이런 식이다.

이것이 이 문서의 가치다. 안전 거버넌스 커뮤니티는 더 정확한 예측이 필요하지 않다. 불가능하다. 그들에게 필요한 건 논의 가능하고, 반박 가능하고, 수정 가능한 시나리오 스크립트다. AI 2027은 현재 가장 체계적으로 이를 수행한 문서다.

편집자 소견

AI 2027의 진짜 기여는 분점을 명시적으로 드러낸다는 점이다. 어느 한 쪽에 서서 선택을 강요한다. Race 경로에서 통제 불능 위험이 더 크다고 보는가, Slowdown 경로에서 국제 공조가 가능하다고 보는가? 이런 '둘 중 하나' 프레임은 기후 모델이나 전염병 추론과 방식이 같다. 분점이 도드라진 예측이 먼저 있어야 실증 증거가 점차 구간을 좁혀나갈 수 있다.

반합의 예측의 최대 위험은, 의사결정자가 최악 시나리오에 자원을 과도하게 배정하게 만드는 것이다. 70%의 확률이 점진적 경로(AI가 산업에 천천히 스며듦)인데, 모든 AI 정책이 5%의 극단적 재난 시나리오 기준으로 설계되면 오히려 더 개연성 높은 문제에 대응할 창을 낭비하게 된다.

하나의 반합의 관찰: AI 2027 같은 서사형 예측은 연구자 멘탈 모델에 미치는 영향이 정책에 미치는 영향보다 훨씬 크다. 차세대 AI 안전 연구자의 우선순위 정렬을 형성한다——나쁜 일은 아닐 수 있지만, 경계할 가치는 있다. 예측 도구 자체가 예측 대상의 진화 궤적을 바다. 예측 분야의 오래된 문제다.

AI 2027의 구체적인 숫자가 맞는지 확신하지 못한다. 다만 '명시적 분점 + 추론 가능한 노드'라는 작성 방식이 향후 몇 년간 AI 거버넌스 논의의 표준 포맷이 될 것이라 확신한다.

출처: https://ai-2027.com