AI를 늦추자는 제안…성사되면 2030년 미국 GDP 8조달러가 사라진다

AI를 만드는 쪽이 AI를 늦추자고 했다. 앤트로픽 최고경영자 다리오 아모데이가 9월 12일 「We Must Pace the Frontier」를 공개하고 최첨단 AI의 능력 향상 속도를 의도적으로 늦추자고 제안했다.

경제지가 이 글을 읽는 방식은 하나다. 얼마짜리 제안인가.

8조1,000억달러

앤트로픽은 사흘 앞선 9월 10일 2030년 미국 경제 시나리오 모델을 내놓았다. 세 갈래의 2030년 GDP는 이렇다.

극단 경로의 전제가 바로 이번에 늦추자고 한 것이다. 원문은 마음이 바뀐 이유로 재귀적 자기개선을 첫째로 꼽았다. AI가 다음 세대 AI를 만드는 일이 올여름 이후 업계 전반에서 빨라졌고, 앤트로픽 안에서도 그렇다고 적었다.

감속이 성사되면 극단 경로는 빠진다. 상한은 상당 경로의 36.3조달러가 된다. 차이는 8조1,000억달러, AI가 없는 경로(33.5조달러)의 24.2%에 해당하는 크기다.

이 숫자가 감속의 값이다. 물론 극단 경로가 오는 것이 정해진 미래는 아니었다. 그러나 같은 회사가 사흘 사이에 내놓은 두 문서를 나란히 놓으면, 한쪽은 그 경로의 크기를 재고 다른 쪽은 그 경로로 가지 말자고 한다.

늦추자는 것이지 멈추자는 것이 아니다

원문은 이 구분을 못 박았다.

We must slow the pace at which we improve the capabilities of AI models. Progress will still seem fast.

— 다리오 아모데이, 2026년 9월 12일 「We Must Pace the Frontier」

감속은 모델 훈련이나 기술 진보를 멈추는 것이 아니라, 기업이 모델을 정렬하고 안전장치를 두는 데 충분한 시간을 들이고 외부 평가자가 그것을 확인하게 하는 것이라고 적었다. 늦춘 만큼 정렬 연구와 해석 과학, 시험 방법에 투자한다는 논리다. 속도전에서는 뒤로 밀리는 항목들이다.

세 단계, 그리고 실제로 시작되는 것은 하나

제안은 세 단계다.

1단계에서 앤트로픽은 다른 기업을 기다리지 않고 시행하겠다고 밝혔다. 외부 검토자에게 사무 공간과 출입증, 내부 팀에 준하는 권한을 주고, 회사의 편집권 없이 주요 발견을 공표할 권리를 준다는 내용이다.

단계가 올라갈수록 남의 손에 달린 몫이 커진다. 2단계는 경쟁사의 합의가, 3단계는 상대 국가의 준수를 확인할 방법이 있어야 한다. 원문도 3단계의 검증 문제를 인정했다.

편집권 없는 공표권

1단계에서 실제로 무게가 실린 대목은 접근 권한이 아니라 공표권이다.

외부 검토자에게 사무 공간과 출입증을 주고 내부 팀에 준하는 권한을 주는 것까지는 회사가 통제할 수 있는 범위다. 그런데 원문은 회사의 편집권 없이 주요 발견을 공표할 권리를 준다고 적었다. 회사에 불리한 것을 찾아도 회사가 막지 못한다는 뜻이다.

AI 기업이 내부 개발 과정과 위험을 외부에 여는 방향 자체는 새롭다. 지금까지 안전성 주장은 회사가 스스로 내놓은 보고서로만 확인됐다. 상주 평가자가 실제로 자리를 잡으면, 처음으로 회사 바깥에서 쓴 기록이 남는다.

오픈AI도 같은 수준의 접근 권한을 제공하겠다고 밝혔다. 두 회사가 실제로 평가자를 들이는지, 그 평가자가 무엇을 공표하는지가 1단계의 성패를 가른다.

멈추자면서 칩은 더 막자고 한다

여기가 한국 수출과 직접 맞물리는 대목이다.

같은 글에서 아모데이는 중국의 AI 우위가 미국과 세계에 중대한 위험이라며 칩 수출통제, 모델 증류 단속, 가중치 유출 방지를 주장했다. 감속을 말하면서 중국을 향한 기술 차단은 더 조이자는 것이다. 그는 이런 조치가 향후 협력의 지렛대를 키운다고 봤다.

감속과 수출통제가 한 문서에 같이 들어 있다는 점이 한국에는 두 겹으로 걸린다.

한국은 그 수요의 공급자다

관세청 잠정치 기준 9월 1~10일 한국 수출에서 반도체가 차지한 비중은 47%였다. 이 열흘치는 본지가 원자료를 받지 못해 먼저 보도한 매체를 인용한 것이고, 아래 월간 수치는 1차 출처에서 직접 산출했다. 열흘치 수출 350억달러 가운데 165억달러가 반도체이고, 전년 같은 기간보다 270% 늘었다. 6월 월간 수출은 1,005억6,000만달러로 1957년 통계 시작 이후 처음 1,000억달러를 넘었다.

6월 무역수지는 334억9,000만달러로 69년 통계 사상 최대였고, 수출이 수입의 149.9%였다. 이 비율이 140%를 넘긴 것은 69년 동안 열두 번뿐인데 여덟 번이 1998년 외환위기 때다. 그때는 수입이 무너져 생긴 흑자였고 지금은 수출이 늘어 생긴 흑자다.

이 수요를 밀어 올린 것이 AI다. 지금 한국 경제를 떠받치는 것이 AI 수요이고, 그 수요의 속도를 정하는 논의가 한국 바깥에서 열리고 있다.

감속이 반도체 수요에 닿는 경로는 둘이다.

첫째, 훈련 연산의 증가 속도다. 능력 향상을 늦춘다는 것은 다음 세대 모델의 훈련 규모를 키우는 속도를 늦춘다는 뜻이다. 다만 원문은 훈련을 멈추는 것이 아니라고 했고, 늦춘 시간에 정렬·해석·시험에 쓰는 연산은 오히려 늘어난다. 총 연산이 줄어든다는 결론은 이 글에서 나오지 않는다.

둘째, 수출통제다. 이쪽이 더 직접적이다. 대중 반도체 차단이 조여지면 한국 반도체의 중국향 물량이 걸린다. 감속 논의가 수출통제 강화와 한 묶음으로 움직이면, 한국은 수요 둔화가 아니라 판로 제약을 먼저 만난다.

6개월에서 12개월

원문이 제시한 시한이 있다. 아모데이는 오픈AI·허깅페이스에서 벌어진 에이전트 군집 사고를 두고, 능력이 더 커진 군집이라면 6~12개월 안에 인터넷 전체를 지속적 봇넷으로 장악할 수도 있다고 적었다. 피해 규모는 수천억달러로 적었다.

9월 12일을 기준으로 하면 2027년 3월에서 9월 사이다. 이 시한이 지나도록 아무 일이 없으면 감속 논의의 동력은 약해진다. 반대로 비슷한 사고가 한 번 더 나오면 2단계와 3단계가 빠르게 움직인다.

무엇을 보면 아는가

첫째, 오픈AI의 실제 이행이다. 샘 올트먼은 같은 수준의 접근 권한을 제공하겠다고 밝혔다. 말이 아니라 평가자가 실제로 상주하는지가 1단계의 성패다.

둘째, 한국 반도체 수출 증가율이다. 지금 전년비 270%인 반도체 수출이 꺾이는 시점이 온다면, 그것이 감속 때문인지 단가 조정 때문인지는 수량 통계가 나와야 갈린다. 관세청 월간 확정치에 수량이 나오면 그때 대조된다.

셋째, 수출통제의 방향이다. 감속 논의가 힘을 얻을수록 대중 차단은 느슨해지는 것이 아니라 조여진다는 것이 이 문서의 논리다. 한국에는 이쪽이 먼저 온다.

감속은 위험을 줄이는 선택이고, 동시에 8조1,000억달러짜리 선택이다. 둘 다 사실이다. 어느 쪽을 고를지는 기술이 정하지 않는다.