서론
컴퓨터 시대의 대부분 동안 발전 방향은 명확해 보였다. 칩 성능은 지속적으로 향상되고, 클라우드 인프라는 계속 확장되며, 컴퓨팅의 실질 가격은 꾸준히 하락했다.
AI가 이 패턴을 깨뜨릴 수도 있다.
2026년 7월 29일 기사에서 기술 인터뷰어이자 작가인 Dwarkesh Patel은 의도적으로 과감한 시나리오를 제시했다. 프런티어 AI가 컴퓨팅을 경제적 가치로 전환하는 능력은 크게 향상되는 반면, 고급 컴퓨팅 파워의 물리적 공급 확장 속도는 훨씬 더딜 것이라는 내용이다.
이 시나리오에서 고급 AI 컴퓨팅의 시장 가격은 10배 이상 상승할 수 있으며, 이후에야 비로소 장기적인 비용 하락 궤도로 복귀할 것이라는 전망이다.
논증은 도발적인 대비에서 시작된다.
NVIDIA H100 하나의 연산 능력에 해당하는 AI 에이전트가 고액 연봉을 받는 소프트웨어 엔지니어의 업무를 수행할 수 있다면, 왜 이 GPU의 임대 가격은 여전히 주로 하드웨어 감가상각과 클라우드 경쟁에 의해 결정될까?
왜 그 가격이 GPU가 대체하거나 증강하는 인간 노동의 경제적 가치에 더 가까워지지 않아야 하는가?
원문은 이 사고 실험을 AI 연구소, 데이터 센터, 첨단 반도체 생산 능력, 그리고 세계가 심각한 컴퓨팅 인플레이션 시기에 진입할 수 있다는 더 광범위한 예측으로 확장한다.
처음부터 몇 가지 중요한 경계를 명확히 할 필요가 있다:
- H100 하나의 연산 능력으로 작동하는 인간 수준의 소프트웨어 엔지니어는 가상의 미래 능력이지 현재의 벤치마크 테스트 결과가 아니다.
- Anthropic이 공식적으로 확인한 연환산 매출은 2026년 5월 470억 달러를 돌파했지만, Patel이 제시한 연말 1000~1500억 달러, 다음 해 1조 달러라는 수치는 애널리스트의 시나리오 가정이지 Anthropic의 실적 가이던스가 아니다.
- 컴퓨팅 가격 10배 상승은 경제학적 논증이지 확정된 시장 예측이 아니다.
- 클라우드 GPU 가격은 칩 모델, 계약 기간, 가동률, 네트워크, 보안, 서비스 수준에 따라 다르며, 단일한 H100 가격은 존재하지 않는다.
이러한 전제 조건 하에서 이 사고 실험이 가치 있는 이유는 업계가 종종 회피하는 질문을 제기하기 때문이다:
AI가 창출하는 경제적 가치가 세계가 이를 뒷받침할 인프라를 만드는 속도보다 빠르게 증가하면 어떤 일이 벌어질까?
실리콘 기반 노동력: H100 하나가 연봉 25만 달러의 엔지니어처럼 되기 시작할 때
논증은 비교 단위를 바꾸는 것에서 시작한다.
오늘날 컴퓨팅은 일반적으로 인프라로 가격이 책정된다:
- GPU 시간당 가격
- 토큰당 가격
- 서버 월간 가격
- 예약 클러스터당 가격
- 와트 또는 메가와트당 가격
Patel이 제기하는 질문은 이것이다: 동일한 하드웨어가 자율 노동력의 용기가 되면 어떤 일이 벌어질까?
AI 소프트웨어 엔지니어를 상상해보자. 다음과 같은 일을 할 수 있다:
- 대규모 코드베이스 읽기
- 기능 구현
- 결함 디버깅
- 테스트 실행
- 풀 리퀘스트 검토
- 장애 조사
- 지속적으로 작업
- 경험 많은 인간 엔지니어에 상응하는 결과물 생산
이 에이전트가 실행 시 약 H100 하나의 연산 능력이 필요하다면, GPU는 더 이상 단순한 서버 구성 요소가 아니다. 그것은 디지털 생산 시스템의 일부가 된다.
25만 달러의 사고 실험
Patel은 실리콘밸리 유력 소프트웨어 엔지니어의 시장 가치를 연 25만 달러라는 정수로 참조한다.
그런 다음 이를 H100의 연간 기준 현물 임대 추정치인 약 1만 6천 달러와 비교한다.
함축된 격차는 다음과 같다:
250,000 / 16,000 ≈ 15.6배
이 단순화된 사고 실험에서 동일한 디지털 노동력을 수용할 수 있는 GPU는 그것이 창출할 수 있는 노동 가치에 비해 심각하게 저평가된 것처럼 보인다.
이 계산은 모든 H100이 25만 달러에 임대될 것이라는 직접적인 예측이 아니다.
다음과 같은 몇 가지 중요한 요소를 무시한다:
- 에이전트가 H100 하나 이상의 연산 능력을 필요로 할 수 있다.
- GPU가 연중 완벽한 가동률을 유지하는 것은 불가능하다.
- 서비스 인프라에는 CPU, 메모리, 네트워크, 스토리지, 전력, 냉각, 운영이 포함된다.
- 인간 엔지니어는 단순히 코드를 생성하는 것 이상을 한다.
- 디지털 노동력이 빠르게 확장되면 임금이 변할 수 있다.
- 모델 제공업체가 GPU 임대가 아닌 API 가격 책정을 통해 경제적 가치의 대부분을 확보할 수 있다.
- 경쟁과 효율성 향상으로 작업당 필요한 컴퓨팅 양이 줄어들 수 있다.
Patel의 보다 좁은 관점은 컴퓨팅이 더 가치 있는 결과물을 창출할 수 있을 때 컴퓨팅에 비용을 지불하려는 의향이 급격히 상승할 수 있다는 것이다.
왜 노동 가치가 즉시 붕괴하지 않는가
자연스러운 반박은 수백만 명의 AI 소프트웨어 엔지니어가 추가되면 소프트웨어 엔지니어링 노동력의 시장 가치가 하락할 것이라는 점이다.
소프트웨어가 풍부해지면 디지털 엔지니어 하나가 더 이상 25만 달러의 가치가 없을 수도 있다.
Patel은 이러한 가능성을 인정하지만, 그것이 자동으로 발생하는 것은 아니라고 주장한다.
표준 경제학적 추론은 일반적으로 '유용한 일의 양은 고정되어 있다'는 관점을 거부한다. 추가적인 숙련 노동자는 새로운 제품, 새로운 기업, 새로운 전문 분야, 새로운 수요를 창출할 수 있다.
이 관점에서 유능한 노동자의 대규모 증가는 단순히 기존 일자리를 더 많은 참가자들 사이에 분할하는 것이 아니다. 그것은 경제적으로 가능한 범위를 확장한다.
AI는 비정상적으로 빠른 노동력 공급 충격을 가져올 수 있으므로 역사적 비교가 적용되지 않을 수 있다. 그럼에도 불구하고 Patel은 새로운 소프트웨어와 서비스가 실현 가능해짐에 따라 AI 컴퓨팅의 한계 가치가 높게 유지되는 것이 합리적이라고 주장한다.
이 논증은 완전히 디지털화된 작업에서 가장 설득력 있다
Patel 기사의 아래 토론에서 유용한 반박 관점은 전체 작업이 디지털 환경에서 완료될 수 있을 때 노동 가치 비교가 가장 강력하다는 것이다.
소프트웨어 엔지니어링은 이 이상적인 상태에 가깝다:
- 입력은 디지털이다.
- 출력은 디지털이다.
- 테스트는 일반적으로 자동화할 수 있다.
- 배포 속도가 빠르다.
- 많은 피드백 루프가 기계 속도로 작동한다.
물리적 병목 현상이 지배적일 때 이 비교는 약해진다.
AI 시스템이 약물을 빠르게 설계할 수 있을지 모르지만, 임상 시험은 여전히 환자, 규제, 제조, 시간이 필요하다. 공장을 최적화할 수 있을지 모르지만, 건설, 허가, 공급망, 장비는 여전히 물리적 조건에 종속된다.
이러한 영역에서는 계산 능력이 대체되는 인간 노동의 전체 가치를 충분히 흡수하기 전에 지능이 더 이상 최우선 병목이 아닐 수 있다.
AI 수익 성장이 AI 컴퓨팅 공급 성장보다 빠를 수 있다
논증의 두 번째 부분은 단일 GPU에서 프런티어 AI 연구소의 재무 상황으로 전환된다.
Anthropic은 최근 수익 성장이 비정상적으로 급격하기 때문에 주요 사례가 된다.
Anthropic이 공식적으로 보고한 데이터는 다음과 같다:
- 2025년 말 연환산 매출 약 90억 달러
- 2026년 4월 연환산 매출 300억 달러 초과
- 2026년 5월 초 연환산 매출 470억 달러 초과
이는 연환산 수치이며, 연간 감사된 수익이 아니다.
특정 시점의 수익이 함축하는 성장 속도를 설명한다.
Patel의 출발점은 한 가지 관찰이다. Anthropic의 매출은 전년 대비 약 10배 수준으로 성장했다.
그는 이후 의도적으로 극단적인 시나리오를 구성했다.
- Anthropic이 2026년 말 기준 연환산 매출 약 1,000억~1,500억 달러에 도달한다.
- 동일한 대세가 계속 이어진다.
- 이듬해 말에는 매출이 1조 달러에 근접한다.
Patel은 이 궤적이 반드시 이어질 이유가 없으며, 심층적인 근거도 없다고 분명히 밝힌다. 이는 미래의 AI 역량, 제품 채택률, 가격 책정, 경쟁 상황에 달려 있다.
이 시나리오의 목적은 Anthropic이 1조 달러 매출을 예측했다고 주장하는 것이 아니라, 만약 어떤 AI 기업이 정말로 그런 속도로 성장한다면 어떤 조건이 추가로 충족되어야 하는지를 묻는 것이다.
매출 성장과 연산 성장은 일치하지 않는다
Patel은 가상의 10배 매출 성장을 추정된 AI 연산의 연간 3배 확장과 대조한다.
Epoch AI는 2025년 전 세계 AI 연산 총량이 H100 환산 기준으로 약 2배(즉 3배로 증가) 성장했다고 추정한다. 다만 해당 기관은 기업 차원 및 미래 관련 추정치에는 여전히 불확실성이 존재한다고 강조한다.
이로 인해 발생하는 불일치는 대략 다음과 같다.
AI 비즈니스 수요 증가: 10배
물리적 연산 증가: 3배
격차: 약 3.3배
만약 한 선도 연구소의 매출 성장률이 사용 가능한 연산 성장률을 크게 초과한다면, 다음 세 가지 중 일부 조합이 변화해야 한다.
- 해당 연구소가 더 높은 이익률을 확보한다.
- 연산의 시장 가격이 상승한다.
- 해당 연구소의 연산 중 더 큰 비중이 연구와 훈련이 아닌 수익 창출형 추론 서비스에 사용된다.
Patel은 이 세 가지 모두가 어느 정도 이미 변화하기 시작했다고 본다.
옵션 1: 선도 연구소의 이익률 상승
모델 제공업체는 높은 고정 비용을 투입해 모델을 훈련하고, 이후 다수의 고객에게 학습된 역량을 제공한다.
이는 잠재적인 규모의 경제를 창출한다.
동일한 학습된 역량은 다음 채널을 통해 판매될 수 있다.
- 소비자 구독
- 기업용 시트
- API
- 프로그래밍 제품
- 에이전트 플랫폼
- 클라우드 파트너십
단일 추가 요청의 한계 비용은 해당 요청이 창출하는 가치보다 훨씬 낮을 수 있다.
Patel은 선도 연구소의 추론 이익률이 이미 크게 개선되었다고 지적한다. 다만 그가 언급한 Anthropic의 Fable 추론 서비스에 대한 구체적인 이익률 수치는 검증된 기업 공시가 아닌 대략적인 추정치로 제시된 것임을 분명히 밝힌다.
높은 이익률은 매출 성장과 연산 성장 사이의 격차 중 일부를 흡수할 수 있다.
난점은 규모에 있다.
Patel이 제시한 1조 달러 시나리오에서 가격과 연산 배분이 충분히 조정되지 않는다면, 이익률은 95% 전후의 중상위 수준까지 올라가야 한다. 그는 이것이 선도 기술 플랫폼조차도 비정상적으로 높은 수준이라고 본다.
필요한 정확한 이익률은 많은 변수에 따라 달라지지만, 더 핵심적인 관점은 여전히 유효하다. 이익률만으로 폭발적인 수요와 제한된 인프라 사이의 모순을 조정하지 못할 수 있다는 것이다.
옵션 2: 더 많은 연산이 훈련에서 추론으로 전환
두 번째 선택지는 연산의 더 큰 비중을 고객 서비스에 할당하는 것이다.
Epoch AI는 OpenAI가 2024년에 추론 연산에 약 18억 달러를 지출한 반면, 연구개발 연산에는 약 50억 달러를 지출한 것으로 추정한다. 이에 따라 추론 지출은 보고된 총 연산 지출의 약 4분의 1을 차지하는 것으로 추정된다.
상업적 사용 규모가 확대됨에 따라 추론의 비중은 더욱 높아질 수 있다.
이는 매출을 뒷받침하는 데 도움이 되지만, 선도 연구소는 전략적 딜레마에 직면한다.
추론 서비스는 현재의 비용을 지불한다.
훈련과 실험은 차세대 제품을 정의할 수 있는 모델을 생산한다.
대부분의 연산을 현재 모델 서비스에 사용하는 연구소는 더 즉각적인 매출을 창출할 수 있지만, 다음에 사용할 수 있는 인프라는 줄어든다.
- 더 큰 규모의 모델 훈련
- 실험 실행
- 강화 학습
- 평가
- 데이터 생성
- 아키텍처 연구
- 장기적 모델 개발
Patel은 실리콘밸리 플라이휠 효과를 설명한다. 현재의 추론 수익은 자금 조달을 뒷받침하고, 자금 조달은 더 많은 연산을 구매하며, 연산은 더 강력한 모델을 훈련하고, 더 강력한 모델은 더 많은 수익을 창출한다.
이러한 연구소는 일반적으로 현재의 모델을 종착점으로 보지 않는다. 그들은 현재의 선도 시스템이 곧 더 뛰어난 시스템에 의해 대체될 것이라고 예상한다.
이 때문에 그들은 정적 모델 세대에 서비스를 제공하는 고이익률 클라우드 서비스 제공업체로 완전히 전환하는 것을 꺼린다.
옵션 3: 선도 연산의 가격 상승
남은 조정 수단은 가격이다.
AI 연구소와 그 고객이 연산 단위당 더 많은 경제적 가치를 창출할 수 있다면, 희소한 인프라를 확보하기 위해 더 공격적인 입찰을 할 능력이 생긴다.
이는 모든 GPU 시간의 가격이 동등하게 상승한다는 의미는 아니다.
선도 연구소에는 전문적인 연산이 필요하다.
- 대규모 연속 클러스터
- 고속 상호 연결
- 예측 가능한 가용성
- 강력한 보안
- 높은 활용률
- 안정적인 전력 공급
- 신속한 배포
- 장기 접근
- 모델 가중치와 고객 데이터 보호
개방형 시장의 스팟 인스턴스는 안전하고 다년간의 멀티기가와트급 인프라 계약을 완전히 대체할 수 없다.
Anthropic과 Google의 SpaceXAI 연산 거래
최근 계약은 즉시 확보 가능한 용량의 프리미엄을 보여준다.
Anthropic은 Colossus 1 접근 권한을 위한 SpaceXAI와의 계약을 공식적으로 확인했으며, 이후 Colossus 1과 Colossus 2에서 용량을 확대했다고 밝혔다.
SpaceXAI는 Colossus 1이 H100, H200, GB200 시스템을 포함해 22만 개 이상의 NVIDIA GPU로 구성되어 있다고 설명한다.
Axios는 Anthropic이 2029년까지 월 약 12억 5,000만 달러에 이 계약을 체결하기로 합의했다고 보도했다.
이후 TechCrunch가 보도한 규제 문서에 따르면, Google은 2026년 10월부터 2029년 6월까지 월 약 9억 2,000만 달러를 SpaceX에 지불하고 약 11만 개의 GPU 및 관련 구성 요소에 접근 권한을 확보한다.
이것은 일반적인 온디맨드 클라우드 구매가 아니다.
이는 신규 데이터 센터 구축, 전력망 연결, 칩 인도에 수년이 걸릴 수 있는 상황에서 대규모로 즉시 사용 가능한 인프라를 확보하는 가치를 반영한다.
Patel은 Google 거래에 내포된 GPU 시간당 가격이 현재 관련 혼합 하드웨어의 스팟 가격보다 약 2배 수준이라고 추정한다.
이 비교는 계약이 단순한 GPU 이상을 포함하고, 하드웨어 구성이 서로 다른 세대의 가속기를 포함하기 때문에 근사치에 불과하다.
GPU는 단순한 서버가 아니라 공장이 되어가고 있다
원문 기사는 산업적 비유를 사용한다.
인터넷 시대에 기업들은 다음을 놓고 경쟁했다.
- 사용자
- 트래픽
- 유통 채널
- 검색 순위
- 앱스토어 진입점
최첨단 AI 경쟁은 더 실질적인 차원을 추가했다:
- 전력
- 첨단 칩
- 메모리
- 데이터센터 부지
- 냉각
- 전력망 연결
- 네트워크
- 대규모 동기화 클러스터
최첨단 GPU 클러스터는 일반적인 임대 서버의 집합보다 산업 생산 라인에 더 가깝다.
그 산출물은 물리적 제품이 아니라 경제적 가치를 지닌 지능이다:
- 코드
- 연구
- 지원
- 설계
- 분석
- 미디어
- 의사결정
- 에이전트 행동
가장 강력한 모델과 가장 안정적인 연산 자원을 통제하는 기업은 이러한 디지털 작업을 더 많이 생산할 가능성이 있다.
왜 대형 연구소는 현물 시장에만 의존할 수 없는가
현물 용량은 최첨단 워크로드에 여러 가지 단점이 있다:
- 인스턴스가 중단될 수 있다.
- 하드웨어가 여러 위치에 분산될 수 있다.
- 네트워크 성능이 불안정할 수 있다.
- 수요 피크 시 용량이 사라질 수 있다.
- 보안 및 데이터 처리 요구 사항을 충족하기 어려울 수 있다.
- 장기간 학습 실행에는 안정적이고 조정된 인프라가 필요하다.
최첨단 모델을 학습하거나 운영하는 연구소
최첨단 모델을 서비스하는 구매자는 단기 배치 작업을 실행하는 구매자보다 보장된 연산 자원을 더 중시한다.
이는 공공 클라우드 제안이 더 저렴해 보여도 계약 기반 연산 자원이 프리미엄을 유지할 수 있는 이유를 설명하는 데 도움이 된다.
공급 측은 물리적 승수에 의해 제약된다
파텔의 주장은 연산 공급이 큰 수요 충격에 충분히 빠르게 반응할 수 없다는 판단에 의존한다.
그는 연간 연산 능력 성장을 세 가지 광범위한 승수의 곱으로 요약한다:
연간 AI 연산 성장 ≈
1.4× 하드웨어 개선
× 1.2× 신규 웨이퍼 생산 능력
× 1.8× 선도 공정 웨이퍼의 AI 재배분
≈ 3.0×
이 숫자들은 추정치이며 불변의 물리 상수가 아니다.
최근 성장의 원천을 설명하기 위한 것이다.
승수 1: 더 우수한 칩
반도체 기술의 개선은 와트당, 칩당, 투자 달러당 전달되는 유효 계산량을 향상시킨다.
잠재적 이점은 다음에서 비롯된다:
- 더 작은 공정 노드
- 더 나은 아키텍처
- 더 낮은 정밀도의 연산
- 더 높은 메모리 대역폭
- 첨단 패키징
- 더 빠른 상호 연결
- 더 나은 소프트웨어와 커널
진보 속도에는 상한이 없다.
각 세대의 새 공정은 더 어렵고 더 비싸진다. 전력 밀도, 누설 전류, 수율, 메모리 이동 및 패키징이 점점 실제 성능을 결정하는 요소가 된다.
AI 시스템은 모델 및 소프트웨어 수준의 개선을 통해 효율성을 높일 수 있으며, 이는 하드웨어 부족의 영향을 어느 정도 상쇄할 수 있다. 따라서 연산 가격 예측은 효율성 향상과 수요 증가의 상대적 속도에 달려 있다.
승수 2: 더 많은 팹과 장비
새로운 반도체 생산 능력은 계획, 자금 조달, 건설, 장비 설치, 검증 및 생산 능력 램프업에 수년이 걸린다.
공급망은 극자외선 노광 장비를 포함한 전용 시스템에 크게 의존한다.
첨단 팹은 또한 필요로 한다:
- 숙련된 인력
- 안정적인 공공 시설
- 화학 물질 공급
- 물 자원
- 패키징 용량
- 테스트 용량
- 긴 리드 타임 장비
파텔은 적어도 이번 10년 말까지 EUV 장비의 가용성이 생산 능력의 빠른 확장을 제약할 것이라고 본다.
더 높은 가격은 투자를 자극할 수 있지만, 완전히 검증된 선도 공정 공장을 즉시 만들어내지는 못한다.
승수 3: 기존 첨단 용량을 AI에 재배분
최근 AI 칩 성장의 상당 부분은 다른 제품에서 첨단 제조 용량을 전환한 것에서 비롯된다.
스마트폰, PC, 네트워크 칩 및 기타 기기는 동일한 선도 공정 및 패키징 자원을 두고 경쟁한다.
파텔은 2027년 말까지 AI가 TSMC N3 용량에서 차지하는 비율이 약 60%에서 86%로 상승할 수 있다는 추정치를 인용한다.
이는 공급 모델의 추정치이며 TSMC의 공개 용량 지침이 아니다.
그 의미는 명확하다: 비AI 수요가 여전히 전환 가능한 용량을 차지하고 있을 때만 재배분이라는 레버가 효과적이다.
AI가 관련 노드의 대부분 용량을 이미 소비한 후에는 이 성장 레버가 크게 약화된다.
다른 병목 현상이 더 일찍 나타날 수 있다
몇 분 만에 쇼케이스 사이트를 만들고 리드를 늘리세요
아이디어를 한 문장으로 입력하면 We0 AI가 쇼케이스 사이트, 페이지, CMS를 생성하고 출시 후 고객과 트래픽 확보를 돕습니다.
무료 등록을 위한 하나의 완전한 프로젝트 생성
하나의 완전한 생성 흐름을 시도하고 첫 번째 프로젝트 초안을 빠르게 보는 데 가장 적합합니다.
웨이퍼 공급이 확대되더라도 전체 시스템은 여전히 다음에 의해 제약될 수 있다:
- 고대역폭 메모리
- 첨단 패키징
- 광 네트워크
- 변압기 및 전력망 장비
- 데이터센터 건설
- 발전
- 냉각
- 허가 승인
- 자금 조달
연산 공급은 여전히
따라서 이는 단일 공장의 산출물이 아니라 하나의 체인이다.
유효 용량은 가장 느린 핵심 단계에 의해 제약된다.
왜 높은 연산 비용이 오히려 최강 모델에 유리할 수 있는가
출처는 이어서 역설적인 주장을 제기한다: 연산이 더 비싸지면 구매자가 반드시 약한 모델로 전환하지는 않을 것이라는 점이다.
오히려 그들은 최강 모델을 더 선호할 수도 있다.
파텔은 이를 알친–앨런 효과와 연결한다.
고정 비용이 서로 다른 품질의 상품에 추가될 때, 고급 버전이 상대적으로 더 매력적일 수 있다. 품질 프리미엄이 총 가격에서 차지하는 비중이 작아지기 때문이다.
단순화된 예시
기본 연산 비용이 시간당 20달러라고 가정하자.
강한 모델은 한 시간 안에 작업을 완료하고 5달러의 모델 프리미엄이 있다:
강한 모델:
20달러 연산 + 5달러 프리미엄 = 25달러
약한 모델은 프리미엄이 없지만 재시도와 비효율적 추론으로 두 시간이 걸린다:
약한 모델:
2 × 20달러 연산 = 40달러
겉보기에 무료인 모델은 완료된 작업당 계산하면 오히려 더 비싸다.
핵심 지표는 토큰당 가격이나 모델 라이선스 비용이 아니라 성공 결과당 비용이다.
효율성이 가격 우위가 된다
더 강력한 모델은 다음을 통해 비용을 절감할 수 있다:
- 더 적은 토큰
- 더 적은 시도 횟수
- 더 적은 도구 호출
- 더 적은 수동 수정
- 더 짧은 작업 시간
- 더 나은 계획
- 더 안정적인 실행
연산이 저렴하면 비효율적인 시도의 비용은 감당할 수 있을 수 있다.
연산이 비싸면 낭비되는 연산이 더 아프게 느껴진다.
희소한 GPU 시간마다 최대한의 유용한 산출물을 뽑아낼 수 있는 연구소는 상당한 프리미엄을 받을 수 있다.
이것이 작은 모델이 사라진다는 의미는 아니다
출처 기사의 가장 급진적인 버전은 평범한 모델에 미래가 없을 수 있다고 주장한다.
이 결론은 너무 광범위하다.
더 작고 전용 모델은 다음과 같은 경우에 여전히 매력을 유지한다:
- 더 낮은 지연 시간
- 더 낮은 메모리 요구 사항
- 온디바이스 배포
- 프라이버시 보호
- 예측 가능한 구조화 출력
- 좁은 작업에 충분한 품질
- 평균보다 훨씬 낮은 연산 소비
- 오픈 가중치 기반 맞춤화 능력
경량 분류기는 최첨단 프로그래밍 에이전트가 될 필요가 없다.
알친–앨런 논증은 두 모델이 유사한 값비싼 인프라를 소비하고 약한 모델이 동일한 결과에 도달하기 위해 훨씬 더 많은 작업이 필요한 경우에 적용된다.
작은 모델이 해당 작업에 실제로 더 효율적일 때 이 논증의 힘은 약해진다.
일부 현재 AI 응용 프로그램은 가격이 높아져 시장에서 밀려날 수 있다
파텔은 연산 가격 상승이 용량을 저가치 용도에서 이전시킬 수 있다고 본다.
GPU 하나가 고부가가치 소프트웨어나 비즈니스 산출물을 생성하는 에이전트를 실행할 수 있다면, 동일한 하드웨어를 일회성 미디어 콘텐츠에 사용하는 기회 비용이 훨씬 높아진다.
이는 다음 응용 프로그램에 영향을 미칠 수 있다:
- 저가치 단형 콘텐츠
- 대량화된 가짜 상호작용
- 반복적인 이미지 또는 비디오 생성
- 극도로 저렴한 소비자급 추론
- 지불 의향이 약한 제품
시장이 반드시 콘텐츠 자체를 없애지는 않는다.
대신 다음으로 콘텐츠를 밀어낼 수 있다:
- 더 작은 모델
- 더 오래된 하드웨어
- 온디바이스 추론
- 캐시된 출력
- 더 효율적인 아키텍처
- 더 낮은 해상도의 생성
- 비수요 시간대 연산
핵심은 자원 배분이다.
희소한
최첨단 연산은 지불 의사가 가장 높은 워크로드로 흐르는 경향이 있다.
이 예측이 틀릴 수 있는 이유
출처 기사는 또한 여러 반대 의견을 제시한다.
이러한 반대 의견은 영구적 자원 부족에 대한 예측이 종종 틀린 것으로 판명되었기 때문에 중요하다.
반대 논점 1: 인간 노동력은 올바른 가격 기준점이 아니다
25만 달러 엔지니어와의 비교는 GPU가 엔지니어의 현재 경제적 가치에 근접한 수익을 얻을 수 있다고 가정한다.
이 가정은 다음 이유로 무너질 수 있다:
- 소프트웨어 엔지니어링 임금이 하락할 수 있다.
- AI가 풍부하지만 현금화하기 어려운 산출물을 만들 수 있다.
- 인간의 신뢰, 책임, 관계 및 판단력이 여전히 가치를 가질 수 있다.
- 에이전트가 인간 감독을 필요로 할 수 있다.
- 물리적 세계의 병목이 지배적일 수 있다.
- 경쟁이 모델 가격을 비용선으로 끌어내릴 수 있다.
일부 평론가는 디지털 노동자의 초기 가치는 높을 수 있지만 AI 노동력이 풍부해지면 결국 약 5만 달러에 안정될 수 있다고 지적한다.
이 가정 하에서 연산의 가치는 여전히 상승할 수 있지만 반드시 15배로 오르지는 않을 수 있다.
반대 논점 2: 효율성 향상이 수요 증가를 초과할 수 있다
토큰 가격은 연산 가격과 동일하지 않다.
모델과 서비스 시스템은 지속적으로 다음을 통해 개선된다:
- 양자화
- 증류
- 희소화
- 더 나은 커널
- 추측 디코딩
캐시
- 라우팅
- 개선된 아키텍처
- 더 나은 하드웨어 활용
미래의 저가치 영상 또는 채팅 응답은 현재 계산량의 극히 일부만 필요로 할 수 있다.
프런티어 에이전트의 계산 비용이 비싸지더라도, 범용 AI 서비스는 더 효율적인 모델과 하드웨어로 전환함에 따라 계속해서 가격이 하락할 가능성이 높다.
반론 3: 오픈소스 모델이 경쟁을 심화시킨다
오픈 가중치 모델은 프런티어 API 가격에 압박을 가할 수 있다.
여러 모델이 유사한 능력을 제공한다면, 사용자는 다음 옵션 사이를 전환할 수 있다:
- 호스팅 상용 API
- 오픈 가중치 클라우드 배포
- 프라이빗 클러스터
- 국내 서비스 제공업체
- 전용 모델
이는 단일 연구소가 극단적인 이윤율을 확보하는 것을 제한한다.
계산 희소성은 여전히 기반 인프라 비용을 끌어올릴 수 있지만, 모델 간 경쟁이 연구소가 얼마나 많은 가치를 유지할 수 있는지를 결정한다.
반론 4: 공급은 높은 가격에 반응한다
희소성에 대한 전형적인 대응은 투자다.
더 높은 계산 가격은 다음을 장려한다:
- 더 많은 파운드리
- 더 많은 패키징 용량
- 더 많은 메모리 생산
- 더 많은 발전 용량
- 더 나은 냉각
- 대체 가속기
- 새로운 클라우드 서비스 제공업체
- 더 효율적인 소프트웨어
파텔 역시 계산이 결국 다시 저렴해질 수 있음을 인정한다.
그의 주장은 수요 증가가 장주기 물리적 인프라의 대응 속도보다 빠를 수 있는 현재의 전환기에 초점을 맞추고 있다.
사이먼–에를리히 내기
출처는 계산 예측을 생물학자 폴 에를리히와 경제학자 줄리안 사이먼 사이의 유명한 내기에 비교한다.
1980년, 에를리히는 다섯 가지 금속 바스켓을 선택해 향후 10년간 실질 가격이 오를 것이라고 내기를 걸었다.
1990년까지 해당 바스켓의 인플레이션 조정 가격은 하락했고, 에를리히는 사이먼에게 내기에서 졌다.
이 내기는 희소성 예측이 혁신, 대체, 공급 반응을 과소평가한다는 주장에 자주 사용된다.
역사적 해석은
더 복잡하다. 분석에 따르면 다른 시작 연도는 다른 승자를 만들 수 있다.
파텔은 자신의 계산 주장이 종종 틀린 것으로 판명된 희소성 예측과 유사함을 인정한다.
그는 계산이 단기 공급 탄력성이 더 낮다는 점에서 금속 채굴과 다를 수 있다고 본다:
- 프런티어 AI 가속기의 대체재는 거의 없다.
- 고급 파운드리는 빠르게 등장할 수 없다.
- EUV 장비는 고도로 집중된 공급망에서 생산된다.
- 데이터센터 전력 및 네트워크 구축에는 시간이 필요하다.
- 프런티어 연구소는 임의의 상용화 칩이 아닌 대규모 조정 클러스터가 필요하다.
따라서 핵심 차이는 시간 문제에 있다.
AI 수요가 현재의 건설 속도를 압도하기 전에, 가격 신호와 혁신이 유효 계산 공급을 확장할 수 있을까?
계산 가격에 대한 더 균형 잡힌 프레임워크
"10배"를 고정된 예측으로 보기보다는, 해당 주장을 측정 가능한 변수 집합으로 전환하는 것이 낫다.
수요 측 변수
- 프런티어 모델 능력 성장
- GPU 시간당 수익
- 에이전트 채택률
- 기업의 지불 의향
- 노동 대체 정도
- 새로운 애플리케이션 창출
- 추론이 차지하는 계산 비율
- 모델 제공업체 이윤율
공급 측 변수
- 가속기 출하량
- 와트당 하드웨어 성능
- 고급 노드 웨이퍼 공급
- 패키징 용량
- HBM 공급
- 데이터센터 전력
- 전력망 접속 속도
- 클러스터 활용률
- 서비스 효율성
- 대체 칩
시장 구조 변수
- 경쟁 프런티어 모델 수
- 오픈 가중치 모델 품질
- 클라우드 제공업체 집중도
- 장기 인프라 계약
- 지리적 및 규제 제약
- 자본 가용성
- 워크로드를 더 저렴한 모델로 라우팅하는 능력
10배 가격 상승은 다음 조건에서 더 가능성이 높다:
- 능력과 수익화가 빠르게 향상된다.
- 프런티어 연구소가 제한된 클러스터를 두고 서로 입찰 경쟁을 벌인다.
- 공급이 연간 약 3배 수준으로만 확장된다.
- 효율성 개선이 수요 증가를 상쇄하지 못한다.
- 한두 개 연구소가 상당한 품질 우위를 유지한다.
다음 조건에서는 가능성이 낮다:
- 능력 성장이 둔화된다.
- 수익 성장이 정상화된다.
- 오픈 모델이 근접한 대체재가 된다.
- 효율적인 소형 모델이 대부분의 워크로드를 흡수한다.
- 새로운 하드웨어와 전력 공급이 예상보다 빨리 확보된다.
- 소프트웨어가 작업 완료에 필요한 계산량을 크게 줄인다.
이 시나리오가 AI 기업에 주는 의미
계산 비용이 10배 오르지 않더라도, 이 주장은 여전히 실질적인 시사점을 제공한다.
완료된 작업당 비용 측정
다음을 추적하라:
- 총 입력 및 출력 토큰 수
- 추론 토큰 수
- 도구 호출 횟수
- 재시도 횟수
- 인간 수정 시간
- 종단 간 지연 시간
- 성공률
- 인프라 비용
더 저렴한 모델이 반복적으로 실패한다면, 실제로는 저렴한 것이 아니다.
모델 라우팅 사용
프런티어 모델은 실제로 혜택을 받는 작업에만 사용하라.
소형 모델은 다음에 사용하라:
- 분류
- 추출
- 라우팅
- 포맷팅
- 반복적인 구조화 작업
어려운 사례만 에스컬레이션 처리하라.
계산 이식성을 위한 설계
전체 제품을 단일 모델이나 단일 GPU 제공업체에 묶지 마라.
유용한 추상화는 다음과 같다:
- 모델 게이트웨이
- 평가 스위트
- 이식 가능한 프롬프트
- 제공업체에 독립적인
메모리
- 다양한 하드웨어 백엔드
- 배치 및 비동기 실행
컨텍스트 및 도구 사용 최적화
장기 실행 에이전트 루프는 반복적인 컨텍스트와 과도한 도구 출력으로 계산을 낭비할 수 있다.
개선 방향:
- 프롬프트 캐시
- 컨텍스트 검색
- 도구 출력 필터링
- 재시도 전략
- 종료 조건
- 병렬 실행
- 결과 검증
필요해지기 전에 용량 확보
수요를 예측할 수 있는 기업은 다음의 혜택을 받을 수 있다:
- 예약 인스턴스
- 장기 클라우드 계약
- 약정 사용 할인
- 여러 인프라 파트너
- 안정적인 워크로드를 위한 온프레미스 용량
올바른 전략은 활용률에 달려 있다. 예약 하드웨어는 유휴 상태일 때 비용이 많이 든다.
이 시나리오가 투자자와 정책 입안자에게 주는 의미
이 주장은 또한 관심을 모델 벤치마크에서 인프라로 전환시킨다.
중요한 영역은 다음과 같다:
- 고급 반도체 제조
- 리소그래피
- HBM
- 패키징
- 데이터센터 전력
- 변압기
- 광 네트워킹
- 냉각
- 전력망 인프라
- 클라우드 금융
지능이 주요 경제 투입 요소가 된다면, 이러한 계층에 대한 통제는 전략적으로 중요해진다.
결과는 집중화일 수 있다.
최고의 모델과 가장 강력한 수익을 가진 연구소는 신규 진입자를 제치고 희소한 계산 자원에 더 높은 가격을 제시할 수 있다. 이러한 계산 자원은 모델 개선에 도움이 되고, 이는 다시 수익을 강화하여 다음 입찰을 더 쉽게 만든다.
이는 강화 루프다:
더 나은 모델
↓
더 가치 있는 제품
↓
더 많은 수익
↓
더 많은 계산 자원 확보
↓
더 많은 학습과 추론
↓
더 나은 모델
위험은 지능 생산이 막대한 인프라 투자를 감당할 수 있는 소수의 기업에 집중될 수 있다는 점이다.
자주 묻는 질문
왜 데바케시 파텔은 AI 계산 비용이 10배 오를 수 있다고 보는가?
파텔은 더 똑똑한 AI 모델이 계산 단위당 더 많은 수익을 창출할 수 있는 반면, 고급 계산의 실질 공급 증가는 훨씬 더 느리다고 본다. 수요와 지불 의향이 칩, 전력, 데이터센터 공급 증가보다 빠르게 성장한다면, 시장 가격은 급등할 수 있다.
Anthropic이 연간 수익 1조 달러를 예측하는가?
아니다. Anthropic은 공식적으로 2026년 5월 연환산 수익이 470억 달러를 돌파했다고 보고했다. 연말 1000억~1500억 달러 및 다음 해 1조 달러 수치는 파텔의 사고 실험 가정이지, 회사 가이던스가 아니다.
왜 H100을 연봉 25만 달러 소프트웨어 엔지니어와 비교하는가?
이 비교는 H100 한 대와 동급 시스템이 고액 연봉 엔지니어에 해당하는 작업을 수행하는 AI 에이전트를 호스팅할 수 있다면, 계산 자원이 어떻게 가격이 매겨질 수 있는지를 탐구한다. 이는 가상의 가치 기준이지, 현재 에이전트가 H100당 엔지니어 한 명을 대체할 수 있다는 증거가 아니다.
전 세계 AI 계산은 얼마나 빠르게 성장하는가?
Epoch AI는 2025년 전 세계 총 AI 계산량이 H100 환산 기준으로 약 3배 성장했다고 추정한다. 미래 성장은 칩 성능, 제조, 패키징, 전력, 건설, 자본 지출에 따라 불확실하다.
왜 프런티어 연구소의 계산 비용이 공공 현물 GPU 가격보다 높을 수 있는가?
프런티어 연구소는 안전하고, 안정적이며, 대규모이고, 고속 네트워킹과 예측 가능한 성능을 갖춘 클러스터가 필요하다.
장기 가용성도 필요하다. 공공 경매 인스턴스는 수십만 개의 협력 가속기를 포함한 전용 다년 배포와 동일하지 않다.
비싼 계산이 항상 가장 강력한 모델에 유리한가?
그렇지 않다. 가장 강력한 모델이 더 적은 토큰, 더 적은 재시도, 또는 더 적은 시간으로 동일한 결과를 달성할 때 비싼 계산은 그 모델에 유리하다. 그러나 좁은 영역, 저지연, 프라이빗 또는 엣지 워크로드의 경우, 소형 전용 모델이 여전히 더 경제적일 수 있다.
AI 계산은 영원히 비쌀 것인가?
파텔은 계산이 영구적으로 비쌀 것이라고 주장하지 않는다.
그의 주장은 전환기를 다루고 있다—이 기간 동안 AI 수요가 반도체 및 데이터센터 공급망의 확장 능력을 초과할 수 있으며, 더 장기적으로 보면 하드웨어와 자동화가 다시 컴퓨팅 비용을 낮출 수 있다는 것이다.
어떤 증거가 "컴퓨팅 가격 ×10" 가설을 반박할 수 있는가?
만약 AI 수익 성장이 둔화되고, 모델 성능이 한계에 도달하며, 오픈소스 모델이 매우 근접한 대체재가 되고, 서비스 효율성 개선 속도가 수요 증가보다 빠르며, 또는 반도체와 전력 공급이 예상보다 빠르게 확장된다면, 이 주장은 약화될 것이다.
관련 도구
- Epoch AI：AI 컴퓨팅, 모델 확장, 인프라 및 프론티어 연구소 경제에 관한 연구와 데이터.
- NVIDIA H100 Tensor Core GPU：NVIDIA가 공식 발표한 가속기 사양 설명으로, Patel의 사고 실험에서 핵심 연산 유닛이다.
- AWS EC2 P5 인스턴스：Amazon이 NVIDIA H100 GPU 기반으로 구축한 공식 클라우드 인스턴스로, 대규모 AI 워크로드를 대상으로 한다.
- Google Cloud A3 가상 머신：Google Cloud의 GPU 컴퓨팅에 관한 문서로, 가속기 가용성 및 구성을 포함한다.
- CoreWeave 클라우드 GPU：AI 워크로드를 위한 대규모 GPU 인프라를 제공하는 전문 클라우드 플랫폼.
- NVIDIA Triton 추론 서버：AI 모델 전반의 활용률, 배치 처리 능력 및 배포 효율성을 높이기 위한 추론 서비스 시스템.
관련 링크
- Dwarkesh Patel: 컴퓨팅이 10배 더 비싸질 수 있는 이유：H100 노동 가치 시나리오와 컴퓨팅 희소성 주장을 제기한 원문.
- Anthropic Series H 발표：Anthropic의 2026년 5월 공식 발표로, 연환산 수익 470억 달러 초과 및 주요 컴퓨팅 파트너십을 확인.
- Anthropic–Google–Broadcom 컴퓨팅 협력：Anthropic이 공식적으로 설명하는 멀티기가와트 TPU 확장 및 300억 달러 연환산 수익 이정표.
- SpaceXAI와 Anthropic의 컴퓨팅 파트너십：Anthropic에 Colossus 1 GPU 클러스터 사용 권한을 부여한 공식 발표.
- Epoch AI: 프론티어 연구소는 AI 컴퓨팅의 대부분을 아직 사용하지 않음：전 세계 AI 컴퓨팅, 프론티어 연구소 점유율, 성장률 및 인프라 제약에 관한 추정.
- [Epoch
AI: OpenAI 2024년 컴퓨팅 지출](https://epoch.ai/data-insights/openai-compute-spend)：2024년 OpenAI의 연구, 훈련 및 추론 컴퓨팅 간 배분에 관한 추정.
- AI 슈퍼컴퓨터 트렌드：AI 슈퍼컴퓨터의 성능 성장, 하드웨어 비용, 칩 수 및 전력 수요에 관한 연구.
요약
Dwarkesh Patel의 10배 컴퓨팅 가격 주장은 단순한 아이디어에서 출발한다: 만약 하나의 GPU가 고부가가치 지식 노동을 수행하는 AI 에이전트를 실행할 수 있다면, 그 GPU에 대한 지불 의사는 서버의 역사적 비용이 아닌 해당 작업의 가치로 이동할 수 있다는 것이다.
Anthropic의 빠른 수익 성장과 전 세계 AI 컴퓨팅이 연간 약 3배 속도로 확장된다는 추정이 결합되면, 이 주장은 더욱 설득력을 얻는다. AI 상업 수요가 더 빠르게 증가한다면, 조정은 필연적으로 이윤율, 컴퓨팅 배분, 인프라 가격 인상 또는 이 세 가지의 일부 조합을 통해 이루어질 것이다.
이 예측은 결코 확실하지 않다. 에너지 효율 개선, 오픈소스 모델, 더 작은 전용 시스템, 새로운 팹, 새로운 가속기, 그리고 능력 성장 둔화는 모두 10배 증가를 막을 수 있다. 역사적으로 자원 희소성에 대한 예측은 적응적 조정 능력을 과소평가하는 경우가 많았다.
진정으로 지속적인 통찰력은 컴퓨팅이 정확히 10배 증가해야 한다는 것이 아니라, 더 지능적인 AI가 물리적 세계에서 새로운 GPU를 제조하고 전력을 공급하는 속도보다 더 빠르게 GPU당 경제적 가치를 끌어올릴 수 있다는 점에 있다.
