---
title: "추론의 경제학"
url: https://raskell.io/ko/articles/the-economics-of-inference/
author: Raffael Schneider
date: 2026-04-22
description: "추론 토큰은 API 호출이 아닙니다. 소비되고, 가치를 만들고, 전력 소모와 상관관계가 있는 계량 자원입니다. AI 이후 세계의 경제학은 소프트웨어보다 물, 전기, 가스에 더 가깝습니다."
tags: [inference, economics, sovereignty, edge-systems, gpus, energy, semiconductors]
lang: ko
translation_of: https://raskell.io/articles/the-economics-of-inference/
---

# 추론의 경제학

## 요약

에이전트 열여섯 개를 돌리다 토큰이 바닥난 일은 예산 문제가 아니었습니다. 그것은 추론을 유틸리티, 곧 전기나 수도 같은 공공 서비스로 처음 경험한 일이었습니다. 끊임없이 소비되고, 단위마다 계량되며, 무거운 물리적 인프라가 뒷받침하는 자원입니다. 추론은 성숙한 유틸리티와 같은 공급망을 갖고 있습니다. 칩, 데이터, 인재, 에너지 위에 세워져 있고, 병목은 칩 제조에 있으며, 지정학적 위험은 대만과 수출 통제를 둘러싸고 있습니다. AI의 능력이 그 뒤를 받치는 물리적 인프라보다 빠르게 자란다면, AI의 결정적 제약은 소프트웨어가 아니라 유틸리티 계층입니다. 병목은 계량기였습니다. 유틸리티식 요금 체계, 유럽이 러시아 가스로 배운 것과 같은 주권 문제, 공학의 한 분야로서의 토큰 효율, 그리고 필수 도구로서의 계량과 관측 가능성이 등장할 것입니다.

[이전 글](https://raskell.io/articles/what-sixteen-ai-agents-taught-me-about-management/)에서 저는 2025년 크리스마스 동안 AI 에이전트 열여섯 개를 하나의 가상 회사로 운영한 이야기를 했습니다. 아키텍처는 제대로 작동했습니다. 조정 모델도 제대로 작동했습니다. 작동하지 않은 것은 경제성이었습니다. 제 토큰 예산은 며칠 만에 증발했습니다. 에이전트들이 생산적이지 않아서가 아니라, 모든 조정 행위, 모든 상태 보고, 모든 에스컬레이션이 제가 충분히 빨리 채워 넣을 수 없는 계량 자원을 소비했기 때문입니다.

당시 저는 이것을 예산 문제로 보았습니다. 제 개인용 구독으로는 에이전트끼리 주고받는 통신의 부담을 감당할 수 없었습니다. API 접근권과 제대로 된 예산을 가진 기업이라면 같은 제약을 겪지 않았을 것입니다. 그 해석은 옳았지만, 너무 작았습니다.

한 사람과 터미널 창 열여섯 개라는 규모에서 제가 실제로 겪고 있던 것은 훨씬 더 큰 무언가였습니다. 저는 추론을 유틸리티, 곧 공공 서비스로 경험하고 있었습니다. 전등을 켤 때 전기를 소비하고 수도꼭지를 열 때 물을 소비하는 것과 똑같이 소비되는 물리적 자원으로 말입니다.

이렇게 보면 AI의 경제학에 대해 생각하는 방식이 완전히 달라집니다.

## 무엇이 유틸리티를 유틸리티로 만드는가 {#what-makes-something-a-utility}

유틸리티는 일반적인 재화나 서비스와 구별되는 일련의 속성을 공유합니다. 선택 사항이 아닙니다. 현대의 삶이 그것에 의존합니다. 한 번 구매하는 것이 아니라 끊임없이 소비됩니다. 생산하고 공급하는 데 거대한 물리적 인프라가 필요합니다. 계량됩니다. 소비 단위당 가격이 매겨집니다. 공급망은 지리, 지정학, 규제의 영향을 받습니다. 그리고 비용 구조는 다음 한 단위를 공급하는 한계 비용이 아니라 인프라를 짓고 유지하는 자본 지출이 지배합니다.

물. 전기. 천연가스. 통신. 이것이 전통적인 네 가지 유틸리티입니다. 모든 현대 경제는 그 위에 세워져 있습니다. 그것들의 가용성, 신뢰성, 비용이 특정 관할 지역에서 무엇이 가능한지를 결정합니다. 전력망이 불안정한 곳에는 반도체 공장을 짓지 않습니다. 냉각용 물 공급이 불확실한 곳에서는 데이터 센터를 운영하지 않습니다. 유틸리티 계층은 토대이고, 그 위의 모든 것은 토대가 감당할 수 있는 만큼으로 제약됩니다.

추론은 이 속성들을 하나도 빠짐없이 갖춰 가고 있습니다.

추론은 끊임없이 소비됩니다. 모든 에이전트 상호작용, 모든 모델 호출, 생성되는 모든 토큰이 소비의 한 단위입니다. 제 에이전트 열여섯 개가 조정하고 있을 때, 그것들은 공장 작업장이 전기를 소비하듯 추론을 소비하고 있었습니다. 꾸준하게, 측정 가능하게, 그리고 수행되는 일에 정비례해서 말입니다.

추론에는 거대한 물리적 인프라가 필요합니다. 프런티어 모델을 돌리는 데이터 센터는 지금 세계 어디에서 지어지는 시설과 비교해도 가장 자본 집약적인 시설에 속합니다. 첨단 실리콘, 막대한 전력, 냉각용 물, 물리적 보안이 필요합니다. 그것은 소프트웨어 프로젝트가 아닙니다. 산업 프로젝트입니다.

추론은 계량되고 단위당 가격이 매겨집니다. 주요 추론 제공업체는 모두 토큰당 요금을 받습니다. 입력 토큰, 출력 토큰, 때로는 성능 등급에 따라 요율이 다릅니다. 청구 모델은 이미 유틸리티의 청구 모델입니다. 소비한 만큼 지불합니다.

추론의 공급망은 지리와 지정학의 영향을 받습니다.

## 칩, 데이터, 인재, 에너지 {#chips-data-talent-energy}

RSAC 2026에서 저는 전직 NSA 국장이자 미국 사이버사령부 사령관 네 명이 참여한 패널을 들었습니다. Paul Nakasone(폴 나카소네)는 이 시대에 한 국가의 전략적 잠재력을 결정한다고 그가 생각하는 네 가지 요소를 제시했습니다. GDP가 아닙니다. 군사력도 아닙니다. 네 가지입니다. 칩, 데이터, 인재, 그리고 에너지.

저는 당시 [이에 대해 썼습니다](https://raskell.io/articles/notes-from-rsac-2026/). 하지만 shiioo를 겪은 뒤로 저는 그 네 가지 요소를 다른 렌즈로 생각해 왔습니다. 나카소네는 국력에 대해 말하고 있었습니다. 저는 한 유틸리티의 공급망에 대해 말하고 있습니다.

모든 유틸리티에는 누가, 어떤 비용으로, 어떤 의존성을 안고 그것을 생산할 수 있는지를 결정하는 공급망이 있습니다. 전기의 경우 공급망은 연료(석탄, 가스, 우라늄, 햇빛, 바람), 발전 인프라(발전소, 터빈, 패널), 송전(전력망), 배전(콘센트까지의 마지막 구간)입니다. 물의 경우는 수원(강, 대수층, 담수화), 정수, 송수(관, 펌프), 배수입니다.

추론의 경우 공급망은 나카소네의 네 가지 요소입니다.

칩은 발전 용량입니다. 첨단 GPU, 특히 압도적으로 대만의 TSMC가 제조하고 주로 미국의 NVIDIA가 설계하는 프런티어 실리콘은 추론 경제의 터빈입니다. 그것 없이는 경쟁력 있는 비용으로 추론을 생산할 수 없습니다. 이 제조 능력이 지정학적으로 분쟁 중인 섬의 단일 시설에 전 세계적으로 집중되어 있다는 것은, 전 세계의 전기가 발전소 하나에 의존하는 것과 같습니다. 인프라 계획자들이 잠을 설치게 만드는 단일 장애점입니다.

에너지는 연료입니다. 프런티어 추론은 이제 메가와트가 아니라 기가와트 단위로 측정됩니다. 대규모 추론 클러스터 하나가 작은 도시보다 많은 전력을 끌어 씁니다. [AI 2027](https://ai-2027.com/) 시나리오는 전 세계 AI 데이터 센터의 전력 소비가 2026년까지 38GW에 이를 것으로 전망하며, 그 수치는 평평해질 기미가 전혀 없는 곡선을 따라 오르고 있습니다. 전력 없이는 추론을 돌릴 수 없고, 전력 인프라는 하룻밤에 지을 수 없습니다. 값싸고 풍부하며 신뢰할 수 있는 에너지를 가진 관할 지역은 어떤 소프트웨어적 영리함으로도 메울 수 없는 구조적 우위를 갖습니다.

데이터는 모델이 학습한 원재료이며, 추론을 무작위가 아니라 의미 있는 것으로 만드는 기반입니다. 누가 그것을 갖고 있는지, 어떤 법적 제약 아래에서 쓸 수 있는지, 얼마나 다양하고 대표성이 있는지가 모두 생산할 수 있는 추론의 질과 적용 가능성을 결정합니다.

인재는 운영 인력입니다. 모델을 설계하는 연구자만이 아니라 인프라를 짓는 엔지니어, 그것을 계속 돌아가게 하는 운영자, 그것을 방어하는 보안 전문가까지 포함합니다. 이것은 모든 유틸리티가 의존하는 인적 자본 계층이며, 석유화학 공학 인재가 정유 시설 근처에 모이는 것과 같은 이유로 몇몇 지리적 클러스터에 집중되어 있습니다.

이렇게 정리해 보면 추론은 여느 성숙한 유틸리티와 같은 공급망 구조를 갖고 있습니다. 그리고 전략적 함의는 거기서 곧바로 따라 나옵니다.

| 공급망 계층 | 전기 | 물 | 추론 |
|--------------------|-------------|-------|-----------|
| **원재료** | 연료(가스, 우라늄, 태양) | 수원(강, 대수층) | 데이터(학습 코퍼스) |
| **생산** | 발전소, 터빈 | 정수장 | GPU, 데이터 센터 |
| **전송** | 전력망 | 관, 펌프 | 네트워크, API 엔드포인트 |
| **생산용 연료** | 1차 에너지 | 펌프용 전기 | 전기(38GW 이상) |
| **핵심 병목** | 전력망 용량, 인허가 | 수리권, 가뭄 | 칩 제조(TSMC) |
| **지정학적 위험** | 파이프라인 정치, OPEC | 국경을 넘는 강 | 대만, 수출 통제 |

이 유추는 은유가 아닙니다. 구조에 대한 묘사입니다.

## AI 2027이 경제학에 대해 옳게 본 것 {#what-ai-2027-got-right-about-the-economics}

Daniel Kokotajlo, Scott Alexander, Thomas Larsen, Eli Lifland, Romeo Dean이 쓴 [AI 2027](https://ai-2027.com/) 시나리오는 추측에 기반한 가상의 연표입니다. 저자들도 신중하게 그렇게 밝힙니다. 하지만 그 안의 경제 전망에는 제가 계속 되돌아가게 되는 성질이 있습니다. AI 컴퓨팅을 소프트웨어 제품이 아니라 산업 자원으로 다룬다는 점입니다.

그들의 시나리오는 전 세계 AI 데이터 센터 지출이 조 달러 규모에 이르는 과정을 추적합니다. 프런티어 컴퓨팅 용량이 국가별로 어떻게 분포하는지를 그리는데, 미국이 자국 기업들을 통해 약 70%를, 중국이 약 12%를 보유합니다. 그리고 소프트웨어 엔지니어가 아니라 유틸리티 계획자가 의미 있다고 알아볼 만한 전력 소비 수치를 전망합니다.

이 관점을 쓸모 있게 만드는 것은 구체적인 숫자가 아닙니다. 범주입니다. AI 지출을 조 단위로, 전력 소비를 수십 기가와트 단위로 전망한다면, 그것은 소프트웨어 산업을 묘사하는 것이 아닙니다. 유틸리티 구축을 묘사하는 것입니다. 자본 지출 패턴, 인프라 일정, 규제 문제, 지정학적 경쟁, 그 모든 것이 국가들이 역사적으로 에너지 인프라, 통신 인프라, 산업 역량을 두고 경쟁해 온 방식에 그대로 대응합니다.

AI 2027의 저자들은 AI 시스템이 AI 연구를 가속하는 피드백 루프가 능력 향상의 일정을 앞당긴다고 전망합니다. 그들이 제시한 구체적인 날짜가 맞는지는 구조적 관찰보다 덜 중요합니다. 능력이 가파른 곡선을 따라 자라고 있는데 그 능력에 필요한 물리적 인프라는 훨씬 완만한 곡선을 따라 자란다면, AI의 결정적 제약은 소프트웨어가 아닙니다. 인프라입니다. 유틸리티 계층입니다.

이것이 제가 shiioo로 개인적인 규모에서 겪은 일입니다. 소프트웨어는 작동했습니다. 오케스트레이션 모델도 작동했습니다. 바닥난 것은 물리적 자원이었습니다. 토큰, 다시 말해 추론, 다시 말해 컴퓨팅, 다시 말해 실리콘과 전기였습니다. 병목은 아키텍처가 아니었습니다. 병목은 계량기였습니다.

## AI 이후 시스템에 주는 의미 {#what-this-means-for-post-ai-systems}

추론이 유틸리티라면, 추론에 의존하는 모든 시스템은 유틸리티 소비자입니다. 그리고 그것은 그런 시스템을 설계하는 방식을 바꿉니다.

shiioo를 만들 때 저는 토큰 소비를 관리해야 할 예산으로 다뤘습니다. 그것은 개인 개발자의 관점이었습니다. 정해진 할당량이 있고, 그것을 현명하게 써야 한다는 것입니다. 하지만 기업이나 국가로 시야를 넓히면 관점이 바뀝니다. 예산을 관리하는 것이 아닙니다. 유틸리티 의존성을 관리하는 것입니다.

질문들은 인프라의 질문이 됩니다. 추론 용량이 얼마나 필요한가? 그것은 어디서 오는가? 제공업체에 장애가 나면 어떻게 되는가? 가용성과 처리량에 대한 계약상의 보장은 무엇인가? 주 공급이 끊기면 대비책은 무엇인가? 자체 발전 용량을 조금이라도 갖고 있는가, 아니면 전적으로 외부 제공업체에 의존하는가?

이것은 기업들이 전기에 대해, 물에 대해, 통신에 대해 묻는 바로 그 질문들입니다. 그리고 대부분은 아직 그런 관점을 쓰지 않더라도, 기업들은 추론에 대해서도 이 질문들을 묻기 시작하고 있습니다.

이 전환을 잘 헤쳐 나갈 조직은 추론이 실제로 무엇인지를 알아보는 조직입니다. 전력 소모와 상관관계가 있고, 물리적 인프라를 필요로 하며, 정보의 맥락화와 평가라는 형태로 가치를 만들어 내는 소비 자원입니다. AI 이후의 시스템이 다른 시스템이나 사람과 소통할 때마다 그것은 추론을 소비합니다. 에이전트 사이의 모든 메시지, 모든 모델 평가, 생성되는 모든 응답은 뒤에 실제 물리적 비용이 있는 계량된 공급에서 끌어 쓰는 한 단위입니다.

그 함의는 여러 방향으로 갈라집니다.

**요금 체계는 유틸리티 모델로 수렴할 것입니다.** 토큰당 요금은 이미 표준이지만, 업계는 유틸리티가 쓰는 더 정교한 요금 구조로 옮겨 갈 것입니다. 단계별 요율, 시간대별 요금, 용량 예약, 현물 시장 같은 것들입니다. 그 일부는 이미 나타나고 있습니다. 기업들이 추론 지출을 에너지 지출처럼, 즉 전담 조달과 최적화가 필요한 주요 운영 비용으로 다루기 시작하면서 이 흐름은 빨라질 것입니다.

**주권이 중요해질 것입니다.** 추론이 유틸리티라면, 추론 공급을 외국 제공업체에 의존하는 것은 에너지 공급을 외국에 의존하는 것과 같은 종류의 전략적 취약성입니다. 유럽은 러시아 천연가스로 이 교훈을 배웠습니다. 자국 관할 안에서, 자체 인프라 위에서, 자국의 법적 틀 아래에서 추론 워크로드를 돌릴 수 있느냐는 질문은 데이터 저장 위치에 관한 추상적인 걱정이 아닙니다. 인프라 주권의 문제입니다. 이것이 제가 [Archipelag.io](https://archipelag.io/)를 만든 이유이고, 유럽의 컴퓨팅 주권 논의가 정책 보고서에서 물리적 인프라로 옮겨 가야 한다고 생각하는 이유입니다.

**효율은 공학의 한 분야가 될 것입니다.** 전기가 싸고 풍부했을 때는 아무도 에너지 효율을 최적화하지 않았습니다. 전기가 비싸지자 그것을 중심으로 한 공학 분야 전체가 생겨났습니다. 추론에서도 같은 일이 일어날 것입니다. 지금은 추론을 쓰는 대부분의 시스템이 그것을 낭비하듯 씁니다. 꽉 찬 컨텍스트 윈도우, 장황한 프롬프트, 중복 호출이 그렇습니다. 추론 비용이 의미 있는 비용 항목이 되면, 토큰 효율을 최적화하는 일은 에너지 효율을 최적화하는 일만큼 평범해질 것입니다. 제가 shiioo 글에서 설명한 구조화된 통신 프로토콜, 즉 자유로운 대화 대신 타입이 정해진 메시지는 그 초기 사례입니다. 모든 토큰은 예의가 아니라 정보를 실어 날라야 합니다.

**계량과 관측 가능성은 필수가 될 것입니다.** 측정할 수 없는 유틸리티는 관리할 수 없습니다. 기업에는 전력 모니터링과 네트워크 모니터링이 필요한 것과 똑같이 추론 관측 가능성이 필요해질 것입니다. 소비에 대한 실시간 가시성, 특정 워크로드와 팀별 비용 배분, 예상치 못한 사용량 급증에 대한 이상 탐지, 과거 패턴에 기반한 용량 계획이 그것입니다. 이를 위한 도구는 오늘날 거의 존재하지 않습니다. 몇 년 안에 상당한 시장이 될 것입니다.

## 계량기가 메시지다 {#the-meter-is-the-message}

크리스마스에 토큰이 바닥났을 때 제 첫 반응은 좌절이었습니다. 두 번째 반응은 아키텍처를 다르게 생각하는 것이었습니다. 토큰 효율을 염두에 두고 설계하고, 값싼 통신은 더 값싼 모델로 보내는 식으로 말입니다. 하지만 세 번째 반응, 가장 오래 제 곁에 머문 반응은 무언가를 알아본 것이었습니다.

저는 문제의 형태를 알아보았습니다. 새로운 형태가 아니었습니다. 제가 지금까지 마주친 모든 유틸리티 제약의 형태였습니다. “인프라가 병목이다”라는 형태. “자원은 유한하고 계량되며, 소비에 대해 생각해야 한다”라는 형태. “공급망은 지정학적이다”라는 형태.

나카소네의 네 가지 요소, 곧 칩, 데이터, 인재, 에너지는 국력을 평가하는 틀에 그치지 않습니다. 그것은 추론을 생산하기 위한 자재 명세서입니다. 그리고 그 자재 명세서를 통제하는 국가, 기업, 개인은 산업 시대에 에너지가 풍부한 국가들이, 정보 시대에 대역폭이 풍부한 국가들이 누렸던 것과 같은 구조적 우위를 갖게 될 것입니다.

다섯 번째 유틸리티가 이미 와 있습니다. 다만 아직 이른 시기라서, 대부분의 사람은 여전히 자신이 소프트웨어를 사고 있다고 생각합니다.

## 참고 문헌 {#references}

- [What Sixteen AI Agents Taught Me About Management](https://raskell.io/articles/what-sixteen-ai-agents-taught-me-about-management/) - 이 글의 앞선 글
- [Notes from RSAC 2026](https://raskell.io/articles/notes-from-rsac-2026/) - Paul Nakasone의 네 가지 요소와 지정학적 차원
- [AI 2027](https://ai-2027.com/) - Kokotajlo, Alexander, Larsen, Lifland, Dean의 시나리오 작업
- [Archipelag.io](https://archipelag.io/) - 탈중앙화되고 주권을 우선하는 AI 컴퓨팅 네트워크
- [How I Work These Days](https://raskell.io/articles/how-i-work-these-days/) - 에이전트 주도 개발로의 전환에 대해 처음 쓴 글