---
title: "모든 것을 이기되, 아무도 통제하지 않기"
url: https://raskell.io/ko/articles/win-everything-control-no-one/
author: Raffael Schneider
date: 2026-10-29
description: "Sebastian Mallaby가 쓴 Demis Hassabis 전기는 제가 아는 가장 좋은 현대 AI의 역사이며, 통제를 싫어하면서도 통제를 행사하는 한 사람에 대한 정직한 연구입니다."
tags: [intelligence, reinforcement-learning, games, research-labs, ai-alignment, history-of-technology, technology-races, post-scarcity, chess, shogi, go-game, starcraft]
categories: [reviews]
review_of: "The Infinity Machine"
review_of_author: "Sebastian Mallaby"
review_of_kind: book
review_of_year: 2026
rating: 8.5/10
lang: ko
translation_of: https://raskell.io/articles/win-everything-control-no-one/
---

# 모든 것을 이기되, 아무도 통제하지 않기

## 요약

Sebastian Mallaby의 *The Infinity Machine*은 Demis Hassabis의 전기이자 제가 아는 가장 좋은 현대 AI의 역사입니다. 저는 10점 만점에 8.5점을 줍니다. 이 책은 모든 아이디어를 두 번, 먼저 비유로, 그다음 메커니즘으로 설명합니다. 그리고 이 분야를 강화학습과 딥러닝 사이의 긴 반목으로 들려주는데, 진짜 돌파구는 모두 둘을 결합한 것이었습니다. 언어 모델을 잘못 판단한 것부터 자체 챗봇을 내놓지 못한 것까지, 이 책은 DeepMind의 실수에 정직합니다. 그리고 실패한 거버넌스 시도들의 기록은 AI를 지금으로서는 멈출 수도 다스릴 수도 없다고 저를 설득했습니다. 책의 중심에 있는 초상은 맹렬하게 경쟁적이고 통제를 싫어한다고 말하면서도 통제를 행사하는 한 사람입니다. 교훈은 권력이 일을 위한 수단으로 남아야 하며, 그러려면 절제가 필요하다는 것입니다. 부족한 점은 거리감입니다. Hassabis에게 마지막 말을 맡기고 경쟁자들은 바깥에서만 보며, 마지막 장들은 속보처럼 읽힙니다. 그래도 AI 뒤에 있는 사람들을 이해하려면 꼭 읽어야 할 책입니다.

*The Infinity Machine*은 Demis Hassabis(데미스 허사비스)와 아무 관련 없는 장면으로 시작합니다. 2015년 왕립학회에서 열린 강연이 끝난 뒤, Nick Bostrom(닉 보스트롬)은 Geoffrey Hinton(제프리 힌턴)에게 정치 체제가 AI를 사람들을 공포에 몰아넣는 데 쓸 것이라고 생각하면서 왜 계속 AI를 연구하느냐고 묻습니다. 힌턴은 흔한 논거들을 댈 수도 있겠지만 “사실은 발견의 전망이 너무나 달콤하기 때문”이라고 답합니다. Mallaby(맬러비)는 이 이야기가 계속 머릿속을 떠나지 않았다고 말하고, 이 이야기는 책 전체의 질문을 정합니다. 이 기술을 만드는 사람들이 위험을 이해한다면, 그들은 왜 그래도 그것을 만드는가, 그리고 그들이 어떤 사람들인지가 중요한가 하는 질문입니다.

그의 답은 Demis Hassabis의 전기이며, 이 책은 AI가 게임을 하는 프로그램에서 지금의 자리까지 어떻게 왔는지에 대해 제가 읽은 가장 좋은 기록이기도 합니다. 저는 10점 만점에 8.5점을 줍니다. 이 기술 뒤에 있는 사람들, 그들을 움직이는 것, 그리고 왜 아무도 이것을 멈추지 못하는 것처럼 보이는지 이해하고 싶은 사람이라면 꼭 읽어야 할 책입니다.

## 이 책은 무엇인가 {#what-the-book-is}

이 책은 두 가지 일을 합니다. 하나는 한 사람의 생애를 들려주는 것입니다. 네 살 때 아버지가 체스 두는 것을 지켜보다가 몇 주 만에 어른들을 이긴 Hassabis, 열세 살의 체스 마스터, 대학에 가기 전 Bullfrog의 게임 디자이너, 실패한 게임 스튜디오, 신경과학 박사 학위, DeepMind, Google로의 매각, AlphaGo, AlphaFold, 노벨상, 그리고 ChatGPT 이후의 쟁탈전까지입니다. 다른 하나는 이 분야의 역사를 그 아이디어들을 통해, 아이디어들이 등장한 순서대로 들려주는 것입니다. 맬러비는 3년에 걸쳐 Hassabis와 약 30시간을 함께했고 그의 주변 인물 100명 이상을 인터뷰했습니다. 그래서 경쟁자들과 그와 사이가 틀어진 사람들도 자기 목소리로 말합니다.

제목은 케임브리지에서 왔습니다. Hassabis와 그의 친구 David Silver(데이비드 실버)는 거의 무한한 데이터 속에서 패턴을 찾아내는 기계를 상상했고, Hassabis는 훗날 무한 기계(infinity machine)는 무한한 잠재력을 지닐 것이라는 말로 Mustafa Suleyman(무스타파 술레이만)을 영입했습니다(2장과 4장). 이 표현 뒤에는 귀납의 문제가 있습니다. 기호주의 AI는 끝내 이 문제를 풀지 못했고, 책의 나머지 부분은 딥러닝과 강화학습이 그것을 한 조각씩 풀어 가는 과정을 지켜봅니다.

## 올바른 순서로 들려주는 AI의 역사 {#a-history-of-ai-told-in-the-right-order}

맬러비는 기술을 두 번 설명합니다. 한 번은 비유로, 한 번은 메커니즘으로 설명합니다. 예를 들면 다음과 같습니다.

- **이미지 신경망이 학습하는 방식**(6장). 첫 계층들은 가장자리와 색 조각을 찾고, 그다음 계층들은 곡선과 질감을 찾으며, 더 깊은 계층들은 발의 윤곽을 찾고, 마지막 계층들이 고양이라는 이름을 붙입니다. 그다음이 메커니즘입니다. 가중치, 편향, 그리고 입력이 출력과 맞아떨어질 때까지 조금씩 조정되는 6천만 개의 매개변수입니다.
- **Atari 에이전트에 경험 재생이 필요했던 이유**(6장). 고양이 사진이 전부 앞에 오도록 정렬된 사진 더미를 받은 이미지 분류기는 모든 것이 고양이라고 결론짓습니다. 게임의 한구석에 갇힌 에이전트도 같은 문제를 겪습니다. 경험을 저장해 두고 무작위로 뽑아 쓰는 방식이 이를 해결했고, Hassabis는 거기서 해마가 잠자는 동안 하는 일을 보았습니다.
- **Atari 에이전트에 두 번째 신경망이 필요했던 이유**(6장). 자기 추정치에 낙관을 계속 더하는 에이전트는 길바닥에서 100달러 지폐 몇 장을 줍고 한 달만 걸으면 억만장자가 되겠다고 결론짓는 사람과 같습니다. 맬러비가 내놓는 해법은 한동안 지켜본 뒤에야 조언하는 테니스 코치입니다. 한 신경망은 가중치를 고정한 채 플레이하고, 두 번째 신경망은 학습하며, 그 교훈은 일정한 관찰 기간이 지난 뒤에야 넘겨집니다.
- **두 종류의 사고로서의 AlphaGo**(9장). 정책망은 강한 기사가 한눈에 수를 보듯 수를 제안하고, 가치망은 국면을 판단하며, 트리 탐색은 느리고 신중한 부분을 맡습니다. 맬러비는 이를 Kahneman(카너먼)의 시스템 1과 시스템 2에 대응시킵니다.
- **잔차 신경망**(12장). 깊은 신경망은 귓속말 전달 게임처럼 신호를 뭉개 버립니다. 스킵 연결은 중간 계층들을 건너뛰는 급행 차선입니다.
- **트랜스포머**(12장). 임베딩은 수백 개의 차원을 가진 언어의 지도이고, 어텐션은 범죄 드라마의 이번 회를 이해하려면 앞의 어느 회가 필요한지 아는 것입니다. 그리고 시간을 순서가 아니라 주의로 본 Henri Bergson(앙리 베르그송)을 거쳐 가는 우회로도 있습니다.

이 설명들은 배경 지식이 필요 없고, 독자를 얕보지도 않습니다. 순서도 그만큼 중요합니다. 각 장은 앞선 돌파구가 무엇을 가능하게 했고 무엇을 하지 못했는지를 보여 주므로, ImageNet에서 Atari, AlphaGo, AlphaZero, 트랜스포머, AlphaFold, 추론 모델로 이어지는 사슬이 하나의 논증으로 읽힙니다.

## 중심에 있는 반목 {#the-feud-at-the-centre}

역사를 하나로 묶는 실은 강화학습과 딥러닝 사이의 경쟁입니다. 이 경쟁은 지리에서 시작합니다. 토론토에는 힌턴의 딥러닝 연구자들이, 앨버타에는 Richard Sutton(리처드 서튼)의 강화학습 연구자들이 있었고, 서로 거의 말을 섞지 않았습니다. 강화학습 이론가 Csaba Szepesvári는 신경망이 실제로는 작동한다는 것을 인정하면서도, 그것에 대해 아무것도 증명할 수 없기 때문에 쓰지 않겠다고 말합니다. 둘을 결합하고 싶어 하던 제자 Vlad Mnih에게 힌턴은 “그거 해 봤어. 안 돼.”라고 말합니다. Mnih는 런던으로 가서 어쨌든 그것을 해냈고, 그 결과가 Atari 에이전트입니다(6장).

거기서부터 책은 진자가 오가는 모습을 보여 주며, 어느 쪽도 오래 이기게 두지 않습니다.

| 시기 | 옳아 보였던 쪽 | 일어난 일 | 다른 쪽이 기여한 것 |
|---|---|---|---|
| 2006년부터 2012년 | 딥러닝 | 힌턴의 심층 신뢰 신경망, 그다음 그래픽 칩, 그리고 자기 침실에서 학습시킨 Alex Krizhevsky의 ImageNet 우승. 그의 3인 회사는 4,400만 달러에 Google에 팔립니다(4장과 6장) | 아직 없음. 두 진영은 거의 대화하지 않습니다 |
| 2013년 | 처음으로 양쪽 모두 | DeepMind의 Atari 에이전트가 픽셀과 점수만으로 수십 개의 게임을 학습합니다. NIPS 학회장은 Breakout의 터널 장면에서 조용해집니다(6장) | 화면을 보는 합성곱 신경망은 딥러닝에서, Q-러닝과 경험 재생과 추정치를 정직하게 유지하는 두 번째 신경망은 강화학습에서 |
| 2014년부터 2016년 | 강화학습 | AlphaGo가 판후이를 5대 0으로, 이어서 이세돌을 4대 1로 이깁니다. 37수와 함께입니다(9장) | 직관을 대신하는 정책망과 가치망은 딥러닝이며, 먼저 사람의 대국 15만 판으로 학습되었습니다 |
| 2017년 | 강화학습, 요란하게 | AlphaZero가 사람의 기보 없이 오직 자기 대국만으로 바둑, 체스, 쇼기를 학습합니다(12장) | AlphaGo의 두 신경망을 하나로 합칠 만큼 깊은, Microsoft에서 나온 잔차 신경망 |
| 2017년부터 2019년 | 딥러닝 | LeCun(르쿤)은 강화학습을 “케이크 위의 체리”라고 부릅니다. 트랜스포머와 GPT는 레이블 없는 텍스트로 학습하고, 이는 강화학습의 두 가지 장점, 즉 사람의 레이블 없이 학습한다는 점과 자기 데이터를 스스로 만든다는 점을 지워 버립니다(12장) | 사후 학습 전까지는 거의 없음 |
| 2017년부터 2020년 | 어느 쪽도 혼자서는 아님 | 에이전트를 위한 시뮬레이션 자연 세계인 Gaia는 실패합니다. 스타크래프트 II 내장 봇을 상대로 한 AlphaStar의 승률은 트랜스포머 덕분에 10퍼센트에서 84퍼센트로 뛰고, 이어서 강화학습이 랭크 게임의 인간 플레이어들을 상대로 99.8퍼센트까지 끌어올립니다. 순수한 자기 대국만으로 만든 스타크래프트 에이전트는 끝내 제대로 진척되지 못합니다(13장) | 서로가 서로를 필요로 했고, 어느 쪽도 혼자서는 해낼 수 없었습니다 |
| 2018년부터 2020년 | 생물학과 함께한 딥러닝 | AlphaFold는 강화학습 프로젝트로 시작해 강화학습을 대부분 버리면서 이깁니다. Hassabis는 “단백질 접힘은 2인용 게임이 아니다”라고 말합니다(15장) | 첫 AlphaFold의 탐색 단계 하나, 그 뒤로는 없음. 결정적인 아이디어는 진화와 트랜스포머에서 왔습니다 |
| 2022년부터 2023년 | 강화학습으로 길들인 딥러닝 | ChatGPT와 공개되지 않은 DeepMind의 Sparrow는 모두 인간 피드백 기반 강화학습으로 쓸 만해집니다. 기계 강화학습을 Gemini에 들여오려던 실버의 시도는 멈춰 섭니다. 좋은 하이쿠에 대한 보상을 아무도 작성할 수 없기 때문입니다(16장부터 18장) | 게임 점수가 주던 보상을 이제 사람 평가자들이 줍니다 |
| 2024년 이후 | 다시 강화학습 | 정답이 있는 수학과 논리 문제에서 나온 보상이 모델에게 단계별로 추론하는 법을 가르칩니다. OpenAI의 o1, Gemini Flash Thinking, DeepSeek의 R1-Zero입니다. AlphaProof는 수학 올림피아드 은메달을 땁니다. 실버와 서튼은 “경험의 시대(Era of Experience)”를 선언합니다(19장과 20장) | 학습되는 언어 모델은 딥러닝입니다. 이제 강화학습은 그 위에서 돌아가고, 보상 해킹도 마찬가지입니다 |

이 책에 나오는 진짜 돌파구는 모두 두 방법을 결합한 것이며, 어느 순간에 틀려 보이는 쪽은 대개 상대편의 다음 진전을 기다리고 있을 뿐입니다.

## DeepMind가 틀린 것 {#what-deepmind-got-wrong}

맬러비는 공감하는 전기 작가이지만 DeepMind의 실수를 숨기지 않습니다. DeepMind의 2010년 사업 계획서는 언어가 곧 표현된 지능이라는 생각을 잘못된 관념이라고 부르며 일축했습니다. Hassabis는 모델이 세계를 이해하려면 세계 안에서 행동해야 한다고 믿었고, 수년 동안 GPT를 잘못 판단했습니다. 그는 이를 인정합니다. “매번 노스트라다무스일 수는 없다”(13장).

나중에 그는 그 이유를 설명합니다. 그는 인간 행동의 공간이 거의 무한하다고 가정했는데, 알고 보니 인터넷에 있는 약 14조 개의 단어가 그 대부분을 담고 있었습니다. 그는 인터넷을 산업혁명이 우연히 땅속에서 발견한 석탄과 석유에 비유합니다. 아무도 AI를 위해 그것을 만들지 않았고, 그것이 꼭 거기 있어야 할 이유도 없었습니다. 저는 Tim Berners-Lee의 회고록 서평인 [웹이 학습 데이터였다](https://raskell.io/articles/the-web-was-the-training-set/)에서 같은 주장을 반대편에서 펼쳤고, Hassabis는 연구소 안에서 같은 결론에 이릅니다.

다른 실수들은 조직의 실수였습니다. Google은 Xerox PARC의 딜레마에 갇혀 있었습니다. 트랜스포머를 발명했지만 검색을 위태롭게 하지 않고서는 챗봇을 내놓을 수 없었습니다. DeepMind는 Bell Labs의 딜레마에 갇혀 있었습니다. 열린 탐구를 위해 만들어진 문화는 길이 분명해졌을 때 엔지니어링으로 전환하지 못했습니다. DeepMind에는 스물세 개의 행동 규칙과 웹 검색을 갖춘 Sparrow라는 챗봇이 있었고, ChatGPT가 나왔을 때 거의 준비가 끝나 있었지만 끝내 출시되지 않았습니다(16장과 17장).

## 사람들 {#the-people}

Peter Thiel(피터 틸)은 DeepMind가 역발상적이고 싸 보여서 투자했지만 한 번도 그것을 믿지 않았고, 하마터면 자금이 바닥나게 둘 뻔했습니다(7장). Elon Musk(일론 머스크)는 돈을 약속했고, 옷장 안에서 건 전화로 DeepMind를 Tesla나 SpaceX를 위해 사들이려 했으며, DeepMind의 안전 위원회에 참여했으면서도 그 뒤 DeepMind에 맞서 OpenAI를 공동 창업했습니다(8장과 10장). Mark Zuckerberg(마크 저커버그)는 저녁 식사 자리에서 DeepMind를 놓쳤습니다. Hassabis가 그가 AI만큼이나 가상현실과 3D 프린팅에도 들떠 있다는 것을 알아챘기 때문입니다. 그 뒤 그는 DeepMind의 직원들을 빼 오려고 Yann LeCun(얀 르쿤)을 고용했습니다(8장). Larry Page(래리 페이지)는 기계보다 인간을 선호한다는 이유로 머스크를 “종차별주의자”라고 불렀습니다(10장). 주로 경쟁자들의 눈을 통해 그려지는 Sam Altman(샘 올트먼)은 2015년에 인류가 AI를 개발하지 못하게 막는 것은 “거의 확실히 불가능하다”고 쓰고, 그 뒤 누구보다도 그것을 증명하는 데 앞장선 사람으로 등장합니다. Dario Amodei(다리오 아모데이)는 GPT-2의 규모를 키우고 나중에 떠나 Anthropic을 세운 안전 연구자로 나타납니다.

무스타파 술레이만의 이야기는 읽기 가장 힘든 부분입니다. 그는 Hassabis의 남동생의 친구였고 공동 창업자가 되었습니다. NHS를 위한 그의 보건 사업은 훌륭했지만(Streams 앱은 놓친 긴급 신장 질환 사례의 비율을 12.4퍼센트에서 3.3퍼센트로 줄였습니다, 11장) 데이터에 관한 타블로이드 기사 하나로 무너졌습니다. DeepMind를 독립적인 감독 아래 두려는 그의 운동은 3년 동안 이어졌지만 실패했습니다(14장). 그다음에는 괴롭힘 조사, 안식 휴가, Bloomberg의 헤드라인이 이어졌고, 우정은 끝났습니다. 맬러비는 두 사람 모두에게 자기 입장을 말하게 합니다.

## 왜 다스릴 수 없는가 {#why-it-cannot-be-governed}

책을 덮고 나서 저는 AI를 멈출 수 없고, 적어도 지금으로서는 다스릴 수도 없다는 확신이 전보다 강해졌습니다. 이것은 제 결론이지만, 그 근거의 대부분은 이 책이 제공합니다. 업계 안에서 AI를 다스리려던 모든 시도는 실패하고, 정부들은 자발적 약속을 들고 뒤늦게 도착합니다.

- Google이 DeepMind를 인수하면서 합의한 **윤리 및 안전 위원회**는 SpaceX에서 단 한 번 모였습니다. 그 뒤 손님들 가운데 여럿이 경쟁 연구소를 세우거나 그에 자금을 댔습니다. Hassabis는 “우리의 이른바 자문위원들은 사실 우리의 경쟁자였다”고 말합니다(10장).
- DeepMind Health를 감시하던 **독립 패널**은 Google이 보건 팀을 흡수하면서 해체되었습니다(14장).
- Google 측 이사 셋, DeepMind 측 이사 셋, 독립 이사 셋으로 이사회를 꾸린 DeepMind를 위해 3년 동안 협상한 **Project Mario**는 아무것도 남기지 못했습니다. Reid Hoffman(리드 호프먼)은 독립해 나가는 DeepMind에 10억 달러를 약속했지만, 그 일은 일어나지 않았습니다(14장).
- **OpenAI의 비영리 이사회**는 올트먼을 해고했고 닷새를 버텼습니다(18장).
- 2023년의 **일시 중단 서한**에는 천 명이 넘는 사람이 서명했지만, 선도적인 연구소의 수장들은 서명하지 않았습니다. Hassabis의 반론은 설득력이 있습니다. 칩과 데이터 센터가 계속 발전하는 동안 모델에만 유예를 두면, 유예가 끝났을 때 가장 많은 연산 자원을 가진 쪽에게 다음 경주를 넘겨주게 된다는 것입니다(18장).

2025년이 되자 Hassabis는 “안전은 거버넌스 구조의 문제가 아니다”라고, 그리고 할 수 있는 최선은 테이블에 자리를 갖는 것이라고 결론짓습니다. 맬러비는 이를 “안심을 위한 허술한 비계”라고 부르면서도, 그것이 지금 가능한 최선일지도 모른다고 인정합니다. 저는 두 가지 모두에서 그에게 동의합니다.

## 제가 알아본 부분들 {#the-parts-i-recognised}

3장에는 Hassabis의 “무언가를, 무엇이든 겨루어 이기고 싶은 불타는 욕망”에 관한 문장이 있습니다. 그의 첫 게임 스튜디오는 판타지 풋볼과 스타크래프트로 그 욕망을 채우려 했습니다. 동료가 마침내 테이블 축구에서 그를 이겼을 때, 그는 자기 영혼이 불타고 있다고 선언했습니다. 저는 웃었습니다. 그 느낌을 알기 때문입니다. 저는 어릴 때 체스 클럽에서 체스를 두었고, 스타크래프트는 지금도 제가 가장 좋아하는 전략 게임이며, 한국의 브루드 워 씬을 [그에 관한 사이트](https://broodwar.live)를 만들 만큼 가까이 따라가고 있습니다. 그래서 AlphaStar에 관한 장들과, 한국에서 2억 명의 시청자 앞에서 AlphaGo가 이세돌과 맞선 장들은 대부분의 AI 역사와 달리 제게 개인적으로 다가왔습니다.

게임들도 그랬습니다. 저는 Peter Molyneux(피터 몰리뉴)의 *Black & White*와 나중의 *Fable*을 좋아했는데, Hassabis는 *Black & White*의 초기 설계에 참여했습니다. 이 게임은 생명체가 플레이어의 때리기와 쓰다듬기에 따라 자기 규칙을 바꾸는 최초의 게임이었고, 상업 게임 안에 들어간 작은 강화학습 시스템이었기 때문입니다(2장). 그보다 앞서 십 대였던 그는 *Theme Park*의 시뮬레이션 방문객들을 만들었습니다. 그들은 짭짤한 감자튀김을 먹고 목이 마르고 롤러코스터를 타고 속이 메스꺼워졌습니다. 이 책은 그 시뮬레이션 세계들에서 DeepMind가 시뮬레이션 생물권을 시도한 Gaia로, 그리고 Conway(콘웨이)의 생명 게임과 창발에 대한 Hassabis의 매혹으로 곧게 선을 긋습니다. 단순한 부분들을 함께 놓으면 어느 부분에도 없던 성질이 나타난다는 것입니다. 그것은 제가 제 시뮬레이션들에서 계속 되돌아가는 질문입니다. 퐁을 배우는 시뮬레이션 뉴런 배양체인 [Hotaru](https://hotaru.raskell.io)에서부터 [Kishi](https://kishi.raskell.io)의 엔진들까지 그렇습니다. Kishi는 체스, 쇼기, 바둑을 두는데, AlphaZero가 배운 바로 그 세 게임이며, [Learning to Play](https://raskell.io/articles/learning-to-play/) 시리즈는 9장과 12장의 질문들을 작은 규모로 옮긴 제 판본입니다. Hassabis는 영국 쇼기 순위에서 정상에 오르기도 했습니다.

그가 원하는 미래는 제가 원하는 미래와 가깝습니다. 계산으로 풀린 생물학, 일을 하는 로봇과 자동화, 그리고 풍요입니다. 그는 Iain Banks(이언 뱅크스)의 컬처 소설들을 읽으며 자랐고, 7장에서는 업계의 대다수 사람보다 더 멀리 나아갑니다. 그는 보편적 기본소득이 답인지 의심하며, 그가 보편적 기본 제공이라고 부르는 것을 선호합니다. 오늘날 백만장자들이 누리는 수준의 주거, 교육, 의료, 여행을 모든 시민에게 무료로 제공하고, 페라리를 원하는 사람에게는 일이 있는 세상입니다. 20장 끝에서 실버는 AI의 도움을 받을 인간의 권리를 제안합니다. 둘 다 계획은 아니지만, 둘 다 대부분의 정책 논쟁보다 나은 출발점입니다.

## 통제하지 않고 이기기 {#winning-without-controlling}

맬러비는 책 전체에 걸쳐 Hassabis의 두 가지 특성을 놓치지 않는데, 공교롭게도 둘 다 제가 공유하는 특성입니다. 그는 지독하게 경쟁적입니다. 힌턴은 그를 자기보다 더 경쟁적인 사람으로는 유일하게 만나 본 사람이라고 부릅니다. 그리고 그는 2장부터 줄곧 누구도 통제하고 싶지 않다고 고집하며 “사람을 조종하거나 통제하는 것은 정말 나쁘다”고 말합니다. 그는 이 가치를 어머니의 교회에서 찾습니다. 그는 돈에도 관심이 없어 보입니다. 열여덟 살 때 그는 케임브리지에 가기 위해 몰리뉴가 준 50만 파운드짜리 수표를 현금으로 바꾸기를 거절했습니다. DeepMind를 팔 때 그와 술레이만은 가격보다 연구 예산을 먼저 협상했고, 에필로그에서 그는 노벨상을 어떤 액수의 돈과도 바꾸지 않았을 것이라고 말합니다. 그는 10년 된 Audi를 몰고, 그의 유일한 사치는 리버풀 시즌 티켓입니다.

맬러비는 통제에 관한 주장을 시험하고, 증거는 엇갈립니다.

- Elixir에서 Hassabis의 “제다이 마인드 트릭”은 팀에게 정직한 피드백이 나올 수 없을 만큼 영감을 불어넣었습니다. 그는 나중에 “사람들에게 영감을 너무 많이 줄 수도 있다는 걸 누가 생각이나 했겠어요?”라고 말합니다(3장). 한 심리학자는 맬러비에게 카리스마 있는 사람은 아무리 애써도 다른 사람들을 지배하지 않을 수 없다고 말합니다.
- Elixir에서 그는 회사의 절반을 내준다는 것이 통제를 받는다는 뜻이었기 때문에 벤처 캐피털을 거절했습니다. DeepMind에서는 사명을 통제하고 싶었기 때문에 과학 쪽 공동 창업자보다 아홉 배 많은 지분을 가져갔습니다(5장).
- 그는 양방향의 지배를 모두 싫어했습니다. 지배하지도 않으려 했고, 지배당하지도 않으려 했습니다. 술레이만이 그의 방향에 이의를 제기했을 때, 그는 대화로 했어야 할 일을 조사에 맡겼습니다(14장).
- 에필로그에서 맬러비는 그에게 직접 묻습니다. “그는 다른 사람을 통제하고 싶지 않다고 내게 거듭 말했다. 그런데도 그는 사람들을 통제했다.” Hassabis는 자신이 마지못해 권력을 행사한다고 답합니다. 그가 하고 싶은 일들에는 큰 팀이 필요하기 때문입니다.

이기기를 좋아하고 권력을 싫어하는 사람에게 이것은 경고입니다. 첫 번째 특성이 두 번째 특성이 피하고 싶어 하는 권력을 행사해야 하는 상황으로 우리를 데려가기 때문입니다. 권력은 일을 위한 수단으로서는 받아들일 수 있지만 결코 목적이 되어서는 안 된다는 Hassabis의 답은 옳은 답입니다. 하지만 이 책은 그것을 수단으로 남겨 두는 데 얼마나 많은 절제가 필요한지를 보여 줍니다.

## 부족한 점 {#where-it-falls-short}

제가 남겨 둔 반 점은 주로 거리감에 관한 것입니다. 맬러비는 서문에서 증거보다 먼저 Hassabis가 “품위 있고 공익 정신을 지닌” 사람이라는 판정을 내놓습니다. 책이 그 판정을 시험하기는 하지만, 대부분의 논쟁에서 마지막 말은 Hassabis가 합니다. OpenAI와 Anthropic은 바깥에서, 주로 그곳을 떠났거나 그들과 경쟁한 사람들을 통해 보이므로, 올트먼은 거의 전적으로 그의 경쟁자들에 의해 그려집니다. 그리고 맬러비는 사실을 전하는 데 그칠 수 있었던 대목에서 논평을 덧붙입니다. DeepMind Health를 비판한 독립 패널에게는 가혹하고, Gemini 벤치마크를 둘러싼 논쟁에서는 DeepMind에 너그러우며, 한 대목에서는 DeepSeek의 R1-Zero가 “사실상” 자기 인식을 가졌다고 말합니다. 그가 제시하는 증거는 이 주장을 뒷받침하지 않습니다.

마지막 장들은 또한 속보처럼 읽힙니다. 이미 낡은 벤치마크와 제품 이름들을 서둘러 지나가고, 케임브리지와 Elixir와 AlphaGo에 관한 장들이 지닌 차분함이 없습니다. 아직 진행 중인 경주에 관해 2026년에 마무리된 책이라면 피할 수 없는 일일지도 모르고, 그 어느 것도 제 추천을 바꾸지 않습니다.

## 누가 읽어야 하는가 {#who-should-read-it}

지난 15년의 AI를 그것을 만든 사람들을 통해, 그 과정에서 개념들까지 설명받으며 이해하고 싶은 모든 사람입니다. 기술적 배경은 필요 없고, 배경이 있다 해도 그 순서와 비유 때문에 설명들은 여전히 읽을 가치가 있습니다. [제 독서 기록](https://raskell.io/reading/)에 있는 *AI 2027* 같은 전망들과 함께 읽으면 좋습니다. 그것들은 이 일이 어디로 갈 수 있는지를 묘사하고, 이 책은 누가 운전하고 있는지, 왜 그러는지, 그리고 운전하는 사람들을 포함해 누구도 경로를 거의 통제하지 못한다는 것을 보여 줍니다.

책은 펍에 앉은 Hassabis로 끝납니다. 그는 자기 꿈이 이루어지는 것을 지켜보는 일이 놀랍게 느껴져야 하는데 그렇지 않다고, 그 미친 듯한 질주 때문이라고 말합니다. 그래도 그는 여전히 낙관적입니다.