유발 하라리 《넥서스 (Nexus): 정보 네트워크로 보는 인류 역사》 책 요약

https://www.yes24.com/product/goods/134602629

넥서스 - 예스24

유발 하라리의 저서 《넥서스》는 인류가 어떻게 대규모 협력 네트워크를 구축하여 막대한 힘을 얻었는지, 그리고 그 과정에서 정보가 어떤 역할을 해왔는지를 탐구하는 책입니다. 저자는 인간 네트워크의 핵심 문제가 '정보' 문제이며, 특히 진실 추구와 사회 질서 유지 사이의 끊임없는 긴장 관계에 주목합니다. 인공지능(AI)의 등장은 이러한 정보 네트워크에 혁명적인 변화를 가져올 것이며, 이는 인류에게 전례 없는 기회와 위협을 동시에 제시한다고 주장합니다.

 

책의 핵심 주장 및 내용 요약:

1. 정보 네트워크와 인간의 힘:
   • 인간은 정보(특히 신화, 이야기, 상호주관적 현실)를 통해 대규모 협력 네트워크를 구축하여 지구상에서 가장 강력한 종이 되었습니다 ([P10], [P71]).
   • 정보는 단순히 현실을 반영하는 것이 아니라, 사람들을 연결하고 새로운 현실(법, 국가, 화폐 등)을 창조하는 접착제 역할을 합니다 ([P10], [P50], [P67]).
   • 역사적으로 인간 네트워크는 진실을 발견하는 것보다 사회 질서를 유지하는 데 더 중점을 두었으며, 이를 위해 종종 허구와 환상에 의존했습니다 ([P10], [P76-P78]). 진실보다 질서를 우선시하면 강력한 힘을 얻지만, 그 힘을 현명하게 사용하기 어려워집니다 ([P85]).
2. 인간 네트워크의 역사 (1부):
   • 신화와 관료제: 대규모 네트워크 구축에 필수적인 두 기둥입니다. 이야기는 상호주관적 현실을 창조하여 사람들을 묶고([P61-P71]), 문서는 복잡한 행정 시스템(관료제)을 가능하게 하여 세상을 분류하고 통제하지만, 현실을 왜곡할 수도 있습니다 ([P91-P99]).
   • 오류와 자정 장치: 인간은 오류 없는 초인적 지능(신, 성경, AI 등)을 갈망해왔습니다 ([P126]). 종교는 성경 같은 '무오류 기술'을 통해 질서를 보장하려 했지만, 해석의 문제가 발생하며 기관(교회, 랍비)에 힘이 집중되었습니다 ([P130-P150]). 반면 과학은 오류를 인정하고 강력한 자정 장치(회의, 동료 심사, 반증 시도)를 통해 발전하지만, 이는 사회 질서를 유지하는 데는 불리할 수 있습니다 ([P170-P186]).
   • 민주주의와 전체주의: 정보 네트워크 구조로 정의됩니다. 민주주의는 강력한 자정 장치를 갖춘 분산형 네트워크이며([P190-P191]), 전체주의는 자정 장치가 약한 중앙 집중형 네트워크입니다 ([P188]). 민주주의는 선거를 통해 진실이 아닌 다수의 욕구를 조정하며([P198]), 진실 보호를 위해 독립적인 자정 기관(언론, 사법부, 학계)에 의존합니다 ([P201]). 포퓰리즘은 자신들만이 국민을 대표한다고 주장하며 자정 장치를 공격합니다 ([P202-P207]). 기술 발전은 대규모 민주주의와 전체주의 모두를 가능하게 했습니다 ([P234]).
3. 비유기적 네트워크의 등장 - AI (2부):
   • AI는 단순한 도구가 아닌 행위자: AI는 스스로 결정하고 아이디어를 생성하며([P21], [P286], [P554]), 정보를 인간과 다르게 처리하여 '이질적인 지능(Alien Intelligence)'으로 진화하고 있습니다 ([P317]).
   • 새로운 현실 창조: AI는 금융([P320]), 과세([P323]), 사회신용 시스템([P325]) 등 기존 시스템을 근본적으로 바꾸고, '상호 컴퓨터 현실'(예: 검색 순위, AI가 만든 금융 상품)을 만들어 인간 사회에 큰 영향을 미칩니다 ([P408-P413]).
   • 상시 감시와 오류 가능성: AI는 24시간 감시를 가능하게 하여 사생활을 소멸시킬 수 있으며([P348], [P353]), 전체주의 체제에서 강력한 억압 도구가 될 수 있습니다 ([P366]). 동시에 AI는 오류를 범하며, 편향된 데이터나 잘못된 목표 설정(정렬 문제)으로 인해 위험한 결과를 초래할 수 있습니다 ([P367], [P375], [P387-P393], [P418-P425]).
4. 컴퓨터 정치 (3부):
   • 민주주의의 위협과 과제: AI는 감시 강화, 자동화로 인한 고용 불안정, 불투명한 알고리즘 결정 등으로 민주주의의 투명성과 책임성을 약화시킬 수 있습니다 ([P446], [P454], [P466]). 민주주의 보호를 위해 선의, 분권화, 상호주의, 유연성 등의 원칙과 '설명 요구권' 같은 새로운 권리가 필요합니다 ([P439], [P466]). 디지털 무정부 상태(신뢰 붕괴)도 위협입니다 ([P478]).
   • 전체주의의 강화와 위험: AI는 전체주의 정권의 정보 통제와 감시 능력을 극대화할 수 있지만([P492]), AI가 정권의 목표와 다르게 작동하거나(정렬 문제), 아예 권력을 장악할 위험도 존재합니다 ([P495], [P497]).
   • 국제 질서의 변화 - 실리콘 장막: AI는 새로운 제국주의(데이터 식민주의)를 낳거나([P509], [P519]), 세계를 경쟁하는 디지털 진영으로 나누는 '실리콘 장막'을 만들 수 있습니다 ([P509], [P523]). 이는 국제 협력을 어렵게 하고 AI의 위험 통제를 불가능하게 만들 수 있습니다 ([P526]). 따라서 AI 규제를 위한 국제적 신뢰와 협력이 절실합니다 ([P538-P539]).

결론 및 핵심 메시지:

• AI 혁명은 인류 역사상 가장 중대한 정보 혁명일 수 있으며, 정치, 경제, 사회 전반에 걸쳐 근본적인 변화를 초래할 것입니다 ([P554]).
• 정보 네트워크는 본질적으로 진실보다 질서를 우선시하는 경향이 있으며, AI도 이 패턴을 따를 가능성이 높습니다. AI는 오류 없는 존재가 아닙니다 ([P556]).
• 인류의 지혜 부족과 자기 파괴적 경향은 개개인의 문제가 아니라, 강력하지만 현명하지 못한 정보 네트워크 구조에서 비롯됩니다 ([P557]).
• 따라서 가장 중요한 과제는 무오류성 환상을 버리고, AI와 같은 강력한 기술의 오류와 편향을 견제하고 수정할 수 있는 강력한 '자정 장치'를 갖춘 제도(민주적이든 과학적이든)를 구축하는 것입니다 ([P560]).
• 미래는 정해져 있지 않으며, AI라는 '이질적 지능'을 인류와 지구 생명 전체에 긍정적인 방향으로 이끌 책임은 우리에게 있습니다. 역사는 변화 가능성을 보여주며, 현명한 선택을 통해 더 나은 미래를 만들 수 있습니다 ([P547], [P561]).

《넥서스》는 정보, 네트워크, 권력, 진실, 질서라는 키워드를 통해 인간의 과거를 분석하고, AI 시대의 미래를 조망하며, 인류가 직면한 실존적 도전에 대한 깊은 성찰과 책임 있는 행동을 촉구하는 책입니다.

---

[에필로그]

• [P552] 이 책의 목표는 AI혁명에 대한 보다 정확한 역사적 관점을 제공하는 것이다. 이 혁명은 아직 걸음마 단계이고, 중요한 사건이 일어나고 있는 순간에 그 의미를 이해하는 것은 어렵기로 악명 높다. 하지만 시야를 넓혀 지난 수천 년 동안 정보 네트워크가 어떻게 발전해왔는지 살펴 본다면, 지금 우리가 겪고 있는 상황과 관련하여 어떤 통찰을 얻을 수 있다고 생각한다.
• [P553] 한 가지 교훈은, 정보의 가장 중요한 역활은 실존하는 현실을 재현하는 것이 아니라 새로운 네트워크를 짜는 것이기 때문에 새로운 정보 기술은 항상 중대한 역사적 변화를 이끌어내는 촉매가 된다는 것이다. 고대 메소포타미아의 점토판은 세금 납부를 기록함으로써 최초의 도시국가를 건설하는 데 기여했다. 거룩한 책들은 예언가의 비전을 정경화함으로써 새로운 종류의 종교를 전파했다. 신문과 전 신은 대통령과 시민의 말을 빠르게 전파함으로써 대규모 민주주의 와 대규모 전체주의로 가는 문을 열었다. 이렇게 기록되고 유포된 정보는 때로는 사실이었고 자주 틀렸지만, 언제나 많은 사람들 사이에서 새로운 연결을 만들어냈다. 우리는 메소포타미아에 건설된 최초의 도시국가, 기독교의 확산, 미국 독립혁명, 볼셰비키 혁명 같은 역사적 혁명들을 정치적, 이념적, 경제적으로 해석하는 데 익숙하다. 하지만 더 깊은 이해를 얻기 위해서는 이런 혁명들을 정보 흐름의 혁명으로 볼 필요가 있다. 기독 교는 신화와 전례의 많은 부분에서 그리스 다신교와는 분명히 달랐지만, 한 권의 거룩한 책과 그것을 해석하는 하나의 기관에 중요성을 부여했다는 점에서도 달랐다.
• [P554] 이런 역사적 교훈은 우리에게 현재의 정치 논쟁에서 AI 혁명에 더 주목해야 할 필요를 강하게 일깨워준다. AI의 발명은 전신이나 인쇄기 심지어는 문자의 발명보다 중대한 사건일 수 있다. AI는 스스로 결정을 내리고 아이디어를 생성할 수 있는 최초의 기술이기 때문이다. 인쇄기와 양피지 두루마리가 사람들을 연결하는 새로운 수단을 제공했다면, AI는 주체성을 지닌 우리 정보 네트워크의 정식 구성원이다. 앞으로 군대부터 종교까지 모든 네트워크에는 인간과는 다른 방식으로 데이터를 처리하는 수백만 개체의 새로운 AI 구성원이 추가될 것이다. 이들은 이질적인 결정과 이질적인 아이디어, 즉 인간이 떠올릴 수 없는 결정과 아이디어를 도출할 것이다. 많은 이질적인 주체들이 추가되면 군대, 종교, 시장, 국가의 형태가 달라질 수밖에 없다. 정치, 경제, 사회 시스템이 통째로 무너질지도 모르고, 그럴 경우 새로운 시스템이 그 자리를 대신할 것이다. 이는 기술에는 관심이 없고 가장 중요한 정치적 문제가 민주주의의 생존이나 부의 공정한 분배라고 생각하는 사람들도 AI에 적극적인 관심을 가져야 하는 이유다. 
• [P556] 정보의 주된 임무는 현실을 재현하는 것이 아니라, 구성원을 연결하는 것이고, 그동안의 역사에서 정보 네트워크는 대체로 진실보다 질서를 우선시했다. AI가 기존의 패턴을 깨고 진실을 우선시할 것이라고 기대할 이유는 업다. AI는 무오류의 존재가 아니다.
• [P556] 포퓰리스트들은 권력이 유일한 현실이고, 인간의 모든 상호작용은 권력투쟁이며, 정보는 단지 적을 항복시키기 위한 무기에 불과하다고 말한다. 그러나 이제껏 한 번도 그랬던 적이 없으며, AI가 그렇게 만들 것이라고 생각할 이유도 없다. 많은 정보 네트워크가 진실보다 질서를 우선시하지만, 진실을 완전히 무시한다면 어떤 네트워크도 살아남을 수 없다. 개인으로서 우리는 권력에만 관심을 갖기보다는 진실에 진심으로 관심이 있다. 삶의 진실을 알고 싶어 하지 않는 사람이 있을까?
• [P557] 인간은 진실에 관심이 있으므로 적어도 일부 갈등은 서로 대화하고, 실수를 인정하고, 새로운 아이디어를 수용하고, 우리가 믿는 이야기를 수정함으로써 평화롭게 해결할 기회가 있다. 이것이 바로 민주주의 네트워크와 과학 기관의 기본 전제다. 또한 이 책을 쓰게 된 기본적인 동기이기도 했다. 
• [P557] 우리가 지혜로운 사람이라면 우리는 왜 이토록 자기 파괴적 일까? 우리는 지구상에서 가장 영리한 동물인 동시에 가장 어리석은 동물이다. 이 책에서 나는 그것이 인간 본성 탓이 아니라 정보 네트워크 탓이라고 주장했다. 진실보다 질서를 우선시한 탓에 인간의 정보 네트워크들은 엄청난 힘을 만들어냈지만 지혜는 거의 만들어내지 못했다.
• [P559] 따라서 네트워크가 막강해질수록 네트워크의 자정 장치가 중요해진다. 우리는 막대한 힘을 휘두르고 귀한 사치를 누리지만 우리 손으로 만든 창조물에 쉽게 조종당한다. 게다가 우리가 위험을 알아차릴 때는 너무 늦을지도 모른다. 이 책 전체에 결쳐 살펴보았듯이, 자정 장치를 무력화하는 것은 여러 부정적인 결과과 따르는 일이지만 그럼에도 불구하고 정치적으로 유리한 전략이 될 수 있다.        
• [P560] 우리가 지혜로운 네트워크를 구축하기 위해서는, 정보에 대한 순진한 관점과 포퓰리즘적 관점을 버리고, 무오류성이라는 환상에서 벗어나 강력한 자정 장치를 갖춘 제도를 구축하는 힘들고 다서 재미없는 일에 전념해야 한다. 이것이 이 책의 가장 중요한 메시지가 아닐까 싶다. 
• [P561] 자기 수정을 통한 개선은 인류 역사보다 훨씬 오래된 원리다. 그것은 자연의 기본 원리요, 유기체의 근본 바탕이다. 최초의 유기체는 어떤 오류도 범하지 않는 천재나 신에 의해 창조되지 않았으며, 복잡한 시행착오 과정을 통해 출현했다. 40억 년에 걸쳐 점점 복잡해진 돌연변이 메커니즘과 자기 수정 장치들이 나무, 공룡, 정글, 그 리고 마침내 인간을 탄생시켰다. 이제 우리는 유기체가 아닌 이질 적인 종류의 지능을 불러냈고, 이 지능은 우리의 통제력을 벗어나 우리 종뿐만 아니라 수많은 다른 생명체들까지 위험에 빠뜨릴지도 모른다. 앞으로 우리가 어떤 결정을 내리느냐에 따라 이 낯선 지능을 소환한 것이 치명적인 실수가 될지, 아니면 생명 진화의 희망찬 새 장을 여는 시작이 될지 판가름 날 것이다.  

---

[내 생각]

유발하라리의 이야기 서사 방식은 정말 매혹적이다.

한번 읽다보면 시간이 언제 지나간지 모르게 시간이 지나있다.

하지만 이 책은 너무 두꺼웠다. 다른 책을 읽고 싶은 마음에 역사적으로 설명하면서 이해시키는 부분은 나에게 중요하지 않다고 생각하고 결정적으로 유발하라리가 전달 하고자 하는 말을 정리하는 방식으로 책을 읽게 되었던것 같다.

 

[옮긴이의 말] 에서 유발 하라리가 이야기를 전달하는 방식이 사람들에게 매력적으로 다가오는 이유가 마음에 들었다.

1. 기술이 급속도로 발전하며 그동안 철학적 사치였던 질문들(인간이란 무엇인가)이 현실로 다가왔기 때문
2. 자신의 핵심 아이디어가 단순하는 점
3. 바로 이야기가 중요하다는 생각. 우리가 믿는 이야기가 우리가 만드는 세상에 영향을 미치기 때문 

요즘 자꾸 포퓰리즘과 정치적 양극화 현상이 유튜브 및 SNS의 알고리즘이 인간의 편향성에 불을 붙이는 것 같아서 자꾸 이런 책들이 눈에 들어온다. 위 책의 내용들이 현실 처럼 다가와서 마음이 아프다.

 

대화, 숙론, 타인의 이해, 자정 장치, 자기 개선, 자아 성찰 등 국민들이 잘 살수 있는 나라가 되었으면 좋겠다.