1. 유발 하라리의 사피엔스, 호모데우스, 넥서스까지!
한줄요약: 유발 하라리의 '사피엔스', '호모데우스', '넥서스'에 대한 분석
| 시간 | 요약 |
|---|---|
| 00:02 | 하라리는 역사적 스토리텔링의 대가로 평가됨. |
| 01:48 | '사피엔스'는 인류의 역사와 존재 이유를 탐구함. |
| 08:47 | 전문 연구자들은 책의 단순화에 불만을 표함. |
| 10:03 | 농업 혁명과 과학 혁명에 대한 다양한 견해가 존재함. |
| 12:02 | 데이터 처리 장치로서의 인간의 역할을 논의함. |
| 14:48 | '넥서스'는 AI와 정보 네트워크의 관계를 탐구함. |
| 15:02 | 정보의 생산과 유통이 인류의 진화를 이끌었음. |
| 15:18 | AI 시대의 도래가 인류의 미래를 바꿀 것임. |
| 17:18 | '호모데우스'는 인간 소외 문제를 다룸. |
| 18:33 | AI 에이전트의 자율성이 문제로 지적됨. |
| 20:47 | 민주주의 붕괴 위험이 존재함. |
| 21:48 | 유발 하라리는 인류의 미래에 대한 심각한 경고를 전달함. |
2. 스크립트
첫 번째 유발 하라리 전 세계에 알린 책이 바로 '사피엔스'입니다. 처음에 저자를 보고 이분이 누군가 생각해보니 약간 듣보잡이었던 이스라엘에서 활동하는 분이고, 영국 옥스포드에서 중세 전쟁사로 학위를 받은 역사학자였어요. 전 세계 지식에는 전혀 알려지지 않은 분이었죠. 안녕하세요, 장대익입니다. 여러분, 정말 오랜만에 뵙습니다.2.1. 하라리는 역사적 스토리텔링의 대가로 평가됨.
그동안 강연 영상으로 여러분들을 만나봤긴 했는데요, 이렇게 또 원래 제가 하던 장소에서 다시 책을 가지고 하드커버를 하게 돼서 반갑게 생각합니다.. 자, 오늘은 여러분, 유발 하라리를 좋아하시나요? 유발 하라리가 최근에 '렉서스'라는 책을 가지고 6년 만에 나왔는데요, 유발 하라리의 독자들이 한국에도 굉장히 많은 걸로 알고 있습니다. 저도 즐겨 읽었는데요, 저는 그동안 유발 하라리의 '사피엔스', '호모 데우스'를 읽었고, 이번에 '넥서스' 책이 나왔을 때 이 책을 또 읽게 됐습니다. 그래서 많은 책들이 있지만 이 세 권은 유발 하라리의 삼부작이라고 생각이 들어서, 우리 독자들을 위해 유발 하라리의 주요 저작인 이 세 권을 간단하게 소개해 드리고, 이 세 권에 전반적으로 흐르는 유발 하라리의 스토리텔링에 대한 약간의 비판적인 검토를 해보는 시간을 가지려고 합니다. 그래서 제 의견도 많이 들어갈 거라고 생각합니다.. 자, 첫 번째 유발 하라리 전 세계에 알린 책이 바로 '사피엔스'입니다. 저는 이 책을 미국의 안식년 동안 서점에서 본 적이 있어요. 처음에 저자를 보고 이분이 누군가 생각해보니 약간 듣보잡이었던 이스라엘에서 활동하는 분이고, 영국 옥스포드에서 중세 전쟁사로 학위를 받은 역사학자였어요. 전 세계 지식에는 전혀 알려지지 않은 분이었죠. 그래서 그 책을 읽어보고 '와, 되게 재밌다'라는 생각을 했는데, 이 책은 한마디로 말하면 어떻게 우리 사피엔스가 지구를 지배하는 종이 되었는가 하는 겁니다. 도대체 무슨 일이 벌어졌기에 사피엔스가 이렇게 지구를 지배하는 종이 되었는가 하는 질문에서 시작해요.. 이 질문에 대한 유발 하라리의 대답은 아주 도식적입니다. 역사학자스럽지 않게 매우 도식적으로 설명하고 있는데, 세 가지 혁명이 등장합니다.
2.2. '사피엔스'는 인류의 역사와 존재 이유를 탐구함.
첫 번째는 대략 7만 년 전쯤에 있었던 인지 혁명입니다. 인지 혁명은 한마디로 말하면 우리가 허구라는 것을 발명하게 됐다는 것입니다. 픽션이죠. 그런데 그 발명할 수 있었던 것은 언어의 탄생입니다. 사피엔스의 역사에서 언어가 생겨나기 시작하면서, 물론 그때는 구전 언어였죠. 구전 언어가 등장하기 시작하면서 사피엔스가 다른 종들과 달리 이 허구를 만들게 되었고, 또 정보를 더 체계적으로 쌓고 전달하는 데 엄청나게 효율적인 시스템을 진화시켰습니다. 그래서 다른 종들과 달리 커다란 집단을 만들게 되었죠. 자연 상태로 가면 대략 침팬지와 비교해 보면 한 150명 정도가 한 그룹인데요, 허구라고 하는 것은 쉽게 말하면 종교, 대표적인 게 화폐, 그다음에 국가 등이 아마 허구에 해당되는 상상의 공동체를 만들어내는 픽션일 텐데요. 사람들이 그런 화폐 시스템을 다 믿고, 국가라는 이념을 믿고, 특정한 종교의 어떤 신을 믿고, 그게 진짜인지 가짜인지 이런 문제가 아니라 그런 픽션, 그런 스토리텔링을 하게 됐다는 거죠. 그런 스토리를 공유하고 있는 집단은 그렇지 못한 집단보다 훨씬 클 수 있다는 것입니다. 그런 것들을 한 7만 년 전쯤에 인류가 처음으로 발명했다는 겁니다.. 그 이후로 농업 혁명을 거치고 과학 혁명을 거치면서 자연계를 잘 이해하고 통제할 수 있는 존재가 되었다고 하는 게 사피엔스의 전체적인 흐름입니다. 물론 농업 혁명이 사피엔스에게 가장 재미있었던 측면인데, 농업 혁명이 혁명이든 하지만 인류 역사상 최대 사기극이다 이런 표현을 씁니다. 그래서 보통 농사를 지어서 우리가 발전하게 됐던 이런 스토리를 그리는데, 유발 하라리가 농업이 탄생한 것에 대한 여러 가지 연구 성과들을 자기 나름대로 스토리텔링을 하는 거죠. 농업은 왜 사기극이냐면, 수렵 채집으로 근근히 먹고 살았지만, 어쨌든 더 기골드 장대했기 때문입니다. 여러 가지를 그냥 먹고 다니니까요.
농업을 하면서 사실 특정한 작물들을 우리가 길들이게 된 거죠. 밀, 수수, 벽, 옥수수 이런 것들이죠. 이런 것들을 길들이게 되면서 편식이 들어오게 되었고, 또 그래서 영양 상태가 안 좋아지게 됐습니다. 그렇지만 또 한편으로 그동안 수렵 채집하면서 근근히 살긴 했지만, 그렇게 심한 노동이라고 할 수 없었다는 거예요. 농경을 하게 되면서 우리가 밀을 길들인 게 아니라 밀에 의해 길들여졌다는 표현을 씁니다. 우리가 허리가 거의 부러질 지경이고, 하루 종일 노동을 해야 겨우 먹고 살 수 있는 그런 환경이 되었다는 변화가 생겼다는 것입니다. 물론 농경이 발전하게 되면서 이제 자연 세계를 잘 예측하게 되고, 잘 될 때는 그걸 축적하게 되고, 그러면서 잉여가 생기게 됩니다.. 사회 체계가 만들어지고 분업이 생기게 되면서, 또 다른 변화가 있지만, 근본적으로 인류의 역사에서 수렵 채집 사회에서 농경으로 넘어가는 것은 사실 꼭 그래야만 했는가, 그게 가장 바람직한 경로였다고 하는 것에 대해서는 역사적으로 의미를 갈 수 있다는 거예요. 그 부분이 되게 재미있었습니다. 그런데 이제 인구가 늘어나는 데는 결정적인 역할을 했죠. 그게 보통 잉여가 생겨서가 아니라 이유식을 만들게 됐죠. 원래 이유식이 없었을 때는 젖을 물려야 하니까 한 5년 정도 터울이 있었는데, 이유식을 만들게 되면서 사실 그 터울이 짧아진 거죠.
그래서 인구가 폭발적으로 늘어나는데, 농경이 하는 큰 변화가 굉장히 중요한 역할을 했다, 이런 측면이 있습니다. 그러니까 사피엔스가 지구에 이렇게 창궐하게 된 것에 대한 농업의 역할이 분명히 있는 거예요. 하지만 잃어버린 것도 굉장히 많았다고 하는 거죠. 이 부분에서 되게 재미있는 부분이 있어서 제가 한번 읽어 드리면, 평균적인 농부는 평균적인 수렵 채집 사회보다 더 열심히 일했으며, 그 대가로 더 열악한 식사를 했다. 농업 혁명은 역사상 최대의 사기였다. 그것은 누구의 책임이었다? 왕이나 사제, 상인은 아니었다. 범위는 한 줌의 식량, 즉 밀과 쌀과 감자였다. 이들 식물이 호모 사피엔스를 길들였습니다. 호모 사피엔스가 이들을 길들인 게 아니었다. 이런 표현을 해요. 보통 우리가 밀을 길들였다고 하고 쌀을 길들였다고 하잖아요. 그런데 유발 하라리의 관점에서는 밀을 더 많이 만들기 위해서 농부를 엄청나게 희생시켰다는 거예요.
이 대목이 너무 재밌어서 제가 사실 유발 하라리의 '사피엔스' 책을 내고, 유발 하라리가 한국을 처음 방문했던 때가 있었습니다. 그때 매일경제 신문에서 유발 하라리와 대담을 해 달라고 해서 제가 이제 같이 만난 적이 있었어요. 원래 30분만 시간이 주어졌는데, 얘기하다 보니까 한 시간 반이 됐던 기억이 납니다. 그때 제가 질문했던 게 이거예요. 이 부분이 내가 제일 재밌었다. 무슨 허구를 만들고 그게 우리를 지배했다. 우리가 농업이라는 혁명을 만들어 냈지만 결국에는 인간이 그 작물에 길들여진 것이다. 이런 표현이 너무 재밌었다. 그런데 그거는 혹시 당연히 알겠지만 리처드 도킨스의 '이기적 유전자'에서 나오는 밀이라는 새로운 복제자, 그 얘기랑 사실 똑같은 얘기다. 그랬더니 그거에 대해서는 인정을 하지 않더라고요. 그런데 사실 이 책에 어디에도 밀에 대한 얘기가 없어요. 그러니까 우리가 만들어 낸 어떤 우리의 인공물이 우리의 모방이나 심리적인 작용에 의해서 계속 사람들이 퍼지고, 그래서 그것이 다시 우리를 숙주로 이용하는 어떤 또 다른 복제자의 세계가 있는데, 결국 밀에 대한 얘기 이런 게 다 복제자에 대한 얘기거든요.
우리가 주인인 것처럼 보이지만 사실은 밀에 의해 우리를 더 많은 밀을 만들기 위해서 농부를 앉는 직업을 만들어낸 것이다. 라고 하는 그런 개념이기 때문에 사실은 독재자의 관점이라고 얘기할 수도 있습니다. 이 책은 어쨌든 어떻게 책명 역사에서 지난 몇십 년 사이에 거의 존재감이 없던 한 해의 잔가지 같은 종이 어떻게 지구를 지배하게 되었는가, 허구를 만들었다. 농업이라는 걸 발전시켰다. 그리고 과학 행위를 통해서 자연을 통제하게 됐다. 그리고 어떻게 보면 고문하게 됐다. 그 새로운 어떤 세계를 만들게 됐다. 이렇게 얘기할 수 있겠죠.
2.3. 전문 연구자들은 책의 단순화에 불만을 표함.
그게 사피엔스의 중심 주장입니다. 이 책이 왜 사람들에게 이렇게 전 세계 밀리언 셀러가 되었는지, 아마 리처드 도킨스의 책보다 더 많이 퍼졌을 수도 있겠어요. 이기적 유전자보다. 그럼 제가 확인해 봐야겠지만, 왜 그런가를 살펴보면, 이거는 사실 운이 좋았던 측면이 있습니다. 그동안 지식의 세계에서 지식이 세부화되다 보니까 역사도 마찬가지였어요. 역사도 예를 들어서 되게 좁은 영역에 아주 디테일한 역사들을 기술했지, 우리 일반 사람들이 궁금해하는 질문들, 도대체 우리가 어떻게 이렇게 지구를 지배하는 종이 되었을까, 어떻게 여기까지 오게 됐을까 하는 큰 담론에 대해서 역사학자들은 전혀 얘기하지 않았어요. 최근에 어떤 좁은 영역의 역사들에 대해서 비판하는 그런 움직임들이 있었죠. 일종의 거대사, 혹은 빅 히스토리라고 하는 흐름이 있었습니다. 그런 흐름들이 사람들에게 어필하고 있었던 시점이었죠. 그런데 그 누구도 유발 하라리만큼 그 스토리텔링을 기가 막히게 한 사람이 없었던 거예요. 제가 보기엔 그렇습니다. 그런데 각각 예를 들면 농업 혁명, 과학 혁명이라고 하는 그 각각의 주제들에 대한 전문 연구자들이 보면 아마 이 책에 대해서 불만이 많을 거예요.
2.4. 농업 혁명과 과학 혁명에 대한 다양한 견해가 존재함.
왜냐하면 다양한 견해들이 있음에도 불구하고 그거를 굉장히 단순화시켰거든요. 그러니까 일종의 패치들을 만들었는데, 그 패치를 연결해 보니까 기가 막힌 예술 작품이 된 거예요. 멀리서 보니까 되게 아름다운 예술 작품이 된 것이죠.. 어떻게 보면 일반 사람들이 우리가 도대체 어떤 존재인지, 역사 속에서 하는 이 큰 물음에 대해서 역사학자로서 되게 흥미로운 스토리텔링을 한 거라고 할 수 있겠죠. 과학도 들어와 있고, 인력도 들어와 있고, 굉장히 많은 지식의 앵글에서 그 대답에 대해서 들어와 있지만, 그걸 잘 엮어서 멋진 작품을 만들어 낸 그런 식의 시도를 한 사람이라고 할 수 있겠습니다. 그래서 전문 학자들은 이 책에 대해서 되게 양가적입니다. 저런 큰 책을 한번 쓰고 싶은데라는 생각도 있고, 또 한편으로는 각각의 주장들을 보면 동의할 수 없는 전문 연구자들도 많다는 거죠. 예를 들면, 네안데르탈인이 왜 멸종되는가에 대해서도, 책은 사피엔스는 픽션을 만들었지만, 그들은 협력을 하지 못했고 우리는 협력을 했다, 이런 식으로 얘기를 하는데 꼭 그렇지만은 않습니다. 네안데르탈인이 멸종한 것에 대해서 기후 위기를 견디지 못해서 결국 멸종했다는 입장도 굉장히 중요한 입장 중 하나입니다. 그러니까 꼭 그런 특별한 이유가 있는 게 아니라 우연히 불행을 당한 거죠. 재앙을 당한 거죠. 그런 식의 입장도 가능하고요. 과학 혁명에 대한 연구를 하는 사람도 굉장히 많습니다만, 여기서 말하는 연구의 스토리는 굉장히 단순하죠. 농업에 대해서도 다양한 견해가 있을 수 있습니다. 그래서 그런 면에서 불만이 있을 수 있지만, 어쨌든 그 누구도 이런 식의 큰 범위의 지식들을 연결해서 우리가 궁금한, 도대체 우리는 왜 여기 있는 거야라고 하는 질문에 답을 하지 않았기 때문에, 그 지점을 우리 유발 하라리가 잘 파고들어서 이런 '사피엔스'라는 기가 막힌 책을 쓰게 됐다고 생각합니다. 저도 여기 보시면 대답하느라고 사인도 받았어요.
2.5. 데이터 처리 장치로서의 인간의 역할을 논의함.
어쨌든 훌륭한 스토리텔러라고 생각합니다.. 그다음 두 번째 책이 '호모데우스'입니다. 이 책은 미래의 역사라고 되어 있어요. 그리고 '호모데우스'는 약간 종교적인 뜻을 담고 있잖아요. 신이 되고자 하는 인간, 뭐 이런 뜻이겠죠. 이 책은 한마디로 말하면 미래에 대한 어떤 암울한 시나리오를 그리고 있습니다. 역사학자가 어떻게 미래를 그렇게 그릴 수 있냐고 하지만, 물론 역사학자는 한 300년 전의 역사, 어떻게 신적인 세계관이 유신론적 세계관이 지배적인 세계에서 지난 300년 전쯤에 어떻게 인본주의가 들어오게 됐고, 그 인본주의가 결국에는 우리 기술과 만나서 어떻게 이 책에서 얘기하는 데이터교, 데이터 이즘이라고 하는 세계를 만들고 있는가, 그것이 갖고 있는 인간 소외는 무엇인가라고 하는 책이에요. 이 책을 읽었을 때 어떤 역사의 거대한 흐름 같은 것을 이 사람이 발견하려고 하는 것이라는 생각을 하게 됐어요. 가령 인본주의란 건 여러분 아시죠? 인본주의란 것은 신의 자리에 인간이 이제 우리 모든 삶의 중심에 들어오는, 그게 과학 혁명도 거치고, 또 르네상스를 거치고, 과학 혁명을 거치고 그렇게 해서 들어오는 인류의 역사의 큰 단면인데, 그런 어떤 인본주의가 어떻게 최근에 우리 인간이 결국에는 이 역사에서 데이터가 되게 중요하고, 또 인간도 그 데이터를 처리하는 일종의 장치에 불과하고, 그래서 그 데이터의 관점에서 보면 생명 역사를 데이터의 흐름으로 보는 거죠. 그렇게 본다고 하면 데이터 처리 장치로서의 인간도 결국에는 하나의 도구라는 겁니다. 그래서 그 처리를 더 잘할 수 있는 그런 도구가 있을까? 이 사람이 보기에는 AI 같은 것이 그런 것이 될 수 있다고 보는 거예요. 물론 지금처럼 챗GPT가 나온 이유로 어마어마하게 발전하고 있잖아요. 그 전에 쓰여진 책이지만 약간의 예언서 비슷하게 읽힐 수 있는 책이었어요. 그러니까 데이터 이즘, 데이터 교라는 것이 되게 중요하게 될 것이고, 그런 식의 생각들을 사람들이 하게 될 것이라는 겁니다. 그러니까 인본주의에 해당되는 만큼의 일종의 이론이죠. 그래서 사람들은 더 정보 처리 잘하는 쪽에 좋은 점수를 줄 것이고, 그것들을 신뢰하게 될 것이고, 그렇다면 우리도 그 중에 하나로 전락하게 될 것이라는 일종의 예언을 하고 있어요.
그래서 이런 얘기를 합니다. 데이터 교는 뭐냐면 우주가 데이터의 흐름으로 이루어져 있고, 어떤 현상이나 실제의 가치는 데이터 처리에 어떤 기여를 하는지에 따라서 결정된다, 이런 식으로 데이터 교를 이야기하고 있습니다. 18세기 인본주의가 신을 몰아내고 그 자리에 인간을 밀어 넣었다면, 21세기에는 데이터가 그 인간의 자리를 밀어 넣게 만드는 그런 세계가 될 것이라고 얘기하고 있어요. 자, 그러면서 이제 예를 들면 페이스북에 우리가 좋아요를 한 500번 눌렀을 때, 우리보다 더 우리 자신을 잘 알고, 그다음에 구글은 우리를 더 잘 알죠. 뭐 이런 얘기들을 하고 있어요. 그러니까 AI가 본격적으로 발달하기 전에 이 사람은 알고리즘의 세계를 본 것 같아요. 이 알고리즘의 세계가 결국에는 우리의 의사결정보다 더 정교해진다면,. 우리도 하나의 데이터 노드에 불가하게 될 것이라는 얘기를 하고 있습니다.
2.6. '넥서스'는 AI와 정보 네트워크의 관계를 탐구함.
그러면서 이건 하나의 시나리오로 결정된 것을 얘기하는 건 아니다. 우리가 세계를 어떻게 인식하고 만들어 가는가에 따라서 달라질 수 있다, 이렇게 얘기하고 있습니다. 저는 이 책이 '렉서스'라는 최근에 나온 책이 하나의 브릿지 역할을 한다고 생각해요. 이 '사피엔스'가 인간이 어떻게 이렇게 성공적으로 이 세상을 지배하는 종이 되었는가, 결국 정보를 어떻게 처리하는가, 어떻게 정보를 공유하고, 어떻게 정보를 만들어내고 유통하는 것에 있어서 아주 특이한 시스템을 진화시킨 유일한 종이다라고 하는 것이 '사피엔스'라고 한다면, '호모데우스'는 그걸 잘해서 여기까지 왔는데, 알고리즘이 그걸 더 잘하는 것이 아닌가, 혹시 우리가 그 알고리즘의 세계에서 인간 알고리즘으로, 유기체 알고리즘으로 거기에 하나의 도구로서 전락하는 것이 아닌가라는 우려를 표현하고 있다고 합니다.
2.7. 정보의 생산과 유통이 인류의 진화를 이끌었음.
그러면 이 '넥서스'라는 책은 여기 부제를 보시면 '석기 시대부터 AI까지 정보 네트워크로 보는 인류 역사'에 대해 정보의 네트워크를 분석해 보니까 사실은 '호모데우스'에서 그렸던 그 무한 미래가 가까이 온 것 같다는 조금 더 확신범 같은 그런 얘기를 하고 있습니다. 이 '넥서스'는 정보 네트워크의 흐름으로서 역사를 지금 제 역사의 단계들을 말하고 있어요. 예를 들면 금속 활자가 발명되고, 전신 기술이 발전되고, 인터넷이 발전되고, 이게 다 정보를 어떤 식으로 생산하고 공유하고 유통하는 데 대한 그런 발명이 아닙니까? 이런 역사가 사실은 인류의 굉장히 중요한 흐름들을 바꿔 놓았다는 얘기를 하고 있어요. 그게 일단 사람이 갖고 있는 정보의 네트워크 관점에서 역사를 바라보려는 시각인데, 이분이 이 책을 쓰게 된 이유는 뭐냐면 본격적으로 AI 얘기를 합니다.
2.8. AI 시대의 도래가 인류의 미래를 바꿀 것임.
AI 시대가 도래했는데, 이제 그 정보를 생산하고 공유하고 전달하는 과정이 이제는 완전히 달라지게 됐다는 거예요. 그동안은 사실 우리가 주체였던, 우리가 가짜 뉴스를 만들어도 우리가 가짜 뉴스를 만들고, 루머를 만들어도 우리가 루머를 만들고, 마녀 사냥에 대한 책을 써도 우리가 만들어낸 활자 시스템을 활용해서 그런 스토리를 만들었죠. 하지만 이제 우리가 인간이 아닌 비인간 에이전트, 넌 휴먼 에이전트라는, 혹은 AI 에이전트, AI 행위자, 어느 정도의 자율성을 갖고 있는 행위자가 등장하기 시작하면서 정보의 네트워크를 우리가 다른 방식으로 보게 되었다는 겁니다. 우리가 만드는 게 아니라 비인간 행위자가 만들어낸 가짜 뉴스에 우리가 속고, 우리가 그들을 진짜처럼 인식하게 되고, 그래서 민주주의도 이 책의 핵심 중 하나는 민주주의도 결국에는 대화를 통해서 만들어지는 것이고, 그 대화를 가로막는 것이 바로 비인간 행위자들이 만들어낸 알고리즘이고, 그리고 그 알고리즘이 만들어낸 페이크, 가짜 인간일 수도 있고요, 가짜 정보는 당연히 포함되어 있고, 그래서 그런 흐름들이 이제 완전히 다른 세계로 들어왔다는 겁니다. 일종의 단절점이 있는 거예요. 우리가 정보 네트워크를 이렇게 잘 언어를 통해서 어느 순간에 활자를 발명하고, 또 인터넷을 발명하고, 무선 전신을 발명하고, 이런 방법을 통해서 우리가 어떤 큰 집단을 이루고, 세상도 지배하게 되고, 소통도 하게 됐고, 그래서 민주주의도 더 꽃피우게 됐는데, 이제 완전히 그런 걸 만들었던 존재가 인간만이 아니라 다른 존재가 들어오게 됐다는 거예요. 굉장히 심각한 문제라는 겁니다. 그럼에도 불구하고 많은 사람들이 그걸 아, 우리 편리하니까, 우리의 선호를 너무나 잘 알아주니까, 이런 이유만으로 그것들을 너무 무방비 상태에서 받아들이기 시작했다는 겁니다. 이 책은 되게 심각한 얘기들이 많아요. 그래서 우리가 잘못하다가는 우리가 진짜 지구를 물려받을 존재가 우리가 아닐 수도 있겠다라고 하는 얘기를 하고 있죠. 저는 '호모데우스'가 어떻게 보면 되게 묵시록적이었다고 생각이 들었는데, 이 책은 되게 현실감이 있으면서도 지금 작금의 기술 발전에 대해서 잠깐이라도 모라토리엄을 선언하고 한번 고민해 보자고 하는 주제를 던지는 것이라고 생각이 들었어요. 이런 주장이 '커밍 웨이브'에서 무스타파 슐레이만이 했던 얘기와도 연관이 되었고, 우리가 다뤘지만 우리의 손을 떠나버릴 가능성이 있다라고 하면서 이제 그걸 어떻게 규제할 것인가가 그 책의 주제였다면 비슷한 문제의식을 갖고 있어요.
2.9. '호모데우스'는 인간 소외 문제를 다룸.
그런데 이분은 역사학자이기 때문에 어떻게 우리가 정보를 잘 네트워크를 만들어서 여기까지 오게 됐고, 그 과정에서 어떻게 정보의 조작들이 있었고, 그래서 우리가 인류가 어떤 큰 곤란을 겪었고, 그런데 이제는 그 곤란이 우리가 만들어낸 것이 아니라 AI가 만들어내는 것이라는 점이 굉장히 심각한 문제라고 하면서 AI 에이전트라는 표현을 쓰고 있습니다.. 트라는 자율성을 가진 존재입니다. 자율성을 가진 존재가 등장하게 되면 사실 굉장히 심각한 문제가 발생할 수 있습니다. 그 자율성을 가진 AI가 아는 것은 스스로 하는 것입니다. 그러니까 우리가 지금 AI를 어떻게 사용하냐면, '이걸 해 줘'라고 요청했을 때, 프롬프트를 통해 시작하게 되잖아요. 그런데 만약 AI가 스스로 판단을 해서 뭔가를 한다고 생각해 보세요. 제 계좌를 보고 '이 계좌가 왜 이런 식으로 운영되고 있지? 주식을 이거 사면 더 효율적인데'라고 생각하며 마음대로 주식을 산다고 가정해 보세요. 지금은 그런 일을 할 수 있는 건 저밖에 없잖아요.
2.10. AI 에이전트의 자율성이 문제로 지적됨.
그런데 만약 AI가 제 주식 계좌와 연동해서 그런 일을 스스로 한다고 생각해 보세요. 지금 우리는 그런 일의 초입에 와 있다는 겁니다. 그런데 우리는 지금 그걸 통해 많은 기회를 생각하고 있잖아요. 저는 스타트업 칼리지에 있으니까 AI를 활용해서 비즈니스를 해야 한다고 주장하는 사람입니다. 그런데 이런 흐름, 다시 말해 AI가 우리 인간이 가진 자율성만큼 자율성을 가지고 에이전트로서 비즈니스 세계에 들어온다는 것을 허용할 것인가 하는 문제는 완전히 다른 문제라고 생각합니다.. 내년에 산업계에서 정말 중요한 키워드가 뭐냐면 AI 에이전트입니다. 실제로 빅테크 기업들이 모두 '에이전트'라는 말을 사용하고 있습니다. 그런데 그 '에이전트'라는 개념이 유발 하라리가 우려하는 자율성을 가진 주체로서 스스로 결정하는 것이라면, 정말 심각한 상황입니다. 스스로 결정하는 것을 생각해 보면, 우리가 개인적으로 주식 투자를 하는 것보다 트레이딩 알고리즘이 훨씬 더 효율적일 수 있습니다. 만약 그 투자 알고리즘이 우리의 모든 의사 결정을 한다고 생각해 보세요. 그 의사 결정을 우리가 아니라 AI 에이전트에게 양도했을 때 벌어지는 일을 생각해 보면, 사실 우리는 굉장히 심각한 문제에 직면하게 됩니다. 효율성을 넘어서서 이것은 우리의 자존감과 관련된 이야기입니다. 그런 얘기를 하고 있지 않지만, 인류의 역사가 지금 큰 변곡점에 와 있습니다. 에이전트가 들어오기 시작했는데, 이것은 정보의 네트워크가 발전하는 과정에서 인류가 어떤 식으로 진화해 왔는지를 보여줍니다. 지금은 인간이 그동안 했던 일을 똑같이, 그 이상으로 AI 에이전트가 할 수 있는 상황에 와 있습니다.. 그래서 이 문제는 매우 심각한 문제입니다.
그리고 여기서 민주주의가 붕괴할 위험이 있다는 예언도 있습니다. 왜냐하면 결국 민주주의는 대화를 통해 사람 간의 설득 과정을 거치는 것이기 때문입니다. 이제는 설득이나 의사 결정을 AI에게 양도하는 순간, 우리는 더 이상 그런 토론과 대화의 장에 들어가지 못하게 되고, 결국 의사 결정을 맡기게 된다면 어떤 일이 벌어질지 모른다는 것입니다.. 결국 이 책은 제가 볼 때 정보를 어떻게 다루는가에 대한 것입니다.
2.11. 민주주의 붕괴 위험이 존재함.
인류라는 존재가 정보를 특이하게 다루는 방식으로 존재해 왔고, 그래서 우리가 정복자가 되었는데, 그 일을 더 잘하는 존재가 들어오게 됐을 때 우리는 어떻게 될 것인가에 대한 성찰이 필요합니다. 저는 유발 하라리를 평하는 지식인도 많이 있지만, 저는 그렇게 말하고 싶지 않습니다. 그는 굉장히 힘 있는 지식인이라고 생각합니다. 어떤 의미냐면, 이 책을 보니 유발 하라리가 자신의 리서치 팀을 만들었더라고요. 인류가 어떻게 가고 있는가, 우리가 뭘 대비해야 하는가에 대해 성찰하는 지식이라고 생각합니다.. 빅테크 기업들은 지금 이런 얘기를 좋아하지 않습니다. AI 에이전트는 안 된다고 주장하기 때문입니다. 하지만 저는 고민해 봐야 한다고 생각합니다.
2.12. 유발 하라리는 인류의 미래에 대한 심각한 경고를 전달함.
아무리 사업이 잘돼도 그 사업을 통해 인류가 큰 위기에 빠진다면, 그것은 마치 핵을 개발해서 우리에게 도움이 되지만 결국 인류를 멸망하게 만드는 것과 같은 것입니다. 그래서 빅테크 기업의 리더들도 이 문제를 읽고 함께 고민해야 할 과제라고 생각합니다. 초반에는 '사피엔스' 같은 책이 많이 읽혔지만, 점점 더 거리가 멀어지는 것 같습니다. '넥서스'라는 책을 내고 나서는 그런 사람들을 부르지 않아요. 왜냐하면 위협이 되는 얘기이기 때문입니다. 어떤 의미에서는 조금 덜 읽히는 것 같기도 합니다. 그렇지만 한번 고민해 보자고요. 우리 인류가 AI 에이전트를 용인했을 때 어떤 일이 벌어질까 고민해 보자는 생각이 듭니다.. 하드커버가 어딘가에서 이런 얘기를 한 적이 있었어요. 제 실험 얘기를 하면서 드디어 인간과 기계에 있어서 단 한 가지가 남을 것이라고 했습니다. 자율성이라는 부분인데, 인간이 갖고 있는 자율성이라는 부분까지 내어주면 인간은 더 이상 자존감을 세울 수 있는 그런 단면이 사라지게 되고, 결국 인간의 실수를 잘하지 않는 그런 엉뚱한 주장을 하게 될 것이라고 경고하는 책이라고 저는 생각합니다. 그래서 유발 하라리를 여러분이 한번 쭉 읽어보시고 싶다면, '사피엔스', '호모 데우스', '넥서스'를 가시면서 인류 자신에 대한 어떤 성찰을 함께 해보시면 도움이 되실 것 같습니다. 오늘은 오랜만에 책을 들고 나왔고요, 유발 하라리 특집을 했습니다. 다음번에는 더 재미있는 책을 가지고 여러분들을 더 자주 만나도록 하겠습니다. 감사합니다. [음악].
3. 영상정보
- 채널명: 장대익의 하드커버
- 팔로워 수: 4,210
- 좋아요 수: 545
- 조회수: 13,972
- 업로드 날짜: 2025-01-24
- 영상 길이: 23분 48초
- 다시보기: https://www.youtube.com/watch?v=rb5zf4drKNo
