넥서스

 

               

                                                                                                                                                           -유발 하라리-

 

유발 하라리의 넥서스는 석기시대부터 AI까지 정보 네트워크를 통하여 인류 역사 속 정보가 어떻게 전달되고 이용되었는지 체계적으로 서술했다. 권력이 된 정보가 지혜롭게 사용되거나 진실을 추구하기보다는 정보와 연결된 사회와 종교가 허구성을 증폭시켜, 집단 망상과 환상을 만들어내고, 그것에 의존하여 사회 구성원들이 질서를 유지하고 결속시킨다. 진실의 역사만이 우리에게 전해질 것이라는 관점의 정보 이해가 얼마나 잘못된 정보인지 알려준다. 더 나가 이 책은 현재 AI가 만든 정보 네트워크 위험성을 경고하고 있으며, 정보를 올바르게 사용하고 통제하지 않으면 세계는 우리가 알 수 없는 혼돈으로 빠질 수 있다고 경고하고 있다.

제1부; 인간 네트워크들

성경 신화『노아의 방주』에서 비둘기가 올리브나무를 물고 오자 물이 빠진 것을 알았다. 하느님은 홍수로 파멸시키지 않겠다고 무지개를 띄웠다. 정보제공자 비둘기는 평화의 새가 되었지만, 현대에는 도시의 닭 비둘기로 불린다. 천문학자와 점성술사는 천칭자리를 보면서 신이 알려주는 정보로 해석했으며, 별자리 운세가 여인을 만들어 주고, 제국 전체를 연결하기도 했다. 횃불이나 창문을 여닫는 약속에 의한 정보는 전쟁 시 승리를 안겨줘 정보 기능을 충실한 경우이다. 그러나 거짓과 현혹의 점성술은 긴 세월 동안 세상 속에서 중요한 역할을 해 왔다. 과학기술의 발달로 존재하지 않는 사실을 믿지 않을 것 같지만, 2005년에 미얀마 군사정권은 점성술의 조언에 따라 수도를 이전했다고 전해진다.

≪성경≫은 현실을 제대로 표현하는 것은 실패했지만, 종교를 네트워크로 묶어 사회적 과정을 만들었다. 사원을 짓고, 법체계를 유지하고, 기념일을 축하하고 개인이 할 수 없는 일을 할 수 있었다. 정보가 현실을 얼마나 잘 표현하는가? 진실인가 거짓인가를 물어야 할 때도 있지만 더 중요한 것은 ‘사람들을 얼마나 잘 연결하는가?’ 어떤 새로운 네트워크를 만들어내는가에 있다. 석기시대부터 실리콘 시대까지 정보 연결은 증가했지만, 인간의 진실이나 지혜는 증가하지 않았다. 나치독일과 소련의 스탈린주의가 주입한 인종과 계급에 대한 집단 망상 덕분에 인간이 세계를 정복할 수 있었던 이유이며, 이것은 거짓과 오류와 환상과 밀접한 관련이 있다.

가톨릭 14억 신도를 연결하는 것은 성경이고, 중국의 14억 국민을 연결은 공산주의 이념이다. 세계 무역망은 80억 명의 인구를 화폐, 상표, 기업이 연결고리가 된다. 사람들은 자신이 특정인과 연결된다고 생각하지만 실제로는 그 사람에 관한 이야기와 연결되는 것이고 이야기와 실제 인물 사이에 거대한 틈이 존재한다. 정보는 진실되며, 진실함이 지혜와 힘을 올바르게 결정 내릴 것이라는 생각은 정보에 대한 순진한 관점이라는 것이다.

 

제2부 : 비유기적 네트워크

앨런 튜링은 1950년 ‘지능형 기계’를 만들 가능성을 탐색했고, 컴퓨터가 인간만큼 영리해질 것이라고 주장했지만 믿는 사람은 없었을 것이다. 2001년 스페이스 오디세이에서 인간 창조자에게 반항하는 초지능 AI를 상상하는 일이었으나, 현재 생성형(데이터에 적응하고 새로운 데이터로부터 독립적으로 학습) AI 인공 지능이 사용되고 있다.

2016년~2017년 다수 버마족(불교)과 소수민족 로힝야족(이슬람교) 사이의 갈등이 있었다. 능동적 행위자가 된 기계(알고리즘)가 반로힝야족 폭력을 부추겼으며, 선전의 대부분이 페이스북을 통해 퍼져 나갔고, 로힝야족을 향한 독설과 폭력성은 로힝야족이 미얀마에서 권리를 누릴 자격이 없는 테러리스트라는 생각을 강화했다. 일어나지도 않은 잔악 행위와 테러 공격에 대한 가짜뉴스가 넘쳐났다. 이러한 글을 추천하고 결정한 것은 페이스북의 알고리즘이었다. 왜 알고리즘은 분노를 추천하기로 했을까? 페이스북은 더 많은 자료수집과 광고 판매 점유율을 높이기 위해 “사용자 참여”에서 “좋아요” 버튼을 눌러 친구들과 공유할 수 있게 했고, 수많은 사용자는 자비를 보다는 음모론에 더 끌리는 경향이 있었다. 결국 알고리즘은 분노를 퍼뜨려 비인간적인 지능이 내린 결정으로 로힝야족 수천 명을 죽이고 마을을 불태웠다. 문서와 문서를 연결하는 것은 사람의 뇌를 통해 연결되지만, 컴퓨터와 컴퓨터의 연결 사이에는 인간 없이도 작동할 수 있다. 가짜뉴스, 정치적 위기, 금융거래, 주식, 채권 매도, 기밀정보 등 컴퓨터가 뭘 하는지 알아채고 파악하기도 전에 일어날 수 있다.

 

제3부 : 컴퓨터 정치

AI와 로봇공학은 농작물 수확부터 주식거래와 요가 강습에 이르기까지 많은 직종 변화를 불러왔고 더 심화하고 있다. 인간 고유의 능력으로 여겨온 기술들이 오히려 더 쉽게 자동화되고 있고, 우리가 경시하던 기술이 자동화하기 어렵다. 컴퓨터는 세계 체스 챔피언을 쉽게 꺾었고, 설거지의 섬세한 난이도는 따라가지 못하고 있다. 의사는 기록에 의한 수집으로 진단과 데이터 패턴에 의한 치료법을 찾아낼 수 있어 자동화가 가능하지만, 붕대를 교체하거나 주사 놓는 간호 업무를 자동화가 쉽지 않다. 이러한 컴퓨터 기술의 자동화가 정치를 만나서 더 잔인해진 이란의 히잡법은 고양이 이미지를 인식하는 기술을 이용하여, 히잡을 쓰지 않는 여성을 처벌하기 위해 자동 인식할 수 있는 알고리즘을 만들어 사용하고 있다.

 

오늘날 ‘정보’가 새로운 신의 자리에 올라앉았다고 한다. 당신이 오늘 한 일을 신용카드 데이터와 내비게이션은 알고 있으며, 당신을 나타내는 성격은 MBTI라는 데이터로 성격유형을 말한다. 1,000km 이상 떨어진 이란과 이스라엘 전쟁은 정보에 의한 표적 살인과 폭격으로 정보기술 발전이 그 어느 때보다 중요해졌으며, 어느 날 갑자기 항공사가 해킹되어 비행기가 날 수 없고, 행킹당한 은행 통장에서 몇천만 원이 갑자기 사라지는 컴퓨터가 정보의 주체자가 되었다. 컴퓨터는 인간보다 인간을 더 이해하고, 인류를 지배할 수도 있다는 전망이다. 이러한 시대에 이 책을 읽고 정보를 올바르게 연결하는 방법 얻었으면 한다. 역사 속 다양한 정보를 한 눈으로 본 하라리의 넥서스를 두 달 동안 읽었다. 간단하게 정리하기가 쉽지 않아 전달자 역할에 충실했으며, 많은 사람들에게 꼭 읽을 것을 권해 본다.