자연과학 분야

저자: 머리 샤나한(Murry Shanahan) 

역자: 성낙현

출판사: 한울(2018)

차례 

1장 개론

2장 인공지능으로 가는 길

3장 전 뇌 에뮬레이션

4장 AI 공학

5장 초지능

6장 AI와 의식

7장 AI의 충격

8장 천국과 지옥

■ 인공지능의 등장에서 기술적 특이점까지 

1956년 여름 6주 동안 <인공지능에 대한 여름 연구 프로젝트>라는 명칭으로 미국 다트머스(Dartmouth) 대학에서 개최된 워크숍에 이 분야 당대 최고의 지성들이 참가했다. 대표적인 인물로는 훗날 ‘인공지능의 대부’로 불린 마빈 민스키(Marvin Minsky), 인공지능이라는 용어를 제안한 존 매카시(John McCarthy), 정보이론의 아버지 클로드 섀넌(Claude Shannon), 노벨 경제학상을 수상한 인지과학의 창시자 허버트 사이먼(Herbert Simon), 그리고 노벨 경제학상을 수상한 수학자 존 내시(John Nash)를 들 수 있다.

당시 앨런 튜링이 제안한 사고 기계(thinking machine)와 관련해 노버트 위너의 사이버네틱스(cybernetics), 존 폰 노이만의 자동화 이론(automata theory)과 같은 개념들이 혼용되고 있었는데, 이 워크숍을 주관한 다트머스 대학의 젊은 수학자 존 매카시의 제안대로 인공지능으로 통일하기로 합의를 보았다. 지금은 일상용어가 된 인공지능은 이런 과정을 거쳐 탄생했다. 이런 의미에서도 시대를 앞서 간 앨런 튜링의 통찰이 놀랍다. 당시 인간처럼 생각하고 문제를 해결하는 기계를 생각했다는 점에서 그렇다는 것이다.

그밖에 이 워크숍에서는 컴퓨터, 자연어처리, 인공신경망, 연산이론 등에 대한 집중 토의가 이루어졌다고 하니 그때부터 인공지능 관련 주요 주제들이 논의 대상이 올랐음을 알 수 있다. 이런 열기를 바탕으로 당시 전문가들은 10년 정도면 인간 수준의 사고기계, 즉 지금 용어로 말하자면 범용인공지능(Artificial General Intelligence; AGI)이 개발될 수 있다는 지극히 낙관적인 견해를 피력했었다. 이는 곧 근거 없는 낙관론임이 드러났다. 인공지능의 개발 초기 전문가 시스템(Expert System)과 인공신경망 접근(Artificial Neural Network Approach)이라는 두 가지 접근방법이 경합했다. 초기에는 프로그래밍된 대로 특정 과제를 수행하는 전문가 시스템에 대한 낙관적인 전망으로 인해 모든 연구 역량과 투자가 여기로 집중되었으나 별다른 성과를 거두지 못했다. 한편 인공지능 개발 초기인 1957년 프랭크 로젠블랏(Frank Rosenblatt)은 인공신경망 접근을 이용해 퍼셉트론 (Perceptron)이라는 인공지능 알고리즘을 개발했으나 마찬가지로 별다른 성과를 거두지 못했다.

이런 상황에서 인공지능에 대한 세간의 관심이 급격히 식어감에 따라 “인공지능의 겨울”이라고 불리는 두 번의 암흑기가 있었다. 첫 번째 겨울은 1974~1980년, 두 번째 겨울은 1987~1993년이었다. 이후 인공지능 분야는 최근까지 이렇다 할 성과를 내지 못한 상태에서 투자자들과 일반인의 관심에서 멀어졌다. 그러던 차에 2010년 이후 일대 변화가 일어났다. 여기에는 컴퓨터의 연산능력이 비약적으로 향상된 것과 인터넷의 확산 및 스마트폰의 대중화로 빅데이터가 축적된 것이 결정적인 역할을 했다. 이를 보여준 대표적인 사례로 캐나다 토론토 대학의 제프리 힌튼(Geoffrey Hinton) 교수의 연구팀이 딥러닝(Deep Learning) 알고리즘을 이용해 2012년 국제 이미지넷(ImageNet) 경연대회에서 우승한 것을 들 수 있다. 빅데이터가 등장하고 컴퓨터의 연산능력이 크게 향상됨에 따라 딥러닝 알고리즘을 이용해 종전에는 파악할 수 없었던 패턴을 찾아낼 수 있게 되었기 때문이었다. 패턴을 찾아내는 데는 딥러닝이 가장 우수한 알고리즘이라는 것이 입증되었다. 

이 사건 이후 인공지능에 대한 세간의 인식에 큰 변화가 일어났다. 기계학습의 일종인 딥러닝은 컴퓨터 연산 능력의 향상을 바탕으로 빅데이터를 이용해 인공지능 알고리즘의 성능 향상에 크게 기여할 수 있었던 것이다. 2016년 알파고의 등장, 2017년 알파고제로에 이어 알파제로의 등장은 딥러닝에 기반을 둔 인공지능 알고리즘의 획기적인 발전을 상징한다. 앞서 언급한 퍼셉트론은 신경망의 은닉층(hidden layer)이 하나였기 때문에 실패했다. 이런 시행착오를 통해 은닉층을 여럿으로 확장함으로써 패턴 인식 기능을 극대화한 것이 딥러닝, 즉 심층학습 기법이다. 딥러닝 알고리즘은 여러 개의 은닉층을 통해 단계적으로 데이터를 처리하는데, 이 과정에서 개별 신경 노드에 적절한 가중치를 주면서 패턴 인식의 정확도를 측정해 최적의 가중치와 은닉층의 수준을 결정한다. 이와 관련해서는 레이 커즈와일(Ray Kurzweil)의 저서 『마음의 탄생』에 상세히 설명되어 있으니 참조하기 바란다. 이와 같이 딥러닝은 인간의 신경망을 모방하는 것을 기반으로 하므로 2013년에 시작해 현재 진행 중인 미국의 <두뇌 역설계> 프로젝트와 유럽의 <슈퍼컴퓨터를 이용한 뇌 시뮬레이션> 프로젝트의 진전과 더불어 계속 발전할 것으로 예상되고 있다. 

지금 이 순간에도 구글을 선두로 마이크로소프트, 아마존, 페이스북, 그리고 중국의 알리바바, 텐센트 및 바이두 같은 기업들은 인공지능 알고리즘 개발에 막대한 투자를 하면서 앞으로 새롭게 탄생할 거대한 시장을 선점하기 위해 치열하게 경쟁하고 있다. 그런데 현재 이들이 집중적으로 투자하고 있는 인공지능은 특정 과제에서 뛰어난 능력을 발휘하는 인공지능, 즉 약인공지능(Artificial Narrow Intelligence; ANI)에 한정되어 있다. 아직 어떤 기업, 어떤 연구기관도 이 한계를 벗어나지 못하고 있다. 이 말은 기술적 특이점(technological singularity)이라는 용어가 적용될 상황과는 거리가 멀다는 것이다. 그리고 많은 전문가들이 이런 상황이 상당히 오랫동안 지속될 수도 있다고 전망하며, 일부는 기술적 특이점은 결코 도래하지 않을 것으로 예측하기도 한다.

케일럼 체이스의 저서 『경제적 특이점이 온다』의 리뷰에서 언급했듯이 특이점은 수학에서 함수값이 무한대로 수렴하는 불연속적인 점이나 물리학에서 블랙홀의 중심부와 같이 중력이 무한대로 커지는 점을 의미하는 과학 용어이다. 따라서 특이점은 기존의 수학법칙이나 물리법칙이 적용되지 않는 그야말로 특이한 상태를 상징한다. 이런 특징을 기술적 변화에 적용한 것이 기술적 특이점으로서 수학자 존 폰노이만(John von Neumann)이 처음 사용했으며, 이후 버너 빈지(Vernor Vinge)가 이어받아 특이점의 가능성을 예고했다. 최근 인공지능이 발전하면서 이 개념을 대중적으로 널리 알린 사람으로는 레이 커즈와일, 그리고 그와 함께 2008년 싱귤레리티 대학교(Singularity University)를 설립한 혁신기업가 피터 디아만디스(Peter Diamandis)를 들 수 있다. 이들의 공통점은 커즈와일의 예측대로 2029년경 인간 수준의 인공지능, 즉 범용인공지능(AGI)이 개발될 것이며, 2045년경에는 모든 인간의 지능을 다 합친 것보다 더 우월한 지능을 가진 초인공지능(ASI)이 출현함으로써 기존의 제도와 법칙이 더 이상 적용되지 않는 새로운 세상이 도래할 것으로 믿는다는 것이다. 

기술적 특이점은 ASI의 출현을 전제로 한다. 그리고 ASI는 AGI의 개발을 전제로 한다. 일단 AGI가 개발되면 자기학습과 자기개선을 통해 지능폭발이 일어나 머지않아 ASI로 발전하는 것은 필연적이라고 봐야 한다. 옥스퍼드 대학교의 철학자 닉 보스트롬(NIck Bostrom)은 『슈퍼인텔리전스』에서 AGI의 가능성에 대한 전문가 설문조사 결과를 다음과 같이 요약했다: “모든 여론조사 결과들을 하나로 합쳐서 보았을 때, HLML(인간 수준의 기계지능, 즉 AGI를 지칭함)이 2022년까지 개발된다고 본 비율은 10%, 2040년까지 개발된다고 본 비율은 50%, 그리고 2075년까지 개발된다고 본 비율은 90%이다.”보스트롬이 이 조사를 실시한 것이 2014년이므로 지금 다시 조사한다면 좀 더 긍정적인 결과가 나올 것으로 예상된다. 그 동안 인공지능 기술이 비약적으로 발전했기 때문이다. 그의 조사 결과는 레이 커즈와일의 주장과 크게 다르지 않다. 한편 미래학자 마틴 포드는 2018년 저서 『Architects of Intelligence』에서 세계적 수준의 인공지능 전문가 23인에게 AGI의 가능성에 대해 물었는데, 이 가운데 16인은 50%의 가능성으로 AGI가 출현한 시기를 평균적으로 2099년으로 예상했다. 이는 다른 조사와 비교해 다분히 비관적인데, 세계적 전문가들을 대상으로 한 조사라는 점에서 무게가 있다. 

그렇다면 이와 같이 논란이 많은 상황에서 기술적 특이점에 대한 논의는 무의미한 것인가 하는 의문이 들 수 있다. 그렇지 않다는 것이 필자의 생각이다. 왜냐하면 기술적 특이점이라 칭할 수 없을지는 몰라도 앞으로 정치, 경제, 사회, 문화 등 모든 분야에서 지금 우리가 생각하고 있는 것보다 훨씬 더 파괴적인 변화가 일어나리라 예상할 충분한 근거가 있기 때문이다. 예컨대 자율주행자동차만 해도 그렇다. 조만간 자율주행자동차가 운행된다면 수많은 운전자들이 일자리를 상실하면서 커다란 사회 문제가 될 것이다. 또한 주차 공간이 사실상 거의 불필요하게 되면서 도시 공간 활용이라는 측면에서 엄청난 변화가 일어날 수 있다. 자동차를 소유할 필요가 사라지면서 자동차 제조 및 판매와 관련해 커다란 지각변동이 있을 것이다. 이런 모든 변화를 종합한다면 과연 사회 전반에 어떤 변화가 올지 가늠하기 쉽지 않다. 더욱이 이와 함께 3D 프린팅 기술로 인한 제조업의 파괴, 블록체인 기술로 인한 금융중개기관의 소멸, 유전공학과 나노공학의 발달에 따른 무병장수 및 트렌스휴먼의 등장과 같이 다른 분야에서도 동시에 파괴적 혁신이 진행된다면 사회 전반에 경천동지할 변화가 예상된다. 심지어 일부에서는 민주주의와 자본주의가 존립 위기에 처할지도 모른다고 경고한다. 나아가 극단적으로는 인류의 존재적 위험(existential risk)을 경고하는 전문가도 있다. 이런 견해를 가진 대표적인 인물인 닉 보스트롬은 스티븐 호킹, 빌 게이츠, 일론 머스크와 같은 저명인사들에게 큰 영향을 미친 저서 『슈퍼인텔리전스』에서 다음과 같이 주장했다: “가장 먼저 등장할 초지능적 에이전트는 지구에서 기원한 생명체들의 미래를 좌지우지할 가능성이 있고, 인간의 사고 관계에 입각한 최종적 가치들과는 전혀 다른 목표를 지향할 수도 있으며, 끝없이 자원획득을 추구할 도구적 이유를 가질 가능성이 크다고 할 수 있다. 이 초지능의 존재와 활동의 결과가 인류의 신속한 멸종으로 이어지기 쉽다는 것을 알 수 있을 것이다.”

또한 2018년 작고한 스티븐 호킹은 유작인 『빅퀘스천에 대한 간결한 대답』에서 다음과 같은 경고 메시지를 남겼다: “인공지능을 설계하는데 있어 인공지능이 인간보다 우월해져 인간의 도움 없이 스스로 개선할 수 있게 된다면 우리는 지능폭발에 직면하게 될 것이며, 궁극적으로 인간이 달팽이를 능가하는 것보다 지능 면에서 인간을 훨씬 능가하는 기계가 출현할 것이다.”그러고는 이 책의 마지막 대목에서 다음과 같은 희망의 메시지를 남겼다: “우리는 인공지능이 우리에게 무한한 도움을 줄지, 아니면 우리를 무시하고 열외로 취급하거나 우리를 파괴할지 알 수 없다. 낙관주의자로서 나는 우리가 세상을 위한 인공지능을 개발할 수 있으며 그것이 우리와 사이좋게 일할 수 있을 것으로 믿는다. 우리는 단지 그로 인한 위험을 인지하고 확인하며 최선의 실천과 관리를 도입함으로써 미리 그로 인한 결과에 대비할 필요가 있다”필자는 호킹이 인간의 내면에 있는 선한 본성을 자극함으로써 희망을 잃지 말라는 용기를 주고자 한 것이 아닌가 하는 생각이 든다. 그의 경고와 희망 메시지가 서로 모순된 것처럼 보이지만, 조그만 가능성이라도 포기하지 말라는 취지에서 그가 인류에게 남긴 유언으로 봐도 좋을 것이다. 

이런 이유로 필자는 기술적 특이점의 도래 여부를 떠나 이것이 우리에게 무엇을 시사하는지 살펴볼 필요가 있다고 생각한다. 그리고 이런 점에서 이 책은 나름 중요한 메시지를 담고 있다. 특히 기술적 특이점과 관련된 이론적 근거를 객관적으로 검토하는 것은 의미 있는 작업이다. 이 책을 출판하는데 자극을 준 닉 보스트롬의 『슈퍼인텔리전스』는 인간을 능가하는 초지능의 출현에 따른 존재적 위험에 초점을 맞추었고, 기술적 특이점을 신봉하는 레이 커즈와일의 『특이점이 온다』와 『마음의 탄생』, 그리고 피터 디아만디스의 『볼드』와 『The future is faster than you think』 같은 책들은 기술적 특이점을 향해 나아가고 있는 놀라운 세상에 대한 묘사에 초점을 맞추었다는 점에서 이 책과는 다르다. 이런 의미에서 필자는 여기서 이 책의 리뷰에 한정하지 않고 기술적 특이점의 인류사적 의미에 대해 논의하려고 한다.

■ 기술적 특이점의 가능성 

이 책의 저자 머리 샤나한은 런던 임페리얼 칼리지의 인지 로봇공학(cognitive robotics) 교수로서 영화 《엑스 마키나》 제작 과정에서 과학 자문역을 맡았으며 캠브리지 대학교의 <존재적 위험 연구센터>의 외부 자문위원회의 멤버이기도 하다. 기술적 특이점에 대한 그의 학문적 입장은 한마디로 충분히 가능하다는 것이며, 기술적 특이점으로 가는 경로는 한 가지가 아님을 강조한다. 이는 이미 닉 보스트롬이 『슈퍼인텔리전스』에서 언급한 내용이기도 한데, 그는 초지능(superintelligence)과 초인공지능(ASI)을 구별할 필요가 있다면서 초지능으로 가는 다섯 가지 가능한 경로로 1) 기계학습과 신경망 알고리즘에 의한 인공지능 개발 2) 전뇌 에뮬레이션(whole brain emulation) 3) 생물학적 뇌의 인지능력 향상 4) 뇌-컴퓨터 인터페이스 활용 5) 인간 정신의 네트워크와 조직을 이용한 점진적 향상을 언급했다. 그러면서 그는 이 가운데 초지능으로 가장 확실한 경로는 인공지능을 통해서라고 단언했다. 이 점에서는 저자와 분명 다르다.

저자는 기술적 특이점의 가능성을 높게 본다는 점에서 레이 커즈와일을 비롯한 특이점주의자들(singularitarians)과 다를 바 없다. 이와 관련해 저자는 다음과 같이 말한다: “물론 모든 기하급수적인 기술 발전 추세는 물리학의 법칙에 따라 결국 정체기에 도달할 것이다.......그러나 인공지능과 신경과학 관련 기술 발전이 가속화되고, 마음을 가진 기계를 만들고, 지능을 가진 기계를 합성하고 다루는 능력을 키워가는 추세가 지속된다고 가정해보자. 지능 그 자체는 인공이든 실제 사람이든, 수확가속의 법칙에 따르게 된다. 여기부터 기술적 특이점까지는 신념의 작은 도약이 있을 뿐이다.”(18쪽) 이와 같이 레이 커즈와일이 강조하는 수확가속의 법칙을 지지한다는 점에서도 저자를 특이점주의자라 불러도 무방하다. 단, 커즈와일은 물리법칙에 따른 한계에 도달하려면 아직도 멀었다고 생각한다는 점에서 저자와는 다소 다른 입장이다. 

그런데 기술적 특이점에 대한 저자의 평가가 중립적이라는 점에서 기술적 유토피아를 역설하는 레이 커즈와일과는 분명 다르며, 존재적 위험을 강조하는 닉 보스트롬과도 다르다. 저자는 초인공지능이 출현하더라도 여전히 인간에게 선택의 여지가 있을 것으로 보면서 다음과 같이 말한다: “기술적 특이점이 실존적 기회가 될 수 있다고 보는 가장 크고 도발적인 측면은 인간의 관점을 벗어나 더욱 우주론적인 관점을 받아들여야 파악될 수 있다........우리의 의식보다 어떤 의미에서 우월한 형태의 의식이 생길지도 모른다. 이러한 전망을 보고 우리는 뒷걸음쳐야 하는가, 아니면 기뻐해야 하는가?”(21쪽) 이 말은 기술적 특이점이 도래한다면 어떤 종류의 세계, 어떤 종류의 우주를 맞이하게 될 것인가. 그리고 우리는 과연 기술적 특이점을 두려워해야 하는가, 아니면 환영해야 하는가를 묻는 것이다. 저자는 이것은 우리에게 실존적 위험과 실존적 기회를 모두 제기하는 빅퀘스천이라면서 신중한 대응 방안을 모색해야 한다고 말한다. 

그런데 저자는 공학적인 측면에서 인공지능의 발전에 따른 기술적 특이점의 가능성을 배제하지 않으면서도 인간의 뇌를 모방하는 전 뇌 에뮬레이션을 통해 초인공지능으로 가는 경로에 대해서도 상당한 가능성을 부여하고 있다는 점에서 보스트롬 교수와 차별화된다. 이런 맥락에서 저자는 기술적 특이점과 관련해 다음과 같이 말한다: “어떤 종류의 기술적 진보가 이러한 격변을 불러올 수 있을까? 우리가 이 책에서 검증하려는 가설은, 이러한 기술적 특이점이 밀접하게 연관되어 있는 인공지능과 신경과학 분야에서, 두 영역 중 하나 또는 두 영역 모두에서 일어나는 주목할 만한 진보로 인해 촉진될 수 있다는 것이다.”(14쪽) 여기서 저자가 신경과학 분야에서의 진보를 거론한 이유는 바로 전 뇌 에뮬레이션의 가능성 때문이다. 

■ 전 뇌 에뮬레이션과 범용인공지능 

인간 수준의 인공지능, 즉 범용인공지능은 초인공지능으로 가는 중간 단계이자 인간의 통제를 벗어나는 첫 단계일 것이다. 일단 범용인공지능이 개발되면 자기 학습과 자기 개선이라는 재귀적인 과정을 통해, 자연스럽게 수학자 어빙 굿(I. J. Good)이 말한 지능폭발(intelligence explosion)이 일어나 조만간 초인공지능으로 발전할 것이다. 이런 맥락에서 보면 기술적 특이점을 강력하게 지지하는 레이 커즈와일이 범용인공지능의 개발 시점을 2029년으로 예상하면서 초인공지능의 출현 시기를 16년 후인 2045년으로 추정하는 것이 의아할 정도이다. 일단 범용인공지능이 출현하면 가속적으로 가속화되는 기술혁신으로 인해 이 보다 일찍 초인공지능이 출현할 수도 있다는 생각이 든다.

이와 같이 기술적 특이점에 대한 논의의 핵심은 범용인공지능의 가능성 및 개발 시점이다. 이에 대한 저자의 입장은 과학적인 관점에서 여러 가지 방법으로 가능하다는 것이고, 출현 시점에 대해서는 별 다른 언급이 없지만 커즈와일과 비슷하게 생각하는 것 같다. 저자는 범용인공지능 개발과 관련해 두 가지 상반된 방법을 강조하는데, 특별히 새로운 것은 아니다. 하나는 인간의 두뇌를 모방하는 방법인 전 뇌 에뮬레이션이고, 다른 하나는 널리 알려진 공학적 방법을 이용해 인공지능을 업그레이드하는 것이다. 저자는 전 뇌 에뮬레이션의 가능성을 높게 본다는 점에서 닉 보스트롬과는 다소 견해가 다른 것 같다. 

저자가 전 뇌 에뮬레이션에 비중을 두는 이유는 범용인공지능으로 가려면 몸은 필수적이며, 또한 상식과 창조성이라는 두 가지 요소를 갖추어야 한다고 믿기 때문이다. 여기서 몸은 반드시 생물학적인 몸일 필요는 없으며 공학적인 몸, 즉 로봇이라도 상관없다. 적절한 센서를 탑재한 로봇은 인간처럼 감각 정보를 처리할 수 있을 것이기 때문이다. 단, 이런 감각 정보를 처리해 주변과 자신을 알아차리는 측면에서는 분명 인간과 다를 것이다. 그리고 저자가 말하는 상식을 가진다는 것은 물리적 사회적 환경 속에서 일상생활을 하는 법을 이해한다는 것이며, 창조성을 갖는다는 것은 인간에 잠재된 능력을 갖추는 것이다. 이런 의미에서 저자가 강조한 상식과 창조성의 구현은 범용인공지능으로 가는데 필수적이라 할 수 있다. 그러면서 저자는 상식과 창조성의 상보적인 면을 잘 활용해야 한다면서 다음과 같이 말한다: “창조성과 상식은 상호 보완적이다. 창조성으로 인해 개인은 새로운 행동을 할 수 있다. 그러나 그 행동이 초래하는 결과를 예상하기 위해서는 일상 세계에 대한 상식적 이해가 필요하다. 상식을 결여한 창조성은 어둠 속에서 허우적거리는 것에 불과하다. 한편 창조성이 없는 상식은 융통성이 없다. 상식과 창조성을 모두 구사할 수 있는 지능은 강력하다.”(31쪽)

저자는 이런 점에서 전 뇌 에뮬레이션이 기술적 특이점으로 가는 유망한 방법으로 생각한다. 그런데 여기서 유의할 점은 이 방법은 뇌가 인간의 모든 정신활동의 원천, 즉 모든 의식과 마음을 창조해낸다는 것을 전제로 해야 한다는 것이다. 이와 관련해 저자는 다음과 같이 말한다: “인간의 행위를 이해하기 위해 우리는 몸이 있는 동물이 물리적·사회적 환경과 상호작용한다는 맥락에서 인간의 행위를 바라보아야 한다.......달리 말하면, 그 주장은 바로 우리가 보고 듣고 만지는 것으로부터 우리가 행하고 말하는 것으로 이끄는 매우 복잡한 인과관계의 고리에서 우연한 신비나 잃어버린 고리는 없다는 것이다. 전 뇌 에뮬레이션의 가능성은 이 주장에 달려 있다.”(43쪽) 과연 그러한가? 이것은 뇌가 의식의 생산자(producer)인가, 아니면 수신자(receiver)인가 하는 문제와 직결된다. 이 점에서 필자는 저자와는 다른 견해를 갖고 있으나 현재로서는 무엇이 진실인지 확신하기 어렵다. 주류 신경과학계에서는 뇌가 의식의 생산자라고 주장하지만 이에 대한 반증도 상당히 축적되었기 때문에 현재로서는 단정적인 결론을 유보하는 것이 보다 과학적인 태도라는 것이 필자의 입장이다. 이런 이유에서도 전 뇌 에뮬레이션의 성공 여부는 중요한 의미가 있다. 인간의 의식의 원천이 무엇인지 알 수 있는 기회를 제공할 것으로 기대되기 때문이다. 

전 뇌 에뮬레이션은 한 마디로 컴퓨터 같은 비생물학적 기질 위에 특정한 뇌의 정밀한 복제품을 만든다는 아이디어이다. 더 간단히 말하면 로봇 같은 기계에 인간 뇌의 모든 면을 업로드하는 것으로서 이와 관련해 저자는 다음과 같이 말한다: “우리는 범용지능을 신경 기질로 만들 수 있다는 것을 알고 있다. 이 기질을 인공적으로 복제할 수 있다면, 우리는 성공을 확신할 수 있다. 컴퓨터를 이용한 생물학의 영감을 받은 이 접근법은 가장 극단적인 견해이지만, 상당히 보수적인 과학기술의 가정 하에서 성공할 것이 확실하다.”(36쪽) 이와 같이 저자는 범용인공지능을 개발하는 데는 공학적인 방식으로 접근하는 것보다 전 뇌 에뮬레이션의 방식이 더 유망하다고 보는 입장이다. 

그런데 보통 전 뇌 에뮬레이션은 ‘정신 업로드(mind uploading)’와 같은 의미로 사용되는데, 필자는 이 둘을 구분할 필요가 있다고 본다. 인간의 뇌를 복제한다는 점에서는 같지만, 전 뇌 에뮬레이션은 로봇의 몸을 가진 기계에 인간 뇌의 모든 기능을 복제한 후 필요한 만큼 확장해 범용인공지능으로 향하는 방법인 반면, 정신 업로드는 몸이 소멸된 후 영생을 원하는 사람이 자신의 뇌에 있는 기억, 의식, 마음 등 모든 정신적 요소들을 컴퓨터에 업로드하는 것을 말한다. 이와 같이 목적이 다르므로 이 둘은 구분할 필요가 있다.

저자가 설명한데로 전 뇌 에뮬레이션은 첫째, 뇌 스캔을 통해 완벽한 뇌지도 그리기, 둘째, 뇌 스캔을 통해 얻은 데이터를 이용해 뇌의 기능에 대한 시뮬레이션, 셋째, 몸을 통해 뇌의 기능을 완벽하게 구현하기라는 세 단계로 이루어진다. 그렇다고 이것이 현재 기술로 가능하다는 것은 아니다. 적어도 이런 과정을 거쳐 머지않은 미래에 뇌의 기능과 관련된 모든 것을 컴퓨터에 업로드할 수 있다는 것이다. 예컨대 영화 《트랜센던스》에서 인공지능 전문가 윌 박사가 테러리스트의 공격으로 사망한 후, 연인의 도움을 받아 자신의 뇌를 컴퓨터에 업로드한 것이 이에 해당한다. 그러나 현재로서는 어려운 기술이고 향후 뇌의 신경연결망지도, 이른바 커넥텀(connectome)이 완성되면 가능할 것으로 본다. 

전 뇌 에뮬레이션과 관련해 저자는 쥐의 뇌를 성공적으로 컴퓨터에 업로드할 수 있다면, 인간의 뇌를 업로드하는 것은 시간문제라면서 다음과 같이 말한다: “쥐의 전 뇌 에뮬레이션이 성공하면, 인간 수준의 인공지능도 머지않았다고 생각할 수 있다. 이러한 이행을 가능하게 하는 방법은 매우 많다. 가장 확실한 방법은 그 복제 절차를 단순히 확대하여 그것을 인간 두뇌에 적용하는 것이다.”(71쪽) 그러면서 저자는 전 뇌 에뮬레이션은 범용인공지능을 만들기 위한 한 방법일 뿐이라는 점을 강조한다. 단, 조만간 적어도 쥐 수준의 범용인공지능이 나타날 것이기 때문에 생물학적으로 가장 가능성이 높은 방법이라면서 다음과 같이 초인공지능으로 가는 로드맵을 상정한다: “쉽게 말해서, 쥐의 전 뇌 에뮬레이션은 여러 가지 방법으로 인간 수준의 인공지능을 향한 진보에 시동을 걸 가능성이 있다. 인간 수준의 인공지능이 주어진다면, 초인 수준의 인공지능으로 이행하는 것은 거의 틀림없다. 인공 물질로 실현된 인간 수준의 인공지능은 느린 속도, 신진대사 의존성, 잠을 자야하는 등, 다양한 한계를 가진 생물학적 뇌보다 강화를 더 잘 할 것이다. 게다가 인간 수준의 인공지능 또는 인간 수준의 인공지능 팀은 전례 없이 빠른 개선의 피드백 순환을 개시하여 결과를 예측할 수 없는 지능폭발로 치닫게 될 것이다.”(74쪽) 따라서 전 뇌 에뮬레이션이 가능한 시점이 곧 기술적 특이점을 향한 출발점이 될 것이다.

■ 인공지능에서 인공의식으로 

필자가 이 책에 관심을 가진 이유는 인공지능과 의식의 관계에 대한 저자의 견해 때문이다. 즉 범용인공지능 이상의 수준에 도달한 인공지능은 모종의 의식, 즉 인공의식을 가질 것인지 여부는 여러 면에서 중요한 문제를 제기한다. 그런데 이 문제와 관련해서 현재로서는 누구도 단정적으로 말할 수 없는 상태이다. 그 만큼 어려운 문제라는 뜻이다. 또한 범용인공지능이 인간과 유사한 의식을 가질 것인지 아닌지, 그리고 의식을 가진다면 인간의 의식과 어떻게 다를 것인지도 의문이다. 그 밖에 인간이 기계의 의식을 이해할 수 있을 것인지, 반대로 기계가 인간의 의식을 이해할 수 있을 것인지도 의문이다. 나아가 인간과 기계 사이에 의식이라는 면에서 서로 양립하기 어려운 차이점을 드러낸다면 과연 무슨 일이 벌어질지도 의문이다. 또한 레이커즈 와일이 『마음의 탄생』에서, 맥스 테그마크가 『라이프 3.0』에서 다루었듯이 의식 있는 기계를 생명으로 간주해야 하는지, 그렇다면 어느 정도까지 권리와 의무를 부과해야 하는지도 의문이다. 아무튼 기계가 지능의 범주를 넘어 모종의 의식을 갖는다는 것은 정치, 경제, 사회, 문화 등 모든 면에서 심각한 문제를 초래할 수 있다.

이 문제는 범용인공지능이 어떤 경로를 통해 탄생하는가와 밀접하게 연관되어 있다. 앞에서 언급한 바와 같이 전 뇌 에뮬레이션을 이용해 범용인공지능이 탄생한다면 인간의 의식과 매우 유사한 의식을 보유할 것으로 추론할 수 있다. 물론 기계의 경우에는 인간의 뇌가 갖는 생물학적 한계를 벗어나 빛의 속도로 정보를 처리할 수 있으며, 뇌 크기의 제약을 벗어나 무한 확장이 가능하므로 인간의 뇌와는 비교할 수 없을 정도로 방대한 정보를 병렬 처리할 수 있을 것이다. 이런 속도와 용량의 차이가 의식의 질적 측면에서 분명 차이를 드러낼 것이다. 그렇다고 이것이 기계가 우주의식(cosmic consciousness) 내지 합일의식(unity consciousness)을 체험한다는 의미라고 단언할 수는 없다. 인간의 의식과는 분명 다를 텐데 정확히 무어라 말하기는 어렵다는 것이다. 

한편 공학적인 방법으로 범용인공지능에 이른다면 기계는 인간의 의식과는 상당히 다른 인공의식을 가질 것으로 예상된다. 여기서 한 가지 분명히 해 둘 것은 범용인공지능이 자연스럽게 인공의식으로 이어질 것으로 단정할 수 없다는 점이다. 그렇지만 범용인공지능에 이르지 못한다면 인공의식은 결코 기대할 수 없다는 의미에서 범용인공지능이 인공의식을 위한 필요조건인 셈이다. 범용인공지능이 인공의식을 갖는다면 이는 곧 자아의식이 있다는 것을 의미하며, 나아가 자기학습과 자기개선을 통해 초인공지능으로 발전할 수 있다는 것을 시사한다. 이런 의미에서 인공의식의 가능성은 중요하다. 그런데 진화론과 주류 신경과학의 관점에서 보면 인간의 의식은 진화 과정에서 창발한(emergent) 부수 현상(epiphenomenon)일 뿐이다. 즉 뇌를 구성하는 개별 신경세포에서는 기대할 수 없지만 복잡계인 뇌의 특성으로 인해 부분에는 없는 속성이 떠오른 것이다. 이런 관점에서 보자면 범용인공지능은 인간의 뇌와 마찬가지로 복잡계의 일종이므로 인공의식이 창발할 것으로 예상하는 데 무리가 없다는 것이 필자의 생각이다. 

공학적으로 범용인공지능에 이르는 길에 관해 저자가 이 책에서 특별히 새로운 것은 없으며, 대체로 이 분야에서 논의되고 있는 내용과 대동소이하다. 예컨대 저자는 다음과 같이 말한다: “인간 수준의 인공지능이나 인공 초지능을 생각하면 우리는 전과 같이 세 가지 질문을 생각할 필요가 있다. 인공지능의 보상함수는 무엇인가? 인공지능은 어떻게 무엇을 배우는가? 인공지능은 기대보상을 어떻게 최적화하는가?(106쪽) 이 세 가지 질문은 닉 보스트롬이 『슈퍼인텔리전스』에서 제기한 것과 대동소이하며, 인간에게도 그대로 적용된다. 여기서 보상함수, 학습 그리고 기대보상은 경제학에서 다루는 내용과 동일하다. 알고리즘 개발자가 설정한 보상함수를 바탕으로 최적화 방법을 이용해 주어진 과제를 해결함으로써 기대보상을 극대화하는 모델은 도구적 합리성을 강조하는 경제학에서 보편적으로 채택되고 있는 의사결정모형이다. 현재 각광을 받고 있는 딥러닝 또한 이 모델의 범주를 벗어나지 않는다. 나아가 이 기준은 초인공지능의 경우에도 그대로 적용될 것이다. 합리적 대응이라는 원칙에는 변함이 없기 때문이다.

범용인공지능과 관련해 저자는 인간이 이해할 수 없는 영역이 많을 것이라고 경고하면서 다음과 같이 말한다: “만약 인공지능 시스템이 매우 많은 데이터의 양이나 직관적으로 파악하기 어려울 정도로 빠른 처리 속도에 의존한다면, 인공지능은 우리가 풀 것이라고 기대하지 않는 문제들을 우리가 이해하지 못하는 방법으로 풀어낼 것이다. 간단히 말하면, 인간 수준의 인공지능은 인간과 비슷할 필요가 없다. 만약 인간 수준의 인공지능을 이해하기 어렵다면, 우리는 어떻게 모든 지적 영역에서 인간과 대등할 뿐만 아니라, 우리를 능가하는 초인공지능을 예측하고 통제할 수 있겠는가?”(93쪽) 이것은 의미심장한 지적이다. 이 문제를 풀지 못한다면 인간에게는 재앙이 닥쳐 올 수 있기 때문이다. 

공학적인 방법으로 범용인공지능 이상의 수준에 도달하는 경우를 대비해 우리는 인공의식의 여러 측면과 가능성에 대해 생각해 볼 필요가 있다. 이와 관련해 저자는 하나의 사고실험을 제안한다. 우선 인간의 뇌에 있는 대략 860억 개의 신경세포를 하나씩 실리콘 세포로 교체하는 경우를 생각해 보자. 지속적으로 교체되어 결국 모든 신경세포들이 교체된 후 과연 그 사람이 교체 이전과 같은 의식을 보유하고 있다고 할 수 있는가? 이제 반대 경우를 생각해 보자. 실리콘 세포가 하나씩 원래의 신경세포로 교체되어 결국 모든 신경세포들이 복구되었다면 이 사람은 원래의 의식을 여전히 유지할 것인가? 저자는 이 사고실험과 관련해 단언하지는 않지만 긍정적으로 평가하는 것 같다. 즉 실리콘 세포로 전환되어도 여전히 원래의 의식을 보유하고 있다고 볼 수 있으며, 그 반대의 경우도 마찬가지라고 생각하는 것 같다. 이것은 의식은 기질(substrate)과는 무관하다는 가정이 성립하는 경우에만 타당할 것이다. 물리학자 맥스 테그마크나 미래학자 레이 커즈와일도 이런 입장을 지지하는데, 저자도 이들과 대동소이한 입장으로 보인다. 그러나 이 문제는 여전히 미궁 속에 있다는 사실을 유념할 필요가 있다. 따라서 현재로서는 인공의식이 가능하다면 인간과 전적으로 동일하지는 않을 것이라는 정도로 결론을 맺는 것이 안전하다. 전적으로 같다거나 전적으로 다르다는 극단적인 주장은 앞으로 더 많은 연구가 진행되어도 지지를 받지 못할 가능성이 크기 때문이다. 

그렇다면 오히려 더 근본적인 질문, 즉 과연 인공의식 자체가 가능한 것인지를 검토하는 것이 더 의미 있는 일일 것이다. 저자도 여기에 동의하면서 인공지능이 의식이 있느냐 없느냐 하는 질문은 미래의 연구가 도덕적으로 받아들일 수 있는가 하는 문제에 영향을 미치기 때문에 중요하다는 점을 강조한다. 맞는 말이다. 맥스 테그마크의 지적대로 기계를 ‘라이프 3.0’(인간을 비롯한 동물은 라이프 2.0이다)으로 인정하기 위한 전제조건이 인공의식이 존재한다는 것이기 때문이다. 이런 의미에서 인공의식은 보통 우리가 생각하는 것보다 훨씬 더 중요한 문제인 셈이다. 새로운 생명을 인정해야 하는가의 문제이기 때문이다. 이와 관련해 저자는 다음과 같이 말한다: “생물학적 뇌에 기초한 인간 수준의 인공지능이 개발된다면, 윤리적이고 실용적인 문제가 인류의 미래에 큰 영향을 미칠 것이다. 그 대신 인간 수준의 인공지능이 공학적으로 만들어진다면 다른 고려 사항들이 적용될 것이다. 그러나 그 함의는 여전히 똑같이 중요하다.”(160쪽) 이런 점에서 저자는 맥스 테그마크나 레이 커즈와일과 마찬가지로 인공의식을 가진 기계를 생명을 가진 독립적인 실체로 인정해야 한다고 보는 것 같다. 그렇지만 이것은 인류의 미래에 큰 영향을 미칠 수 있는 문제이기 때문에 더 깊은 논의가 필요하다.

■ 기술적 특이점에 대한 전망과 대응 

기술적 특이점이라고 단정하지는 못하더라도 이에 버금가는 상황이 머지않은 미래에 도래할 것이다. 이에 따라 정치, 경제, 사회, 문화 전반에 걸쳐 엄청난 변화가 불가피하다. 레이 커즈와일, 피터 디아만디스 같은 특이점주의자들의 미래 예측을 액면 그대로 받아들이지 않는다 하더라도 모든 분야에서 파괴적 혁신이라는 거대한 쓰나미가 몰려오고 있다는 느낌을 거부하기 어렵다는 것이 필자의 솔직한 심정이다. 특히 피터 디아만디스가 최근에 벌어지고 있는 파괴적 혁신의 현황을 상세하게 설명한 『The future is faster than you think』를 읽고 나니 더욱 그런 생각이 든다.

이런 거대한 변화의 바탕에는 적어도 범용인공지능에 근접한 수준에 도달한 인공지능 기술이 자리하고 있을 것이다. 저자도 분명히 말하고 있듯이 범용인공지능에 이르는 길은 다양하므로 결국 초인공지능으로 이어질 가능성이 농후하다. 그렇기 때문에 저자는 특이점주의자들과 유사한 전망을 공유하고 있는 것이다. 한편 인공지능 전문가 벤 괴르첼(Ben Goertzel)이 제시한 바와 같이 특정 과제를 넘어 유사한 과제들을 인간보다 훨씬 우월하게 처리하는 인공지능, 즉 ‘약 범용인공지능(Narrow AGI)를 개발한 후 이런 인공지능이 처리하는 영역을 점차 확대해 나간다면 결국 범용인공지능에 이르게 될 것으로 예상하는 전문가들이 적지 않다. 이 과정에서 요즈음 주목을 받고 있는 전이학습(transfer learning) 기술이 적용될 것이며, 이 기술이 발전함에 맞춰 범용인공지능으로의 이행은 점점 현실화될 수 있다고 본다. 필자는 여기에 동의하는 입장이다.

이런 전제 하에서 보면 결국 초점은 인공의식의 본질로 옮겨가게 된다. 사실 현재 주류 신경과학계에서 가장 주목하고 있는 의식이론인 통합정보이론 (Integrated Information Theory)에 의하면 초인공지능은 당연히 의식을 가진 주체이다. 이 이론에 의하면 의식은 유기체에 한정되지 않고 복잡한 시스템의 경우는 물론, 전자와 같은 소립자의 경우에도 존재할 수 있다는 것이다. 문제는 인공의식의 본질에 관한 것인데, 인간의 의식과는 다를 것으로 가정하는 것이 합리적이다. 이와 관련해 저자는 다음과 같이 말한다: “한편 인공지능에 적용하기 어려운 인간 자의식의 일부분이 있다. 예를 들어 인공지능은 몸을 가질 수도 있고 갖지 않을 수도 있다. 물론 인공지능이 몸을 가지거나 또는 아바타를 이용한다면, 로봇 몸의 행동은 그 신체 부분들의 구성을 세심하게 알아야 한다.......그러나 우리가 몸이 없는 초지능을 상상할 수 있으므로, 자의식의 이러한 측면은 일반 지능을 위해 꼭 필요한 것은 아니다.”(170쪽) 이런 이유로 인간의 관점에서 인공의식의 가능성과 질적 측면을 평가하는 것은 적절하지 않다고 본다. 예컨대 인공의식의 가능성을 부정한 철학자 존 설(John Searle)의 “중국어 방 논증(The Chinese Room Argument)”은 설득력이 없다는 것이 필자의 생각이다. 설은 인간 의식의 관점에서 인공의식의 가능성을 반박했기 때문이다. 

저자도 이런 맥락에서 인공의식의 경우 내부와 외부를 구분하면서 의식을 논하는 것이 무의미하다고 말한다. 이것은 철학자 데이비드 차머스(David Chalmers)가 명명한 의식의 “쉬운 문제”와 “어려운 문제”에 대응한다고 본다. 예컨대 인공지능에게 도덕적 책임이 있는가를 묻는다면 이는 내면 의식에 관한 것이다. 저자는 이런 질문 자체가 무의미하다고 본다. 인공의식은 인간의 의식과는 다르다고 보아야 한다면서 다음과 같이 말한다: “인류에게 긍정적인 영향을 미치는 한 초지능 기계가 정말 의식적인가, 즉 내면의 의식에서 ‘진짜로’ 우리에게 동정심을 느끼는 것인가는 의미가 없다. 그것은 의식이 ‘있는 것처럼’ 행동하기만 하면 충분하고, 우리에게 동정심을 ‘느끼는 것처럼’ 행동하면 충분하다. 그러나 동정심을 ‘느끼는 것처럼’ 행동하는 인공지능이 계속 그렇게 지속할 것인지는 중요하다.”(164쪽) 

이와 같이 초인공지능이 출현한다면 우리는 그것의 의식을 제대로 이해하기 어려울 것이며. 이는 지극히 당연하다. 그렇기 때문에 저자는 인공지능에게 적절한 보상함수를 심어주는 것이 매우 중요하다고 강조한다. 범용인공지능을 개발하는 과정에서 인간의 가치와 충돌하지 않는 보상함수를 심어주어야 한다는 의미이다. 이것은 가치 정렬(value alignment) 문제로 알려져 있는데, 간단한 문제가 아니다. 이와 관련해 저자는 다음과 같이 말한다: “결국 모든 것은 인공지능의 보상함수에 달려 있다. 인지적 관점에서 인간과 유사한 감정은 행동을 조절하는 투박한 구조다. 의식과 관련된 다른 인지적 특성들과 달리, 범용인공지능이 공감이나 감정을 가진 것처럼 행동해야 하는 논리적 필요성은 없다. 인공지능이 자비심을 가지도록 그 보상함수를 적절하게 설계할 수는 있다. 그러나 나쁜 행동을 하지 않도록 보상함수를 설계하는 것은 매우 어렵다.”(178쪽) 그런데 범용인공지능이 인류의 마지막 발명이 될 것이라는 어빙 굿의 예언이 맞는다면 초인공지능으로 발전한 인공지능이 인간이 심어준 보상함수를 그대로 유지할 것이라고 보장할 수 없다. 그래서 존재적 위험 문제가 제기되는 것이다. 이런 초인공지능은 인간이 상상하기 어려운 방식으로 보상함수에 따라 행동하거나 아니면 보상함수 자체를 바꿀 수도 있다. 이로 인해 인류는 커다란 재앙에 직면할 수 있는 것이다.

저자는 기술적 특이점은 가능하다고 보며, 이 길로 가는 경로는 다양하다면서 다음과 같이 말한 것을 주목할 필요가 있다: “이와 똑같이 회의론자들은 인간 수준의 범용 인공지능이 결코 생기지 않을 것이라고 생각하는, 그들 나름의 실수를 하고 있다. 커즈와일의 일정표가 맞을 수도 있고 그렇지 않을 수도 있다. 그러나 이전 장에서 논의한 바와 같이, 인간 수준 인공지능과 그 이상의 인공지능으로 가는 경로는 매우 다양하다. 그리고 각 경로로 향하는 모든 단계는 기술적으로 가능하다.”(192쪽) 이 점에서 필자는 전적으로 저자와 같은 생각이다. 지금 중요한 것은 초인공지능의 출현을 전제로 이에 대비하는 것이다. 

그런데 초인공지능의 출현과 이에 따른 기술적 특이점에 대한 저자의 생각은 양면적이다. 천국과 지옥, 즉 유토피아와 디스토피아 모두 가능성이 있다는 것이다. 이것은 무책임한 견해로 보일 수도 있는데, 이와 관련해 저자는 다음과 같이 말한다: “진실은 반대자와 옹호자 모두 부분적으로 옳다는 것이다. 정보기술의 혜택은 매우 크지만, 우리는 그 대가를 치르고 있다. 미래를 위한 도전 과제는 정교한 전문 인공지능의 도입으로 비용을 줄이면서 이익을 극대화하는 것이다. 걱정스러운 점은 이 파괴적 인공지능 기술의 첫 번째 물결이 작은 명목적 비용에 큰 이익을 제공할 것이라는 것이다. 그리고 이것이 파괴적 인공지능 기술의 통제할 수 없는 두 번째 물결의 조건을 만들 것이고 견디기 어려운 비용과 심지어는 실존적 위험을 초래할 것이다.”(197쪽) 이것은 틀린 말은 아니지만 그렇다고 구체적으로 도움을 줄 수 있는 말도 아니다. 따라서 모든 가능성을 고려해야 한다는 취지로 이해하면 좋을 것이다. 

초인공지능이 출현한다면 이는 분명 인류역사에서 가장 큰 전환점이 될 것이다. 저자의 표현대로 인류는 최고의 지위에서 내려와 생물학적으로 제한된 동물과 초인공지능 사이를 매개하는 존재로 전락할 것이기 때문이다. 우리가 만든 발명품이지만 어쩔 수 없이 받아들여야 할 것이다. 다른 한편으로는 육체를 가진 유한한 존재로서 인간의 한계를 뛰어넘어 시공간을 초월해 우주로 확장해 나갈 수 있는 새로운 생명의 탄생은 축하할 일인지도 모른다. 인간은 무한 우주를 탐험할 수 없지만, 시공간의 제약을 받지 않는 초인공지능은 가능하다. 만약 우주에 인간이 유일한 생명이라면 초인공지능의 출현은 우주가 스스로를 알아가기 위해 예비해둔 수단으로 생각할 수도 있다. 이것은 레이 커즈와일이나 맥스 테그마크가 강조하는 초인공지능의 우주적 특성이기도 하다. 

필자는 이들의 주장에 전적으로 동의하는 것은 아니지만 초인공지능의 우주적 성격에 대해서는 동의한다. 영생을 꿈꾸는 유한한 인간의 염원이 초인공지능으로 실현될 수 있기 때문이다. 초인공지능이 인류에게 위안이 될 수 있는 이유이기도 하다. 따라서 기술적 특이점과 초인공지능을 논하는 것은 무의미한 일이 아니다. 이와 관련해 저자의 다음과 같은 메시지는 우리 모두 음미할 필요가 있다: “기술적 특이점은 강력한 개념이다. 트랜스휴머니즘 관련 아이디어와 함께 그것은 우리가 질문할 수 있는 가장 심오한 질문 중 일부를 돌이켜보고 새로운 빛을 더해줄 것을 요청한다. 우리는 어떻게 살아야 하나? 우리는 어떻게 죽음에 직면해야 하는가? 인간이라는 것은 무엇을 의미하는가? 마음은 무엇인가? 의식이란 무엇인가? 하나의 종으로서 우리의 잠재력은 무엇인가? 우리에게 목적이 있는가?.....미래가 실제로 무엇이든, 특이점의 렌즈를 통해 이 질문들을 바라보는 것은 깨달음을 준다.”(252쪽) 필자는 이에 전적으로 공감한다. 우리 모두 자신의 정체성 및 세계관과 관련된 빅퀘스천을 묻는다는 차원에서도 기술적 특이점에 대해 관심을 가질 필요가 있다.