자연과학 분야

맥스 테그마크의 《라이프 3.0》

작성자

이영환

작성일

2018-02-14 19:23

조회

462

저자: 맥스 테그마크(Max Tegmark)

역자: 백우진

출판사: 동아시아(2017)

프렐류드: 오메가팀 이야기

1. 우리 시대의 가장 중요한 대화에 참여하는 것을 환영하며

2. 물질이 지능을 갖게 되다

3. 가까운 미래: 약진, 오류, 법, 무기, 일자리

4. 지능 폭발

5. 그 후: 다음 1만년

6. 우리의 우주적인 재능: 다음 수십억 년과 그 너머

7. 목적

8. 의식

에필로그: FLI팀 이야기

■ 저자 소개 및 책의 특징

저자 맥스 테그마크는 스웨덴 출신의 미국인으로 우주론자(cosmologist)이자 물리학자로서 현재 MIT 물리학과 교수로 재직 중이다. 필자가 테그마크 교수에 대해 관심을 갖게 된 계기는 그가 케임브리지 대학교에서 《Consciousness is a mathematical pattern》라는 제목으로 행한 TED 강연 때문이었다. 그는 이 강연에서 의식(consciousness)이란 쿼크나 전자와 같은 기본 입자들의 특정한 배열(arrangement), 즉 패턴과 관련되어 있다는 주장을 펼쳤다. 살아 있는 생물과 죽은 생물 모두 동일한 입자들로 구성되어 있지만 이들의 상태를 결정하는 것은 입자들의 배열이며 이 논리는 의식에도 그대로 적용된다는 것이다.

또한 테그마크 교수는 케임브리지 대학교의 수리물리학자 로저 펜로즈(Roger Penrose)와 애리조나 주립대학교의 마취과교수 스튜어트 해머로프(Stuart Hameroff)가 의식은 신경세포의 일부인 미세소관(microtubules)에서 일어나는 양자 현상으로 해석한 데 대해 이것은 물리법칙에 위반된다고 반박했다. 이는 평소 그가 의식 문제에 깊은 관심을 가지고 있다는 것을 시사한다. 필자는 의식 문제에 대한 그의 주장에 전적으로 동의하지는 않지만 이 문제를 과학적으로 접근하려는 입장에는 공감한다. 이런 이유로 그의 주장에 관심을 가지고 있던 차에 이 책을 접하게 되었고 왜 의식 문제에 관심을 가지고 있는지 이해하게 되었다. 저자가 이 책의 마지막 장(章)을 의식 문제에 할애한 것은 우연이 아니다. 물리학자 헨리 스텝(Henry Stapp)이나 아미트 고스와미(Amit Goswami)는 양자역학에서 중요한 관찰자 효과(observer effect)의 관점에서 의식 문제에 접근해 상당히 다른 주장을 펼치고 있지만 저자의 주장에도 관심을 가질 필요가 있다고 본다. 아직은 누구의 주장이 더 과학적인 관점에서 진실에 가까운지 판단하기 어렵기 때문이다.

이 책을 통해서 한 가지 더 알게 된 사실은 저자는 인공지능의 미래에 깊은 관심을 가지고 있으면서 인간에게 우호적인 인공지능 개발을 지향하는 각계각층의 전문가들을 결집해 수차례 국제회의를 주관했다는 것이다. 그리고 이런 회의를 통해 알게 된 구글 창업자 래리 페이지(Larry Page)와 테슬라 자동차로 널리 알려진 일론 머스크(Elon Musk) 등의 재정 지원을 받아 <생명의 미래 연구소(Future of Life Institute)>를 설립해 운영하고 있다. 그는 이 연구소를 통해 인간에 우호적인 인공지능을 개발하도록 하는 데 기여하고자 노력하고 있다. 일반대중은 여전히 인공지능이 초래할 미래상에 대해 막연하게 낙관적으로 생각하고 있는 상황에서 그의 노력은 매우 중요하다고 생각한다.

저자는 이 책에서 인간 수준의 인공지능, 즉 범용인공지능(Artificial General Intelligence; AGI)는 언젠가는 실현된다는 것을 전제로 논의를 전개하고 있다. 전문가들을 상대로 여러 번 실시된 여론조사에 의하면 AGI의 출현 시기에 대해서는 의견이 분분하지만 실현 가능성 자체에 대해서는 거의 모두 동의하고 있다. 이 문제에 대해 가장 낙관적인 발명가이자 인공지능 전문가 레이 커즈와일(Ray Kurzweil)은 2029년경이면 AGI가 개발될 것이라고 예견하였다. 반면 비관적인 전문가들은 이보다는 훨씬 더 늦게 지금부터 100년 후에야 가능할 것이라고 예상한다. 그리고 극소수의 전문가들은 AGI는 결코 개발되지 못할 것이라고 예상하지만 거의 무시당하고 있는 실정이다. 따라서 현 시점에서 AGI는 미래 언젠가는 개발될 것으로 예상하는 것이 합리적이다. 저자 또한 이런 입장에서 AGI가 초래할 미래와 관련해 <5장>에서 다양한 시나리오를 제시하고 하나하나 상세하게 검토하였다. 이 부분이 이 책에서 가장 독창적이면서 주목할 부분이라고 생각한다. 이에 비하면 우주적 차원에서 에너지의 효율적인 사용과 AGI의 역할을 다룬 <6장>은 물리법칙의 극한에서 일어날 수 있는 사건들을 지나치게 큰 스케일로 다루었기에 너무 먼 미래의 일이며 동시에 이 책의 핵심에서 벗어났다는 인상을 준다.

이 책의 제목이 시사하듯이 저자는 라이프, 즉 생명의 관점에서 인공지능 문제에 대해 논의하고 있다. 이것이 이 책의 핵심 포인트이다. 생명을 구성하는 양대 요소를 하드웨어(DNA, 세포, 신경망 등)와 소프트웨어(알고리즘, 지식 전반)로 구분한 후, 이들 요소가 “진화와 설계” 중 어떤 원리에 의해 개선되는가에 따라 생명을 라이프1,0, 2.0, 및 3.0의 세 단계로 구분한 것은 흥미로운 시도라 할 수 있다. 저자는 인공지능도 생명의 영역에 포함시켜야 한다는 관점을 가지고 있기에 이렇게 구분한 것이다. 이와 관련해 저자는 다음과 같이 말한다. “생명을 어떻게 정의하느냐는 문제는 악명 높은 논쟁거리이다.......우리는 생명을 우리가 지금까지 마주친 종(鍾)으로 한정하기를 원치 않는다. 따라서 생명을 매우 넓게 정의해, 단순히 자신의 복잡성을 유지하고 복제할 수 있는 과정이라고 하자. 복제되는 대상은 물질(원자)이 아니라 정보(비트)이고, 어떻게 원자가 배열되는지를 구체적으로 정하는 정보이다.”(43쪽) 이렇게 정의함으로써 인공지능을 라이프 3.0으로 분류할 수 있는 근거가 마련되는 것이다. 여기서 주목할 부분은 “원자가 배열되는 방법에 대한 정보”이다.

이런 구분에 의할 때 생명의 세 단계는 다음과 같은 특징을 갖는다. 그런데 여기에는 중간 단계가 생략되어 있기 때문에 모든 생명체를 이에 맞춰 분류하는 데는 한계가 있다. 예컨대 라이프 1.2라든가 라이프 2.4와 같은 단계를 설정할 필요가 있지만, 이것이 여기서 논의의 본질은 아니다.

라이프 1.0: 생물적 단계로서 하드웨어와 소프트웨어 모두 진화하는 단계(박테리아를 포함한 원시적인 생명 체)

라이프 2.0: 문화적 단계로서 하드웨어는 진화하지만 소프트웨어는 상당 부 분 설계되는 단계(인간을 포함한 극히 일부 동물)

라이프 3.0: 기술적 단계로서 하드웨어와 소프트웨어 모두 설계되는 단계(인간 수준의 인공지능)

실제로 저자는 이 책의 곳곳에서는 AGI는 라이프 3.0으로 간주할 수 있다고 말하고 있다. 이 점에서는 레이 커즈와일과 같은 입장을 취한 것으로 보인다. 커즈와일도 저서 『마음의 탄생』에서 다음과 같이 저자와 동일한 입장을 표명했다: “이 지점에서 나는 개인적으로 믿음의 도약을 하고 싶다. 기계가 인간 수준의 지능을 갖게 되는 순간, 인간과 동등한 존재로 인정받아야 한다는 믿음이다.”(307쪽) 이들은 라이프 2.0에 해당하는 인간이 진화의 족쇄를 벗어날 수 있는 유일한 방법은 AGI를 통해, 즉 설계를 통해 라이프 3.0으로 업그레이드되는 길밖에 없으며 이는 인류의 미래를 위해 불가피하면서도 바람직하다는 입장이다.

이와 관련해 저자는 다음과 같이 말한다. “우리가 아는 모든 생명의 형태는 각자의 생물적 하드웨어로 제한된다. 아무도 100만 년 살거나, 위키피디어를 전부 외우거나, 알려진 과학을 전부 이해하거나, 우주선 없이 우주비행을 할 수 없다........이런 점을 고려할 때 생명은 라이프 3.0으로 최종 업그레이드가 돼야 한다. 소프트웨어는 물론이고 하드웨어도 설계하는 능력을 갖추자는 얘기다. 말하자면 라이프 3.0은 자신의 운명의 주인이 돼 마침내 진화의 족쇄에서 완전히 벗어나는 것이다.”(48쪽) 이런 점에서도 저자는 커즈와일과 비슷한 입장이다. 단, AGI와 지능 폭발(intelligence explosion)이 가져올 미래상에 대해서는 저자보다 커즈와일이 훨씬 더 확신에 차 있다는 점에서는 차이가 있다. 커즈와일은 미래에 실현될 한 가지 시나리오, 즉 기술적 유토피아만을 고려하는 반면, 저자는 다양한 시나리오를 검토한다.

필자가 이 책을 통해 확인한 또 다른 사실은 저자는 물리학자로서는 드물게 이야기(story)를 풀어내는 솜씨가 대단하다는 것이다. 예컨대 이 책의 도입부인 <프렐류드: 오메가팀 이야기>에서 저자는 가상의 시나리오를 제시한다. 이 시나리오의 핵심은 인공지능을 개발하는 오메가팀인데 이 팀이 만든 인간 수준의 인공지능 프로메테우스가 인간을 능가하면서 막대한 자원을 확보해가는 과정을 실감나게 묘사했다. 이것만으로도 저자가 만만치 않은 스토리 텔러라는 인상을 준다. 나아가 중간 중간에 여러 이야기를 전개하는 데 무리가 없다. 저자는 스웨덴에서 대학시절에 경제학을 포함해 인문학적인 지식을 꽤 축적한 것으로 보인다, 이런 배경에서 물리학으로 학위를 받았기 때문에 이 정도 수준의 책을 쓰게 된 것 같다.

■ 지능과 인공지능, 의식과 인공의식

저자는 지능에 대해서 상당히 폭넓게 정의할 필요가 있다면서 간략하게 “지능=복잡한 목표를 달성하는 능력”이라고 말한다. 사실 지능이 무엇인가에 대해서는 여전히 학자에 따라 의견이 분분한 것은 사실이다. 이것은 생명과 의식에 대한 다양한 견해가 공존하고 있는 것과 유사하다. 생명이란 무엇인가, 의식이란 무엇인가라는 질문에는 까다로운 문제가 내재되어 있기 때문이다. 그렇기에 저자는 인공지능을 염두에 두고 이와 같이 지능을 넓게 정의한 것이다. 그리고 이런 입장은 지능을 생성하는 기본 바탕을 구성하는 재료, 즉 기질(substrate)에 관한 문제와도 관련되어 있다. 예컨대 반도체의 기질은 실리콘이다. 이와 관련해 저자의 입장은 다음과 같다. “인공지능 연구자들은 지능은 궁극적으로 연산이지 육체와 혈액이나 원자와는 무관한 것이라는 지혜를 대체로 공유한다. 이는 기계가 언젠가는 적어도 우리만큼 영리해지지 않을 이유가 전혀 없음을 뜻한다.”(82쪽) 여기서 확인할 수 있는 것은 저자는 지능의 핵심은 연산(computation) 능력이며 이것은 재료의 물리적 성질과는 무관하다는 것이다. 그렇기에 인간 수준의 인공지능은 가능하다고 본다.

이런 저자의 입장은 기억이나 정보에 대해서도 그대로 적용된다. 기억이나 정보는 기질과는 무관하다는 것이다. 그리고 이것은 반박하기 어려운 주장이기도 하다. 사실 저자의 주장을 전개하는 과정에서 이 점은 매우 중요한 역할을 한다. 왜냐하면 궁극적으로 의식 문제를 다루는 데도 이 논리가 적용되기 때문이다. 이와 관련해 다음과 같이 말한다. “정보는 물리적 기질로부터 독립된 자신의 생명을 지니는 것이다. 사실 바로 이 기질로부터 독립적이라는 정보의 측면만이 우리의 관심사이다. 만약 당신의 친구가 당신이 보낸 자료에 대해 얘기하기 위해 전화를 걸어온다면 그는 전압이나 입자에 대해 말하고자 하는 것은 아닐 것이다. 이는 정보처럼 만질 수 없는 무언가가 어떻게 만질 수 있는 물질의 형태를 갖는지에 대한 첫 실마리이다. 우리는 곧 기질에서 독립적이라는 이 아이디어가 정보뿐만 아니라 연산과 학습에 어떻게 훨씬 심오하게 작용하는지 살펴볼 참이다.”(85쪽) 이러한 기질 독립성은 인공지능을 라이프 3.0이라고 분류할 수 있는 논리적 근거를 제공한다. 지능과 인공지능의 기질이 다르다는 이유로 이들을 달리 취급할 수 없다는 것이다.

저자의 이런 논리는 의식에 대해서도 그대로 적용된다. 뒤에서 다시 언급하겠지만 저자는 커즈와일과 마찬가지로 인공지능도 의식, 정확하게 말하면 인공의식을 가질 수 있다고 본다. 이 점에서는 유발 하라리(Yuval Harari)와 다른 입장이다. 하라리는 저서 『Homo Deus』 9장에서 지능과 의식의 비동조화(decoupling)를 주장했다. 그는 인공지능이 인간 수준의 인공지능, 나아가 그 이상의 초인공지능으로 발전한다고 하더라도 그것은 어디까지나 놀라운 연산 능력을 가진 알고리즘일 뿐이며 인간의 의식과 같을 수 없다면서 다음과 같이 말했다. “컴퓨터가 의식을 획득하고 감정과 느낌을 경험하기 시작할 것 같지는 않다.......그렇지만 우리는 중대한 혁명 직전에 있다. 지능이 의식과 비동조화되기 때문에 인간은 그 고유한 가치를 상실할지 모르는 위험에 처해있다(In particular, it doesn’t seem that computers are about to gain consciousness, and to start experiencing emotions and sensations....... However, we are on the brink of a momentous revolution. Humans are in danger of losing their value, because intelligence is decoupling from consciousness. p.311).”

이어서 하라리는 의식은 없지만 인간을 능가하는 인공지능의 출현을 전망하면서 다음과 같이 말했다. “그렇지만, 우리는 그러한 과제를 인간보다 훨씬 더 잘 수행할 수 있는 새로운 타입의 비의식적인 지능을 개발하고 있다. 이 모든 과제들은 패턴 인식에 기반을 두고 있으며, 비의식적인 알고리즘은 패턴을 인식하는 면에서 곧 인간 의식을 능가할 것이다(However, we are developing new types of non-conscious intelligence that can perform such tasks far better than humans. For all these tasks are based on pattern recognition, and non-conscious algorithms may soon excel human consciousness in recognizing patterns. p.311).”

한편 커즈와일은 하라리와는 반대이고 저자와는 같은 입장에서 인공지능도 인간과 같은 의식, 나아가 그 이상의 의식을 가질 수 있다고 주장했다. 그는 저서 『마음의 탄생』에서 다음과 같이 말했다. “내가 보기에 의식이란 복잡한 물리적 체계 속에서 부분들의 상호작용 과정에서 만들어지는 예기치 못한 속성이다.......결론적으로 말하자면, 복잡한 인간의 뇌를 성공적으로 모방한 컴퓨터라면, 인간과 같은 수준의 의식을 만들어 낼 것이다.”(297쪽) 이것은 저자의 주장과 같은 내용이다. 특히 의식을 창발 현상으로 단정한 점은 같다. 그리고 현재 인공지능 알고리즘의 핵심은 인공신경망 기술임을 고려한다면 인간 뇌의 원리를 모방하되 처리 속도나 규모 면에서 뇌와 비교할 수 없을 정도로 방대한 인공신경망 알고리즘이 인간 수준의 의식을 시현하리라 예상하는 것은 무리가 아니다. 어쩌면 그 이상의 결과가 실현될 수도 있다.

또한 커즈와일도 저자와 마찬가지로 의식도 그 물질적 기반인 기질과는 독립적이라는 점을 강조했다. 기질이 신경세포든 아니면 실리콘이든 의식 자체와는 무관하다면서 “의식은 어떤 존재의 전체적인 구조 속에서 발현되는 하나의 속성일 뿐 그 존재가 작동하는 토대가 되는 기질이 아니다”라고 주장하면서 다음과 같이 말했다. “내가 예측하기로는, 머지않은 미래의 기계들은 의식을 가지고 있는 것처럼 보일 뿐만 아니라 자신들도 퀄리아를 가지고 있다고 주장하며 생물학적 인간을 설득시키는 데 성공할 것이다. 기술발전에 힘입어 그들은 미묘하면서도 친근한 정서적 선호도 표현할 수 있게 될 것이며, 우리를 웃기기도 울리기도 할 것이다.”(307쪽) 여기서 퀄리아(qualia)는 “의식의 주관적 느낌과 체험”을 가리키는 용어이다. 최근 우리나라에도 소개된 인공지능 로봇 “소피아”는 아직 AGI 수준에는 턱 없이 못 미침에도 불구하고 인간처럼 느끼고 말하는 것처럼 보인다. 그러니 AGI가 장착된 로봇이 등장한다면 그 충격은 대단할 것이다.

여기서 인공지능이 의식을 가질 수 있는가 하는 문제에 대한 유발 하라리와 레이 커즈와일의 상반된 견해를 인용하면서 동시에 저자의 입장을 비교한 이유는 인공지능을 새로운 생명으로 간주하는 문제와도 직결되기 때문이다. 간략히 말해 의식이 없는 존재를 생명으로 분류하는 데는 무리가 있다. 따라서 하라리의 견해에 의하면 저자와 같이 인공지능을 라이프 3.0으로서 라이프 2.0에 머물고 있는 인간을 한계를 극복한 생명으로 간주할 수 없다. 그런데 인공지능이 의식이 있다는 것을 인정한다면 생명이 아니라 단지 기계로 간주하는 데 문제가 발생한다. 저자는 기본적으로 커즈와일과 같은 입장이기에 인공지능, 특히 인간 수준의 인공지능 및 초인공지능은 당연히 의식이 있는 존재이므로 라이프 3.0에 해당한다고 보는 것이다.

이런 구분이 어떤 의미가 있는지는 좀 더 두고 볼 일이지만 일단 수용할 필요가 있다는 생각이 든다. 인간 수준의 인공지능은 문자 그대로 인간 수준의 의식을 가진 기계, 즉 튜링테스트를 통과한 튜링기계이므로 라이프 3.0으로 분류하더라도 논리적인 모순은 없다. 특히 이런 수준의 인공지능은 자기 자신을 복제하고 번식할 수 있다는 점에서도 인간과 다를 바 없을 것이다, 나아가 초인공지능은 도저히 인간이 이해할 수 없는 방식으로 복제와 번식을 지속할 것이므로 인간의 판단 영역을 벗어난 존재가 될 것이다. 아마도 그때는 라이프 4.0이라는 명칭을 부여하는 게 타당할지도 모른다. 인간 수준의 인공지능과도 확연히 구별되기 때문이다. 커즈와일이 말한 특이점(singularity)을 유발하는 수준의 인공지능이라면 인간에게는 신(神)적 존재처럼 비칠 것이다.

■ AGI와 지능 폭발의 의의

저자는 지능의 중요한 특성인 연산 또한 기질과 독립적이라는 점을 강조한다. 그리고 이것은 인간 수준의 인공지능의 가능성과 밀접하게 연관되어 있다는 것이라면서 다음과 같이 말한다. “지능이 비물질적으로 느껴지는 것은 그것이 기질 독립적이어서 기질의 물리적 세부 사항에 의존하거나 영향을 받지 않는 독자적인 생명을 지니기 때문이다. 간단히 말해 계산은 입자의 시공간 배열 양상이어서, 입자가 아니라 양상이 중요하다. 물질은 중요하지 않다. 다른 말로 하면, 하드웨어는 물질이고 소프트웨어는 양상이다. 계산의 기질 독립성은 AI가 가능함을 시사한다. 지능은 살과 피와 탄소 원자를 필요로 하지 않는다.”(98쪽) 이런 이유로 저자는 인간 수준의 인공지능은 시기의 문제일 뿐 반드시 실현될 것으로 생각하는 것이다.

AGI가 실현된다면 이것은 곧 외부의 도움 없이 스스로 그리고 지속적으로 성능을 개선할 수 있다는 것을 의미한다. 이른바 지능 폭발은 필연적이다. 그러면 범용인공지능은 매우 빠른 시일 안에 초인공지능(Artificial Super Intelligence; ASI)으로 발전할 것이다. 제임스 배럿(James Barrat)도 『파이널 인벤션』에서 이 점을 강조했으며 레이 커즈와일도 『마음의 탄생』에서 같은 얘기를 했다. 저자는 이에 대한 우려를 다음과 같이 드러낸다. “1 단계의 AGI는 다시 더 나은 AGI를 설계할 능력이 충분해, AGI는 물리법칙에 의해서만 제약되므로 인간 수준을 훨씬 능가할 것이기 때문이다. 최종적으로 우리 인간이 지구의 다른 생명체들 위에 군림하게 된 것은 그들보다 영리해서였음을 고려할 때, 우리는 마찬가지로 우리보다 더 영리한 초지능에게 지배당하리라고 보는 것이 타당하다.”(188쪽)

그런데 저자는 이런 우려를 표명하면서도 한편으로는 AGI에 대해 낙관적인 견해를 피력하는데, 이는 AGI가 인간에게 전적으로 우호적이라는 가정 하에서만 성립한다. 이런 이유로 저자는 종종 서로 모순된 견해를 여과 없이 개진하는 것 같은 인상을 준다. AGI에 대한 견해라든가 의식 문제에 대한 견해에서도 종종 일관성 없는 진술을 하고 있다는 느낌이다. 예컨대 저자는 AGI는 그동안 인간이 해결하지 못했던 문제에 대한 해결방안을 제공할 것이라면서 다음과 같이 말한다. “우리가 지능을 인공지능으로 확충한다면 인생을 훨씬 낫게 만들 수 있는 잠재력을 가질 게 분명하다. AI가 약간만 발달해도 과학과 기술에 굵직한 향상이 가능해질 것이고 이에 따라 사고, 질병, 불평등, 전쟁, 고되고 단조로운 일, 가난이 줄어들 것이다.”(131쪽) 이 대목에서 저자가 얼마나 낙관적이고 나이브한지 알 수 있다.

특히 저자가 인공지능이 가난과 불평등을 줄이는데 기여한다고 말하는 대목에서는 저자의 안목을 의심하지 않을 수 없다. 우리들 대부분은 지금은 인공지능으로부터 이런저런 일상적인 혜택은 더 받겠지만 결정적인 혜택으로부터는 격리될 것이다. 또한 부의 집중은 더욱 가속화될 것이라는 것이 중론(衆論)이다. 이것은 자본주의 시장경제에서 어쩔 수 없는 한계이다. 그럼에도 불평등과 가난을 완화할 수 있다는 저자의 낙관론의 근거가 무엇인지 모르겠다. 저자는 기술적 봉건주의를 전혀 염려하지 않는 것 같다.

저자가 AGI에 대해 지나치게 낙관적인 견해를 갖고 있다는 사실은 다음 표현을 통해서도 재차 확인할 수 있다. “흥미롭게도 기술이 발전하면 정부 개입 없이도 여러 값진 제품과 서비스가 무료로 제공될 수 있다.......기술 덕분에 오늘날에는 가난한 사람들도 예전에는 세계 최상층 부자들도 접하지 못하던 것들을 누리고 있다........만약 언젠가 기계가 현재의 상품과 서비스를 최소의 비용으로 제공할 수 있다면, 그때엔 모두가 더 잘살기에 충분한 부가 있음이 확실하다. 달리 말하면 정부는 상대적으로 약간의 세금만 투여해도 기본소득과 무료 서비스를 제공할 수 있다.”(178쪽) 저자는 이런 낙관적인 견해의 근거가 무엇인지 구체적으로 밝히지는 않았다. 아마도 이것은 물리학자로서는 감당하기 어려운 문제일 것이다. 그럼에도 이런 주장을 펼친 이유는 학부에서 경제학을 전공했던 경력 때문일 것으로 추측된다. 이와 같은 저자의 입장은 AGI 이후 가능한 시나리오들을 검토하는 과정에 그대로 반영되었다.

■ AGI 이후 가능한 시나리오 비교

저자는 AGI는 결국 개발될 가능성이 높고 그래서 인류의 미래를 완전히 바꿔 놓을 것으로 본다. 그렇다고 레이 커즈와일 같이 단정적으로 기술적 유토피아의 도래를 믿지는 않는다. 오히려 저자는 우리가 대처하기에 따라 AGI 이후에 여러 가지 시나리오가 가능하다는 점을 강조한다. 기본적으로 맞는 말이다. 그렇지만 이들 여러 시나리오가 무작위적인 성격을 갖는 것은 아닐 것이다. 이 가운데 모든 변수들을 감안할 때 실현 가능성이 가장 높은 시나리오가 있을 것이다. 그리고 그런 시나리오가 사람에 따라 다를 수도 있다.

저자는 이런 가능한 시나리오 12가지를 검토한다. 그리고 이런 시나리오들을 검토하는 데는 상당한 상상력이 요구된다. 우리가 경험하지 못한 세상을 전제로 어떤 일이 전개될지 상상해야 하기 때문이다. 이런 면에서도 저자는 우주론자에 그치지 않고 상당한 이야기꾼이라는 인상을 준다. 필자가 아는 한 물리학자로서 이 정도로 이야기를 풀어갈 사람이 별로 없다. 미치오 카쿠(Michio Kaku)나 브라이언 그린(Brian Greene) 정도가 떠오른다. 저자가 검토한 12가지 시나리오 가운데 인간에게 우호적이면서 이상적인 것으로는 “자유주의 유토피아”, “자애로운 독재자”, “평등주의 유토피아”, 그리고 “보호하는 신” 사나리오를 들 수 있다. 반면 가장 우울한 것으로는 “정복자”, “후손”, “동물원 주인” 시나리오를 들 수 있다. 또한 저자는 AGI가 개발되지 않는 경우도 고려하는 데, 여기에는 “1984”, “회귀” 그리고 “자기 파괴”라고 명명한 시나리오들이 포함된다. 이들 시나리오는 마치 SF, 즉 사이언스 픽션을 읽는 것 같은 느낌을 준다. 아무튼 물리학자로서 저자의 상상력은 높이 평가받을 만하다.

물론 저자가 검토한 12가지 시나리오 외에도 우리가 전혀 예측할 수 없는 상황이 발생할 가능성도 배제하기 어렵다. 이런 점에서 저자가 모든 시나리오를 검토한 것은 아니다. 그럼에도 이 정도면 실현 가능성 면에서 상당 부분을 다루었다고 평가할 수 있다. 이들 시나리오가 모두 동일한 확률로 실현되리라고 예상되는 것은 아니다. 분명 이 가운데 특정한 시나리오가 실현될 가능성이 높을 것이지만 현재로서는 그것이 무엇인지 단정하기 어려울 뿐이다. 이것은 본질적으로 예측하기 어려운 문제이다. 그 이유는 AGI와 지능 폭발로 등장할 ASI의 가공할 힘 때문이다. 이미 인간의 지능을 초월한 인공지능이 인류에게 어떤 영향을 미칠지 미리 예단한다는 것 자체가 AGI나 ASI의 능력을 인간 기준에 입각해 과소평가하는 실수를 범하는 것이기 때문이다.

많은 전문가들이 고백했듯이 인공신경망 알고리즘과 유전자 알고리즘으로 대변되는 인공지능 알고리즘은 블랙박스와 같아서 무슨 일이 벌어질지 아무도 확신할 수 없다. 심지어는 이런 알고리즘을 고안한 전문가들조차 어떤 일이 벌어질지 알 수 없다는 사실이 모든 문제의 원천인 셈이다. 우리는 우리의 지적 능력으로는 감당할 수 없는 기계를 개발하고 있는 것이다. 그렇지만 이미 주사위는 던져졌고 개발을 멈추기는 불가능한 상황이다. 유일한 희망은 저자가 생각하고 있듯이 인간에게 우호적인 AGI를 개발하는 것인데, 이미 언급했듯이 AGI의 특성상 과연 가능할지 의문이다. 이런 이유로 스티븐 호킹이나 일론 머스크 등 영향력 있는 사람들이 경고하고 있는 것이다. 이들의 경고를 깊이 새겨야 할 것이다.

■ 의식 문제의 재조명

저자는 책의 마지막 장에서 의식 문제로 회귀한다. 이미 앞에서 잠깐 언급했듯이 의식 문제에 대한 저자의 기본 입장은 “모든 것은 물리법칙의 지배를 받는다”는 것으로 요약된다. 이런 의미에서 저자는 주류 신경과학자, 진화론자 그리고 물리학자의 입장을 대변하는 셈이다. 이와 관련해서는 저자가 인공지능에 관한 논의에서 가장 중요한 것은 “인공지능의 목적”이라고 지적한 데서부터 살펴볼 필요가 있다. 이것은 생명의 미래와도 직결되는 문제인데, 이와 관련해 다음과 같이 말한다. “AI 논란 중 가장 껄끄러운 부분이 무엇이냐는 질문에 한 단어로 대답해야 한다면, 나는 ‘목적’이라고 말하겠다. 우리는 AI에게 목적을 부여해야 하는가? 그렇다면 그 목적은 무엇이어야 하는가? AI에게 어떻게 목적을 심어줄 것인가? AI는 더 영리해진 뒤에도 전에 우리에게 받은 목적을 유지할까? 우리보다 똑똑한 AI의 목적을 우리가 바꿀 수 있을까? 우리의 궁극적인 목적은 무엇인가? 이들 질문은 어려울 뿐만 아니라 생명의 미래라는 측면에서 중요하다.”(333쪽) 이 대목에 AI와 생명, 즉 라이프를 연결시켜온 저자의 입장이 잘 드러나 있다. AI에게 어떤 목적을 심어줄 것인가, 그리고 이것이 가능한가 하는 문제가 중요한 것은 맞지만 이런 질문 자체가 성립하는지는 별개의 문제이다.

그러면서 저자는 AI와 생명에 관한 모든 논의가 물리법칙의 범위 안에서 이루어져야 한다는 점을 다시 강조하면서 다음과 같이 말한다. “우리는 방금 목적 지향적인 행동이 거슬러 올라가면 물리법칙을 바탕으로 함을 알아봤다.......입자의 특정한 배열은 일정 단계에 이르면 자기 복제에 아주 능해져서 환경에서 에너지와 재료를 확보해 그 과정을 거의 무한히 반복할 수 있게 된다. 우리는 그런 입자의 배열을 생명이라고 부른다.”(338쪽) 이와 같이 생명을 입자의 배열이라는 관점에서 접근하는 것이 저자의 기본 관점이다. 그런데 저자는 이 방법을 의식에도 적용하고 있다. 이런 주장이 반박하기 어려운 것은 사실인데 원칙적으로는 틀린 부분이 없기 때문이다. 그렇지만 이것으로 충분할지는 여전히 의문이다. 저자는 의식의 필요조건을 밝혔을 뿐 충분조건에 관해서는 아무 것도 보여준 바가 없기 때문이다. 입장의 배열에 차이가 있다는 것만으로 생명의 출현과 의식의 창발을 설명하기 충분한가? 개인적으로는 회의적이다.

인공지능을 인간의 한계를 뛰어넘는 새로운 생명의 형태로 인식하고 라이프 3.0이라고 부르려면 인공지능의 의식, 즉 인공의식의 문제를 다루지 않을 수 없다. 이미 언급했듯이 유발 하라리는 지능과 의식의 비동조화를 강조하면서 인공지능에는 인간과 같은 의식이 창발할 수 없다고 말한 것은 인공지능에 대한 잘못된 인식에 근거한 것으로 보인다. 인간 수준의 인공지능에는 이미 인간 수준의 의식이 전제되어 있다고 보아야 타당하다. 저자는 의식 문제에 대한 논의에 앞서 인공의식을 감안해 “의식 = 주관적 경험”이라고 간단하게 정의를 내린 후 다음과 같이 말한다.“달리 말하면 당신이 어떤 느낌을 받는다면 당신은 의식이 있는 것이다. 의식에 대한 이 특정한 정의는 앞서 나온 AI에서 비롯된 질문들의 핵심을 이룬다. 즉, 프로메테우스라는 AI가 무언가를 느낀다면 AI는 의식이 있는 것이다. 알파고나 자율주행 테슬라에 대해서도 마찬가지로 말할 수 있다.”(379쪽) 이것이 의식에 대한 저자의 기본 입장이다.

그러면서 저자는 데이비드 차머스(David Chalmers)가 의식의 어려운 문제(hard problem)라고 명명한 것을 세 단계로 세분한 후 이 가운데 과학적 분석의 대상이 될 수 있는 부분이 있다고 지적한다. 필자도 이런 저자의 태도에는 공감하는 바이다. 오랜 세월 의식 문제에 대한 많은 논의가 있었지만 여전히 답보 상태에 있는 이유는 이 문제와 관련해 과학적 접근에 대한 합의가 이루어지지 않았기 때문이다. 이런 맥락에서 저자의 입장은 다음에 잘 드러나 있다. “별개의 둘째 미스터리는 당신은 왜 주관적인 경험을 가지는가이다. 데이비드는 이를 어려운 문제라고 부른다.......이와 같이 의식의 어려운 문제를 나는 물리학의 관점에서 접근한다. 내 관점에서 의식 있는 사람이란 그저 재배열된 음식이다.......물리학에 따르면 음식은 많은 수의 쿼크와 전자가 특정한 방식으로 배열된 물질일 뿐이다. 그렇다면 어떤 배열이 의식을 지니게 되는가?(381쪽) 이와 관련해서는 저자가 《Consciousness is a mathematical pattern》이라는 제목으로 행한 TED 강연에서 상세하게 밝힌 바 있다. 여기서도 기본적으로 같은 내용을 반복하고 있다.

이런 맥락에서 저자는 신경과학자 크리스토프 코흐(Christof Koch)와 DNA 이중나선을 발견한 프랜시스 크릭(Francis Crick)이 제시한 의식의 신경상관물(neural correlates of consciousness, NCC) 개념을 확장한 “의식의 물리 상관물(physical correlates of consciousness, PCC)” 개념을 제안한다. 그래야만 인공의식 문제를 다룰 수 있다면서 다음과 같이 말한다. “뇌에도 도약해 기계로 넘어가려면 NCC를 의식의 물리 상관물로 일반화해야 한다. PCC는 움직이는 입자들 가운데 의식이 있는 부류의 양상이라고 정의된다. 만약 어떤 이론이 무엇이 의식이 있고 무엇에는 의식이 없는지 단지 기본 입자와 힘의 장 같은 물리적 구성요소만 조사해 정확하게 예측할 수 있다고 하자. 그 이론은 뇌뿐만 아니라 미래 AI 시스템을 포함해 어떤 물질의 배열에 대해서도 의식 유무를 예측할 수 있다.”(400쪽)

그러면서 저자는 의식의 어려운 문제에 대해 과학적으로 접근한 대표적인 모델인 신경과학자 줄리오 토노니(Giulio Tononi)의 통합정보이론(Integrated Information Theory, ITT)에 대해 긍정적으로 평가한다. 학계에서는 그의 이론에 대한 반론이 만만치 않게 제기되고 있는 실정이지만 저자는 과학적 접근이라는 관점에서는 가장 탁월한 모델이라고 말한다. 토노니는 정보가 처리되는 과정을 의식과 연계시켜 분석하는 모델을 제안했는데 저자는 이 모델이 물리법칙의 범위 안에서 의식 문제를 접근하는 데 가장 적합하다고 평가하고 있다. 필자로서는 토노니의 모델이 과연 그 정도인지 판단할 수 있는 입장은 아니지만 정보의 관점에서 접근한 것 자체는 매우 신선하며 공부해 볼 가치가 있는 모델이라는 생각이 든다. 어쨌든 의식이 정보 처리와 밀접하게 관련된 것은 부정할 수 없기 때문이다.

기억과 정보가 의식 활동의 중요한 재료인 것은 누구도 부인할 수 없는 사실이다. 그리고 이 점은 인공지능의 의식 문제를 다루는 데도 그대로 적용된다. 이런 이유로 저자는 지속적으로 의식이 물리적 기질과 독립적이기 때문에 비물질적으로 느껴진다는 점을 강조한다. 이것이 바로 어려운 문제를 일으킨다면서 다음과 같이 말한다. “의식이 실은 물리적인 현상이라면 왜 그렇게 비물질적으로 느껴질까? 의식은 물리적 기질과 상당히 독립적이기 때문이라는 것이 내 설명이다. 의식은 무늬이고 기질은 그 무늬를 나타낼 뿐이라는 말이다. 기질과 독립적인 패턴의 많은 아름다운 사례를 우리는 2장에서 봤다. 파동, 연산, 기억이 그런 패턴이다.”(405쪽) 즉 의식은 파동, 연산과 유사한 현상이라는 것이다. 이 점에는 온전히 동의할 수 없지만 그렇다고 전적으로 틀렸다고 말하기도 어렵다. 의식 문제를 다룰 때 뭔가 고려할 부분이 있는 것으로 보인다.

저자의 입장은 한마디로 의식은 기본 입자의 배열과 무관하지 않으며 개별 신경세포에서는 발견할 수 없는 창발적인 현상이라는 것이다. 따라서 저자의 주장에 의하면 의식은 물리 현상인 셈이고 인공지능이 이를 재현하지 못할 이유가 없다. 특히 의식이 기질 독립적이라는 성질이 중요하다면서 다음과 같이 말한다. “요컨대 나는 의식이 물리 현상인데 비물질적으로 느껴지는 건, 파동과 연사처럼 작동하기 때문이라고 본다. 그 특성이 특정한 물질 기질과 독립적이라는 의미에서이다. 이는 의식은 정보라는 아이디어에서 논리적으로 유추되며, 내가 정말 좋아하는 극단적인 아이디어로 이어진다. 의식이 정보가 특정한 방식으로 처리될 때 느끼는 방식이라면, 분명 기질 독립적일 것이다.”(405쪽)

이와 같이 저자는 일관되게 의식은 물리법칙의 지배를 받으면서 일정한 패턴을 갖는 물리적 현상임을 강조한다. 그리고 이런 해석이 인공지능의 의식을 이해하는 데 유효하다는 것이다. 의식의 경우에도 생물적인지 아니면 인공지능적인지는 중요하지 않다면서 다음과 같이 말한다. “인공 의식은 자신이 자유의지를 지니고 있다고 느낄까?.......내가 생각하는 답을 먼저 말하면, 의식이 있는 의사결정자는 자신이 자유의지가 있다고 주관적으로 느끼게 된다. 이는 그 개체가 생물적인지 인공지능적인지와 무관하다.”(415쪽)

그런데 여기서 저자가 왜 이 책의 마지막 장에서 의식 문제에 대해 많은 비중을 두고 있는지 의문을 제기할 수 있다. 이 책의 주제는 인공지능을 라이프 3.0, 즉 인간과 같은 생명을 가진 기계로 인정하면서 이로 인해 발생할 것으로 예상되는 문제들을 검토하고 대비책을 마련하는 것이다. 따라서 인간에게 의식 문제가 중요하듯이 인공지능의 경우에도 의식 문제는 중요하기는 마찬가지이다. 그래야만 라이프 2,0을 업그레이드 한 라이프 3.0의 “의미”가 드러나기 때문이다. 바로 이것이 핵심이다. 저자는 생명의 미래에 관해 언급하면서 “의미”를 강조한다. 그러면서 의미는 의식 있는 주체만이 제기할 수 있는 가치임을 역설하면서 다음과 같이 말한다. “의식이 없다면 행복도, 선량함도, 아름다움도, 의미도, 목적도 없고 단지 공간의 천문학적 낭비만 있을 뿐이다. 그러므로 마치 우리 우주가 우리 존재에 의미를 부여하는 것처럼, 사람들이 생명의 의미를 묻는 것은 퇴행적인 일이다. 우리 우주가 의식이 있는 존재에게 의미를 부여하는 것이 아니라 의식이 있는 존재가 우리 우주에 의미를 부여하는 것이다.”(418쪽)

이 대목에서 저자는 생물학자이자 줄기세포 분야 세계적인 권위자 로버트 란자(Robert Lanza)가 저서 『Biocentrism』에서 주장했듯이 의식 있는 존재가 먼저이고 물질적인 우주는 나중이라고 말하는 듯하다. 그런데 저자가 갑자기 이런 식으로 “의미”를 강조하는 이유를 모르겠다. 모든 것은 물리법칙의 지배를 받으며 의식도 예외가 아니라고 주장하다가 갑자기 의미를 강조하면서 이것은 오직 의식 있는 존재를 전제해야만 가능하다고 말한다. 필자가 보기에 이것은 이율배반적이다. 물리법칙을 최우선에 놓으면 의식은 부수적인 현상으로 전락하고, 따라서 의미를 부여하는 주체로서의 역할을 기대하기 어렵다. 인지철학자 대니얼 데닛(Daniel Dennett)이 주장하는 데로 의식은 환상(illusion)이거나 잘해봐야 진화과정에서 발생한 부수적인 현상(epiphenomenon)에 불과하기 때문이다.

그런데 저자는 왜 “의미”를 강조하는지 그 이유를 밝히고 있다. 한 마디로 인간 수준의 인공지능이 등장하면 지능에 기반을 두어온 호모 사피엔스(Homo sapiens)는 존립 기반을 상실할 수도 있다. 따라서 인간 존재가 가치를 유지하기 위해서는 지능보다는 의식, 나아가 의식을 통해 추구하는 의미를 음미할 수 있는 능력에 초점을 맞추어야 한다는 것이다. 이것이 라이프 3.0의 시대에 인간의 존엄성을 유지하는 길이라는 것이다. 저자의 이런 입장은 “사피엔스에서 센티엔스(sentiens)로 전환”해야 한다는 말에 잘 요약되어 있다. 그러면서 저자는 이 책의 결론으로 다음과 같은 방향을 제시한다. “사피엔스는 지능적으로 생각하는 능력이고 센티엔스는 감각질을 주관적으로 경험하는 능력이다. 우리 인간들은 가장 똑똑한 존재인 호모 사피엔스로서 우리의 독자성을 형성해왔다. 이제 더 영리한 기계들이 우리의 지능을 속속 추월하는 상황에서, 우리 자신의 브랜드를 호모 센티엔스로 새롭게 하고자 제안한다.”(420쪽) 시종일관 물리법칙을 강조하던 저자가 마지막에 이와 같은 선언적인 발언을 한 이유는 인류의 생존을 위해서는 패러다임 전환을 추구해야 한다는 것으로 해석할 수 있다. 사피엔스에서 센티엔스로의 전환은 문명의 전환을 촉구하는 거대한 담론이라 할 수 있다.