의식/영성 관련

PPT파일 <제6강 인공의식과 인류의 미래>

작성자
이영환
작성일
2019-06-18 21:31
조회
318

이번에 첨부한 것은 필자가 진행했던 여섯 번 강의의 마지막 주제 <인공의식과 인류의 미래>에 사용했던 PPT파일입니다. 여기서 인공의식(artificial consciousness)이란 인공지능(AI)이 인간 수준으로 발전했을 때 나타날 수 있는 기계의식을 의미합니다. 따라서 인공의식은 인간 수준의 인공지능, 즉 범용인공지능(AGI)을 전제로 합니다. 구글을 검색해보면 이와 관련된 논의가 상당히 활발하게 이루어지고 있음을 확인할 수 있습니다. 동시에 이 주제에 관련해 아직 어떤 합의점에 도달하지 못한 실정입니다. 아마 상당히 오랫동안 이런 상태가 지속될 가능성이 높다고 봅니다. 그만큼 논란의 여지가 많은 분야이기 때문입니다. 무엇보다도 인간의 의식문제에 대한 해답을 구하지 못한 상황이기에 더욱 그러합니다. 필자가 첫째, 둘째 강의에서 의식문제를 다루었던 것도 이런 연유에서 입니다.

 

인공의식을 논하려면 우선 범용인공지능의 출현 가능성을 논의하는 것이 순서일 것입니다. 이와 관련해 전문가들의 의견을 묻는 시도가 수차례 진행되었습니다만, 어떤 결론도 얻지 못한 실정입니다. 이와 관련해 가장 낙관적인 견해를 밝히고 있는 인물은 발명가이자 인공지능 전문가로 유명한 미국의 레이 커즈와일(Ray Kurzweil)입니다. 그는 『특이점이 온다』, 『마음의 탄생』과 같은 저서들을 통해, 그리고 여러 차례 강연과 인터뷰를 통해 2029년경이면 인간 수준의 범용인공지능이 등장할 것이며, 이후 지능폭발을 통해 2045년경이면 기존의 모든 제도와 법칙이 적용되지 않는 새로운 시대, 이른바 기술적 특이점(technological singularity)이 도래할 것으로 전망하고 있습니다. 상당히 파격적인 주장이라 대부분 실현 가능성에 의구심을 표하고 있지만, 일부에서는 그간 커즈와일의 예측 가운데 80퍼센트 정도가 실현되었다면서 그의 예측에 무게를 두기도 합니다.

 

어쨋든 이 문제와 관련해 누구도  확신할 수 없는 것은 분명합니다. 이와 관련해 최근 미래학자 마틴 포드(Martin Ford)는 인공지능 관련 세계적 전문가 23인을 심층 인터뷰한 결과를 정리해 『Architects of Intelligence』라는 책을 출판했는데, 이들에게 범용인공지능의 출현에 대해 물은 결과는 그야말로 천차만별이었습니다. 커즈와일은 계속 2029년을 주장한 반면, 실현 불가능하다고 주장한 전문가도 있습니다. 대체로 이들의 평균적인 견해는 50퍼센트의 확률로 2099년경에야 범용인공지능이 출현할 것이라는 것이었습니다. 이것만 봐도 이 문제에 대한 전문가들의 견해가 매우 엇갈리고 있음을 확인할 수 있습니다.


필자는 튜링 테스트(Turing Test)나 기타 다른 테스트를 통과해 진정한 의미에서 범용인공지능으로 불릴 수 있는 인공지능이 언제 출현할 것인지는 여전히 불확실하지만, 이에 근접한 인공지능은 분명 가능하다고 봅니다. 지금까지의 발전 추세에 비추어 볼 때 그런 생각을 갖지 않을 수 없다고 봅니다. 그레서 사실상 인간의 의식 수준에 근접하거나 다른 관점에 볼 때 인간 의식을 뛰어넘는 인공지능이 실질적으로 가능하다는 것을 전제로 대비책을 마련할 필요가 있다고 생각합니다. 그렇지 않은 상태에서 이런 상황이 전개된다면 엄청난 혼란이 발생할 수 있기 때문입니다. 이런 수준에 도달한 인공지능이 스스로 인간에게 우호적이지 않은 결정을 내린다거나 아니면 이런 인공지능을 장악한 인간이 저지를 수 있는 극단적인 선택으로 인해 큰 혼란과 위기가 발생할 수 있다고 봅니다. 스티븐 호킹이나 일론 머스크를 비롯해 여러 저명인사들이 경고한 것도 이런 이유에서 입니다. 인류의 생존을 위협할 정도로 위험이 큰 경우 아무리 확률이 낮더라도 무시해서는 안 되기 때문입니다. 

 

필자는 인공의식의 출현과 관련해 두 극단적인 견해, 즉 기술적 유토피아와 기술적 디스토피아를 대비하면서 두 가지 가능성을 모두 생각해보았습니다. 그래서 내린 결론은 비록 범용인공지능이 출현하지 않더라도 인공의식이라 불릴 수 있을 정도의 의식을 가진 인공지능은 출현할 것이며, 이를 통해 두 가지 극단적인 상황이 동시에 존재할지도 모른다는 것입니다. 영화 <엘리시움>은 이런 상황을 묘사한 것이니 참조하기 바랍니다. 유발 하라리의 표현대로 신과 같은 위치에 도달한 극소수와 어떤 면에서도 쓸모없는 계층으로 전락한 대다수가 공존하는 사회의 출현 가능성을 완전히 배제하기 어렵다고 봅니다.


그렇기 때문에 지금부터라도 이에 대한 대비책을 마련할 필요가 있다는 것이 필자의 생각입니다. 그리고 이를 위한 첫째 단계는 사회구성원 모두가 동의할 수 있는 "공동선(common good)"을 회복하는 것이라고 봅니다. 이후 이런 정신적 가치를 바탕으로 물질적 세계를 관통하는 제도와 질서를 만들어야 한다고 봅니다. 필자는 이것을 공동선 자본주의(common good capitalism)라고 부르고자 합니다. 그렇다고 이것이 특별히 새로운 아이디어는 아닙니다. 크리스티안 펠버(Christian Felber)가 2010년 이래 유럽에서 추진하고 있는 "공동선 경제"의 원리를 우리 실정에 맞게 수정, 보완한 후 법과 제도로 구체화해야 한다는 점을 강조하는 것일 뿐입니다. 이것은 다양한 계층의 이해관계를 조정하는 일이기 때문에 매우 복잡하고도 어려운 과제입니다. 


이런 논의를 위한 전제조건은 사회구성원 모두 장기적인 생존을 위해서는 지금보더 엄격한 "사유재산에 대한 제약"을 받아들여야 한다는 것이 필자의 생각입니다. 이 대원칙에 합의하지 못한다면 앞으로 사회적 양극화는 최악의 상태로 치달을 것이며, 이로 인해 사회해체 가능성을 배제할 수 없다고 봅니다. 극단적인 상황을 모면하려면 이런 합의에 도달해야 한다는 문제의식을 공유해야 합니다. 이런 의미에서 지금이야말로 인류의 미래를 위해 우리 모두 지식과 경험을 공유하고 최선의 해결방안을 모색할 때라고 생각합니다. 이런 취지에서 만든 파일이니 참고하기 바랍니다. 

전체 0