죄수의 딜레마와 신뢰의 역할
어느 사회를 막론하고 과거에 비해 더 많은 소모적인 갈등이 발생하고 있으며, 이로 인해 사람들은 더 많은 대가를 치르고 있다. 글로벌 시대를 맞이해 이런 경향은 국제적으로 더욱 확산되어, 국가 간의 정치적․경제적․문화적 갈등이 더욱 고조되고 있는 실정이다. 우리나라의 경우를 포함해 글로벌 차원에서 다음 몇 가지 사례들을 생각해 보자.
• 고질적인 여․야 갈등과 남북 간의 대립
• 시장점유율을 둘러싼 기업들 간의 치열한 경쟁
• 교통체증 시 극심한 끼어들기 현상이나 과도한 사교육비 지출
• 공유지의 비극을 비롯한 다양한 무임승차 행위
• 지구 온난화로 인한 기상이변과 이로 인한 피해
• 이스라엘과 중동 국가들 간의 정치적 갈등
• 기독교와 이슬람교 간의 종교적 갈등
• 환율을 둘러싼 미국과 유럽, 미국과 중국 간의 경제적 갈등
이와 같이 다양한 사례에 공통적인 요소는 무엇인가? 그것은 다름 아니라 비협조적 게임이론에서 “죄수의 딜레마(prisoner's dilemma)”로 널리 알려진 현상이다. 이 게임의 아이디어는 1950년대 미국의 대표적인 싱크탱크인 RAND연구소의 두 연구원이 처음 제안한 이후, 당시 유명한 수학자인 프린스턴대학의 앨버트 터커(Albert Tucker)교수가 이를 정형화함으로써 “죄수의 딜레마” 로 알려지게 되었다.
죄수의 딜레마는 모든 사람들이 “우월전략”을 가지고 있는 특수한 조건하에서 이루어지는 비협조적 게임의 특성을 묘사하는 표현이다. 우월전략이란 다른 사람들이 어떤 전략을 선택하든 개인에게 가장 유리한 전략을 말한다. 게임에 참여한 모든 사람들이 우월전략을 보유한 경우, 모두 이 전략을 선택하는 것이 게임의 내쉬균형(Nash equilibrium)에 해당한다. 이것은 2년 전 교통사고로 사망한 노벨 경제학상 수상자 존 내쉬(John Nash)의 이름을 딴 균형 개념으로서 비협조적 게임이론의 핵심이다.
죄수의 딜레마가 전하는 메시지는 애덤 스미스의 ‘보이지 않는 손’의 원리와는 정반대다. 즉 게임에 참가한 개개인은 자신의 이기심에 따라 최선의 행동을 한 결과, 사회 전체적으로는 가장 비효율적인 결과가 발생하게 된다는 것이다. 즉, 개인적 합리성과 사회적 비합리성이 공존하는 역설적인 상황이 발생할 수 있다는 것이다. 문제는 이런 상황이 예외적인 것이 아니라 우리 주변에서 늘 발생하고 있다는 데 있다.
이제 다음 예를 통해 죄수의 딜레마 게임의 핵심 메시지를 살펴보자. 이것은 간단한 예에 불과하지만, 현실의 다양한 상황에 응용될 수 있다. 전형적인 죄수의 딜레마는 아래와 같은 보수행렬(payoff matrix)로 나타낼 수 있다. 여기서 보수(報酬)란 게임에 참여한 사람들이 상호작용의 결과 최종적으로 얻는 가치(이윤, 효용 등)를 나타낸다.
이 예에서 각 용의자는 C(협력)와 D(배반), 두 가지 전략을 사용할 수 있으며, 보수는 용의자의 형량이 낮을수록 크고, 그 역도 성립한다고 가정한다. 예를 들어 보수 5는 가장 형량이 낮고, 보수 0은 가장 형량이 높다는 것을 의미한다. 그리고 이 표에서 앞의 숫자는 용의자 1의 보수, 뒤의 숫자는 용의자 2의 보수를 나타낸다.
용의자 2
C D
C 3, 3 0, 5
용의자 1
D 5, 0 1, 1
이 게임에서는 보수구조의 특징으로 인해 상대방이 어떤 전략을 선택하든 각자 전략 D를 선택하는 것이 우월전략이므로 두 사람 모두 1의 보수를 얻는 데 그친다. 만약 모두 전략 C를 선택하면 각자 보수 3을 얻을 수 있지만, 서로에 대한 신뢰가 없기 때문에, 이것은 실현 불가능하다. 이것이 죄수의 딜레마의 핵심이다. 이와 같이 만일 두 사람(또는 두 기업이나 두 국가)이 단 한 번만 죄수의 딜레마 상황에 처한다면, 이를 해결하는 방안이 없다. 즉 사람들이 (D, D)에서 (C, C)로 선택을 바꿀 가능성이 전혀 없다. 그 결과 개인적으로는 최선의 선택을 하지만, 사회적으로는 최악의 상태가 실현된다.
그런데 이런 상황이 반복되는 경우, 일정한 조건이 충족된다면 이를 극복할 가능성이 있다. 이론적으로는 이런 상황이 유한하게 반복되는 경우에는 어렵지만 무한히 반복되거나 언제 게임이 종료될지 불확실한 경우에는 가능한 것으로 알려져 있다. 이 경우에는 D를 선택하던 개인들이 자발적으로 C를 선택하게 된다. 그러면 개인적으로만 아니라 사회적으로도 바람직한 결과를 달성할 수 있다.
이와 관련해서는 미국 정치학자 로버트 액설로드(Robert Axelrod)의 연구가 가장 주목을 받았다. 그는 반복되는 죄수의 딜레마 상황에서 가장 우수한 전략을 발견하기 위해 다양한 전문가들이 제출한 여러 가지 전략들을 라운드 로빈 방식(월드컵의 대진 방식)으로 반복해 게임을 하도록 한 후 결과를 비교했다. 구체적으로 말하면 그가 제안한 게임에 참여한 사람은 누구나 매 게임마다 상대방과 상호작용한 후 앞의 표에 있는 보수(5, 3, 1, 0) 중 하나를 얻게 되는데, 이것을 모두 합산해 가장 높은 점수를 얻은 전략이 무엇인지 검토했다.
수많은 게임을 실행한 후 그는 다양한 전략들 가운데 “맞대응 전략(tit-for-tat)”이 가장 높은 점수를 얻었다는 사실을 확인했다. 이것은 “먼저 ‘협력’을 선택한 후, 다음 게임에서는 상대방이 앞 게임에서 선택한 전략을 그대로 모방한다”는 간단한 전략이다. 예를 들어 처음 상대방이 배반을 선택했으면 자신은 다음 게임에서 배반을 선택하고, 상대방이 협력을 선택하면 자신도 협력을 선택하는 전략이다. 이 전략의 특징은 신사적이면서 동시에 협력적이라는 것이다.
그는 이런 전략들 간의 경합을 통해 드러난 결과를 분석한 후, 일정한 조건이 충족되면 “맞대응 전략”과 같이 자발적으로 협력을 유발하는 전략이 선택될 수 있다는 것을 보여주었다. 즉, 이기적인 개인들로 구성된 사회에서도, 일정한 조건이 충족되면, 협력이 창발(創發)할 수 있다는 것이다. 이와 관련된 상세한 내용은 그의 저서『협력의 진화』에 잘 정리되어 있다.
그의 연구가 시사하는 바는 분명하다. 이기적인 개인들로 구성된 사회에서 지속적인 상호작용이 이루어지는 경우, 일정 비율 이상의 사람들이 “맞대응 전략”과 같은 협력적인 전략을 선택한다면, 시간의 경과하면서 점점 더 많은 사람들이 이 전략을 선택하게 되며, 궁극적으로 모든 사람들이 협력하게 된다는 것이다. 진화론에서 말하는 자연선택(natural selection)의 결과 사회적으로 협력이 대세를 이루게 된다는 것이다. 이것이 그가 말하는 “협력의 진화”의 핵심이다. 문제는 이런 협력을 유발할 수 있는 임계치(critical mass)에 해당하는 일정 비율의 사람들이 존재해야 한다는 데 있다.
이런 의미에서 협력을 위해 결정적인 최소 숫자의 사람들이 등장하도록 하는 데 가장 절실한 덕목이 “신뢰(trust)”다. 그래서 신뢰를 사회적 자본이라 하는 것이다. 신뢰는 한국 사회에서 가장 부족한 것 중 하나다. 일찍이 미국 정치학자 프랜시스 후쿠야마(Francis Fukuyama)는 자신의 저서 『트러스트』에서 한국 사회를 신뢰 수준이 낮은 저신뢰 사회로 분류했다. 특히 그는 한국 사회에서 가족 및 친족과 특수 집단 내에서는 신뢰 수준이 높지만, 이 영역을 벗어나면 신뢰 수준이 매우 낮다는 신뢰의 이중기준을 매우 부정적으로 평가했다. 한국 사회에서는 이런 신뢰의 이중기준이 공사(公私) 구분을 모호하게 하고, 사람들이 서로 신뢰하지 못하게 만드는 데 결정적인 영향을 미쳐왔다. 그의 지적이 유쾌하지는 않지만, 부정하기도 어렵다.
한국 사회에서 신뢰와 같은 사회적 자본이 어느 수준인가에 대해 체계적으로 연구된 것이 별로 없다. 그렇지만 필자는 후쿠야마가 지적했던 신뢰의 이중기준 문제는 여전히 조금도 완화되지 않았다고 생각한다. 어느 사회도 이 문제로부터 자유롭지는 않지만, 우리 사회의 경우 그 격차가 지나치게 크다는 것이 문제다. 신뢰란 결코 단 시일 내에 형성될 수 있는 사회적 자본이 아니다. 이 문제는 개인의 성숙을 넘어 진심으로 사회의 성숙을 염원하는 사람들이 많아져야 비로소 해결 가능한 문제다.
일찍이 공자가 말했던 것처럼, 우리는 누구나 군자(君子)가 될 수도 소인(小人)이 될 수도 있다. 또한 분석심리학의 창시자인 칼 융(Carl Jung)이 말했듯이, 우리는 편협한 자의식에 사로잡힌 에고인 자아(self)의 차원에 그칠 수도 있고 자신의 안에 있는 더 큰 자아인 자기(Self)를 발견할 수도 있다. 종교적으로 말하자면 비교종교학자 오강남 교수가 강조하듯이, 저급한 표층 차원에 머무를 수도 있고 심층 차원으로 이행할 수도 있다. 이 가운데 무엇이 신뢰 수준을 높이는 데 기여할 지는 자명하다.
역사상 죄수의 딜레마를 완전히 극복한 사회는 하나도 없었다. 그렇지만 한국 사회에서는 이런 상황이 지속적으로 그리고 점점 더 광범위하게 발생하고 있다는 데 문제의 심각성이 있다. 한국 사회에서 죄수의 딜레마는 더 이상 방치해서는 안 되는 심각한 문제다. 필자는 이것을 해결하는 효과적인 방안으로 이에 대한 문제의식을 공유한 사람들이 연대해 다양한 형태의 협동조합(cooperative)을 만들고, 이런 협동조합들이 연계해 자발적으로 서로 협력하는 경험을 축적함으로써 한국 사회 전반에 걸쳐 신뢰 수준을 높이는 데 기여할 것을 제안한다.
한국 사회에서 파워엘리트들은 죄수의 딜레마를 해결하는 데 별다른 관심이 없다. 아니 오히려 이런 상황을 즐기고 있다고 생각한다. 지금까지 그들에게는 사회적으로 바람직하지 않은 결과가 개인적으로는 최선의 경우가 많았기 때문이리라. 따라서 필자는 건전한 문제의식을 가진 시민들이 연대하는 것만이 이 문제를 해결하는 길이라고 생각한다. 이것이 이정전 교수가 저서 『왜 우리는 정부에게 배신당할까?』(2015)에서 강조한 “시민운동의 활성화”를 위한 구체적인 방안에 해당한다. 이제는 시민들이 적극적으로 움직여야 할 시점이다. 이를 위해서 시민들이 공통의 도덕적 가치를 수용한다는 전제 하에서 문제 해결을 위한 정확한 지식을 공유하도록 노력해야 할 것이다.