모든 것은 단 하나의 '게임'에서 시작되었다. 우리 주변에 널리 알려진 이론과 주장이 그렇듯이, 그것이 그럴듯한 이야기의 거죽을 쓰고 나타낼 때 그 파급력은 배가 된다.

이론에도 리처드 도킨스가 상상했던 '밈(meme)' 같은 것이 있다면, 아마도 그 가장 중요한 구성 요소는 이를 예시하는 배경 이야기가 아닐까? '죄수의 딜레마'라는 비유를 처음 만들어 냈던 두 사람(메릴 플러드와 멜빈 드레셔) 역시 이 비유가 이토록 오래 살아남으리라고 예상치는 못했으리라. 이미 널리 알려진 이야기지만, 기억도 되살릴 겸 이 이야기부터 잠시 해보자.

두 명의 범인이 잡혔다. 이 둘을 감옥에 넣을 명백한 물증은 없다. 때문에 자백만이 이들의 죄를 입증할 수 있는 상황이다. 경찰은 두 범인을 다른 방에 격리한다. 각 방에 형사들이 들어가 이렇게 윽박지른다.

"너에게는 두 가지 선택이 있어. 하나는 다른 공범의 죄를 고발하는 거야. 그러면 너는 거의 죄를 받지 않고 풀려날 거야. 하지만, 네가 지금처럼 진술을 거부하고 버틸 때 저쪽 방이 있는 녀석이 너의 죄를 고발하면 너 혼자 그 죄를 다 뒤집어쓰는 거지. 어떻게 할래?"

극한 상황에 놓인 인간은 의외로 계산적이 되기 쉬운 노릇일까? 이 순간 범인들의 두뇌는 빠르게 회전한다. 만일 저 놈이 자백하지 않는다면? 나도 자백하지 않으면 우리 둘 모두가 경미한 처벌만 받겠지. 하지만, 오다가다 만난 뜨내기 같은 저 녀석한테 내가 왜 그래야 하지? 차라리 저 녀석을 고발하고 별 하나 덜 다는 게 낫지 않을까? 만일 저 놈이 자백을 했다면 어떻게 할까? 저 놈이 자백을 했다면, 내가 이렇게 침묵을 지켜서야 독박을 쓰고 말겠지. 그래 차라리 나도 고발하는 게 좋겠지!

결국 합리적이고 이성적인 범인들은 어떤 경우에든 상대를 고발하는 것이 자신에게 가장 유리한 처신이라는 결론에 이르게 된다. 만일, 뜨내기 두 범인의 지능 수준이 이 정도에 이르렀다면, 수사 당국은 두 공범 모두의 자백을 받아낼 수 있게 된다. 둘은 똑같이 죄에 대한 대가를 치르게 된다.

간혹 죄수의 딜레마로 강의를 하다보면 "정의가 실현되었으니까 좋은 것 아니냐"는 질문을 받게 된다. 이제 이해는 되었다면 이야기를 조금 착한 맥락으로 바꿔보자. 이 착한 버전에서 고발은 일종의 '배신'이다. 반면, 침묵은 '협력'이다. 만일, 둘 다 침묵을 한다면 둘을 합친 전체의 관점에서 가장 좋은 결과라는 "보상"을 얻게 된다.

반면 상대가 협력을 했을 때 나만 배신을 한다면 이는 나에게 가장 좋은 결과를 가져다준다. 이는 배신의 길에 놓인 커다란 "유혹"이다. 나는 협력했는데 상대가 배신을 하게 된다면 나는 최악의 "쓴맛"을 보게 된다. 둘 다 배신을 하게 된다면, 신의를 지키지 못한 데 따르는 "처벌"을 둘이 받게 된다. 이때 각기 누리는 이득의 크기는 "유혹">"보상">"처벌">"쓴맛"으로 주어진다.

죄수의 딜레마라는 게임의 요체는 이렇듯 경우의 수를 나열하는 것이 아니다. 이 갈등의 상황에서 어떤 것이 균형이 될 수 있는가에 게임 이론의 묘미가 있다. 앞서 죄수 버전에서 살펴보았듯 내가 닥칠 경우의 수를 생각해보면 상대가 뭘 하든 나에게는 "배신"하는 것이 유리하다. 그래서 둘 다 배신을 하게 된다면? 역설적이게도 이는 둘을 합친 전체라는 관점에서 최선의 결과를 낳지 않는다는 것이다.

이 몹시도 간단한 우화는 합리성을 신봉하는 입장에서는 꽤나 당황스러운 결론이 된다. 애덤 스미스가 주장했다고 회자되곤 하는-사실 스미스의 총체적인 주장은 이와는 꽤나 결이 다르지만-금과옥조처럼 이기심만을 좇으면 "보이지 않는 손"이 가장 좋은 결론을 낳아야 할 것 아닌가?

그런데, 이기심에 충실한 결과 사회적으로 바람직하지 않은 결과가 (매우 단순하고 기본적인 논리에서도) 도출되는 것이다. 이유는 무엇일까? 쉽게 말해서 나의 안녕과 복지가 나와 얽혀 있는 상대의 행동에 달려 있기 때문이다. 이것이 게임 이론이 중시하는 "상호 작용(interaction)"이라는 맥락이다. 죄수의 딜레마가 주는 첫 번째 교훈은 너와 내가 진하게 얽혀 있을 때 "이기심"과 전체의 이익 사이의 조화를 가져다주는 보이지 않는 손 따위는 없다는 것이다.

만일 이야기가 여기에서 끝났다면 죄수의 딜레마는 그렇고 그런 술자리의 안주거리쯤에 지나지 않았을 것이다. 진짜 고민거리는 이제 시작이다. 그렇다면 우리는 죄수의 딜레마를 어떻게 극복할 수 있을까? 아니 조금 더 직관적으로 만일 사람과 사람이 어우러져 살아가는 사회에서 이 딜레마가 반복되어 왔고 그때마다 우리가 배신을 반복해왔다면, 우리네 세상은 홉스가 말했던 "만인의 만인에 대한 투쟁"보다 더욱 끔찍한 상태가 되었을 것이다.

비록 인간의 역사는 언제나 위태했고 배신, 잔혹 그리고 끔찍함으로 점철된 것이었으되 (그리고 지금도 그러하지만), 우리는 꽤나 조화롭게 창대한 문명을 만들어내지 않았는가? 사실 죄수의 딜레마는 그 논리가 지닌 지적 명료함 그리고 이와 대비되는 현실의 미묘한 거북함 때문에 그토록 많은 지성들을 사로잡아 온 것일지도 모른다. 죄수의 딜레마에 대해서 지금까지 계속되고 있는 연구의 역사란 아마도 이 딜레마의 딜레마를 천착해온 여정이라도 봐도 좋을 것이다.

어떤 부분을 어떻게 파고들 수 있을까? 우선 두 범인이 뜨내기가 아니라고 생각해보면 어떨까? 환상의 짝꿍인 우리 둘은 이번에 닥친 위기만 잘 넘긴다면 앞으로도 더 많이 잘 해나갈 수 있을 것이다. 반면, 눈앞의 이익에 눈이 멀어 이번에 배신을 택한다면 우리 둘은 앞으로 원수지간이 되고 말 것이다. 만일, 사람들이 한번만 마주치지 않고 계속 만나야 한다면, 이번에 닥친 위기와 앞으로 거둘 이익을 저울질하게 되지 않을까?

▲ <초협력자>(마틴 노왁·로저 하이필드 지음, 허준석 옮김, 사이언스북스 펴냄). ⓒ사이언스북스

이것이 마틴 노왁이 <초협력자>(마틴 노왁·로저 하이필드 지음, 허준석 옮김, 사이언스북스 펴냄)에서 말하는 협력의 첫 번째 메커니즘인 "직접 상호성"이다. 앞서 밝힌 죄수의 딜레마 우화만으로도 노왁의 나머지 다섯 가지 메커니즘에 대해서 모두 이야기할 수 있긴 하지만, 이는 아무래도 저자나 (이 글을 읽을) 잠재적 독자 둘 모두에 대한 예의는 아닐 테니 이쯤에서 접겠다.

너무 멀리 진로를 벗어났다. 본래 궤도로 돌아오도록 하자. <초협력자>는 이 단 하나의 게임 죄수의 딜레마를 인간과 생명이 어떻게 극복해 왔는지 그리고 극복할 수 있는지에 대한 진화/게임 이론적 해명의 이야기다. 우선, 저자 노왁의 학문이 경제학의 토양이 아니라 생물학의 토양에서 자란 것임에 주목하자.

경제학은 게임 이론을 가장 많이 그리고 잘 활용하는 학문 분과지만 대체로 그 분석은 행위자의 (초)합리성에 기반을 두고 있다. 이와 달리 자연 선택에 게임 이론을 끌어들인 이래 생물학에서 게임 이론은 합리성보다는 개체의 점진적인 적응/학습이라는 관점에서 문제에 접근했다. 요컨대, 적자(適者)가 투쟁을 통해 선택된다는 자연 선택의 관점이 게임 이론의 그것-내가 보다 많은 자손을 남기기 위해서 어떤 전략을 택해야 하는가-과 잘 맞아떨어졌던 셈이다. 물론, 책에서 자세히 소개되고 있듯이 냉전 시대의 양강-미국과 구소련-사이의 갈등을 분석하는 틀에서 자라난 게임 이론에서 이러한 생명의 상상력으로 전환이 이루어지기까지는 꽤나 오랜 시간이 걸렸다는 사실을 미리 밝혀두도록 하자.

협력의 '진화'라는 문제의식을 일찍이 흥미로운 방식으로 던졌던 사람은 정치학자 로버트 액설로드다. 그의 책 <협력의 진화>(이경식 옮김, 시스테마 펴냄)는 제2차 세계 대전 이후 출간된 모든 사회과학 도서 중 손꼽을 만큼 중요한 책이다(국내에도 번역 출간되었지만 이 책은 찬밥 신세를 면치 못했다).

어쨌든 액설로드의 선구적인 문제 제기는 이론 생물학자들을 통해 그 문제의식이 꾸준히 계승, 발전되어 왔다. <협력의 진화>의 가장 흥미로운 장은 진화 생물학의 대가인 윌리엄 해밀턴과 함께 저술되었던 바, 그는 국내에서 꾸준하게 사랑받는 책인 <이기적 유전자>(리처드 도킨스 지음, 홍영남·이상임 옮김, 을유문화사 펴냄)의 바탕을 이루는 관점을 제시하기도 한 인물이다.

해밀턴은 자신의 '포괄 적합도' 이론을 앞세워 유전자의 근친도를 통해 인간 및 여타 생명계에서 발현되는 "이타성"을 해명할 수 있다고 주장했고, 그의 주장은 위대한 자연학자인 에드워드 윌슨을 통해 과학계와 대중 양쪽을 통해 널리 퍼질 수 있었다. 하지만, 이것이 생명계에서 관찰할 수 있는 협력의 최종 심급일까? 유전자로 환원하는 것만이 생명계의 협력과 진화를 해명할 수 있는 유일하게 올바른 관점일까?

책에서 확인할 수 있는 노왁의 답은 협력이 이보다 훨씬 보편적인 수준에서 우리의 삶을 관장하며 그 모습 또한 꽤나 다양하게 전개된다는 것이다. 그가 말하는 다섯 가지 법칙이란 그 자신이 게임 이론이라는 숫돌로 벼려낸 협력의 다양한 모습과 가능성이다.

마지막으로 노왁의 짧은 인터뷰를 소개하기에 앞서 개인적인 작은 기우 하나만 짚고 넘어가도록 하자. 책의 제목인 "초협력자"는 인간이 가장 잘 협력할 수 있는 존재라는 뜻이지만, 그래서 인간이 언제나 '협력'을 하게 된다는 대책 없는 희망의 메시지는 아니다.

이 글의 서두에서도 언급했듯이 협력이 창발하는 근본의 기저는 몹시 어두운 배신의 드라마(죄수의 딜레마)다. 그 결론이 너무 암울하기에, 도리어 생존하기 위해서 협력이 필요하다는 것이다. 그것이 게임 이론으로 들여다본 협력이라는 생명의 "투쟁"이라는 것이다. 이렇게 본다면, 아마도 이 책의 제목인 "초협력자"는 인간이라는 종 앞에 놓인 커다란 도전을 응원하고픈 심정을 표현한 것은 아닐까 싶다.

아직 인종, 민족, 국가로 나뉜 그 정도 수준의 '협력' 밖에는 모르는, 나아가 인간이라는 종 이외의 우리가 발 딛고 있는 지구라는 거대한 생명과의 협력에는 소홀한 인간들에게 우리가 만물의 영장이 될 수 있었던 것은 투쟁과 정복이 아니라 협력 덕분이었다는 걸 일깨워주려는 그런 심정 말이다.

▲ 마틴 노왁 하버드 대학교 교수. ⓒ사이언스북스 - 책에서 당신은 진화 과학이 선택과 변이와 더불어 '협력'을 제3의 동인으로 수용해야 한다고 말했다. 왜 협력이 이토록 특별한가? "협력이 없었다면, 진화의 복잡한 건설은 불가능할 것이다. 박테리아 세포, 더 고등한 세포들, 다세포 유기체, 곤충 사회 그리고 인간 사회의 창발 모두가 협력에 기반을 두고 있다." - 당신의 책 제목(초협력자)에 대해서 설명하면…. "인간이 바로 초협력자다. 인간만이 협력의 진화를 위한 다섯 가지 메커니즘을 모두 사용할 수 있다. 그래서 협력자들 중의 협력자가 인간이다." - 당신의 학문적인 작업들은 수학과 게임 이론에 기반을 두고 있다. 대부분의 독자들에게, 게임 이론은 이기적이고 합리적인 행위자들이 자신의 이득과 보수를 극대화하는 처방으로 여겨지고 있을 것이다. 어떻게 이 극대화의 도구가 생명계, 즉 생물학에서 활용될 수 있는가? "게임 이론은 개체의 적합도가 고정되어 있지 않은 대신 타자들의 행위에 의존하는 경우라면 어디에나 유용하다. 진화 게임 이론은 매우 진화를 연구하기 위한 지극히 일반적인 접근이다." - 이기심과 이타성을 어떻게 정의하는가? 협력은 당신의 협력은 이 둘 중 어느 것에 기반을 두는 것인가? "협력이란 생존 투쟁에서 (인간에 국한되지 않고) 경쟁자가 되었을 다른 누군가를 돕는 것을 의미한다. 협력은 대개 도움을 주는 이에게 비용을 받는 이에게는 이득을 의미한다. 이타성이란 인간 사이의 상호 작용에 걸맞은 말이며 그 동기에 의해 정의되어야 할 것이다. 이타성은 사랑이 그 동기를 이룬다." - 당신 책의 핵심 주장은 협력을 위한 다섯 가지 메커니즘이다. 한국의 독자들을 위해서 간단하게 다시 한 번 이를 간단히 환기하면? "직접 상호성은 내가 너를 돕고 너는 나를 돕게 된다는 걸 의미한다. 간접 상호성은 다른 이들 돕는 누군가를 내가 돕는다는 것이다. 공간 선택이란 이웃(혹은 친구)끼리 서로 돕는다는 것을 의미한다. 집단 선택은 협력자 집단이 배신자 집단보다 뛰어난 성과를 거둔다는 것을 의미한다. 친족 선택은 서로 긴밀한 친족들이 서로 돕는다는 것을 의미한다." - <초협력자>에서 당신은 친족 선택의 한 이론 형태를 비판한 바 있다. 최근 두 진영의 생물학자들 사이에서 이를 둔 열띤 논전이 벌어졌고 현재에도 진행 중이다. 이 논쟁의 관점을 말해 달라. "2010년 <네이처>에 발표된 논문에서 코리나 타니타(Corina Tarnita), 에드워드 윌슨 그리고 나는 포괄 적합도라는 개념이 사회 진화를 연구하기에는 제한적인 개념이라는 점을 입증했다. 포괄 적합도는 적합도가 개체의 행위들의 의해 촉발되는 부가적인 요소로 구분된다. 이 가정은 대부분의 설정에서 성립하지 않는다. 우리는 일반적인 의미의 적합도가 진화를 연구하는 정확하고 일반적인 방법이라는 점을 보였다. 또한 우리는 포괄 적합도만이 사회성곤충의 진화 혹은 사회 진화의 어떤 측면을 해명할 수 있는 것이 아님을 입증했다. 우리의 연구에 대한 많은 격렬한 비판들이 제기되어 왔지만, 어떤 과학적인 반론도 없었다." - 내가 아는 한, 친족 선택 혹은 유전자를 앞세우는 이론은 집단 선택에 강하게 반발한다. 유전자-환원주의에 반대해 집단 선택을 어떻게 방어하겠는가? "친족 선택과 집단 선택은 두 개의 구별되는 메커니즘이다. 친족 선택은 친족 간의 인지에 의지하고 구별적인 행위 역시 그러하다. 집단 선택은 집단 사이의 경쟁이 존재하는 곳에서 작용한다." - 책에서 밝혔듯이, 집단 선택은 집단들 사이에 작용하게 된다. '우리' 외부에 적이 존재해야 효과적으로 작동할 수 있다는 점에서 집단 선택은 역설적으로 보인다. 이런 소외감을 불러일으키지 않으면서 집단 선택을 활용할 방법이 있을까? "집단 내에도 항상 갈등이 있다. 하지만, 다른 집단과의 경쟁은 이러한 내부 갈등을 잠재우고 협력으로 나아간다." - 언젠가 당신은 논문에서 이렇게 적은 바 있다. 진화 동학에 대해서 통찰을 얻으려거든 그레고어 요한 멘델보다는 토머스 맬서스를 읽는 편이 낫다. 이 말의 의미는 무엇인가? "멘델과 맬서스 모두는 생물학을 이해하는 데 매우 중요한 사람들이다. 맬서스를 읽음으로써 찰스 다윈과 알프레드 월리스 모두 자연 선택에 대한 결정적인 아이디어를 얻을 수 있었다. 또 멘델의 작업은 유전 현상이 특정 요소-나중에 유전 물질로 밝혀진 것-들이 접합되는 것이라는 점을 밝혔다. - 솔직히 말해, 당신의 다섯 가지 메커니즘은 그 외에 다른 협력의 경로가 존재할까 싶을 정도로 포괄적이다. 이 다섯 가지 법칙 이외에 현재 탐구하고 있는 연구 아이디어가 있나? 여섯 번째 혹은 일곱 번째 메커니즘이 될 만한 게 있는가? "다른 메커니즘이 있는지 아직 모르겠다." - 문화 진화는 인류에게 특별하게 강력한 동인이다. 최근 트위터, 페이스북과 같은 기술 발전은 사람들 사이의 관계를 바꾸고 있다. 이른바 사회 연결망 서비스(SNS)가 협력의 진화에 어떤 기여를 하게 될까? "우리는 진화 그래프 이론이라는 접근을 도입했는데, 이는 진화 게임을 그래프와 사회 연결망(social networks) 위에서 탐구하는 것이다. 어떤 네트워크 구조는 '공간' 선택을 통해 협력의 진화를 북돋는다. 친구(=네트워크의 이웃들)는 서로 돕게 되니까." - 이 책에서 당신은 인간이 초협력자라는 증거의 하나로 시장 경제를 들었다. 이는 애덤 스미스의 유명한 문구, "보이지 않는 손"을 연상시킨다. 지난 4년간 세계 경제는 유래 없는 침체에 빠져들었고, 일부 논평가는 이를 국가 혹은 비시장적 수단에 규제를 받지 않는 시장 경제에 그 탓을 돌리고 있다. 이 질문이 꽤나 당돌해 보일지 모르겠지만, 최근의 경제 위기를 진화 이론의 관점으로 어떻게 볼 수 있겠는가? 혹은 협력의 진화가 이 지구적 위기를 극복하는 데 도움이 되는 통찰을 줄 수 있을까? "내 작업은 협력이 절대로 완전하게 안정적일 수 없다는 것을 보여준다. 항상 협력과 배신의 순환이 있을 뿐이다. 이러한 동학은 경제 순환에서도 찾아볼 수 있다. 우리는 협력의 유토피아 같은 것을 바랄 수 없다. 왜냐하면, 우리는 경쟁하는 주체들이기 때문이다. 우리는 되도록 오랜 기간 협력을 지속할 수 있는 메커니즘(제도들)을 수립하기를, 그리고 협력이 파괴되었다고 할 때 이를 재빨리 복원할 수 있기를 바라야 할 것이다."

마틴 노왁은 한마디로 (학계도 업계라고 부를 수 있다면) 이 업계의 슈퍼스타다. 한 편만 실려도 주목을 받는 <네이처>와 <사이언스>가 그에게는 마실 다니는 옆집 마당이나 마찬가지다. 사실 자신이 겸손하게 털어놓듯이 노왁이 연구해 온 주제들이 혁신적이라거나 세상에 없었던 전혀 새로운 것이라고 말할 수는 없다.

이 책에서 그가 강조하는 협력을 위한 다섯 가지 메커니즘은 사실 이미 학계의 선구자들에 의해 밝혀진 내용이다. 예를 들어, 직접 상호성은 이타적 상호성을 주창했던 로버트 트리버스가 처음으로 세상에 내놓은 아이디어다. 간접 상호성 역시 여러 명의 자연과학자, 사회과학자 그리고 게임 이론 연구자들에 의해 꾸준히 지적되었던 내용이다. 그렇다면, 이렇듯 신선도가 떨어질 법도 한 연구들이 왜 이토록 주목 받고 각광받았는가?

노왁은 이렇게 여기저기 그리고 여러 분과 학문들에 흩어져 있던 협력의 메커니즘을 하나로 잘 모았을 뿐만 아니라, 이를 비교적 단일한 이론 모형의 틀을 통해 깔끔하게 다시 주조해냈다. 노왁이 기반하고 있는 이론 모형이란 다름 아닌 게임 이론이다. 게임 이론은 냉전과 인류절멸의 가능성이 최초로 제기되었던 핵전쟁이라는 몹시 우울한 출신 성분을 가지고 있지만, 협력의 진화를 탐구하려는 연구자들에게는 빼놓을 수 없는 도구가 된지 이미 오래다.

통상적으로 게임 이론을 전공하는 사람들의 시야는 몹시 협소해지기 마련인데, 독특하게도 노왁의 시야는 협력의 진화라는 이 분야를 개척했던 로버트 액설로드만큼이나 넓고 포괄적이다. 한마디로 거대한 비전. 더불어 엄밀한 디테일 그리고 자신에게 부족한 부분을 동료 학자들로 채울 수 있는 탁월한 지적 협력이 오늘날 노왁의 유명세를 만든 이유일 것이다.

ⓒ프레시안(손문상)