신중현, 나훈아 같은 가요계의 거장이 오랜만에 신보를 발표했다고 상상해 보자. 이번에는 또 어떤 대단한 곡을 들려줄지 잔뜩 기대된다. 재생 버튼을 누른다. '아, 이럴 수가….' 저절로 신음이 나온다. 두 손으로 머리를 감싼다. 이건 정말 아니다. 내 젊은 날을 흥분시켰던 곡들을 수없이 부른 거장이 아무리 노년이라지만 이토록 실망스러운 작품을 내놓을 리 없다. 그래도 줄곧 극성 팬이었고 앞으로도 팬으로 남을 사람으로서, 그가 이미 남긴 위대한 성취는 흔들리지 않을 것이라고 중얼거린다.

에드워드 윌슨의 <지구의 정복자>(이한음 옮김, 사이언스북스 펴냄)는 인생의 황혼기에 접어든 노대가가 발표한 신작이다. 섬 생물지리학 이론과 사회생물학의 창시자, 개미 연구의 세계 최고 권위자, 생물 다양성을 지키는 환경운동가, 통섭의 전도사, 퓰리처상 2회 수상에 빛나는 저술가인 에드워드 윌슨은 거장이라는 칭호가 절대 지나치지 않은 학자다.

이 책의 목표는 묵직하다. 1897년 화가 폴 고갱의 명화 제목이기도 한 "우리는 어디서 왔는가, 우리는 무엇인가, 우리는 어디로 가는가?"라는 근원적인 질문에 답하는 것이다. 윌슨은 처음부터 이 질문에 대한 해답이 철학이나 종교, 혹은 인문학에 있지 않다고 명토를 박는다. 해답은 생물학에 있다. 왜냐하면, 인간 본성은 결국 진화의 산물이기 때문이다. 이를 위해 윌슨은 어떻게 개미, 흰개미, 꿀벌 같은 사회성 곤충과 인간이 독립적으로 진사회성을 진화시킴으로써 마침내 지구를 정복하게 되었는지 집단 선택의 관점에서 설명한다.

83세의 노학자 윌슨은 이 책을 통해 거대한 야심을 거리낌 없이 드러낸다. 웬만한 거장이라면 자신이 과거에 이룩한 업적들을 차분히 되짚어 보는 책을 낼 시점에서, 그는 오히려 그 자신이 평생 변호해 온 포괄 적합도 이론이 "한 번도 제대로 들어맞은 적이 없었고, 이제 무너져 버렸다"(70쪽)고 선언한다. 그리고 그가 2010년에 수리생물학자 마틴 노왁, 코리나 타르니타와 함께 세운 새로운 진화 이론이 반세기 동안 주류가 된 포괄 적합도 이론을 완벽히 대체한다고 주장한다. 윌슨의 도발적인 시도가 멋지게 성공한다면, 그는 노년에도 진리를 향해 쉼 없이 진군했던 위대한 과학자로 기억될 것이다.

불행히도, 나는 이 책을 읽기가 고통스러웠다. 그는 왜 나를 매료시켰던 위대한 업적들이 사실은 다 엉터리였다고 스스로 부정하는 걸까? 차라리 내가 틀렸으면 좋겠다. 그러나 윌슨이 노왁, 타르니타와 함께 <네이처>에 발표한 논문에 156명의 저명한 진화학자들이 2011년에 즉시 반박 논문을 게재했음을 참작하면, 그리고 이 책이 2011년에 발표한 다른 문헌들은 인용하면서 정작 거의 모든 전문가가 윌슨에게 등을 돌렸다는 사실은 쏙 빼놓고 있음을 참작하면, 윌슨이 옳을 가능성은 매우 적다. 이 서평은 정말로 포괄 적합도에 기반을 둔 혈연 선택이 붕괴하였으며 인류 진화는 집단 선택에 의해 이루어졌는지 살펴본다.

다수준 선택은 혈연 선택을 대체했는가?

윌슨은 인류 진화의 원동력은 다수준 선택(multilevel selection), 곧 "개체 수준의 자연 선택과 집단 수준의 자연 선택 사이의 갈등"(73쪽)이라고 본다. 이게 무슨 말일까? 이타심, 용기, 절제, 평화 등으로 뭉친 선인과 이기심, 비겁, 탐욕, 폭력 등으로 뭉친 악인을 생각해보자. 무인도에 선인 한 명과 악인 한 명이 상륙하였다. 얼마 후 우리가 무인도를 다시 방문한다면, 필시 선인은 죽고 악인만 살아남았을 것이다. 즉, 집단 내에서 벌어지는 개체 간의 선택에서는 이기적인 형질이 언제나 선택된다.

이제 같은 조건의 무인도가 세 개 있다고 생각해보자. 각각 선인 두 명, 선인 하나와 악인 하나, 그리고 악인 두 명이 상륙하였다. 얼마 후 다시 이 세 무인도를 방문한다면 어떤 일이 벌어질까? 선인들만 두 명 있던 무인도는 서로 협력하여 벌써 뗏목을 만들어 탈출했을 것이다. 선인 한 명과 악인 한 명이 함께 있던 무인도는 악인만 혼자 살아남았을 것이다. 악인만 두 명 있던 무인도는 다툼 끝에 모두 크게 다치거나 죽었을 것이다. 즉, 집단 간에 벌어지는 선택에서는 이타적인 형질이 선택된다.

개체 선택과 집단 선택을 함께 고려하는 다수준 선택은 다음과 같다. 집단 내에서는 이기적인 개체가 이타적인 개체를 이기지만, 집단 사이에서는 이타적인 집단이 이기적인 집단을 이긴다. 따라서 이제 인류 진화의 동역학에 남아 있는 핵심 질문은 과연 집단 간의 선택이 집단 내의 선택보다 더 강했는지 여부이다. "집단의 다른 구성원을 위한 이타적 행동을 선택하는 힘이 개인적인 이기적 행동을 도태시킬 만큼 강했을까?"(94쪽). 윌슨은 인류의 진화 역사를 통해 집단 간 전쟁과 습격이 빈번했다는 고고학적, 인류학적 증거들을 인용하면서 그에 대한 대답은 긍정적이라고 말한다. 개체 선택이 집단 선택을 압도하는 대다수 다른 동물들과 달리, 인류는 집단 선택을 통해 문명의 근간이 되는 문화, 도덕, 종교, 언어, 예술 등을 꽃 피웠다.

이 얼마나 단순명쾌한가! 수십 년간 억눌려 온 집단 선택이 관 뚜껑을 열고 일어나 화려하게 귀환하는 듯하다. 윌슨의 말마따나, 포괄 적합도에 바탕을 둔 혈연 선택이 인류 진화의 원동력이라고 본 낡은 관점은 마땅히 폐기 처분해야 할 성싶다. 잠깐! 아직은 아니다. 이토록 간단한 논리를 조지 윌리엄스, 윌리엄 해밀턴, 로버트 트리버스, 리처드 도킨스 등 당대의 내로라하는 진화학자들은 보지 못했단 말일까?

세 개의 무인도로 다시 돌아가자. 이번에는 무인도의 구성이 선인 한 명과 악인 한 명씩 모두 같다고 하자. 말할 필요 없이, 얼마 후에 무인도를 방문하면 각각의 무인도에는 악인만 하나씩 살아있을 것이다. 이 경우에는 개체 선택이 집단 선택을 압도하여 선인은 한 명도 살아남지 못했다. 따라서 중요한 것은 각 집단 내에서 유유상종이 이루어지는가이다. 선인은 선인끼리 뭉치고 악인은 악인끼리 뭉쳐야, 선인이 많은 집단이 악인이 많은 집단을 이길 수 있다. 지금의 예에서처럼, 유유상종이 이루어지지 않으면 각 집단 내에서 선인은 악인에게 판판이 지고 만다.

정확히 표현하면 이렇다. 이타적 행동이 진화하기 위한 조건 중의 하나는 이타적 행동이 주는 이득이 개체군 내의 아무 구성원에게나 무작위적으로 주어져서는 안 된다는 것이다. 즉, 혜택을 받는 상대방의 몸속에도 그 이타적 행동을 일으키는 유전자의 복제본이 들어 있을 가능성이 개체군의 평균적인 구성원의 몸속에 유전자의 복제본이 들어 있을 가능성보다 더 커야 한다. 이는 바로 유전적 근친도(genetic relatedness, 두 개체가 특정한 유전자를 평균 이상으로 공유할 가능성. 앞으로 'r'이라고 하자)가 양의 값을 지닌다는 뜻이다. 만약 근친도 'r'이 0이라면 이타적 행위자의 입장에서는 개체군 내에서 아무나 뽑아서 이득을 뿌려대는 셈이므로 이타적 행동은 절대 선택되지 않는다.

한편, 이타적 행동이 진화하려면 이타적 행동이 상대에게 주는 혜택 'b'가 이타주의자가 치르는 비용 'c'보다 상대적으로 크면 클수록 더 유리하다. 이렇게 되면 이타주의자가 집단에 기여하는 바가 더 커져서 이타적인 집단이 이기적인 집단을 쉽게 제압할 수 있다. 유유상종이 이루어져야 한다는 점, 그리고 집단에 대한 이타주의자의 기여가 커야 한다는 점으로부터 다수준 선택에서 집단 선택이 개체 선택을 압도하여 이타적 행동이 진화될 조건은 'rb>c'로 얻어짐을 알 수 있다. 중언부언할 필요 없이, 이는 포괄 적합도 이론의 근간을 이루는 '해밀턴의 부등식(Hamilton's inequality)'이다. 우리는 줄곧 다수준 선택의 관점에서 이타적 행동의 진화를 추적했지만, 어느새 혈연 선택으로 돌아왔다.

비용을 감수하면서 남에게 이득을 주는 행동은 혈연 선택을 통해서 진화한다고 할 수도 있고, 혹은 집단 간 선택과 집단 내 선택 간의 갈등을 통해서 진화한다고 할 수 있다. 다수준 선택과 혈연 선택은 같은 현상을 바라보는 두 가지 다른 방법일 뿐이다. 이타적 행동을 일으키는 유전자의 빈도가 어떤 조건에서 증가할 것인가? 이 질문에 답하기 위해, 해밀턴의 포괄 적합도 이론은 이타적 행동을 일으키는 유전자의 관점에서 문제를 분석한다. 이 유전자가 남을 돕는 행동을 하는 당사자에게 끼친 영향(직접 적합도)과 상대방에게 끼친 영향(간접 적합도)을 함께 고려하여 포괄 적합도가 증가할지를 따진다. 한편, 다수준 선택론은 집단 간 선택이 집단 내 선택을 압도한다면 남을 돕는 행동이 자연 선택된다고 본다. 두 모델 모두 남을 돕는 행동의 비용은 적고 이득은 상대적으로 높을수록(b/c 증가), 비슷한 개체들끼리 끼리끼리 모이는 경향이 강할수록(r 증가) 남을 돕는 행동이 선택되기 쉽다는 같은 결론을 내놓는다.

예를 들어, 사회성 곤충에서 불임성 일꾼 계급이 어떻게 진화했는지 설명하는 상황을 생각해 보자. 혈연 선택론자는 불임성 일꾼은 자신의 어미인 여왕개미가 번식하는 것을 도움으로써 자신의 포괄 적합도를 증가시킨다고 설명한다. 다수준 선택론자는 불임성 일꾼은 군락 전체에 이득을 주어 불임성 일꾼이 없는 다른 군락과의 경쟁에서 승리하게 해준다고 설명한다. 이 두 설명은 초점이 다를 뿐 본질적으로 동일한 설명이다. 인류 진화의 원동력이 집단 선택이었으며 혈연 선택은 수명이 다했다는 주장은 무의미하다.

에드워드 윌슨은 어디로 가는가?

<지구의 정복자>는 인간 조건의 생물학적 기원을 탐구하고자 신경과학, 진화생물학, 인지심리학, 고고학, 인류학 등 다양한 무기들을 동원하는 역작이다. 그러나 과학 대중서치고는 독자에게 꽤 불친절하다. 간접 호혜성, 의지 선택, 근분할 가능성, 포괄 적합도 같은 전문적인 학술용어들이 어떤 부가적인 설명도 없이 불쑥불쑥 튀어나온다.

모든 분야를 다루겠다는 욕심이 앞선 탓인지 문화, 도덕, 종교, 언어, 예술 등 제각각 방대한 책 한 권이 될 주제들이 15쪽 내외의 장들로 간략히 처리된다. 위에서 살펴본 것처럼, 그 자신이 오랫동안 대변해 왔고 수많은 실증적 증거들이 누적된 혈연 선택 이론을 애써 부정하는 모습은 안쓰럽기까지 하다.

이 책은 동료 학자들로부터 그다지 높은 평가를 받지 못했다. 세월이 지날수록 윌슨의 개종(?)은 비극 혹은 해프닝으로 기억될 것이다. 한 가지 확실한 점은, 윌슨이 사회생물학의 종합에 기여한 위대한 업적은 결코 이 책으로 인해 흔들리지 않을 것이라는 점이다. 이 노학자의 다음 저작을 기대해 보자.