진화생물학 분야 등 적용 시도
다양한 사회·자연현상 이해 도움

요즘 ‘게임이론’에 대한 관심이 사회적으로 점점 높아지고 있다. 게임이론이란 그 표현과 달리 사실 컴퓨터 게임이나 스포츠 게임, 카드 게임과 같은 실제의 게임과는 아무런 상관이 없다. 하지만 카드 게임에 비유해서 보면, 한 사람에게 있어 무엇이 최선의 행동인지가 다른 사람이 어떻게 행동하는지에 따라 결정적으로 달라지는 소위 ‘전략적 상황’을 전제한다는 점에서 게임이론이라는 표현은 유의미하다. 게임이론에서 게임이란 우리가 관심이 있는 이러한 실제 세계에서의 어떤 전략적 상황을 수학적으로 모형화한 것이다. 인간의 경제 활동이나 정치 활동 대부분이, 각 개인의 의사 결정이 타인의 행동에 의해 영향을 받는 이러한 전략적 상황에 해당되기에 게임이론은 경제학이나 정치학 분야에서 매우 큰 의미를 지닌다.

이중원 서울시립대 교수·과학철학

우리 주변의 전략적 상황에 대한 가장 기본적인 모형은 ‘죄수의 딜레마’ 게임이다. 두 사람의 살인 용의자가 증거가 불충분한 상태로 경찰에 잡혀 와 서로 격리된 상태에서 취조를 받고 있는데, 경찰은 자백을 유도하기 위해 다음과 같은 제안을 한다. 두 사람 가운데 한 명이 자백하면 그 사람은 무죄이고 자백을 하지 않는 사람은 10년형을 받게 되며, 둘 다 자백하면 각자 징역 5년형을 받고, 둘 다 묵비권으로 침묵하면 1년형을 받게 된다는 것이다. 상대방이 어떠한 선택을 할 것인가를 알 수 없는 상황에서 각 개인은 결국 자신의 이익을 극대화하는 전략으로 자백을 선택하게 된다. 그런데 이는 결과적으로 묵비권 행사에 비해 손해를 보는 것이어서 합리적이지 못하다. 결국 게임이론이 말하고자 하는 바는 각 개인들이 저마다 자신의 이익을 합리적으로 추구하는 것이 반드시 사회적 최적상태로 연결되는 것은 아니라는 것이다. 냉전시기의 미국과 소련의 군비경쟁이라든가 희귀자원에 대한 국가의 약탈적 개발 등이 죄수의 딜레마 구조를 가진 전략적 상황의 실제 예들이다.

그렇다면 게임이론은 자연현상에도 적용 가능할까. 최근 진화생물학 분야에서 게임이론을 적용하는 시도가 나타났다. 유전자들은 기본적으로 이기적임에도 서로 협력해 생명체의 이타적 진화를 어떻게 가능하게 하는지를 설명하기 위해, ‘맞대응’(Tit for tat) 전략을 적용해 ‘죄수의 딜레마’ 게임을 반복 시행하는 진화론적 게임 모형을 개발한 것이다. 여기서 맞대응 전략이란 처음에는 협력하고 이후에는 상대방의 행동에 맞춰 대응하는 것인데, 가령 상대방이 이전에 협조를 했다면 협조하고 배반을 했다면 배반하는 것이다. 이 진화론적 게임이론은 일벌이 꿀을 지키기 위해 침입자에 벌침을 쏨과 동시에 자신도 희생당하는 이타적 행동을 설명하는 데 적용되고 있다. 또한 동물의 돌연변이와 자연선택 과정에서 진화적 안정성과 균형이 어떻게 확립되는가를 설명하는 데에도 적용되고 있다.

한편 2012년 5월에는 미국 라이스 대학의 호세 오누시크 교수와 이스라엘 텔아비브 대학의 에셸 벤야콥 교수가 이끄는 연구진들에 의해 “박테리아들도 인간처럼 생존을 위해 죄수의 딜레마 게임 규칙을 따른다”는 연구결과가 발표됐다. 흙속에 사는 고초균이라는 박테리아는 가뭄이나 방사능 유출 등으로 환경이 가혹하게 나빠지면 갑옷처럼 단단한 껍질로 둘러싸인 포자로 변신해 있다가 환경이 좋아지면 다시 평범한 세균 형태로 복귀한다. 그런데 포자로 변신하려면 신진대사를 줄이고 이를 위해 다시 유전자의 절반을 버려야 하는데, 이때 죄수의 딜레마 게임 규칙에 따라 이웃하는 다른 세균과 의사소통을 하고 눈치를 살피면서 버린다는 것이다. 이러한 연구 결과는 인체 내에서 정상세포가 갑자기 암세포로 변질되는 과정에 대한 분석에도 동일하게 적용되고 있다.

한마디로 게임이론은 사회 현상이나 자연 현상 모두에서 우리가 직관만으로는 깨닫기 힘든 어떤 전략적 상황이 갖는 다양한 함의를 이해하는 데 많은 도움을 주고 있다.

이중원 서울시립대 교수·과학철학