3만5000년전엔 원숭이 뼈에 눈금 자국도
이집트 학자들 기하학 사용해 들판 측량
르네상스 시대 항해·예술 등 쓰임새 증폭
산업화 이후엔 학문 넘어 실용성에 집중
개념 고안하고 정리 증명하며 발전 가속
기나긴 수학의 짧은 역사/ 볼프강 블룸/ 김재호 옮김/ 에코리브르/ 1만9500원
선사 시대 인류는 문자를 발명하기 훨씬 전부터 숫자를 사용했다. 3만5000년 전, 누군가 개코원숭이의 허벅지 뼈에 눈금 자국을 새겼다. 바빌로니아와 이집트의 초기 선진 문명은 수백만 단위의 숫자를 알고 있었다. 당시 학자들은 기하학을 사용해 들판을 측량하고 건물을 설계했다.

기원전 600년∼기원후 300년의 그리스인들은 수학과 단순한 산수를 구별했다. 무역 민족답게 계산에 능통했다. 기하학을 바탕으로 수학 분야에서 획기적인 성과를 거뒀다. 그들은 미세한 모래에 그림을 그려 넣음으로써, 나중에야 등장하는 정교한 대수학(代數學) 없이도 복잡한 관계를 다룰 수 있었다.
기독교 유럽에서 중세는 수학의 암흑기였다. 유럽이 과학을 소홀히 여긴 반면, 아랍 지역에서는 종교와 함께 학문이 번성했다.

아랍 세계는 고대 그리스의 유산을 흡수했다. 학자들은 유클리드와 아르키메데스 등의 저서를 번역하고 그들의 과학을 더욱 발전시켰다. 오늘날의 대수학이나 알고리즘 같은 용어가 이를 입증한다. 아랍인은 더 나아가 인도인의 지식도 받아들였다. 인도에서는 수 세기 동안 수학이 발전을 거듭했다. 5세기 무렵 세계 역사상 가장 큰 히트작 중 하나로 꼽히는 ‘10진법’이 인도에서 나왔다.
중세 말기에는 화폐 경제가 물물교환을 대체하면서 오직 수학으로만 해결할 수 있는 분야가 더 넓어졌다. 한 통화에서 다른 통화로 어떻게 변환할까. 언제든지 추적하고 확인할 수 있는 올바른 회계란 무엇일까. 일상에서 사용하던 다양한 길이와 부피, 무게 간의 전환을 어떻게 극복할까. 판매자는 금융 거래에 대한 이자와 복리를 어떻게 계산했을까. 먼 나라로의 항해는 더욱 정밀한 항법을 요구했고, 운하와 수문의 건설은 수력 기술의 문제를 야기했다. 이러한 문제들에 대해 중세 미신은 아무런 답을 내놓지 못했다. 이는 개선된 수학적 도구를 통해서만 풀 수 있었다. 수학은 교회 학문의 한 부분이라는 역할을 벗어나 비로소 성장기에 접어들었다.
르네상스 시대는 유럽이 깨어나기 시작한 시기다. 사람들은 교회의 전능성에 의문을 제기했다. 학자들은 고대 그리스의 작품을 연구하고 번역하면서 점점 더 실용적인 문제에 관심을 기울였다. 수학은 비즈니스·항해·예술 등에서 그 쓰임새가 증폭됐다. 유럽은 위대한 항해를 통해 세계를 바라보기 시작했다. 선원들에겐 정확한 지도가 필요했고, 상인들은 효율적인 장부가 요긴했다. 천문학자들은 망원경으로 행성과 별을 관측하고 그 움직임을 이해하기 위한 새로운 접근법을 개발했다. 그들은 지구 중심 세계관을 버리고 태양 중심 세계관을 채택했다. 군대 역시 수학에 의존했다. 포탄의 비행 궤적을 계산하고, 반대로 가장 큰 대포알에도 견딜 수 있는 요새를 설계했다. 중요한 기여는 종종 지적인 엘리트가 아니라 장인과 상인, 아마추어 수학자들에 의해 이루어졌다.
17∼18세기 계몽주의 시대의 수학적 혁명은 변화하는 양, 변수를 도입해 움직임을 설명하는 것이었다. 수학자들은 자유낙하나 행성 및 발사체의 궤적 같은 고전적인 문제를 해결하면서 실용적인 역학에도 관심을 가졌다. 크레인·풍차·펌프·전동 로프 등 신흥 제조 회사들을 위해 다양한 장치를 발명하는가 하면 스스로 끝없이 움직이는 기계를 열렬히 추구했다. 이 모든 혁신의 중심에는 ‘운동’이 있었다. 새로 찾아낸 미분법을 통해 운동량을 계산해냈다. 더불어 ‘확률론’이라는 수학 분야도 등장했다. 도박에서 출발한 이 학문은 과학자들이 곧 새롭게 등장할 보험 산업과 인구통계학에도 그들의 지식을 활용토록 했다.
19세기 산업화의 도래는 자연과학과 수학에 많은 과제를 안겨주었다. 기계를 제작하고, 교량과 철도를 건설하고, 석탄·철강·화학 원료를 생산하며, 통신·에너지·송전을 관리해야 했다. 산업을 발전시킨 것은 학계 과학자가 아니라 엔지니어, 정밀 기계공, 장인, 발명가 등이었다. 산업계에는 잘 훈련된 엔지니어가 필요했으나, 아카데미와 대학은 엄격한 과학을 지향했기에 필요한 교육을 제공할 수 없었다. 이에 따라 공업기술학교가 설립됐고, 현장에 적합한 이론 교육과 실습이 이루어졌다.
한 세기가 지나면서 수학은 훨씬 더 추상화됐다. 학자들은 미분법을 계속 발전시켜 기계공학, 역학, 천문학, 유체역학, 빛·전기·자기 연구 등 물리학 및 기술의 모든 분야에 적용시켰다. 아울러 무한히 작은 크기의 사물에 대한 신비로움을 벗겨냈다.
20세기 전반부 수학은 연이은 위기로 요동쳤다. 첫 번째는 근본적인 논쟁과 관련이 있는데, 수학적 대상을 구성할 수 있을까 아니면 명시적으로 제시할 수 없어도 그 존재를 증명하는 것으로 충분한가? 수학적 대상에 대한 논쟁이 등장하자 ‘학문의 여왕’이라 불리던 수학의 논리적 토대가 무너지는 것만 같았다. 두 번째는 권력을 잡은 국가사회주의자들이 유대인 수학자들을 박해하고 추방한 일이다. 그중 많은 사람이 미국으로 이주함으로써 세기 중반에 유럽은 주도적 역할을 신대륙에 내주고 말았다.
세기말에는 컴퓨터가 세상을 바꿨다. 컴퓨터의 도움으로만 가능한 수학적 정리의 증명들이 등장했다. 다비트 힐베르트, 쿠르트 괴델, 에르되시 팔 등 수학계의 거장들과 함께 수천 명의 수학자가 그들의 학문적 영역을 확장했다. 그들은 공들여 개념을 고안하고 정리를 증명하며 새로운 이론을 창조했다. 20세기 말에는 가장 영리한 사람들이 수 세기 동안 풀려고 노력한 2가지 수학적 난제가 풀렸다. 페르마의 마지막 정리와 케플러의 추측이다.
[ⓒ 세계일보 & Segye.com, 무단전재 및 재배포 금지]