일상생활서 AI까지… 상상 뛰어넘는 수학의 쓰임새

우쥔 지음/한수희 옮김/권재명 감수/세종서적/1만8000원

수학의 아름다움 -AI, 빅데이터에 숨어 있는/우쥔 지음/한수희 옮김/권재명 감수/세종서적/1만8000원

수학의 쓰임새는 상상을 초월한다. 그러나 사람들은 평소 이를 잘 인식하지 못한다. 그저 어렵다는 이미지에 갖혀 수학의 가치를 알려고 하지도 않는다. 수학은 우리 생활 속에 항상 존재한다. 원자력과 우주 비행처럼 상대적으로 생활과 동떨어지는 분야의 거대한 수학 지식을 언급하지 않더라도, 우리가 매일 사용하는 제품과 기술 뒤에는 이를 지탱하는 수학적 기초가 존재한다. 컴퓨터공학 전문가인 저자는 아직도 실제 업무 과정에서 수학의 마력에 감탄한다고 한다.

우리가 쓰는 자연어를 컴퓨터로 처리하려면 자연어의 문맥 특성에 따른 수학 모델을 만들어야 한다. 이 수학 모델의 일종이 통계언어 모델(statistical language model)이다. 컴퓨터 알고리즘도 알고보면 기초적 수학에 근거한다. 통계언어 모델은 현재 모든 자연어 처리의 기초다. 기계번역, 음성인식, 인쇄체 또는 필기체 인식, 철자 교정, 국어 입력 및 문헌 조회 등 여러 분야에 응용된다.

구글이 이룩한 혁명적 발명은 ‘페이지랭크(pagerank)’라고 하는 웹페이지 순위 정렬 알고리즘이다. 이 기술 덕분에 1998년 전후 검색의 관련성이 질적으로 도약했다.

그전에 정렬이 효과적이지 않았던 웹페이지 검색 결과의 문제를 원만히 해결했다. 구글은 이로써 품질 좋은 검색법을 전 세계에 공개했고, 이를 통해 세기적인 성공을 거뒀다.

알고리즘 개발에 가장 먼저 나선 것은 구글이 아니라 야후였다. 야후 창업자 제리 양(Jerry Yang)과 데이비드 파일로(David Filo)는 맨 처음에 목록 분류 방식으로 인터넷 정보를 검색했다. 그러나 당시 컴퓨터 저장용량과 속도의 한계 때문에 야후를 비롯한 다른 검색엔진들은 한계에 봉착했다. 1999년 이전엔 논문 한 편 찾으려면 검색엔진을 여러 개 바꿔야 했다. 그러나 구글은 수학에서 얻은 통계언어모델을 통해 이런 문제를 해결했다.

세상 만물에는 규칙이 있다. 과학은 이 규칙을 찾아 다양하게 응용하는 데 쓰인다. 컴퓨터공학과 정보통신기술 분야에서 그 규칙성을 발견하는 가장 좋은 도구는 바로 ‘수학’이었다. 좋은 제품과 서비스 뒤에는 옳은 방법, 좋은 방법이 있듯이 세상을 바꾼 정보기술 근저에는 뛰어난 수학 모델이 있다. 뛰어난 수학 모델은 놀라울 만큼 간단하고 쉽다. 수학이 아름다운 이유다.

정승욱 선임기자