지난 16일, 아르헨티나 마르델플라타에서 열린 제53회 국제수학올림피아드에서 한국의 수학영재들이 종합점수 209점을 받아 처음으로 종합우승을 차지했다. 수상자의 대부분은 서울과학고, 세종과학고 출신이며, 최연소 수상자는 김동률(15세, 서울과고1) 학생으로 42점 만점에 40점을 받았다. 노벨 과학상보다 수학의 노벨상이라 불리우는 필즈상(Fields Medal) 수상자가 곧 나올 거라는 예측도 나왔다.

일상생활에 필요한 계산 능력 외에는 수학이 불필요하다고 생각할 수도 있다. 하지만, 현대 물리학의 태동이 됐던 상대성이론, DNA의 구조 규명, 흥미로운 페르마의 정리까지 우리의 일상을 가능케 해주는 학문이 바로 수학이다.

박세희 서울대 교수(수리과학과)는 수학을 전공으로 택한 것을 ‘숙명’이라고 회고한다. 박 교수는 6ㆍ25전쟁을 겪으면서 수학밖에는 제대로 공부를 한 적이 없었고, 수학만이 정치 이데올로기와 상관없는 진리의 세계에 있었기 때문이라고 말한다. 그는 대학교 4학년 때, 대학원에 진학해 국내 수학의 수준을 높이라는 스승의 권고를 받고 평생 ‘숙제’처럼 수학의 세계에서 살았다고 한다. 『스무 살에 선택하는 학문의 길, 대학에서 우리가 배워야 할 것들』 (김용준ㆍ정운찬 외 지음, 아카넷, 2005)에서 박 교수는 수학이야말로 아름다운 논리의 세계이자 확장성이 무한한 학문임을 소개하고 있다. 그가 만난 수학과의 이야기를 좀 더 자세히 들어보자.

수학과는 무엇인가

수학은 자명한 명제에서 출발한 논리적인 추론과정을 통하여 수와 연산, 공간, 함수 등의 수학적 대상을 연구하는 학문이다. 수학은 그 자체로서도 흥미로운 학문일 뿐 아니라 여러 자연현상 및 산업문제를 수량화하고 추상화함으로써 과학적 연구의 논리적 기초와 언어를 제공하는 역할을 하는 학문이다..

세부적인 교과과목들은

수학분야는 크게 순수수학과 응용수학으로 분류된다. 응용수학의 대부분 이론이 순수수학의 깊이 있는 이론을 바탕으로 하여 발전하고 있고,  응용수학적 문제로부터 동기를 얻어 순수수학이 발전되기도 하기에 뚜렷한 경계는 분명치 않다. 박세희 교수는 수학과의 교과과정을 크게 여섯 가지로 구분한다. 순수수학의 다섯 가지 분야인 대수학, 해석학, 기하학, 위상수학, 논리ㆍ집합ㆍ수학기초론 그리고 응용수학이다.

대수학은 연산이 주어져 있는 집합들을 연구하는 학문이다. 대수란 원래 수 대신 문자를 써서 문제 해결을 쉽게 하고 수학적 법칙을 간명하게 나타내는 것이다. 정수론은 피타고라스, 유클리드에서 비롯된 오랜 역사를 가진 학문으로, 소수 분포와 부정방정식이 주된 연구 분야이다. 페르마의 정리가 360년만인 1995년에 증명된 것과 같이 아직도 활발히 연구되고 있는 분야이며, 암호학이나 부호이론에도 응용되고 있다.

해석학은 17세기에 시작된 미적분학과 18, 19세기에 발전된 해석학의 여러 분야를 가리키는 말이다. 뉴턴의 스승인 바로(Barrow)는 접선의 성질로부터 그 곡선을 찾는 문제를 생각해 냈는데, 이때 미분계수가 들어있는 방정식, 즉 미분방정식을 고안해낸다. 처음에는 함수, 극한, 연속과 같은 개념이 명백히 정의되지 않은 채 사용됐지만, 코시(cauchy)나 데데킨트를 비롯한 학자들의 노력으로 극한 개념을 바루게 세우는 실수의 성격을 명확히 했다. 실변수의 실함수뿐 아니라 복소변수의 복소함수의 성질을 연구하는 분과를 복소해석학이라 부른다.

기하학은 공간의 수리적 성질을 연구하는 학문 분야다. 고대 이집트에서 시작돼 유클리드에 의해 초등기하학 체계가 완성됐다. 19세기 비유클리드 기하학이 보야이, 리만에 의해 확립됐다. 아인슈타인이 1916년에 일반상대성이론을 세울 때 리만기하학과 리치의 연구를 이용한 뒤로, 순수수학의 영역에 머물러 있던 기하학의 연구는 현대물리학의 모태가 됐다.

위상수학에서는 도형을 접거나 잡아 늘이거나, 줄이거나, 구부리거나, 뒤틀리게 하거나 해서 가까이 있는 점들이 가까운 다른 점들로 옮겨가는 연속변환을 다룬다. 즉, 위상수학도 ‘연속적인’ 변형을 허용하는 일종의 기하학인 셈이다. 범주론적 위상수학, 호모토피이론, 함수공간론, 퍼지수학 등을 연구하는 등 미분위상수학이 주된 분야이다. 그 밖에도 기하학적 위상수학, 주로 3, 4차원인 저차원 다양체의 이론, 매듭이론 등이 있다. 매듭이론은 생물학에서의 DNA 구조 규명과 물리학에서의 초끈이론의 모태가 되기도 했다. 논리ㆍ집합ㆍ수학기초론은 위에 언급한 이외에 수학의 여러 분야들이다.

전통적인 응용수학이던 확률론과 통계학은 인구조사, 일기예보, 교통의 흐름 등을 비롯한 일상적인 문제에 응용되고, 게임이론은 경제현상 등을 비롯한 새로운 적용대상이 늘어나고 있다. 영화「뷰티풀 마인드」로 유명한 수학자 존 내쉬를 비롯한 여러 수학자가 노벨 경제학상을 받은 것에 덧붙여, 2005년에는 셸링이 게임이론 응용으로 그 상을 받았다. 1960년대 개발된 우주 항행 수학은 선박ㆍ항공기 운항에 응용되고 있다. 그 밖에도 수치해석학, 동역학계, 역문제, 수리물리학, 수리경제학, 산업수학, 금융수학 등의 여러 분야가 있다.

수학과에는 어떤 학생들이 가나

수학은 물리, 화학, 생물, 천문학 등의 자연과학과 기계, 전자, 화공, 전산, 의학, 경제학 등의 응용과학을 망라한 모든 분야의 기초 이론에 응용되고 있으며, 각 분야에서 발생하는 여러 문제를 해결하기 위한 논리적인 체계와 아이디어를 제공하고 있다. 최근에 들어 이러한 수학과 과학 전반의 밀접한 관계는 더욱 새롭게 정립되고 강화되고 있는 경향이다. 따라서 수학을 공부하여 튼튼한 학문적 기초를 쌓고자 하는 학생, 계속 수학을 전공하려는 학생에게는 물론이고, 수학을 통해 타 학문으로의 확장을 꿈꾸는 학생에게 수학과가 어울린다.

수학적 능력, 졸업 후에도 밝은 전망

대학에서 수학을 전공해 나아갈 수 있는 길을 여러 가지가 있다. 일반 기업체 외에도 금융, 보험, IT 산업체, 정부기관, 연구소, 조사실 등에서 수학적 처리능력을 가진 사람을 선호하는 것은 잘 알려진 사실이다. 기업체 직원이나 공무원보다 더 안정적인 중ㆍ고교의 교직을 택해 학생을 지도하는 것도 보람 있는 일이다.

대학원에 진학하는 길도 여러 가지인데 전산학, 경제학, 경영학, 회계학, 통계학, 물리학, 산업공학, 전자공학, 과학사, 철학, 논리학 등의 분야로 진출할 때, 다른 학과 출신보다 수학적 능력이 있기 때문에 크게 유리하다는 것도 잘 알려져 있다.

전문수학자가 되는 길은 두 가지다. 첫째로 대학원 수학과에 진학해 석사, 박사 과정을 밟는 것이다. 대학 교수가 돼 수학의 연구와 교육에 종사하는 직업이다. 전문수학자가 되는 두 번째 방법은 민간기업체나 정부의 연구소 등의 전문직에 종사하는 것이다. 미국의 경우 1960년대부터 2만 명 이상의 전문수학자를 정부기관에서 고용하고 있고, 우리나라도 머지 않아 같은 길을 갈 것으로 예상한다.

대학에서 수학을 전공하고도 기업인, 언론인, 출판인, 정치가, 군인으로서 괄목할 만하게 성공한 사람들도 있다. 이들이 흔히 하는 이야기가 수학도로서 훈련받은 것이 성공에 도움이 됐다는 것이다. 박 교수는 상황 판단에서 조직적이고 체계적인 사고방식이 길러졌으며, 문제가 생겼을 때 우수한 해결력을 훈련받았기 때문이라고 말했다.

윤상민 기자 cinemonde@daenamu.kr