이 책은 수학적 사고의 흥미로운 응용사례들을 구경시켜 주는 데 그치지 않는다. 또 다른 논점은 수학교육의 중요성을 역설하는 것이다. 저자는 수학자가 되지 않는 수학전공자가 더 많아져야 한다고 주장한다.

“수학은 다른 수단을 동원한 상식의 연장이다.” 군사학자 클라우제비츠의 명언, “전쟁은 다른 수단을 동원한 정책의 연장이다”를 비튼 이 말은 수학자 조던 엘렌버그의 『틀리지 않는 법』을 한 문장으로 줄인 요지다. 이것이 정확히 무슨 뜻인지는 예를 들어 이야기해보자. 이 책부터가 교과서적인 설명을 지양하고 현실의 예제들을 들어 저자가 중요하다고 생각하는 수학적 개념들을 소개한 대중서니까 말이다.
2011년 6월 말, 미국의 공화당 위스콘신 지부는 공화당 주지사가 지난 한 달 훌륭한 일자리 창출 실적을 보였다고 자랑하는 보도자료를 뿌렸다. 그 기간 미국 경제 사정은 좋지 않아, 전국 일자리 증가량이 1만8천개에 그쳤다. 그런데 같은 기간 위스콘신에서는 순 일자리 증가량이 9천500개였다. 그래서 보도자료는 “6월, 전국 일자리 증가량의 50퍼센트 이상이 위스콘신에서 발생했다”고 뻐겼다. 공화당 의원들은 주민들에게 이 수치를 대대적으로 선전했다.

그러나 잠깐, 민주당 주지사를 둔 이웃 미네소타는 같은 기간에 1만3천개가 넘는 일자리를 창출했다. 하지만 미네소타 주지사는 자기 주가 전국 일자리 창출의 70퍼센트를 차지했다고 선전하지는 않았다. 그가 바보여서 그랬을까? 그럴 리가. 현실은 다른 많은 주들에서는 일자리가 오히려 감소했기 때문에, 위스콘신과 미네소타 같은 주들이 선전했음에도 불구하고 전국 순증가량이 적었던 것이다.
『틀리지 않는 법』의 저자는 이 대목에서 이런 표어를 마음에 새기라고 말한다. “수가 음수가 될 수 있는 상황에서는 퍼센트를 논하지 말라.” 요컨대 순일자리 변동량은 양수도 될 수 있고 음수도 될 수 있으므로, 그것을 대뜸 퍼센트로 말하면 오도하는 해석을 낳을 수 있다는 것이다.

상식의 맹점 깨는 요긴한 개념들
부분을 총합으로 나눠 퍼센트 비율을 얻는 산술 조작은 상식이다. 의무교육을 받은 사람은 누구나 할 줄 알고 누구나 자신이 그 뜻을 잘 이해한다고 생각하는 내용이다. 하지만 위에서 보았듯이, 더없이 간단해 보이는 계산도 기저의 의미를 헤아리지 않고 함부로 적용할 때는 터무니없는 결과를 얻기 쉽다. 어찌 저런 초보적인 실수를 저질렀을까, 그걸 또 의원이라는 사람들이 선전까지 했을까 비웃기는 쉽지만, 이런 예는 사실 우리 주변에 너무나 많이 널려 있다.
저자는 이런 실수가 단순한 계산 실수보다 더 나쁘다고 말한다. “한 수를 다른 수로 나누는 것은 단순한 연산일 뿐, 무엇을 무엇으로 나눠야 할지를 알아내는 것이야말로 수학”이기 때문이다. 수학이 다른 수단을 동원한 상식의 연장이라는 것은 이런 의미에서 하는 말이다. 책의 제목 ‘틀리지 않는 법 How Not to Be Wrong’의 뜻도 비슷하다. 계산을 틀리지 않는 법을 가르쳐 주겠다는 것이 아니다. 우리가 세상을 해석하고자 할 때 수학이라는 상식 강화 수단을 동원해 상식의 맹점을 경계하지 않으면 자칫 틀리기 쉽다는 뜻이다.

그래서 저자가 상식의 연장으로 요긴하게 쓰일 것이라고 소개하는 개념들은 무엇일까. 선형성의 오류, 베이즈 추론의 원리, 기대값의 정확한 의미, ‘평범으로의 회귀’ 원칙, 상관관계와 인과관계의 관계, 통계적 유의성 검정 기법의 장점과 함정, 등등이다.
저자는 흥미로운 사례들을 들어 이런 개념들이 현실에서 얼마나 자주 오용되는지를 지적하며, 우리가 일단 이런 개념들을 제대로 파악하면 세상의 정보를 좀더 깊고 올바르게 이해할 수 있다고 격려한다. 내용이 주로 통계와 확률에 치중된 것은 한편으로는 그 분야가 현대에 가장 중요하기 때문이고, 다른 한편으로는 우리의 타고난 수학적 직관이 가장 자주 헛다리를 짚어 제 꾀에 빠지는 분야가 그것이기 때문이다.

그러나 이 책은 수학적 사고의 흥미로운 응용 사례들을 구경시켜 주는 데 그치지 않는다. 또 다른 논점은 수학교육의 중요성을 역설하는 것이다. 저자는 수학자가 되지 않는 수학전공자가 더 많아져야 한다고 주장한다. 수학을 전공한 의사, 수학을 전공한 CEO, 수학을 전공한 국회의원이 더 많아져야 한다는 것이다. 왜냐하면 앞에서 말했듯 수학은 현실을 틀리지 않고 파악하도록 돕는 최고의 수단이며 그 능력은 세상 모든 직종에 필요하기 때문이다.
특히 그중에서도 통계나 조사 결과를 분석해 그로부터 사회적·정치적 의미를 읽어내는 일이 점점 더 중요한 업무가 되고 있는 현대의 저널리스트들에게 이 능력은 필수적이다. 모든 종류의 정책 결정자들에게도 마찬가지다.

그러기 위해서 시급한 조치는 수학은 천재들만 하는 것이라는 그릇된 통념을 깨는 것이다. 그러나 사실 저자는 이렇게 주장하기에 썩 어울리는 입장이 아니다. 조던 엘렌버그는 전형적인 영재 출신의 수학자이기 때문이다. 그는 아홉 살에 대학 수학을 공부하기 시작했고, 열두 살에 미국 대학입학시험(SAT)에서 수학 만점을 받았다. 고등학교 때는 국제수학올림피아드에 3번 출전해 2번은 금메달을, 1번은 은메달을 땄다. 하버드대에 다닐 때는 북미 최대의 대학생 수학경시대회인 퍼트넘 경시대회에서 2번 수상했다. 지금은 위스콘신주립대 교수로 있으면서 수론과 대수 기하학 등을 연구한다. 그런 그가 수학은 천재만 하는 게 아니라고 말하는 게 영 설득력 없게 들릴 수도 있겠으나, 스스로 영재교육을 경험했고 지금은 테리 타오 같은 선도적인 수학자들과 어깨를 나란히 하면서도 학생들을 가르치고 대중적 수학 칼럼을 쓰는 데도 열심인 그이니만큼 관련 교육자들이 귀담아 들을 만한 조언이 많다. 가령 ‘수학시험에서 부분 점수를 받는 법’이라는 제목의 짧은 챕터는 거꾸로 뒤집어 ‘대학 수학수업에서 중요하게 가르쳐야 할 골자는 무엇인가’라고 읽을 수도 있다.

수학교육의 중요성 역설
더구나 재미난 점은 엘렌버그가 존스홉킨스대에서 소설 작법으로 석사학위를 받은 데다가 소설도 한 권 출간한 적 있는 작가라는 것이다. 그래서인지 『틀리지 않는 법』에는 수학이 문학과 예술과 상호작용하는 지점에 대한 관심도 넘친다. 엘렌버그가 칼럼니스트로서 이름을 알린 것도 2014년 <월스트리트저널>에 ‘초대형 베스트셀러들 중 사람들이 사놓기만 하고 안 읽는 책이 뭘까’라는 주제로 쓴 기사 덕분이었다. 그는 아마존의 전자책 뷰어킨들이 제공하는 밑줄 긋기 기능을 이용해 독자들이 본문의 몇 퍼센트까지 읽었는지를 짐작한 뒤, 거기에 ‘호킹 지수’라는 이름을 붙였다. 피케티의 『21세기 자본』의 호킹 지수가 겨우 2.4퍼센트라는 것, 즉 대개의 독자들은 채 서른 쪽도 안 읽었다는 발견은 애서가들에게 재미난 이야깃거리가 됐다.

2014년 미국에서 출간된 『틀리지 않는 법』이 <뉴욕 타임스>와 영국 <선데이 타임스> 베스트셀러가 됐던 건 제법 신기한 일이다. 대중 수학서이기는 해도 결코 만만하게 읽어낼 수 있는 책은 아니기 때문이다. 그 사실은 이 책이 미국수학협회가 매년 훌륭한 수학책에 수여하는 ‘오일러 도서상’의 2016년 수상작으로 선정된 것만 봐도 짐작할 수 있다. 대중적 호평과 수학자들의 인정을 둘 다 받은 책인 셈이다.

김명남 과학책 번역가
KAIST에서 화학을 전공하고 서울대 환경대학원에서 환경정책을 공부했다. 일간지 기자와 인터넷 서점 편집팀장을 거쳐 전업 번역가로 일한다. 옮긴 책으로 『우리 본성의 선한 천사』 『특이점이 온다』 등이 있다.