세계적 수학자 김민형 英워릭대 교수 “수학을 이해하면 삶이 행복해진다”

• 두려움 없애는 수학적 상상력

• 코로나19로 확인된 과학의 진보

• 세계 최고 수준 한국 수학교사들

• “수학 공부, 포기해도 괜찮다”

• 과거는 알고 미래는 모른다고 어떻게 확신하나

_{신동아는 인문학재단 플라톤아카데미와 함께 ‘인문을 과학하다’ 시리즈를 진행한다. 플라톤아카데미는 2010년 11월 설립된 국내 최초 인문학 지원 재단으로 인류의 오랜 지식과 지혜를 바탕으로 우리가 당면한 삶의 근원적 물음을 새롭게 전한다는 취지로 연구 지원, 대중 강연, 온라인 포털 등 다양한 사업을 진행하고 있다. ‘인문을 과학하다’는 인문학과 과학이라는 언뜻 멀어 보이지만, 우리 삶에 깊이 들어와 섞여 있는 두 세계의 깊이 있는 소통을 추진하는 프로젝트다. <편집자 주>}

김민형 영국 워릭대 석좌교수는 “수학적 상상력은 두려움을 없앤다”고 말했다. [최영준 동아사이언스 기자]

아무렇게나 빗어 넘긴 듯한 헝클어진 곱슬머리, 반바지에 긴 양말을 종아리까지 그대로 끌어 올려 신은 촌스러운(?) 외모에서 천재의 기운이 느껴졌다. 머릿속은 오로지 ‘수학적 사고’로 가득해 보였다. 

서울고등과학원 석학교수 김민형(57). 서울대 개교 이래 첫 조기졸업생, 예일대 박사, 한국인 최초 옥스퍼드대 수학과 정교수, ‘페르마의 마지막 정리’에서 유래한 정수계수 방정식 해(解)를 위상수학적인 방법으로 찾는 이론을 제시해 세계적 반열에 오른 수학자, 2012년 호암상 수상자…. 김 교수를 따라다니는 화려한 이력이다. 정작 그는 인터뷰 내내 ‘글쎄요’ ‘잘 모르겠는데요’ ‘전적으로 개인 의견인데’ 하는 말을 자주 했다. 학자적 신중함과 겸손함이 느껴졌다. 

김 교수가 2018년 펴낸 ‘수학이 필요한 순간’(인플루엔셜)은 8만 부가 나간 베스트셀러다. 이번에 두 번째 책 ‘다시, 수학이 필요한 순간’을 펴냈다. 

올 초 영국 옥스퍼드대 수학과 교수를 그만두고 워릭대 수학과 및 수학대중교육 석좌교수로 자리를 옮긴 그는 방학 때마다 한국을 방문해 대중을 만나 수학 이야기를 들려주고 있다. 그의 책을 읽다가 ‘수학적 상상력은 두려움을 없앤다’라는 대목에 솔깃했다. 건조하기 이를 데 없는 수식 나열인 수학이 두려움을 없애준다고? 그를 서울 동대문구 회기동 고등과학원 연구실에서 만났다.

이해하면 미운 마음이 사라진다

- 책에서 ‘수학은 답을 찾는 게 아니라 답을 찾아가는 데 필요한 과정을 만드는 일’이라고 했는데. 

“답도 중요하다. 하지만 궁극적인 목적은 ‘이해’다. 두려움은 정당한 것도 있지만 세상에 대한 이해가 부족한 데서 오는 것도 있다. 우리가 모르는 요소, 미지의 세계에 대한 공포가 두렵게 만드는 거다. 삶을 이해하면 밉거나 싫은 마음이 사라지고 궁금증이 생긴다. 생각을 좀 더 정밀하고, 정확하게 하려고 노력하는 것이다. 수학적 사고만으로 행복해질 수는 없지만 우울감을 없애는 데는 수학이 도움을 준다고 본다. ‘이해한다’는 것이 대체로 행복감을 주지 않는가.” 

- 수학적 사고는 도덕적으로 그릇된 답을 피할 수 있는 통찰력을 준다고도 했는데. 

“수학적으로 생각하면 비교적 명료한 답이 있어 쓸데없이 정신적 에너지를 낭비하지 않을 수 있다는 말이다. 책에도 나오는 사례지만 ‘지능 높은 여자들이 대부분 지능 낮은 남자와 결혼한다’는 통계를 제시하며 이유를 물으면 대부분 ‘똑똑한 남자는 똑똑한 여자를 싫어해서’ ‘여자가 남자를 이용하려 해서’ 같은 답이 나온다. 근거는 물론 없다(웃음). 

나는 이걸 순전히 수학적인 현상인 ‘확률’로 설명한다. 확률적으로 볼 때 대다수 보통 사람의 지능은 지능이 ‘높은’ 여자보다 낮다. 지능 높은 여자는 확률적으로 자기보다 지능이 낮은 남자를 만날 가능성이 높은 거다. 

현실에서 일어나는 많은 일이 윤리나 도덕, 공감 등과 상관없이 일어난다는 걸 받아들이면 쓸데없는 데 낭비되는 정신적 에너지를 아낄 수 있다. 순전히 우연으로 일어날 수 있는 일도 있고 그냥 분포 때문에 일어나는 일도 있는데 이 모든 것을 윤리적으로 판단해 사회 이슈화하면 낭비가 많지 않겠나.”

코로나19로 확인한 과학의 진보

- 운이나 우연은 과학으로 설명할 수 없거나 증명할 수 없는 것 아닌가. 

“‘설명할 수 있다’ ‘증명할 수 있다’는 뜻을 더 정확하게 따져야 이야기를 할 수 있을 것 같다. 동전을 여러 번 던지면 각각 앞 뒷면이 나올 비율이 반반에 가까워진다. 이게 확률론이다. 개개 사건은 언제 어떻게 일어날지 예측할 수 없다. 하지만 여러 번 일어날 때 패턴은 예측할 수 있다. 그런 면에서 운이나 우연도 설명할 수 있다.” 

그는 이 대목에서 ‘확률 개념은 현대 세계를 가능케 만든 중요한 발견’이라고 했다. 

“확률론을 사회적으로 받아들이는 데는 굉장히 오랜 시간이 걸렸다. 과거엔 아직 일어나지 않은 일에 대해 사고하는 것 자체가 신(神)을 거역하는 행동으로 생각됐을 것이니 말이다. 운과 무작위성으로 가득한 미래를 체계적으로 사고할 수 있다는 자신감은 갈릴레오, 뉴턴 등이 등장한 17세기에야 생겨났다. 확률, 가능성, 기댓값이라는 개념은 17세기만 해도 가장 뛰어난 천재들만 이해하는 개념이었다. 

20세기에 와서 정립된 양자역학에 따르면 원자는 특정 모양이나 위치, 속도가 정해진 것이 아니다. 원자 자체가 항상 확률적으로밖에 존재하지 않는다고 한다. 우리 존재는 원자로 구성돼 있으니 현대 과학적 관점으로 보면 모두 ‘확률적 존재’라고 할 수 있다.” 

현실을 이해하려고 노력하면 행복감을 갖는 데 도움이 된다는 자신의 말처럼, 그는 살면서 별로 우울감을 느낀 적이 없다고 했다. 그래서인지 세상을 보는 눈도 긍정적이었다. 

- 신종 코로나바이러스 감염증(코로나19) 확산을 보면 수학자로서 어떤 생각이 드나. 

“완전히 수학 교육자 관점에서 우리나라 사람들 수학 수준이 굉장히 높다는 걸 느낀다. 누적 환자 수만 보는 게 아니라 발생 추이를 나타내는 로그 그래프까지 해석하더라. 

사람들이 요즘 상황을 보며 ‘과학이 크게 발달한 것 같은데 바이러스 하나에 무너지다니’ ‘대응책이란 게 고작 마스크밖에 없다니’ 하는 말을 많이 한다. 나는 그렇게 생각하지 않는다. 마스크를 이렇게 대량생산할 수 있게 된 것 자체가 굉장한 과학기술 발전 덕분이다. 또 바이러스가 어디서 왔는지 아는 것은 굉장한 진보다. 14세기 흑사병 유행 때를 비롯해, 그동안 감염병 원인도 모르고 죽어간 사람이 얼마나 많은가. 지금은 바이러스의 정체를 알고 대응책을 만들고 치료도 하고 있다. 엄청난 것 아닌가. 현실적으로 보면 과거와 비교할 수 없을 정도로 과학기술이 발전했다.”

세계 최고 한국 수학선생님들

김민형 교수가 2019년 7월 27일 서울 프레스센터에서 열린 수학영재 대상 멘토링 행사에서 ‘대수와 기하학: 어느 것이 먼저인가’ 라는 주제로 강의하고 있다. [웅진재단 제공]

- 평소 우리나라 사람들이 확률적 사고를 하지 않고 예스(Yes)냐 노(No)냐 같은 단답식 생각을 해 갈등이 야기되고 사회적 비용이 많이 든다고 생각해 왔는데. 

“당신 질문에서 지적하고 싶은 것은 이런 문제가 우리만의 것은 아니라는 거다. 이분법적 사고에서 오는 사회 분열은 미국이 훨씬 심한 것 같다. 정치적 견해에 따라 사는 지역이 완전히 다르고 생활수준도 다르고 교육도 다르다. 보는 TV프로그램도 완전히 다르다. 우리는 그 정도는 아니지 않은가.” 

- 영국은? 

“미국만큼 극단적이진 않지만 역시 우리보다 심하다. 우리는 어떤 문제를 우리만 가진 것으로 생각하는 습관이 있다. 교육 시스템을 비교할 때도 우리가 가진 가장 나쁜 사례와 핀란드의 가장 좋은 사례를 비교하는 식이다. ‘비교의 오류’다. 

자살률도 그렇다. 한국이 경제협력개발기구(OECD) 회원국 1위인 건 맞다. 인구 10만 명 기준으로 따져보면 1년에 23명이다. 행복도가 높다는 스위스는 11.2명이다. 절대 순위를 비교하면 굉장히 심각해 보이는데 23명과 11.2명을 비교하면 과연 그렇게 심각한 것인가 한 번 더 생각하게 된다. 수학적으로 생각하면 모든 것에 다 강점이 있고 약점이 있다. 어느 쪽이 낫다, 못하다는 아닌 것 같다.” 

- 그렇다면 한국 교육이 가진 강점은? 

“중·고등학교 수학선생님들 실력이 굉장히 좋다. 미국만 해도 별 트레이닝 없이 교사가 되는 사람이 많다. 교사의 사회적 지위도 열악하고. 한국 수학선생님들 보면 다들 대학에서 수학을 제일 잘하는 학생이었다는 인상을 받는다. 수학에 대한 사랑과 열정이 대단해 개인적으로 공부할 시간이 부족하다고 말하는 교사도 많다. 여기에 일반인의 평균적인 수학 실력도 굉장히 높다. 사실 내가 쓰는 수학책만 해도 영미권에서는 팔리기 힘들다.” 

- 한국 교육의 단점이라고 하면? 

“굳이 꼽자면 학생들이 집중력은 뛰어난데 임기응변적 사고, 자신감이 조금 부족하다고 할까.” 

- 반복과 암기 위주 교육을 받아 창의성이 없다는 이야기도 많이 하는데. 

“그게 문제인 것 같지는 않다. 창의성이란 게 뭔지 규명하기 쉬운 것도 아니고. 또 수학도 당연히 암기해야 되는 것이 많다.” 

- 수포자(수학포기자) 문제는 어떻게 보나. 

“수포자는 전 세계적으로 많다. 수학을 포기한 게 잘못이 아니라 수학을 못한다고 생각하는 것이 문제라고 본다. 거듭 말하지만 우리의 평균적 수학 수준은 굉장히 높다. 수학과 관계없는 사람이 기초적인 함수를 아는 모습을 보며 놀랄 때가 많다. 외국에서는 거의 경험할 수 없는 일이다. 

우리는 사회에서 요구하는 기준이 높다 보니 경쟁이 치열하고 잘하는데도 스스로에게 만족하지 못해 낙담한다. 나보다 더 잘하는 사람이 있거나 내가 원하는 만큼 이루지 못했다고 해서 얻은 게 없는 것은 아니다. 스스로 가진 것을 귀하다고 생각하는 관점은 수학 교육에도 필요하다.” 

- 수학을 싫어하는 아이들은 어떻게 해야 하나? 

“너무 어려운 질문이다. 때로는 포기해도 상관없는 것 같은데(웃음). 자기가 하고 싶은 게 뭐냐에 따라 수학을 어느 정도 공부하는 게 좋을지 현실적으로 따져보고 적당한 수준에서 계속하든지 포기하든지 선택해야 될 것 같다는 생각이 든다. 

최근에는 직장에서 관리자가 되려면 점점 수학 실력이 요구되는 것 같다는 얘기를 듣곤 한다. 회사의 전체적인 그림을 그리는 데 도움이 된다면서 말이다. 영국에선 수학과가 의대보다 인기가 높다.”

과거와 미래에 대한 오해

헝클어진 곱슬머리에서 천재의 기운이 느껴지는 김민형 교수. [허문명 기자]

그의 수학적 사고는 자신의 삶을 이야기할 때도 엿보였다. 

- 중학교 때 자퇴하고 검정고시로 대학에 갔다. 

“중학교 1학년 때 몸이 아팠다. 몇 주 쉬다가 학교를 그만뒀다.” 

- 대학 들어가기 전까지 혼자 공부한 건가? 

“남들 하는 식으로 학습지 보고 그랬다.” 

- 사춘기를 혼자 보낸 건데. 

“그래서 놓친 것들이 있을 것이다. 그런데 형제가 많고 형 친구들하고도 많이 놀았다.” 

- 굳이 학교를 다니지 않은 이유가? 

“지금 돌아보면 왜 그랬는지 잘 모르겠다. 그냥 적당히 그렇게 된 것 같다. 솔직히 기억이 잘 나지 않는다. 중요한 결정이었던 것 같은데 그렇게 중요한 결정으로 기억되지 않는다.” 

- 원래 과거에 연연하지 않는 스타일인가. 관심이 항상 현재와 미래에 가있나. 

“(고개를 갸우뚱하며) 잘 모르겠다. 그런데 수학적으로 생각하면 미래나 과거라는 게 그렇게 다르지 않다고 본다.” 

- 무슨 뜻인가? 

“극단적 과학론자들은 우주의 진화가 초기 조건에 의해 딱 정해진 거라고 한다. 지금 상태를 충분히 파악할 수 있으면 미래도 예측할 수 있고 과거 일도 다 밝혀낼 수 있다는 의견이다. 그런 관점에서 본다면 과연 ‘미래는 모르고 과거는 안다’고 할 수 있을까. 정말 미래는 모르는 것일까?” 

- 그렇게 물어보니 전혀 모른다고 할 수는 없다는 생각이 든다. 당장 내일만 해도 대충 몇 시에 일어날지 누구를 만날지 다 예측되니까. 

“더 근본적으로 보면 계속 해(日)도 뜰 것이고 갑자기 천재지변이 일어나지는 않을 것 같고. 전부 확률적인 얘기지만 그렇지 않은가. 어쨌든 내가 이야기하고 싶은 건 기본적으로 우리는 미래에 대해 굉장히 많은 걸 알고 있다는 거다. 또 역으로 생각해 보자. 우리는 과거를 잘 안다고 생각하는데 과연 그런가?” 

- 매우 철학적 질문으로 들린다. 

“가까운 과거는 물론 역사를 거슬러 올라가면 과연 우리가 과거를 안다고 할 수 있을까 자신하기 어렵다. 달라이 라마가 쓴 책을 보면 세상에 피할 수 없는 고통이 굉장히 많지만 피할 수 있는 고통은 피하게 해주는 게 자기 목적이라는 대목이 있다. 수학적 사고도 그런 도움을 줄 수 있다고 본다. 

우선 ‘안다’ ‘모른다’고 할 때 이걸 확률적으로 섬세하게 밝혀야 된다. 완전하게 아는 건 아무것도 없고 완전하게 모르는 것도 굉장히 드물다. 모두 다 확률 스펙트럼 속에 있는 거다.” 

- 청소년기 얘기를 하다가 여기까지 왔다. 사춘기 시절 학교에 다니지 않은 경험을 통해 얻고 잃은 건? 

“참 어려운 질문이다. 기억을 더듬기도 어렵고 마치 자서전 쓸 때처럼 스토리를 만들어내야 한다는 생각이 든다.” 

- 왜 수학과를 갔나. 

“그것도 자꾸 질문을 받아 결국 스토리를 만들어낸 것 같은 느낌이 있다. 하나 만들기는 만들었다. 나름대로는 정확할 거라는 느낌을 갖고 있다(웃음). 처음엔 고려대 철학과에 갔다가 몇 주 만에 그만두고 다시 시험 쳐서 이듬해 서울대 물리학과를 지원했는데 2지망인 수학과에 합격했다.” 

- 겉보기엔 정말 모범생적 삶을 살았을 것 같은데 역시 사람은 겉만 보고는 모르겠다(웃음). 철학과는 왜 그만뒀나. 

“논리학을 좋아했고, 철학과 관련이 있다고 생각했다. 그런데 철학 공부는 나중에 해도 될 것 같고 세상을 이해하려면 우선 과학적인 언어부터 공부해야겠다는 생각이 들었다. 수학은 2지망이었지만 막상 공부해 보니 물리학과 별 차이가 없었고, 나중에 물리학을 한다 해도 가장 중요한 게 수학이니 오히려 잘됐다고 생각했다. 어떤 면에서 보면 엄밀한 수학적 백그라운드를 택한 것이 내 성격에 맞았던 것 같다.” 

뭔가 명쾌하지 않으면서도 명쾌한 듯한 그의 답은 때로 답답하게 들렸다. 그러나 대화를 나누다 보니 현실을 좀 더 깊게 성찰하게 하는 힘을 얻은 것 같았다. 

지금 상황을 어려운 수식(數式)으로 설명할 수는 없어도 확률적 사고에 기반을 두고 최대한 현실적으로 상황을 해석하려 노력하는 자체가 수학적 사고라는 깨달음도 들었다. 세계적 수학자와의 대화에서 얻은 수확이다.