자칭 ‘국보 1호’ 양주동 선생의 수필집 ‘문주반생기(文酒半生記)’에는 흥미로운 일화가 실려 있다. 양 선생은 중학교 속성과정에 입학한 직후 새로 산 교과서를 보다가 문득 의문이 들었다. ‘기하(幾何)’라는 과목이 무슨 뜻인지 알 수 없었다. 궁금증을 떨쳐버리지 못한 그는 첫 시간에 선생님에게 질문했다. “선생님, 기하가 도대체 무슨 뜻입니까. ‘몇 어찌(幾何)’라니요?”

학생들 모두가 웃었지만, 선생님은 진지한 질문임을 확인한 뒤 이렇게 설명했다. “영어의 ‘geometry’를 중국 명나라 말에 서광계(徐光啓)라는 학자가 중국어로 번역하면서 ‘지오’를 따서 ‘지허’(幾何)라고 음역(音譯)했다. 이를 우리 한자음을 따 ‘기하’라고 표기하게 됐다.”

원래 뜻인 ‘토지(geo) 측량(metry)’과 거리가 먼 번역어가 그래서 나온 것이다. 기하학은 고대 이집트에서 시작됐다. 해마다 나일 강이 범람해 내 땅이 어디까지인지 알아내기 어려웠다. 이를 해결하는 방편으로 기하학이 발전할 수밖에 없었다.

고대 그리스 플라톤의 아카데미아 정문에 ‘기하학을 모르는 사람은 이 문으로 들어오지 말라’는 현판이 내걸렸을 만큼 기하학은 모든 학문의 기초였다. 플라톤은 “신은 기하학적으로 사고한다”는 말을 남기기도 했다. 오늘날 ‘기하학’이라면 유클리드를 가장 먼저 떠올릴 정도로 유클리드는 기하학의 대명사다. 그런 유클리드가 플라톤학파에서 공부했다는 사실은 너무나 당연하게 다가온다.

유클리드가 집대성해 펴낸 ‘기하학원론’(원제 Stoicheia)은 2000년 넘게 기하학 교육을 지배하고 있다. 13세기 영국 철학자 로저 베이컨의 말이 이를 잘 대변한다. “신은 이 세계를 유클리드 기하의 원리에 따라 창조했으므로 인간은 그 방식대로 세계를 그려야 한다.”



논리적 사고력 단련

‘기하학원론’은 ‘세계의 기원이 된 책’으로 불린다. 기원전 3세기에 이 책을 쓴 고대 그리스 수학자 에우클레이데스는 우리에게 유클리드라는 영어 이름으로 더 많이 알려져 있다. 그가 위대한 것은 수많은 기하학적 명제를 발견해서만이 아니다. 그것들을 단 다섯 개의 공리에서 연역적으로 이끌어내 집대성했기 때문이다. 그는 다양한 원천으로부터 자료를 한데 모아 정리와 증명으로 이뤄진 논리적이고 연역적인 구조를 짜냈다. 이 명제들은 평평한 추상적 공간을 전제로 한다면 지금도 대부분 참이다.

이 책의 핵심인 유명한 공리(公理)는 다섯 가지다. (1)동일한 것과 같은 것은 서로 같다(A=B이고 B=C이면, A=C이다). (2)동일한 것에 같은 것을 더하면 그 전체는 서로 같다(A=B이면, A+C=B+C이다). (3)동일한 것에서 같은 것을 빼면 그 나머지는 서로 같다(A=B이면, A-C=B-C이다). (4)겹쳐놓을 수 있는 것은 서로 같다(합동인 것들은 서로 같다). (5)전체는 부분보다 크다. 공리는 증명을 필요로 하지 않거나, 증명할 수 없지만 직관적으로 자명한 진리의 명제인 동시에 다른 명제들의 전제가 되는 명제다.

공준(公準)도 다섯 가지다. (1)임의의 점으로부터 다른 임의의 점에 대해 직선을 그을 수 있다. (2)유한의 직선을 계속 곧은 선으로 연장할 수 있다. (3)임의의 중심과 반지름을 가진 원을 그릴 수 있다. (4)모든 직각은 서로 같다. (5)하나의 직선이 두 직선과 만나고 같은 쪽에 두 직각보다 작은 각을 만들 때, 이 두 직선을 한없이 연장하면 두 직각보다 작은 각이 만들어지는 쪽에서 두 직선이 만난다. 공준은 과학적 인식의 시초가 되는 명제로서 과학 이론의 원리가 된다. ‘기하학원론’은 ‘점은 쪼갤 수 없는 것이다’와 같은 스물세 가지 정의를 바탕으로 삼았다.

‘기하학원론’의 수학적 지식은 대부분 유클리드 이전에 알려진 것들이다. 탈레스, 피타고라스, 히포크라테스, 에우독소스 같은 그리스 수학자들의 연구 성과를 총정리한 것이다. 그럼에도 이 책을 ‘인류의 책’이라고 하는 까닭은 여기에 담긴 기하학 지식보다 내용을 전개해가는 형식과 구조의 독창성에 있다. 논리적인 사고력을 단련시키는 데는 이보다 더 좋은 책이 없다는 평가를 받는다.

유클리드에 대한 기록은 거의 남아 있지 않다. 그리스 영토이던 알렉산드리아에서 교수로 활동했다는 흔적만 전해진다. 그때의 에피소드 두 가지가 기하학 야사를 장식한다. 알렉산드로스 대왕의 부장(副將) 출신인 프톨레마이오스 왕이 수학을 공부하기 위해 유클리드를 초빙했다. 기하학이 너무 어려워 싫증을 느낀 왕은 좀 더 빠르고 편안한 방법이 없겠느냐고 물었다. 유클리드는 정중하지만 단호하게 아뢰었다. “기하학에는 왕도가 없나이다.” 이 말에서 ‘학문에는 왕도가 없다’는 명언이 파생했다.

또 다른 일화는 기하학의 중요성을 일깨워준다. 어느 제자가 유클리드에게서정리 한 가지를 배운 뒤 중얼거리듯 말했다. “딱딱한 논리만 있는 기하학이 어디에 쓸모가 있습니까?” 그러자 유클리드는 즉시 노예를 불러 명했다. “저놈에게 동전 한 닢 던져줘라. 이 불쌍한 인간은 자기가 배운 것으로부터 항상 대가를 얻어야 되는가보다.”

공리를 바탕으로 한 증명

‘기하학원론’은 인류 역사상 가장 중요한 수학책으로 꼽힌다. 2000년 넘게 지식인이라면 누구나 읽어야 했다. 유클리드 사후 700여 년이 지나 로마의 지식인들이 모인 자리에서 한 철학자가 주어진 직선으로 정삼각형을 그리는 법에 대해 물었다. 참석자들은 한결같이 ‘기하학원론’의 제1 명제를 들었다. 내용을 제대로 이해하고 있음을 서로 확인한 참석자들은 모두 흡족한 표정을 지으며 이 같은 문화적 특성을 만들어준 이 책을 그리스어로 논평하는 걸 즐겼다고 한다.

세상과 역사를 바꾼 아이작 뉴턴의 걸작 ‘프린키피아’는 유클리드 기하학을 기반으로 탄생했다. 뉴턴이 ‘프린키피아’를 쓸 때도 ‘기하학원론’과 똑같이 13권의 구성 체제를 따랐다. 만유인력의 법칙을 발견한 뉴턴은 유클리드 기하학의 언어로 자신의 사상을 표현하고 자신의 체계나 방법은 가능한 한 드러내지 않으려 했다는 얘기도 전해온다.

상대성이론을 정립한 알베르트 아인슈타인의 말은 이 책의 영향력을 방증한다. “내 인생에 가장 큰 영향을 미친 사건은 열두 살 때 유클리드 기하학 교과서를 배운 일이다. 만약 여러분이 어렸을 때 유클리드를 읽고 학구열이 솟구치지 않았다면 여러분은 타고난 과학자가 아니다.” 아인슈타인은 중국에서 근대 과학이 발전하지 못한 까닭을 그의 친구에게 쓴 편지에서 밝혔다. “과거 중국에 유클리드 기하학과 실험적인 방법이 결여돼 있었다는 것이 근대 과학의 탄생을 막는 가장 큰 원인이다.”

버트런드 러셀도 흡사했다. “나는 열한 살 때 형에게 유클리드 기하학을 배웠다. 이는 내 일생일대의 대사건이었다. 마치 첫사랑을 하듯 여기에 빠져들었다.”

에이브러햄 링컨 전 미국 대통령은 말 안장 주머니에 항상 유클리드 책을 넣고 다니며 밤늦도록 등불 곁에서 이 책으로 공부했다. 그는 훗날 이렇게 털어놨다. “증명이 무엇을 의미하는지 이해하지 못했다면 결코 변호사가 될 수 없을 것이다.”

이 책의 공리를 바탕으로 한 증명은 미국 독립선언서로 이어졌다고 한다. 독립선언서는 ‘모든 사람은 평등하게 태어났다’로 시작해 ‘영국으로부터 독립해야 한다’는 결론을 도출했다.

기하학과 동의보감

루소는 이 책의 영향을 받아 자연주의 교육 사상과 서양 교육에 획기적인 전환의 바탕을 다졌다. 미국 경제학자 케네스 애로는 이 책의 공리적 방식에 따라 공정한 선거제도에 필요한 준거들을 일일이 찾아냈다. 청나라 황제 강희는 ‘기하학원론’ 만주어판으로 기하학을 배웠는데, 이 책을 싼 겉표지가 허준의 ‘동의보감’이었다는 재미있는 얘기도 전해온다.

네덜란드 수학자 루카스 번트는 “1482년 베네치아에서 처음 인쇄본이 나온 ‘기하학원론’은 이후 1000쇄 이상 발간돼 1900년대까지 서구 문명에서 성경 다음으로 많이 보급된 책”이라고 말했다. 이처럼 기하학에서 경전의 지위를 누리는 이 책은 유클리드와 기하학의 동의어로 통용된다. 현재 전 세계 기하학 교과서의 내용은 이 책을 재구성한 것이나 다름없다. 우리나라도 초·중·고교에서 배우는 도형 모두가 유클리드 기하학이다.

19세기 중반 비(非)유클리드 기하학이 등장하면서 절대적인 지위가 흔들리기 시작했으나 여전히 진리이고 영향력은 막강하다. ‘평행하지 않은 두 직선은 무한히 늘일 경우 반드시 한 점에서 만난다’는 유클리드의 생각과 달리 비유클리드 기하학은 ‘곡면 상에서는 여러 개의 점에서 만날 수 있다’는 걸 보여줬다. 곡면이나 휘어진 공간 등의 도형을 탐구하는 비유클리드 기하학은 ‘직선 밖의 한 점을 지나 이 직선에 평행한 직선이 두 개 이상 그어질 수 있다’고 가정해도 모순 없는 기하학이 성립한다는 것을 증명할 수 있다.

유클리드가 활동하던 시대부터 전해지는 ‘기하학원론’ 원본은 현존하지 않는다. 현대적인 모든 개정본은 알렉산드리아의 테온이 편집한 개정본에 근거를 두고 있다. 테온은 유클리드보다 700년 뒤에 살았던 인물이다. 유클리드가 기하학을 가르칠 때 사용하던 막대는 아직 박물관에 보존되고 있다고 한다.