티스토리 뷰
목차
수학이 차갑고 딱딱한 학문이라고 생각하셨습니까? 저는 학교 다닐 때 피타고라스 정리를 시험 때문에 외웠을 뿐, 누군가가 하늘을 재고 시간을 만들려고 고민한 결과라는 생각은 한 번도 해본 적이 없었습니다. 실제로 수학의 역사를 들여다보면 그 안에는 욕망, 집착, 좌절, 그리고 인간의 한계에 대한 처절한 도전이 가득합니다. 공식이 아니라 사람의 이야기였던 것입니다.
하늘을 재던 도구, 구고현 정리
일반적으로 피타고라스 정리는 고대 그리스의 발견이라고 알려져 있지만, 제 경험상 이 공식의 뿌리를 따라가면 훨씬 더 넓은 세계가 나옵니다. 중국의 수학서 주비산경(기원전 100년경 편찬)에는 구고현 정리(勾股弦 定理)가 이미 담겨 있습니다. 여기서 구고현 정리란 직각삼각형의 세 변 사이의 관계, 즉 두 짧은 변의 제곱의 합이 빗변의 제곱과 같다는 법칙을 말합니다. 우리가 학교에서 피타고라스 정리라고 배운 그것입니다.
이 법칙이 단순히 도형 문제를 푸는 데 쓰인 게 아니었다는 점이 인상 깊었습니다. 주비(周髀), 즉 기다란 막대기 하나를 땅에 수직으로 꽂으면 해의 그림자가 생기고, 그 그림자 길이와 막대 길이로 직각삼각형이 만들어집니다. 고대 중국인들은 이 삼각형을 바탕으로 태양까지의 거리를 계산했습니다. 하짓날 정오의 그림자 길이를 1만 배 연장하면 태양의 위치가 나온다는 논리입니다. 현대 수치와는 차이가 있지만 원리는 지금도 동일합니다.
저도 현장에서 일하다 보면 기준 하나, 숫자 하나가 단순한 기록이 아니라 실제 판단과 행동 전체를 바꾸는 기준이 될 때가 있습니다. 구고현 정리가 그랬습니다. 달력을 만들고, 씨 뿌리는 시기를 정하고, 황제의 권위를 하늘에서 끌어내리는 도구였습니다. 수학이 지배 구조와 연결된다는 사실이 처음에는 낯설었지만, 생각해 보면 기준을 가진 자가 질서를 만드는 것은 지금도 달라지지 않았습니다.
구고현 정리가 하늘을 재는 데 쓰인 과정을 정리하면 다음과 같습니다.
- 주비(막대)를 땅에 수직으로 꽂아 직각삼각형을 형성
- 해 그림자 길이(고)와 막대 길이(구)를 측정
- 구고현 정리로 빗변(현) 계산 후 1만 배 연장하여 태양 위치 산출
- 같은 방식으로 하지·동지·춘분·추분 때의 태양 궤도를 계산하여 달력 제작
원주율, 닿지 못할 줄 알면서도 간 사람들
원주율(π)에 대해 "그냥 3.14 아닌가"라고 생각하셨다면, 이 숫자가 2,000년 넘게 인간을 끌어당긴 이유를 들으시면 생각이 바뀔 수 있습니다. 제가 직접 이 역사를 쭉 따라가 봤는데, 솔직히 이건 예상 밖이었습니다. 원주율을 구하는 과정은 단순한 계산이 아니라 인간의 한계를 시험하는 여정이었습니다.
시칠리아의 수학자 아르키메데스는 원적문제(圓積問題)에 독특한 방식으로 접근했습니다. 원적문제란 주어진 원과 같은 넓이의 정사각형을 자와 컴퍼스만으로 작도하는 문제입니다. 아르키메데스는 이 문제를 풀기 위해 원에 내접하는 다각형과 외접하는 다각형을 동시에 그려 원둘레를 양쪽에서 좁혀 들어갔습니다. 6각형에서 시작해 12각형, 24각형으로 변의 수를 늘릴수록 두 다각형의 둘레는 원둘레에 가까워졌습니다. 그가 최종적으로 사용한 것은 96각형이었습니다.
1882년 독일의 수학자 린데만은 π가 초월수(超越數)임을 증명했습니다. 초월수란 어떤 정수 계수를 가진 다항방정식의 근도 될 수 없는 수를 말합니다. 쉽게 말해 π는 분수로도, 방정식의 해로도 표현할 수 없는 무한히 이어지는 수라는 뜻입니다. 이것으로 원적문제는 2,000년 만에 공식적으로 불가능한 문제로 확정되었습니다(출처: 브리태니커 백과사전).
아르키메데스부터 시작된 π 계산의 역사는 이후에도 계속되었습니다. 다각형의 변을 63,072개, 수백만 개로 늘려가며 소수점 아래 자릿수를 늘려갔고, 2005년에는 한 중국인이 소수점 6만 7,890번째 자리까지 암기해 기네스 기록을 세웠습니다. 소수점 아래 15자리면 인공위성을 돌리고 지구 둘레를 계산하는 데 충분합니다. 그런데도 사람들은 훨씬 더 멀리 갔습니다. 이 어리석음이 무섭도록 아름다웠습니다.
불가능을 증명한 사람, 군론과 갈루아
수학에서 5차방정식의 근의 공식이 존재하지 않는다는 사실, 알고 계셨습니까? 저는 이 부분을 보면서 "안 된다는 걸 증명하는 것"이 얼마나 큰 일인지 처음 실감했습니다. 2차방정식 근의 공식은 학교에서 외웠고, 카르다노가 6년에 걸쳐 3차방정식 근의 공식을 완성했다는 것도 알게 됐습니다. 그런데 5차부터는 300년 가까이 아무도 풀지 못했습니다.
그 이유를 밝힌 사람이 에바리스트 갈루아입니다. 그는 군론(群論, Group Theory)을 통해 5차 이상의 방정식에는 근의 공식이 원리적으로 존재할 수 없음을 증명했습니다. 여기서 군론이란 수학적 대칭성을 다루는 이론으로, 방정식의 근들 사이에 어떤 대칭 구조가 있는지를 분석하는 학문입니다. 3차방정식의 세 근을 삼각형 꼭짓점으로 놓고 회전·반사했을 때 대칭을 이루는 경우가 여섯 가지 있으며, 이 구조 안에 근의 공식이 존재할 수 있는 열쇠, 즉 정규부분군(正規部分群)이 포함됩니다. 반면 5차방정식의 대칭 구조에는 그 열쇠가 없습니다.
갈루아는 결투 전날 밤 이 내용을 편지에 담아 남겼고, 이튿날 복부 총상으로 21세에 세상을 떠났습니다. 그의 논문은 40년 후에야 세상에 나왔고, 이후 현대 대수학 전체의 방향을 바꾸었습니다. 제 경험상 어떤 분야든 "이건 안 된다"를 밝히는 일은 "이렇게 하면 된다"를 찾는 것보다 훨씬 어렵습니다. 가능을 증명하려면 하나의 답만 있으면 되지만, 불가능을 증명하려면 모든 시도가 실패할 수밖에 없음을 논리로 막아야 합니다.
칸토어의 경우도 비슷했습니다. 그는 집합론(集合論, Set Theory)으로 무한에도 크기가 다르다는 것을 증명했습니다. 집합론이란 수학적 대상들의 모임을 다루는 이론으로, 칸토어는 이를 통해 자연수의 무한과 실수의 무한이 서로 다른 크기임을 밝혔습니다. 당시 학계는 이를 받아들이지 않았고, 칸토어는 신경쇠약과 우울증 속에서 입원과 퇴원을 반복했습니다. 하지만 그의 이론 없이는 현대 수학의 상당 부분이 성립하지 않습니다(출처: 막스 플랑크 수학연구소).
수학의 역사에서 가장 인상 깊은 공통점은 결국 이것입니다. 위대한 발견 뒤에는 항상 한 인간의 외로움과 저항이 있었습니다. 아르키메데스, 칸토어, 갈루아 모두 시대가 받아들이기 전에 먼저 밀어붙인 사람들이었습니다. 수학이 차가운 학문이 아니라 인간의 가장 뜨거운 욕망으로 만들어진 역사라는 사실, 이제는 공감하실 수 있을 겁니다.
이 주제가 조금 더 궁금하시다면 구고현 정리부터 원주율, 갈루아 이론까지 차례대로 찾아보시길 권합니다. 수식보다 그 뒤에 있는 사람들의 이야기를 먼저 읽으면, 수학이 완전히 다르게 보이기 시작합니다.