내 주장이 맞는지 어떻게 증빙할 수 있을까?
수학에서 가장 중요한 것은 무엇일까? 느닷없이 이런 질문을 던지고 싶어졌다. 왜냐하면 기원전 600년 무렵의 탈레스 시대에서 기원전 300년 정도의 유클리드 시대에 수학에서 가장 중요하다고 생각될 수 있는 일이 일어났기 때문이다.
수학에서 가장 커다란 영향력을 행사한 책을 꼽으라면, 수학자뿐만 아니라 수학적 교양이 어느 정도 있는 대다수가 유클리드의 『원론』을 선택할 것이다. 『원론』은 성경 외에 오랫동안 가장 많은 판본을 냈는데, 유클리드 기하학과 수에 대한 중요한 지식들이 잘 체계화되고 증명되어 있다. 읽기 쉬운 책은 아니지만, 중요한 정리들을 매우 세련되게 증명하여 논리적 사고를 훈련하는 데 중요했으며, “한 점에서 다른 한 점으로 선분을 그릴 수 있다”처럼 지극히 당연해 보이는 5개의 전제만을 사용하여 수백 개의 유용한 기하학 정리들을 증명해내고 있다.
단순하고 당연한 명제 몇 가지에서 출발하여 복잡하고 당연해 보이지 않은 지식들을 정당화하거나 부정할 수 있는 방법을 ‘연역적 방법(deduction)’이라고 한다. 고대 그리스의 연역적 방법론은 지식을 찾아가고 지식의 진위를 논증하는 데 핵심적인 역할을 한다. 당연하게 생각되어 오히려 증명하기 힘들고 독립적인 몇 개의 전제를 공리(axiom)이라고 하며, 공리로부터 유도되는 결과를 정리(theorem)이라고 한다. 연역적 체계는 공리를 바탕으로 전개되는 논리적 체계이며, 정리라고 하는 지식들을 만들어낸다. 1687년에 발간되며 과학혁명을 완성한 뉴턴의 『프린키피아』도 운동법칙 3개와 만유인력의 법칙을 공리로 하는 역학체계이며, 가장 엄밀한 학문분야인 현대수학도 ZFC 공리계 위에 지어진 연역적 논증체계이다.
고대 그리스의 현인들은 과학과 기술이 발달하지 못하여 실험이나 기존의 이론을 활용하여 자신의 주장을 정당화하는 데 어려움을 겪었을 것이다. 폴리스마다 있던 아고라 광장에서는 자기의 견해를 주장하며 더 많은 지지를 얻기 위하여 노력했고, 연역적 방법은 구체적인 체계를 갖추며 발전했다. 학교에서 배우는 수학에서는 계산이 중요하지만, 수학에서 가장 중요한 것은 무엇이 옳은지 틀린지에 대하여 엄밀하게 판단하는 것이다. 지식과 관점을 증명 혹은 반증을 통하여 좀 더 명쾌하게 정리하며 다음 단계로 진일보할 수 있는 과정은 수학만이 아니라 어느 영역에서도 중요하다. 이론적인 체계로서 연역적 방법론은 학문의 기초를 이룬다. 파피루스에 기록된 유클리드의 ‘원론’ 조각과 과학혁명을 완성한 뉴턴의 프린키피아 영문판, 현대수학의 토대인 ZFC 공리계는 모두 공리에서 출발하는 연역적 방법론을 뼈대로 한다.
주어진 것으로부터 새로운 것을 알아내다
연역적 방법론이 중요하므로 작은 사례 하나를 바탕으로 경험해보자. 다음의 예는 경문수학산책 1권인 『수학의 위대한 순간들』의 강의7을 참고하여 약간 변형한 것이다. 사각형 안에 있는 명제를 바탕으로 여러 지식(정리)들을 이끌어내려고 한다. 먼저 용어에 대한 정의가 나오고, 가정 3개는 연역적 방법론의 공리에 해당된다.
| “집합 S는 어느 학교 학생들의 집합이며, 한 학생은 1, 2, 3학년 중 하나에 해당된다. 동아리는 이 학교 학생의 가입으로 만들어진다. 공통의 구성원을 갖지 않는 두 동아리를 서로 ‘켤레동아리’라고 한다.”
가정1) S의 각 학생은 적어도 하나의 동아리에 속한다. 가정2) S에 속한 학생들의 모든 쌍은 꼭 하나의 동아리에 동시에 속한다. 가정3) 각 동아리마다 꼭 하나의 켤레동아리가 있다. |
위의 가정(공리)들로부터 다음의 결론(정리)들을, 논증을 통해 유도해보자.
정리1) S의 각 구성원은 적어도 두 개의 동아리에 속한다.
증명)
“a를 S의 한 구성원이라고 하자.
가정1)에 의하여 a가 속한 어떤 동아리 A가 존재한다.
가정3)에 의하여 A의 켤레동아리 A’가 존재한다.
모든 동아리는 최소한 한 학생 이상이 가입되어야 존재하므로, 켤레동아리 A’에는 a가 아닌 구성원 a’가 최소한 한 명 이상 있다.
가정 2)에 의하여, a와 a’가 함께 속한 어떤 동아리 B가 존재한다.
A는 켤레동아리 A’의 구성원 a’를 포함하고 있지 않으므로, A와 B는 서로 다른 동아리이다.
즉, 임의의 구성원 a는 서로 다른 동아리 A와 B에 속하므로, 적어도 두 개의 동아리에 속한다.”
정리1)의 주장이 직관적이지는 않았지만, 가정들로부터 논증을 거쳐 정당화할 수 있었다.
정리2) 각 동아리는 적어도 두 명의 구성원을 포함한다.
증명)
“어느 동아리 A가 구성원 a로만 구성되었다고 가정한다.
정리1)에 의하여, a는 A와 다른 어느 동아리 B에도 동시에 속해야 한다.
B는 A와 다른 동아리이기 때문에, a와 다른 구성원 a’도 갖고 있어야 한다.
가정3)에 의하여, B의 켤레동아리 B’가 있다.
B’는 구성원 a를 포함하지 않으므로, A의 켤레동아리도 된다.
즉, 하나의 동아리가 두 개 이상의 서로 다른 켤레동아리를 가질 수 있다.
이것은 가정3)에 위배되므로, 임의의 동아리의 구성원은 적어도 두 명의 학생을 포함한다.”
정리2)를 증명할 때, 정리1)의 결과를 이용했음을 눈여겨보자. 공리적 방법에서는 공리와 함께 이미 증명한 정리를 이용하여 논증을 간편하게 한다.
정리3) S는 적어도 네 명의 구성원을 포함한다.
증명)
“가정3)에 의하여, S는 적어도 두 개의 서로 다른 a와 a’를 갖는다.
가정2)에 의하여, a와 a’를 포함하는 어떤 동아리 A가 존재한다.
가정3)에 의하여, A의 켤레동아리 B가 존재한다.
정리2)에 의하여, B는 적어도 두 개의 구성원 b와 b’를 포함해야 한다.
A와 B는 서로 켤레동아리이기 때문에, 공통인 구성원을 갖지 않는다.
즉, a, a’, b, b’는 서로 다르기 때문에, S는 적어도 네 명의 구성원을 포함한다.”
정리4) 적어도 여섯 개의 동아리가 존재한다.
증명)
“정리3)에 의하여 S에 네 명 이상의 구성원이 있으므로, 서로 다른 쌍을 6개 이상 만들 수 있다.
가정2)에 의하여 각 쌍은 꼭 하나의 동아리에 속하므로, S에 적어도 6개의 동아리가 존재한다.”
이 사례를 인용한 책에서 다음의 정리5)를 연습문제로 남겼지만(훨씬 어렵다는 코멘트를 하며 연습문제로 남겼다), 우리는 증명해보도록 한다.
정리5) 두 명보다 많은 구성원을 갖는 동아리는 없다.
정리5)를 증명하기 전에 책에 소개되지 않았지만 두 개의 정리를 먼저 증명해보자.
정리a) 동아리와 켤레동아리의 구성원 수는 동일하다.
증명)
“어느 동아리 A의 켤레동아리를 A’라 하고, A의 구성원 수가 A’보다 많다고 가정하자.
A’는 A 외에, A의 구성원 한 명이 빠진 어떤 동아리 A”와도 켤레동아리가 된다.
이것은 가정3)에 위배되므로, 동아리 A의 구성원 수가 A’보다 클 수 없다.
마찬가지 방법으로, A’의 구성원 수가 A보다 클 수 없다.
따라서, 동아리와 켤레동아리의 구성원 수는 같다.”
가정3)에 의하여, 동아리와 켤레동아리가 서로 일대일로 켤레동아리 관계에 있기 때문에, 켤레 동아리들 간에 서로 다른 속성을 갖는 것은 대칭에 위배된다고 생각할 수 있다.
정리b) 모든 동아리는 구성원 수가 같다.
증명)
“어느 동아리 A의 구성원을 모두 포함하면서, 다른 구성원도 갖는 동아리 B가 있다고 가정한다.
A의 켤레동아리를 A’, B의 켤레동아리를 B’라고 하자.
정리6)과 가정에 의하여, B’의 구성원 수는 A’보다 많다.
B’는 A의 구성원을 포함하지 않으므로, A의 켤레동아리이다.
그런데, B’와 A’는 다른 동아리이므로 가정3)에 위배된다.
따라서, 다른 동아리와 구성원 수가 다른 동아리는 있을 수 없다.
즉, 모든 동아리의 구성원 수는 같다.”
이제 정리a)와 정리b)까지 활용하여, 정리5)를 다음과 같이 쉽게 증명할 수 있다.
정리5) 모든 동아리는 구성원 수가 같다.
증명)
“ 어느 동아리의 구성원 수가 둘보다 많다고 가정한다.
정리b)에 의하여, 모든 동아리의 수는 둘보다 많다.
구성원의 쌍으로 구성된 동아리가 없으므로, 정의2)에 위배된다.
즉, 어느 동아리도 구성원의 수가 둘보다 많을 수 없다.”
위에서 본 것처럼, 단순한 명제와 정의로부터 당연해보이지 않는 지식들을 이끌어낼 수 있으며 이론을 체계화하는 데 연역적 방법론은 이론 자체의 정당성과 체계화하는 방법으로 중요하게 사용된다. 일상생활에서도 조금만 더 생각해본다면, 새로운 정보를 갖지 않아도 지금 생각하고 있는 것이 옳은지 틀린지를 알 수 있는 경우도 있다. 다른 사람의 주장도 그렇고, 자신이 선택해야 하는 상황도 논리적인 유추를 통하여 좀 더 현명한 판단을 할 수 있을 것이다.
“기하학을 모르는 자 이문을 들어올 수 없다.” (플라톤)
공리적 방법을 통하여 지식들을 이끌어낼 수 있다는 것은, 공리를 다르게 세움으로써 다른 지식체계를 만들 수 있다는 것을 의미한다. 비유클리드 기하학은 유클리드 기하학 다음에 자연스럽게 나타나며, 비유클리드 기하학을 통해서만이 우주를 기술할 수 있고 자연을 더 깊이 이해할 수 있다.
비유클리드 기하학이 어떻게 나왔는지를 정리해보자. 유클리드 기하학의 공리 중에서 가장 유명한 것은 ‘평행선 공리’인데, 다른 공리와 다르게 좀 복잡하다. 참고로 유클리드 기하학의 5개 공리를 소개하는 것도 괜찮을 것 같다.
- 어떤 한 점에서 어떤 다른 한 점으로 선분을 그릴 수 있다.
- 임의의 선분을 선을 따라 다른 선분으로 연장할 수 있다.
- 어떤 한 점을 중심으로 하고, 이에 대한 거리(반지름)로 하나의 원을 그릴 수 있다.
- 모든 직각은 서로 같다.
- 두 직선이 한 직선과 만날 때, 같은 쪽에 있는 내각의 합이 2직각(180˚)보다 작으면 이 두 직선을 연장할 때 2직각보다 작은 내각을 이루는 쪽에서 반드시 만난다.
다른 네 개의 공리에 비하여 다섯 번째 평행선 공리는 복잡해 보인다. 사람들은 평행선 공리가 다른 4개의 공리로부터 유도될 수 있는 것인지 궁금했지만, 결국 다른 공리로부터 유도될 수 있는 정리가 아니라 다른 공리들과 독립적인 것이라는 것을 알게 되었다. 그런데 기하학의 반전은 다소 어색해 보였던 평행선의 공리로부터 시작되었다. 수학자들이 19세기에 평행선의 공리가 성립하지 않는, 즉 다섯 번째 공리를 제외하고서도 얼마든지 기하학 체계를 구축할 수 있다는 것을 깨닫게 되었다. 기하학이 평평한 공간을 넘어서 자유롭게 확장되었으며, 추상적인 현대수학을 넘어서 아인슈타인의 상대성 이론과 같은 자연원리의 기초로 사용될 정도로 현실에서도 중요한 것이다. 여러분이 우주여행을 한다면 반드시 시간과 공간에 대해 이해를 해야 할 것이며, 이때 유클리드 기하학을 넘어선 비유클리드 기하학을 만나게 될 것이다.