형태를 이해하고 비교하다
잠시 시간을 거슬러 올라가서 기원전 600년 무렵의 지중해 연안에 밀레토스라는 도시로 가보자. 탈레스(Thales, B.C. 642~546)는 최초의 수학적 정리라고 할 수 있는 ‘탈레스의 정리’를 증명했다. 그는 최초의 수학자, 철학의 아버지로도 불린다. 기원전 585년 5월 28일의 일식을 예견했고 “만물의 근원은 물이다”로 만물의 근원을 규명하려고 했으며, 최초로 전기와 자기에 대한 연구했다. 자연과 진리에 대해 신과 같은 인간 너머의 초월자에게 떠넘기지 않고 인간의 논리로 체계를 갖추려 했고 객관적으로 관찰하여 검증하려고 했기에, 이성의 여명으로 불릴 만하다. 이러한 이성적 활력은 고대 그리스를 발달시킨 바탕이었으며, 이후 세계의 지성과 문명, 과학을 발달시키는 씨앗이 되었다.
최초의 정리인 탈레스의 정리, 즉 ‘반원의 원주각은 항상 직각이다’라는 정리를 각자 증명해보는 경험을 다시 갖기를 권한다. 탈레스는 수학의 기하학적 방법을 빌어 이집트에서 가장 큰 피라미드로 알려진 쿠푸 왕의 피라미드 높이를 측정했다. 기하학은 고대 그리스와 이집트 등에서 현실적으로도 중요한 학문 영역으로 자리잡았다. 건축물을 제대로 짓기 위하여 기하학적 지식은 필수적이었고, 일상생활 및 공예품과 도구 제작 등에서도 유용했으며, 이집트에서는 땅의 넓이로 세금을 매기기도 했다.
탈레스의 제자였을 수도 있는 피타고라스(Pythagoras, B.C. 570~495)는 “수는 만물의 근본이다”라고 주장할 정도로 수를 통하여 세상을 설명하려고 했다. 피타고라스 정리는 기하학의 정리이면서 수에 대한 특별한 관계를 말해준다. 탈레스의 정리에서 나타나는 직각삼각형에서 세 변의 크기는 특별한 관계를 갖는다는 것으로서, 직각에 대응하는 변의 길이를 c라 하고 다른 두 변의 길이를 a, b 라 할 때 a2 + b2 = c2 이 성립한다. 혹은 “임의의 직각삼각형에서 빗변의 길이의 제곱은 다른 두 변의 길이의 제곱의 합과 같다.”고 말할 수 있다. 직각삼각형의 세 변에 대한 관계는 오래전부터 메소포타미아, 이집트, 인도, 중국 등 여러 문명에서 알려져 있었으나, 일반적인 직각삼각형에 대해서 을 증명한 것은 피타고라스 학파가 최초로 보인다. 이집트나 중국 등에서 3, 4, 5가 32 + 42 = 52 이 되는 것은 잘 알려져 있었고, 건축 기술자들은 직각을 재기 위하여 매듭의 길이가 3, 4, 5로 된 끈을 갖고 다니고는 했다. 피타고라스의 정리를 만족하는 세 수를 피타고라스 삼조(triple)라고 하는데, 5, 12, 13도 52 + 122 = 132 를 만족하므로, 피타고라스 삼조를 이루고 이 숫자를 길이로 하는 삼각형은 정확하게 직각삼각형이 된다. 단순하게 3의 배수, 4의 배수, 5의 배수도 피타고라스 삼조를 이루므로 피타고라스 삼조는 무한히 많지만, 그 외의 다양한 피타고라스 삼조를 만드는 것도 어렵지 않게 할 수 있고 무한히 만들어낼 수 있다. 어쨌든 피타고라스 학파가 가장 자랑스러워한 것은 다른 지역에서도 이미 알고 있는 특정한 수들 사이의 관계가 아니라, 모든 직각삼각형에 대해서 성립한다는 것을 증명하여 정리로 만들었다는 성취다. 수학의 모든 분야에서 피타고라스 정리보다 다양한 방법으로 증명이 주어졌던 것은 없다. 미국의 20대 대통령 가필드도 멋진 증명법을 창안했으며, 수백 개의 증명 방법이 있을 정도로 어느 곳에서나 만날 수 있는 보편적인 정리다.
위기는 더 큰 세상으로 이끈다
그러나 피타고라스 학파의 최대 업적이라고 할 수 있는 피타고라스 정리는 피타고라스 학파를 예기치 못하던 파국으로 끌고 갔다. 제곱이 들어간 정리는 필연적으로 무리수를 잉태하고 있었고, 무리수의 출현은 세상을 자연수로 설명할 수 있다는 믿음을 무너뜨렸다. 또한 단위 길이에 대한 비율로 모든 크기를 나타낼 수 있다고 가정하며 증명했던 피타고라스 학파의 방법은 근거를 상실하게 되었다. 스스로 가장 자랑스럽게 여긴 성취가 자신들이 이뤄놓은 많은 성취들을 무너뜨리고, 자신들의 근본까지 부정하는 일이 되었으니 얼마나 심각했을까 짐작할 수 있을 것이다. 개별적인 역사가 중요한 것은 아니겠지만, 피타고라스의 정리와 관계된 개념들을 연결하는 데 역사적 일화와 진행방식은 흥미를 줄 수도 있다.
피타고라스 이후 2,200년 정도가 17세기 중반에 페르마가 남긴 ‘페르마의 마지막 정리’는 수학자들을 끊임없이 자극했지만 350년 정도 지나서야 처음으로 증명되었다. 페르마의 마지막 정리는, “3보다 큰 정수 n에 대해서, xn + yn = zn을 만족하는 0이 아닌 정수해 x, y, z 는 없다.”는 것으로 피타고라스 정리의 확장판이다. 1994년에 와일즈가 최초로 인정받았던 증명에는 수백 년 동안의 수학적 성취들이 활용되었고, 논문은 수백 쪽에 달하며 세계적으로 많은 수학자들이 증명에 대해 검증했다. 이렇게 현대에 이르기까지 피타고라스 정리와 관계된 지적 자극과 활동들은 계속되어왔으나, 당시에는 유리수가 아닌 수의 발견으로 인하여 기하학의 정리들에 대한 근거가 상실되었고, 자연수를 세상의 근원으로 생각했던 믿음까지 논리적으로 어쩔 수 없이 부정당하는 괴로움을 겪었다. 그렇게 무리수는 피타고라스 학파에게 재앙이었겠지만, 후대의 사람들에게는 수에 대한 지평을 넓히고 실수를 채울 수 있는 기회가 되었다. 플라톤의 제자인 에우독소스(Eudoxus, B.C. 390~337)가 비율이론을 사용하여 피타고라스 학파의 기하학 증명들을 구원할 수 있게 되었고, 무리수는 수학의 여러 곳에서 자연스럽게, 그리고 자주 등장하며 실수의 주인공으로 떠올랐다.
모든 크기를 표현할 수 있는 실수
무리수(irrational number)는 정수의 비율로 혹은 분수로 나타낼 수 없는 수를 말한다. 변의 길이가 1인 정사각형의 대각선 길이는 피타고라스 정리에 따라서 2의 제곱근이 되는데, 2의 제곱근이 유리수가 아니라는 증명은 유명하다. 제곱이 나타나는 피타고라스 정리에 따라서 유리수가 될 수 없는 수들은 계속 나타나고, 결국 크기를 갖는 수들은 분수로 나타낼 수 있는 유리수와 분수로 나타낼 수 없는 무리수로 구분된다. 피타고라스 학파에 재앙이었던 무리수 덕분에 크기를 표현하는 수의 체계가 실수(real number)로 확장될 수 있었다. 무리수를 포함하고 있는 실수 또한 사칙연산에 대해서 닫혀 있기 때문에, 일상적인 계산인 사칙연산에서 하나의 세계를 이루며 실수보다 더 확장된 세계로 나갈 필요를 느끼게 하지 않는다. 실수는 일차원적인 수직선에서의 위치로 표현할 수 있고, 수직선의 위치와 실수는 서로 일대일로 대응된다. 실수의 연속성과 크기를 비교할 수 있는 특성은 실수체계의 중요한 특성이며, 극한과 연속, 그리고 변화를 표현하는 수학적 도구인 미분을 정의하고 계산할 수 있게 한다. 실수는 이미 우리에게 익숙하기 때문에, 추상적인 의미를 깊게 다루는 것보다는 무리수를 발견하게 됨으로써 가장 기본이 되는 수 체계인 실수가 제 모습을 갖추게 되었다는 것을 강조하는 것으로 이야기를 정리하겠다.
방정식은 미지의 수를 찾고자 하는 식이다. 고대로부터 어떤 조건을 만족하는 값을 찾기 위하여 방정식을 푸는 문제에 관심을 갖고 있었다. 방정식의 가장 간단한 형태는 미지수가 하나이고 미지수의 차수가 자연수인 것이다. 가령 2x + 1 = 0, 2x2 – x – 1 =0, x3 + 1 = 0, … 과 같은 다항방정식이 방정식의 기본적인 형태이다. 그러나 미지수가 여러 개가 있을 수도 있고, 삼각함수나 지수함수, 로그함수에 미지수가 나타나는 경우도 있으며, 미분이나 적분의 형태로 나타나는 방정식도 있다. 이러한 방정식들 중에서 어떤 종류의 것들은 수학에서만이 아니라 일상이나 자연에서도 자주 나타나며 중요한 위치를 차지하는데 기본 교육과정에서 말하기는 힘들다. 단지, 방정식의 종류는 다양하게 가능하며 각 방정식을 푸는 문제도 발달해왔고, 방정식을 직접 풀기 어려운 경우에 근사적인 값을 구하는 방법도 발달해왔으며, 자동화된 기계(가령 컴퓨터)의 도움을 받고 있는 것을 알고 있는 것이 좋겠다.
방정식의 정확한 해를 구하는 것을 대수적인 풀이라고 하는데, 기상현상이나 바닷물의 흐름 등 유체의 운동을 기술하는 나비에-스토크스 방정식처럼 해가 존재하는지 여부도 확정하지 못하고 근사적으로 값을 구해야 하는 경우도 많다. 그런데 가장 변수가 하나이고 차수가 2차 밖에 안 되는 기본적인 이차방정식에서조차 해가 실수를 넘어서는 경우가 나오므로, 수 체계는 다시 실수를 넘어서 생각해야 하는 상황에 놓이게 된다. 가령 x2 + 1 = 0 방정식의 해는 x2 = -1 을 만족하는 수로써, 제곱을 해서 음수가 나오는 수는 실수가 아니다
가장 넓은 수의 모습, 복소수
제곱을 하여 음수가 되는 수를 가상의 수인 허수(imaginary number)이라 하고, 특별히 x2 = -1 를 만족하는 허수를 i 로 표현하는 것이 표기에서 지구적 약속이다. 허수를 포함하여 확장한 수를 복잡한 수라는 의미로 복소수(complex number)이라고 하며, 실수와 허수를 모두 포함한다. 수학적인 식으로 표기한다면 복소수는 i 와 두 실수 a, b 를 사용하여 a + bi 로 쓸 수 있고, 1+2i, -3 + 2i/5와 같은 수이며 실수를 먼저 쓰는 것이 관례이다. b=0 인 경우에 실수 a가 되며 a=0 인 경우에 순허수 bi 가 된다. 순허수는 제곱하여 음수가 나오는 것으로서 실수 부분이 없는 수를 의미한다. 복소수는 실수 체계보다 확장된 수 체계를 이루면서 중요하고 유용한 특성을 갖고 있으며, 대수학의 기본정리에 의하면 n차 다항 방정식의 근은 복소수의 범위에서 n개의 해를 갖는다. 방정식의 입장에서 복소수의 존재는 아주 자연스럽고, 차수와 꼭 들어맞는 해의 개수를 갖기 때문에 복소수를 실수와 달라서 이상한 수로 취급하는 태도가 오히려 어색한 것이다.
복소수는 수학적인 영역을 넘어서 과학과 공학에서 빈번하게 나타나며, 특히 물질의 미시적인 상태를 지배하는 자연원리인 양자이론은 복소수 공간에서만 정의되고 이해할 수 있기도 하다. 복소수를 나타내는 데 표준적인 방법은 2차원 좌표계를 이용하는 것이다. 크기에 대응하는 모든 실수는 수직선과 일대일 대응되지만, 제곱해서 음수가 나오는 수까지 표현하기 위해서는 좌표축이 하나 더 필요하다. 이렇게 하면 2차원 유클리드 평면 위의 점과 복소수를 일대일 대응시킬 수 있다. 마치 실수를 수직선 위의 한 점과 일대일 대응시켜서 표현한 것과 비슷하다.
복소수는 중요하지만 처음 설명하는 것이기 때문에 기본적인 용어와 성질에 대해서도 말해둘 필요가 있다. 복소수는 2차원 유클리드 평면 위의 한 점과 일대일 대응하기 때문에, 복소수를 좌표계의 순서쌍으로 볼 수도 있다. 그림으로 나타내면 (a)와 같으며, 원점에서 좌표명면까지의 점까지 가는 화살표로 보는 것도 동일하다. 즉, 복소수는 2차원 벡터와 동일한 구조를 지니고 있기 때문에, 벡터를 시각화하고 벡터의 연산을 이해하는 데 도움이 된다. 실수부는 같지만 허수부가 다른 복소수를 서로 켤레 복소수 관계에 있다고 하며, 가령 2+3i와 2-3i는 서로 켤레 복소수가 된다. 한 쌍의 켤레 복소수의 합과 곱이 실수로 나타난다. 켤레 복소수는 기하학적으로 볼 때, 허수부의 부호만 다르므로 한 쌍의 켤레 복소수는 실수축에 대하여 서로 대칭인 점이다. 2차원 좌표평면으로 복소수를 나타낼 수 있기 때문에, 복소수를 z로 표기하고 z=x+yi 와 같이 두 실수 x, y를 사용하는 표현이 많이 사용된다. 이렇게 하면 복소수와 2차원 좌표평면이 동등하다는 특성이 강조된다. 2차원 평면 위의 점을 (x, y)와 같이 순서쌍으로 표시할 수도 있지만, 원점으로부터의 거리 r과 축으로부터 회전한 각도 φ를 이용하여 나타낼 수도 있다. 이렇게 r과 φ로 나타내는 복소수 표현식을 극형식(polar form)이라고 하며, 원점으로부터 해당 점까지의 거리인 r을 절댓값 그리고 회전한 각도 φ를 편각이라고 부른다. 극형식으로 나타내는 것은, 절댓값의 크기가 같고 편각만 다른 복소수들 그러니까 반지름 r이 되는 원을 따라서 회전한 것과 같은 복소수들을 나타낼 때 편리하다.
소수는 실수를 부분집합으로 포함하면서, 가장 넓은 의미의 수 체계를 갖고 사칙연산에 대해 닫혀 있다. 복소수는 대수적인 의미에서 중요하지만, 확장된 수인 복소수를 기반으로 하는 함수와 미분으로 수학의 개념을 확장하면서 수학을 질적으로 발전시킨다. 추상적인 영역만이 아니라 과학에서도 복소수는 미시세계 혹은 주기적 운동에서 자연스럽게 나타나며, 진동은 생각보다 광범위하게 자연의 특성을 나타내고 있다. 복소수라는 수 체계는 여러 관점에서 잘 음미할 필요가 있을 정도로 중요하며, 우주적으로 소통하는 데 기본이 될 것이다. 아마도 여러분들이 당장 이러한 이야기를 실감하지 못하겠지만, 기본과정을 넘어서 훈련하게 된다면 지금의 이야기를 다시 기억할 수 있게 되리라.