수학은 일반 언어와 다르게 정확하고 분명하게 정의한 후에 사용해야 한다. 수학 언어는 정확히 계산하고 식으로써 논리적인 관계를 명쾌하게 나타내기 위한 것이며, 인간만이 아니라 우주적으로 통용될 수 있어야 한다.
음수를 어떻게 말할 수 있을까? 자연수와 음수를 수학적으로 정의하는 방법은 여러 가지가 있지만, 구태여 여기서는 그렇게 말할 필요는 없을 것 같다. 여기서 음수는 물론 자연수 앞에 -가 있는 수를 말하는데, 자연수를 ‘양의 정수’라고도 하기 때문에 ‘음의 정수’로 말한다. 정수는 양의 정수인 자연수와 음의 정수 그리고 0으로 구성되는 수 체계를 말한다.
덧셈이 뺄셈을 낳다
고대 그리스에서는 “없는 것을 어떻게 나타낼 수 있는가?”라며 0을 기호로 표기하는 것에 대해 거부감을 가지고 있었다. 하지만 위치 기수법으로 숫자를 표현할 때나 여러 경우에 0을 기호로 도입하는 것이 결국 필요하다. 알다시피 0은 어느 숫자와 더하더라도 변하지 않는다. 그래서 0을 ‘덧셈의 항등원’이라고 한다. 어느 연산에 대해서든, 해당되는 연산을 해도 아무런 변화가 없는 항등원(identity)을 정의할 수 있다(이를테면 곱셈이 항등원은 1이 될 것이다.) 0을 이야기하는 데 구태여 항등원이라는 새로운 용어를 도입해야 하나 싶을 수도 있지만, 의외로 유용하고 필요하기 때문에 항등원에 대해 거부감을 가질 필요는 없다. 필요한 것이 있을 때 정확하게 정의하여 사용하는 것이 중요하고, 더욱이 자주 사용된다면 새로운 개념을 모셔오더라도 당연히 도입해야 한다.
덧셈에 대한 항등원으로서 0을 생각한다면, 자연수에서 음의 정수로 확장시키고 덧셈을 뺄셈까지 확장시키기 위하여 역원(inverse)이라는 개념도 필요하다. 어느 수를 더했더니 덧셈의 항등원인 0이 나왔다고 하자. 가령 3에 x를 더했더니 0이 나오고, 4에 y를 더했더니 0이 나왔다고 하자. 그러면 x는 3에 대한 덧셈에 대한 역원이고, y는 4에 대한 덧셈의 역원이라고 한다. 식으로 써보면, 3 + x = 0 과 4 + y = 0으로 더 간단하고 명확해 보인다(이렇게 기호를 이용하여 더 간단하고 명확하게 보이는 것은 보편적인 언어인 수학의 특징이다.) 여기서 x와 y를 어떻게 기존에 있는 체계에서 구체화할 수 있는지를 고민해야 한다. 식에서 x는 3만큼 줄여주는 수이고, 식에서 y는 4만큼 줄여주는 수이다. 이러한 x와 y를 각각 기호로 -3과 -4로 쓰며, 일반적으로 다음과 같이 말할 수 있다. 임의의 자연수 a에 대하여 어떤 수 a’를 더했더니 덧셈의 항등원 0이 나왔다면, a’를 a에 대한 덧셈의 역원이라고 하며 -a로 나타낸다. 물론 -a 의 의미는 만큼 줄인다는 것이며, 이것을 간략하게 표현하고자 하는 수학의 방식에 따라서 – 라는 기호를 도입하여 표현한 것이다.
행성 간에 소통을 할 수 있는 우주적 언어로서의 수학을 이야기한다고 하더니, 오히려 어렸을 때 이미 배워서 익숙할 뿐만 아니라 단순한 덧셈과 뺄셈의 이야기를 한다고 불만을 가질지도 모르겠다. 그러나 단지 덧셈과 뺄셈의 계산이나 이미 알고 있는 음의 정수에 대한 지식을 말하고 있는 것은 아니다. 절차에 따라서 정확하게 하나하나 또박또박 가는 것이 중요하다는 것은 간접적으로 강조하는 것이다.
정리하면 자연수 a의 덧셈에 대한 역원을 -a로 나타내고, – 부호가 붙은 수를 음의 정수로 정의하는 것이다. 이렇게 자연수에 대한 역원을 자연수와 새로운 부호 – 를 이용하여 표현했으므로, 뺄셈이라는 새로운 연산을 정의할 수 있다. 가령 7에서 5를 빼는 연산 7 – 5 를, 7에 5의 역원인 를 더하는 연산으로 정의하는 것이다. 즉, 7 – 5 ≡ 7 + (-5) 로 간단히 쓴다. 물론 여기서 ≡ 는 ‘정의한다’는 뜻의 기호이다. 수학에서는 필요에 따라 기존의 용어로부터 새로운 용어를 정의하는 일이 자주 있기 때문에, 역시 ‘정의한다’는 것도 기호로 간단하게 나타낼 필요가 있다. 대수학적 방식으로 문자를 이용하여, a 에서 b 를 빼는 뺄셈 연산은 “ a 에 -b 를 더하는 것으로 정의한다”고 말할 수 있다. 기호로 표기하면 역시 간단해지는데, a – b ≡ a + (-b)이다. 이렇게 항등원으로부터 역원을 도입하고 음의 정수를 정의할 수 있었고, 덧셈의 역원을 통하여 새로운 연산인 뺄셈을 정의했다.
정수(integer)는 양의 정수인 자연수와 덧셈의 항등원인 0, 그리고 자연수의 역원인 음의 정수로 구성된다. 자연수는 새로운 뺄셈이라는 연산에 대해서 닫혀 있지는 않다. 가령 3에서 5를 뺀 결과는 자연수가 아닌 음의 정수이다. 그러나 정수는 덧셈만이 아니라 뺄셈에 대해서도 닫혀 있다. 즉 임의의 정수들을 더하거나 빼도 결과는 정수가 되며, 이렇게 연산의 결과가 원래의 수들과 같은 종류가 될 때 수학에서는 ‘닫혀 있다(closed)’고 표현한다.
곱셈이 나눗셈을 낳다
자연수에서 0과 음의 정수를 포함하는 정수를 알게 됐기 때문에, 여러분들은 조금 더 우주적 소통 능력이 커졌다고 할 수 있다. 그러나 여기서 만족하지 않을 것이고, 물론 교육과정은 아직도 많이 남아 있다. 이제 다른 연산과 다른 수 체계로 확장하는 과정도 볼 것이다. 곱셈은 이미 같은 수를 여러 번 더하는 연산으로서 첫째 날에 정의하였다. 덧셈에 대한 항등원에서 역원과 뺄셈에 이르렀던 것처럼, 곱셈에 대한 항등원에서 곱셈의 역원과 나눗셈을 도입하고 정의할 수 있다. 알다시피 자연수 에 대하여 a x 2는 a를 2번 더한 것을 나타내며, a를 1번 더한 것인 a x 1은 a 자신이 된다. 즉 a의 곱셈에 대한 항등원은 자연수 1이다. 1은 어느 수를 곱하더라도 곱셈의 정의상 자신이 된다. 1이 곱셈의 항등원이므로 어떤 정수 a에 대한 곱셈의 역원은 항등원 1을 만드는 수를 의미한다. a에 대한 덧셈의 역원을 -a 로 표현했기 때문에 a에 대한 곱셈의 역원을 다르게 표현하는 것이 필요하다. a에 대한 곱셈의 역원을 a-1 로 표현한다. 이 말을 수학적으로 표현하면, a x a-1 = 1 이다. 이것을 다시 한 번 말로 이야기하면, a와 곱셈을 하여 곱셈의 항등원인 1을 만드는 곱셈의 역원을 a-1 이라는 기호로 쓴다는 것이다. a-1은 1/a 로 표현하기도 하며, 두 표현은 정확히 같은 의미이기 때문에 경우에 따라 선택할 수 있다. 지수로 표현하는 방법을 나중에 배우기 때문에, 여러분들은 곱셈의 역원을 1/a 로 표현하는 것에 더 익숙하겠지만 첫날에 지수 표현을 이미 배웠기 때문에 여기서는 둘 다 사용하는 것도 괜찮을 것 같다.
그런데 곱셈의 역원을 정의하면서 이전에 없던 수가 나타난 것을 살펴볼 필요가 있다. 가령, 2의 역원인 1/2. -3의 역원인 -1/3과 같이 정수가 아닌 수가 나타났다. 마치 덧셈에 대한 역원으로서 새로운 수가 나타나서 음의 정수로 불렀던 것처럼, 곱셈에 대한 역원으로서 새롭게 나타난 수를 유리수(rational number) 혹은 분수(分數 fraction)라고 부르자. 역원을 1/a 로 표현하는 표기에서 자주 사용되므로 분수에서 선 아래를 분모(分母), 1이 나타난 선 위의 부분을 분자(分子)라고 부르기로 한다. 분모와 분자 역시 유리수 혹은 분수가 나타나면서 자연스럽게 새로 정의한 용어일 뿐이다. 분수의 크기는 분자와 분모에 따라서 달라지지만, 분모가 같은 경우에는 덧셈과 뺄셈을 쉽게 할 수 있다. 가령 분모가 다른 1/2과 1/3은 분모를 통일시킨 후에 덧셈을 해야 하지만, 분모가 같은 1/3과 2/3의 덧셈은 이미 분모가 같기 때문에 바로 계산할 수 있다. 선분의 위와 아래 중에서 어느 것이 분모이고 어느 것이 분자인지 혼동되는 경우에, 엄마가 같은 경우에는 바로 덧셈을 할 수 있는 같은 종류(형제)의 수로 생각하여 구별할 수도 있겠다. 분모에서 모는 엄마를 뜻하는 어미母이기 때문에, 분수에서 아래 부분이 분모이다. 예전에는 엄마(분母)가 아이(분子)를 업었다고 말하는 경우도 있었을지 모르겠지만 여러분들에게는 이미 추억 혹은 잊어버린 기억이 되지 않았을까 싶다.
이제 뺄셈과 마찬가지로 곱셈의 역원을 이용하여 나눗셈이라는 새로운 연산을 정의해보자. a를 b로 나누는 연산을 나눗셈이라고 하고, 나눗셈이라는 새로운 연산을 새로운 기호 ÷ 로 나타낸다고 하자. a를 b로 나누는 연산을 수식으로 로 쓸 수 있고, 나누는 연산을 역원을 곱하는 연산으로 정의한다. 즉, a ÷ b ≡ a x b-1 이다. 곱셈의 역원 표현은 두 가지가 있었으므로, b-1 대신에 1/b 로 써도 상관없다. a x 1/b 을 간단히 분수a/b 로 표현하며, 나눗셈의 정리에서 분수까지 식으로 쓰면 다음과 같다. a ÷ b ≡ a x b-1 = a x 1/b = a/b 이다.
나눗셈의 항등원도 1이며, 정수 a는 a ÷ 1과 같고 분모가 1인 분수 a/1 로 생각할 수도 있다. 따라서 정수는 분수의 특별한(분모가 1인) 경우이며, 유리수는 정수를 포함하는 수 체계이다. 일반적으로 분모가 1이 아닌 유리수를 분수, 분모가 1인 유리수를 정수라고 한다. 정수의 나눗셈이라는 연산으로 나타나는 유리수는 이제 덧셈과 뺄셈, 곱셈 그리고 나눗셈이라는 4가지 기본 연산(사칙연산)에 대하여 닫혀 있다. 여기서 나눗셈에 대하여 닫혀 있다는 것은 0으로 나누는 나눗셈을 제외한다는 것을 놓치지 말자. 유리수는 구체적으로 숫자를 대응시키는 것이며, 0으로 나누는 경우에 대응되는 구체적인 숫자는 없고 기호 로 표시하고 무한대(infinity)라고 읽는다.
자연스러운 수를 넘어서
무한대는 물론 한정지을 수 없이 무한히 큰 것을 나타내는 상상의 대상이며 현실의 실체가 아니다. 무한대는 계산할 수 있는 구체적인 숫자가 아니기 때문에 일반적으로 숫자의 체계에서 무한대를 제외하고, 연산에서 0으로 나누는 것을 제외한다. 이렇게 해야 일관적인 숫자 체계와 연산을 명확하게 되기 때문이다. 항등원과 역원에 대해서 덧붙이자면, 항등원은 해당 연산에서 유일하게 하나이며 역원은 수에 따라서 다르다. 즉, 덧셈의 항등원은 0이고 덧셈의 역원은 부호가 다른 수이며, 곱셈의 항등원은 1이고 역원은 분모와 분자가 뒤바뀐 역수로서 수에 따라 달라진다. 물론 0으로 나누는 것은 제외하기 때문에 0에 대한 곱셈의 역원은 없다.
유리수는 일상에서 어렵지 않게 만날 수 있다. 빵을 6개 갖고 있는 경우에 2명에게는 3개씩, 3명에게는 2개씩 공평하게 나눌 수 있다. 물론 이것은 나눗셈을 이용하여 수학적으로 6 ÷ 2 ≡ 6/2 = 3 과 6 ÷ 3 ≡ 6/3 = 2로 계산할 수 있다. 4명에게 나누려면 빵 1개를 단위로 해서는 공평하게 나눠줄 수는 없다. 4명에게 빵 6개를 공평하게 나누고자 하는 경우에는 6 ÷ 4 ≡ 6/4 = 3/2 = 1 + 1/2 에 따라서, 먼저 1개씩 나눠주고 남는 2개를 반으로 나누어 4개를 만들어서 나눠주게 된다. 첫째 날에 만나고 현재 지구인이 표준으로 사용하고 있는 십진법에서 특별히 10을 분모로 하는 숫자는 특별하게 표기를 하나 더 갖고 있다. 물론 이것은 자주 사용하므로 역시 간단하게 표현하는 것이 필요해서 새롭게 도입하고 정의했을 뿐이며, 먼저 있던 지식으로부터 유도된 결과(지식)이 아니다. 10을 분모로 하는 수의 예를 들면, 1/10, 2/10, -3/10, 1/100, 3/1000등이며, 특별히 10진법 체계에서 10을 분모로 하는 분수는 간단하게 다음과 같이 쓰는 것으로 약속한 것이다. 1/10 ≡ 0.1, 2/10 ≡ 0.2, 1/100 ≡ 0.01, 1/100 ≡ 0.01, 3/1000 ≡ 0.003 이렇게 점을 찍고 점 다음에 나타나는 수로써 분수를 표현하는 방식까지 10진법에 포함한다. 이렇게 10을 분모로 표시한 수를 소수(decimal)이라고 하고, 1보다 큰 영역과 작은 영역을 구분하는 점을 소수점이라고 한다. 소수도 마찬가지로 위치 기수볍에 따라서 소수점 아래 어느 위치에 숫자가 나타나느냐에 따라서 크기가 달라진다. 즉, 0.1 = 1/10, 0.01 = 1/100, 0.002 = 2/1000 = 2 x 1/1000 = 2 x 0.001의 의미이고, 앞에서 백분의 1을 센트(cent), 천분의 1일 밀리(milli)로 수학적 표기만이 아니라 말하고 쓰는 데 지구적으로 표준화된 용어까지 있다.
0으로 나누는 것을 제외한 사칙연산에 대하여 닫혀 있는 유리수에 대한 계산 공식과 곱셈에서 정의했던 지수 연산을 확장하는 것을 구체적으로 이야기하지는 않겠다. 특히 지수의 연산에서 의 곱셈 역원 의 기호를 사용하여 지수를 자연수에서 정수로 확장할 수 있고, 나눗셈의 정의를 이용하여 지수를 유리수로 확장할 수도 있다. 그리고 아직 꺼내지 않았지만, 복소수라는 보다 큰 수의 체계까지 생각한다면 밑과 지수 모두 복소수까지 확장하고 지수법칙을 구성할 수도 있다.
일반 언어가 그렇듯이 수학도 더 많은 용어와 개념을 사용할 수 있다면 더 멋진 소통을 할 수도 있다. 그것은 우리의 몫이다. 단지 지식을 갖는 것보다는 그 용어가 의미하는 것을 감각하고 다른 개념들과 어떤 관계가 있는지 논리적으로 연결시키는 일이 필요하다. 수학의 언어는 하나하나 또박또박 명확하게 하는 것이 중요하며, 시간이 걸리는 일이고 그 과정을 부담 없이 즐기는 것이 좋을 것이다. 소화되지 못하는 지식, 잘못 연결된 개념들은 혼란을 초래하고 올바르지 않은 결론을 끌어내어 당황스럽게 만들지만 무엇이 잘못된 것인지 파악하기 힘들게 될 수도 있다. 논리적이고 정확하게 의미를 감각하고 사고하는 것, 그렇게 나온 결과에 대하여 겸허하게 생각하고 새로운 것에 대해 정신을 열어두는 것은 중요하다. 그러나 피타고라스는 익숙한 유리수와 다른 종류의 수가 나오자 당황하고 숨기려 했다. 피타고라스 학파가 자랑스럽게 여겼던 피타고라스 정리에서 튀어나온 이상한 수를 부끄러워했지만, 그 수는 오히려 피타고라스 정리보다 더 위대한 발견이었다. 다음에서 만나보기로 하자.