실수집합의 완전성(completeness of real set)

공리(axiom)란 우리가 당연히 받아들이지만 증명이 불가능한 명제를 말한다.

그 예로 

1) 1은 자연수 집합에 속한다

2) n이 자연수 집합에 속하면 n의 다음 수 n'도 자연수 집합에 속한다

등 자연수에 대한 당연한 직관을 들 수 있다.

혹은 

1) 모든 직각은 같다

2) 평행한 직선은 만나지 않는다

등의 기하학적 공리들도 생각할 수 있다.

이런 당연해보이는 사실들은 놀랍게도 증명이 불가능한데, 비교하자면 물체를 이루는 가장 작은 물질이 절대 더 이상 쪼개질 수 없는 것과 비슷하다고 할 수 있겠다. 모든 복잡한 수학적 이론들은 이런 기본적인 공리에서 출발한다.

만약 수학에 관심이 있거나 수학과에 들어갔다면 해석학에서 낯선 공리를 하나 더 배우게 된다. 완전성 공리(completeness axiom)가 그것인데, 그 내용은

1) 실수 집합은 완전하다

로 아주 짧지만, 생각보다 단순하지 않다.

이 집합의 완전성은 그 집합에 존재하는 모든 Cauchy 수열이 바로 그 집합 안으로 수렴할 때 성립하는데, 정의 자체는 상당히 직관적으로 받아들이기 어려운 면이 있다. 일단 Cauchy 수열이란 무엇일까? 수학자들은 왜 이걸 당연하다고 여기고 증명 없이 받아들이게 되었을까.

Cauchy 수열 이란 임의의 양수에 대해 어떤 양의 정수 이 존재해서 만약 이 성립한다면 를 만족하는 수열을 말한다.

쉽게 말해 수열이 진행될수록 그 차이가 줄어들어 결국 이후로는 거의 비슷한 값을 가지게 되는 수열을 Cauchy 수열이라고 한다. 

기본적인 정의들을 모두 살펴보았으니, 이제 왜 Cauchy가 이런 수열을 생각하게 되었고 완전성 공리가 널리 받아들여지게 되었는지 알아보자.

우리는 선을 그으면 이 선이 점으로 빈틈없이 채워져 있을거라 생각한다. 0과 1사이 어디를 찍어도 수직선은 우리에게 그 점의 정확한 값을 알려준다. 그리고 우리는 그 값을 실수(real number)라고 부른다. 그럼 대체 이 실수는 무엇인가? 18, 19, 그리고 20세기 초반에 걸쳐 해석학이 태동하고 발전하면서 여지껏 다소 논리적으로 허점이 있어도 약간의 직관에 의지해 넘어가던 문제들을 하나하나 아주 치밀하고 엄밀하게 정의하고 증명하던 과정에서 이 질문은 아주 자연스럽게 떠올랐다.

당시 수학자들은 공리란 적을수록 좋다고 여겼다. 증명 불가능이란 수학자들에게 도전의식을 불태우게 하지만 '증명 불가능함이 증명'되었다면 그 명제는 그저 꺼림칙한 존재일 뿐이다. 

수학자들은 우선 자연수를 가능한한 적은 공리를 사용해 정의했다. 몇몇은 글머리에 소개된 이른바 페아노 공리계이다.

1) 1은 자연수 집합에 속한다

2) n이 자연수 집합에 속하면다음수도 자연수 집합에 속한다

3)인 자연수 은 없다

4) 자연수과 이 다르면 과도 다르다

5) 1이 집합에 속하고, 의 모든 원소 에 대해 이 에 속하면, 자연수 집합은 의 부분집합이다

이 다섯가지 명제로 자연수를 완벽하게 정의할 수 있다. 여기에 마이너스를 붙여 음의 정수도 똑같이 정의가 가능하고, 0을 더하면 정수 집합이 완성된다. 

유리수를 정의하기 전에, (정수의)덧셈을 먼저 정의하고 넘어가자. 아주 간단하다. 덧셈은 로 정의할 수 있다.

이제 유리수를 정의해보자.가 정수이고 가 0이 아닐 때, 을 만족하는 를 유리수라고 정의한다. 가 1일 경우 는 모든 정수가 될 수 있으므로 자연스럽게 정수 집합이 유리수 집합에 속함을 알 수 있다.

이제 드디어, 마지막으로 무리수가 남았다. 이 무리수를 자연수로부터 정의해내기 위해 Cauchy 수열이 필요하다. 같은 경우 으로도 정의할 수 있지 않을까 싶지만, 이렇게 다항식의 근으로는 자연상수 나 원주율 등을 표현할 수 없다.(다항식의 근으로 표현 가능한 수를 대수적 수(algebraic number)라 하고 그렇지 않은 수를 초월수(transcendental number)라고 한다)

일단 우리가 알고있는 유리수로 Cauchy 수열을 만들자. 그럼 이 수열은 어딘가로 가까이 갈 것이다. 직관적으로, 수열이 진행되면 진행될수록 연속한 두 원소가 거의 무시 가능할 정도의 차이밖에 나지 않게 되므로 그럴 것 같다. 이는 수열을 수직선 위에 찍었을 때, 수열이 수직선 위의 한 점으로 가까이 가는 것과 같다. 우리는 수지선이 빈틈없이 채워져 있다고 믿기 때문에, 그 유리수 Cauchy 수열이 수렴한다고 하고 그 극한값들 중 유리수가 아닌 걸 무리수라고 하자. 이렇게 해서 실수 집합을 완성하기 위해 실수 집합의 모든 Cauchy 수열은 실수 집합 안으로 수렴하게 되었고, 이런 집합들을 완전한 집합이라고 부르게 됐다. 빈틈없이 채워져있기 때문에 완전한 것이다. 

여기서 Cauchy 수열이 사용된 이유는 일반적인 수열은 직관적으로 수렴하는지 어떤지 파악하기가 어렵지만 이렇게 꼬리가 줄어드는 수열은 어디론가 수렴할 것 같은 느낌을 주기 때문이다. 좀 더 엄밀하게 말해서 무리수란 이 유리수 Cauchy 수열 그 자체를 의미한다고 할 수도 있는 것이다. 이 수열이 정말로 수렴하는지는 증명할 수가 없다. 다만 수직선상에서 진동하다가 결국 비슷한 값만 찍게 되는 수열을 보면 수직선은 빈틈이 없기에 바로 그 점으로 수렴한다고 생각하게 된 것이다. 그편이 자연스럽고 어떻게 보면 아름답다.

후에 이러한 완전성만 가져와서 실수 집합이 아님에도 완전한 집합들이 연구되기도 한다(대표적으로 Hilbert space 등이 있다).