집합론을 제대로 공부한 적이 별로 없었는데 최근에 할모스의 책을 좀 봤는데 (언제나 처럼 연습문제는 넘어가고 침대에서 뒹굴거리며 대충 ㅠㅠ) 특히 위상수학을 배울때 얼치기로 공부하면서 이해가 안갔던 몇개를 이해하게 되었다. 참고로 어디서 주워듣기로는 집합론하는 사람들이랑 일반 수학자들이랑 좀 다르고 할모스의 책은 보통의 수학공부하는 학생들이 알아뒀으면 하는 집합론의 내용만 간단하게 소개한 것이라고 한다. 그러니까 내가 아래 하는 말도 그런 측면이 될 것 같다.
1. 먼저 집합론의 의의에 대해서...
보통의 한국사람들은 고등학교때 집합에 대해 배우는 듯 싶다. 이 때 집합을 어떤 원소가 그 집합에 속하는지 아닌지만 확실히 알 수 있으면 집합이라고 본다. 예를 들면 모든 남자의 모임 같은것들을 집합이라고 볼 수 있다. 이 때 사실 어떤것이 원소이고 어떤것이 집합인지 정해놓지 않는다. 집합의 원소가 또 집합일 수도 있다. 하지만 여기서 작은(??) 문제가 발생하는데 예를 들면 '자기 자신을 원소로 가지지 않는 집합들의 집합' S를 생각해보면..
( S가 자기자신을 포함하면 S는 S의 원소가 된다. 하지만 S의 원소는 자기 자신을 원소로 가지지 않으므로 모순이다. 또한 S가 자기자신을 포함하지 않으면 S는 S의 정의에 의해 S는 S를 원소로 가지게 되므로 모순이다. 따라서 S는 자기자신을 원소로 가질 수도,가지지 않을 수도 없다. 이래도 안되고 저래도 안된다.)
결국 하고싶은 말은 고등학교 때의 집합의 정의는 뭔가 애매하고 모순되는 집합이 있을 수도 있다는 거다. 대부분의 수학은 집합으로 부터 시작하기 때문에 집합이 이런 모순을 가져서는 안되고 따라서 이런 문제들을 해결하기 위해 대학교때 배우는 집합론이 시작되었다. 그렇다면 집합론에서 해결책은 있나? 해결책은 간단하게 위의 S와 같은 것은 집합이 아니라고 하는 것이다. 결국 집합론에서는 어떤것이 집합이고 어떤것이 집합이 아닌지 결정하는 것이 중요하다. 좀 더 정확하게 말하면 내가 이해한 집합론은 '가능한 간결한 가정(공리들)에서 시작해서 기존의 수학을 뒷받침할 만큼 많은 것들을 집합으로 정하면서 모순을 일으키는 것들은 집합이 아니라고 정하는 이론'이다. 따라서 집합론의 공리들은 보통 어떤 집합이 존재한다거나 혹은 기존의 집합에서 새로운 집합을 만드는 법에 대해서 말한다. 이 공리들을 통해서 수학에서 쓰는 모든 관념들을 만들어 내는 것이다. 물론 만들어내는 것들은 집합론에서는 대부분 집합이 된다.
나는 특히 이런 집합론의 측면을 이해하지 못했기 때문에 예를 들면 위상수학 책의 집합론 부분을 공부할 때 왜 재귀 정리(Recursion Theorem)을 증명해야 하는지 이해를 못했었다. 재귀 정리는 결국 어떤 성질을 가지는 함수가 존재한다는 내용인데 그 성질을 알고 있으면 이미 함수가 존재하는게 아닌가? 하고 생각한 것이다. 하지만 함수도 결국 집합이고 따라서 그런 함수가 집합론의 공리로 부터 만들어 질 수 있는 진짜 집합인지 증명을 해야 한다.
2. 자연수의 구성(건축?)
수학에서 중요한게 뭐가 있을까? 수다(수학이니깐...). 그럼 집합론에서 1,2,3 이 있다고 주장할 수 있어야 겠지.. 따라서 앞에서 말한 집합론의 공리를 이용해 자연수를 만들어 내야된다. 자연수를 만들어 낸다는거는 다른게 아니라 우리가 느낌적인 느낌으로 알고 있는 자연수 (하나 둘 셋 ...)와 그 성질 (하나 다음에는 둘이온다,하나 더하기 둘은 셋이다..)에 맞는 집합을 (집합론에서 만들어 내야 하니까 수도 집합이다) 집합론의 공리를 통해서 만들어 내는 것이다. (흔히 어디서 들어본 페아노 공리라는 건 집합론의 공리와 같은 주장 몇개와 그 주장을 통해 증명할수 있는 주장 몇개 해서 5가지 주장을 말한다. 이를 통해서 자연수와 그 성질들을 증명한다) 예를 들면 0이 어떤 집합인지 정하고(사실 공집합을 0으로 정한다) 1은 공집합을 원소로 갖는 집합으로 정한다( 1:={0}) 그렇다면 2는? {0,1}로 정한다 마찬가지로...
보통 1+1=2를 증명하는데 책 한권의 증명이 필요하다 이런 이야기가 떠도는데 자연수의 더하기는 일종의 함수를 통해서 정한다. (f(x):='x의 다음에 오는 수'라고 정하면..). 집합론에서는 함수도 집합이니깐.. 덧셈을 만든다는 것도 결국 특정한 집합을 만드는 거다. 결국 1+1=2를 증명한다는 것은 우리의 내면의 덧셈의 원리를 알아내기 보다는 만들어 낸 하나의 이론이 우리의 직관에 맞는지 확인하는 과정, 혹은 직관에 맞게 이론을 만들어나가는 과정에 가까운 것 같다.
사실 집합론을 보고 싶었던 큰 이유중의 하나가 이거였다. 자연수의 증명.. ( 다른 하나는 수리 논리를 공부하려고..) 원래 내가 수학에 대해 관심을 가지게 된 계기는 뭔가 느낌적인 느낌으로 기초, 가장 처음의 원리 같은 것을 알고 싶어서 였다. 공대 과목을 공부하게 되면 누구나 그런 것들에 다가가고 싶어하는 것 같다(???) 그래서 수학과 과목을 몇개 듣게 되는데 거기서도 뭔가 찝찝한 부분이 있다. 예를 들면 대부분의 해석학 강의에서 실수의 이런 저런 성질들과 완비성(대충 실수의 집합은 끊어짐이 없이 연속된다는 뜻?)에 대해서 말하지만 그냥 그렇다 하고 끝났다. 집합에 대해서 이야기도 하고 그러는데 뭔가 좀 찝찝하게 배운다. 좀 옛날책(루딘?) 같은 책들을 보면 유리수에서 실수를 만드는 법을 알려주는데 그럼 유리수는? 그래서 또 공부하다보면 대수학에서 정수를 이용해서 유리수를 만드는 법이 나온다. 그래서 정수를, 더 앞의 자연수가 어떤 놈인지 잘 알고 싶은데 결국 자연수의 구성은 집합론에서 배운다.
3. 선택공리와 초른 보조정리, 정렬 정리의 상등 증명
집합론을 공부하게 된 또 다른 하나의 계기는 선택공리와 그와 동치인 몇개의 주장들이었다. 내가 위상수학이나 대수학을 공부하다 보면 초른의 보조정리라는 것을 사용하게 될 때가 있었다. 설명하기 귀찮은(내가 잘 모른다는 말이다) 주장인데 느낌적인 느낌으로 말하면 뭔가 증명하기 위해 어떤 작업을 무한번 하기위해 필요한 주장이다. 보통 어떤 주장을 증명한다고 하는것은 유한번의 논리적으로 타당한 주장들을 인과관계에 맞게 배열하는 것에 가까운 것인데 초른 보조정리를 통해 어떤 과정을 무한번 하는 결과를 '가져다 쓸 수 있다'. 그래서 이 정리를 쓴 증명들은 하나같이 마음에 안내켰다.(이해를 완전히 못하니까 설명도 어색하다). 이런 상황은 아마 나만 그런 것이 아닐 것 같다. 마치 끝내 못이기는 게임에서 치트키를 쓰는 느낌이다. 결국 기초(집합론)에서 이 주장을 어떻게 끌어내는지 한번 보고 싶었다.
초른 보조정리는 선택공리라는 가정으로 증명할 수 있다. 문제는 선택공리라는 공리도 별로 안내킨다는 것이다. 선택공리는 앞에서 말한 집합론에서의 애초의 가정중의 하나로 '어떤 꾸러미들이 있으면 각 꾸러미에서 하나씩 내용물을 꺼낼 수 있다'는 주장이다.(혹은 꾸러미를 입력하면 꺼낼 원소를 알려알려주는 기계가.. 다시말해서 함수가 존재한다.) 당연한게 아닌가? 하지만 꾸러미가 무한개일때도 가능할까? 무한한 꾸러미는 우리가 사는 세상에 존재하지도 않는데 뭐... 문제는 무한이다. 집합론의 여러 문제들은 무한한 것을 다루니까 일어나는 듯 하다. 그럼 무한도 없다고 하면 안될까? 실제로 그렇게 생각하고 이론을 만드는 사람들도 있다고 한다...
마지막으로 정렬 정리라는 건 모든 집합을 잘 정렬하는게 가능하다는 주장인데 정렬이라는 거는 일종의 순서를 메기는 것이고 잘 정렬되었다는 것은 순서를 매긴 집합의 부분집합에는 항상 제일 먼저오는 원소가 있다는 거다.
계속 중언부언 하면서 갈피를 못잡았는데 내가 하고 싶은 말은 결국 위의 3가지 주장이 동치지만 아직 그렇게 마음내키지는 않는다는 것이다. 동치라는 말은 3중 하나가 참이면 세 주장이 다 참이라는 거고 .... 곁가지로 만약 저 주장들이 참임을 가정하면 이상한 결과들이 생긴다고 한다.(하나의 공을 잘개 쪼개서 그 조각들로 두개의 부피가 같은 공을 만들 수 있다고 한다.. 이런 이상한 주장들)
4. 기수와 서수...
마지막으로 기수와 서수에 관해 이야기하려고 했지만 아직 책을 대충봐서 잘 모르고 또 피곤해서 그만 써야겠다. 내가 왜 이 글을 쓰게 되었나..