수학에서 무한대(infinity)의 개념을 처음 접하면 우리의 기존 상식이 깨지는 경우가 빈번히 발생한다. 예를 들어 임의의 실수 \(x \in \mathbb{R}\)을 생각해 보자. 그러면 $x+1$은 언제나 원래의 수 $x$보다 크다. 즉, $x < x+1$이 성립한다. 하지만 $x = \infty$라 하면 이야기가 달라진다. 우선 $\infty+1$는 무한대에 $1$을 더해준 것과 같으므로 역시 무한대일 것임은 짐작할 수 있다. 하지만, $\infty$와 $\infty+1$의 크기를 비교해 보면 어떻게 될까? 무한대의 대소비교에서는 더이상 위와 같은 부등식이 성립하지 않고, $\infty = \infty+1$이 되는데, 이를 다시 말하면 무한대에 $1$을 더해주어도 기존의 무한대와 그 크기가 같게 된다.
이는 무한집합(infinite set)에서도 마찬가지이다. 무한집합은 그 집합의 원소가 무한이 많은 집합을 의미하는데, 수학적으로는 어떤 집합 $P$의 적당한 진부분집합(proper subset) $S$가 존재하여 $S$에서 $P$로의 일대일대응이 존재할 때 집합 $P$를 무한집합이라 한다. (이러한 집합은 ZFC 공리계에서 그 존재성이 보장된다.) 무한집합의 정의 자체부터 굉장히 역설적인데, 이 정의에 의하면 어떤 집합 $P$가 무한집합이기 위해서는 그 집합의 일부분이 전체와 같아야 하기 때문이다. 이 밖에도 무한에 대해 우리의 상식으로는 설명할 수 없는 사실들이 성립하는 경우가 많은데, 그 중 대표적인 것으로 '무한 호텔의 역설'이 있다.
바나흐-타르스키 역설(Banach-Tarski paradox)1 이란 3차원 상의 공을 '유한개'의 조각으로 잘라 '강체운동(rigid motion)'2 만을 허락하여 재조합하여, 원래 공과 같은 부피를 같는 두개의 공을 만들 수 있다는 정리이다. 이는 무한에 대한 역설을 가장 멋드러지게 이용한 정리 중 하나이다.
여기서 '유한개' 와 '강체운동' 두가지 단어에 주목 해 보자. 만약 '강체운동'이 아니라면, 즉 물체를 늘이거나 줄이는게 가능하다면, 단순히 공을 반으로 자른 후에 자른 반쪽을 잘 다음고 늘려서 원래의 공과 같에 만들어 주면 된다. 또한 만약 '유한개'가 아니라면, 즉 무한개로 자르는 것이 가능하다면, 무한이 많은 조각으로 자른 후에 (무한 호텔의 역설과 비슷한 방법으로?) 적당히 재구성하여 두개의 공을 만드는 것이 가능하다. 하지만 바나흐-타르스키 역설은 '유한개'의 조각과 '강체운동'만을 허락하여도 이것이 가능함을 증명하고 있어서 대단한 것이다.
바나흐-타르스키 역설은 선택공리(axiom of choice)를 포함한 체르멜로-프랑켈 집합론(Zermelo-Fraenkel set theory), 즉 ZFC 집합론에서 증명이 가능하다. 선택공리는 수학자에 따라 믿는 사람도 그렇지 않은 사람도 있지만,3 수학의 거의 전분야에 걸친 수많은 증명들이 선택공리를 바탕으로 증명이 되고 있기 때문에, 개인적으로는 선택공리를 믿고, 따라서 바나흐-타르스키 역설 또한 참이라고 생각한다. 하지만, 선택공리를 인정하지 않고 바나흐-타르스키 역설 또한 거짓이라 생각해도 수학적으로 모순이 없다.
바나흐-타르스키 역설을 증명하기 이전에, 잠깐 무한이란 개념에 대한 몸풀기 정도로 2차원 위에서 원에 대한 역설을 살펴보자. 이 증명은 선택공리를 필요로 하지 않는다.
증명.한 점을 제외한 집합 $C - \{1\}$의 부분집합 $B$를 아래와 같이 정의하자.
이제 $e^{im} = e^{in}$이라 가정하자. 그러면 $e^{im} = e^{i(n + 2\pi)}$ 또한 반드시 성립해야 한다. 하지만, $m = n + 2\pi$이고 $2\pi$가 무리수라는 사실로 부터, 모순이 발생한다. 따라서 $B$의 모든 원소들은 $C - \{1\}$ 위의 서로 다른 점들의 집합이다. 따라서 이 집합이 무한집합임은 자명하고, 또한 무한가산집합(countably infinite set)임을 알 수 있다. 이제 $A = (C - \{1\}) - B$라 하자. 그러면 자명하게 $A \cup B = C - \{1\}$이 성립한다. 이제 $B$의 모든 원소들을 $\rho(z) = e^{-i}z$만큼만 회전해서 새로운 집합 $B'$를 만들자. 따라서 $B' = \set{e^{i(n-1)}}{n\in \N}$을 얻는다. 하지만, $1 = e^{0} \in B'$이므로, $A \cup B' = C$를 얻는다..