이전 글에서 우리가 흔히 위상수학이라고 부르는 일반위상수학_{(general topology)} 또는 점-집합 위상수학_{(point-set topology)}은 최소한의 공리로부터 시작하여 집합 위에서의 극한 및 연속성을 잘 정의하기 위해서 시작한 수학의 한 분야임을 살펴 보았다. 이를 다시 한번 확인해 보자. 우선 직관적으로 주어진 함수가 연속이려면, $x$와 $y$의 거리가 충분히 가까우면, 함수값 $f(x)$와 $f(y)$의 값도 가까워야 한다. 예를 들어 아래와 같이 정의된 함수는 연속이 아니다. $x$와 $y$ 사이의 거리가 아무리 가깝더라도 $y$가 $x$보다 조금이라도 크다면, $f(x)$와 $f(y)$ 사이의 거리가 절대 가까워 질 수 없기 때문이다.

위 함수는 정의에 따라 연속이 아니다

이러한 사실을 거리공간(metric space)에서는 $\epsilon$-$\delta$ 논법을 이용해서 정의한다.

다시 말해 주어진 $\epsilon>0$에 대하여, $\delta>0$를 적당히 잡아서 $x$와 $y$ 사이의 거리가 $\delta$보다 작으면 $f(x)$와 $f(y)$ 사이의 거리가 $\epsilon$보다 작아지게 만들 수 있을 때, 함수 $f$가 $x$에서 연속이라 한다. 이제 근방_{(neighborhood)}이란 개념을 이용하여 위 정의를 다시 적으면,

이는 주어진 $\epsilon>0$에 대하여, $\delta>0$를 적당히 잡아서 $y$가 $x$의 $\delta$-근방 안에 있으면 $f(y)$를 $f(x)$의 $\epsilon$-근방 안에 있게 할 수 있을 때, 함수 $f$가 $x$에서 연속임을 의미한다. 이제 위 정의에서 [ ] 부분을 다시 표현하면

을 얻을 수 있고, 마지막으로 근방을 정의하기 위해 필요한 거리 개념을 없애기 위해 근방을 열린집합으로 대체하면 다음의 정의를 얻는다.

위 정의를 잘 살펴보면, 거리를 재기 위해서 필요했던 $\epsilon$, $\delta$ 등의 표현이 전혀 들어있지 않고 오직 열린집합 $U$, $V$ 만을 이용하여 정의가 되어 있다. 따라서 위 정의는 여전히 거리공간에서 정의되고 있긴 하지만, 거리 개념이 전혀 들어가 있지 않기 때문에, 열린집합이 잘 정의되는 임의의 공간으로 확장이 가능하다!

이제 위상공간에서 열린집합의 정의하는 세가지 공리에 대해서 다시 살펴보자.

  위상공간은 열린집합이 잘 정의되므로 함수 $f:(X,\,\mathscr{T}) \to (Y,\,\mathscr{S})$의 연속성 또한 아래와 같이 정의할 수 있다.

즉, $f(x)$를 포함하는 모든 열린집합 $V$에 대하여, $x$를 포함하는 열린집합 $U$가 존재하여 $f(U)$가 $V$의 부분집합이 되게 할 수 있으면, $f$를 $x$에서 연속이라 한다. 역시 직관적으로 잘 와닿지 않는다. 거리공간에서 거리를 이용한 연속성의 정의를 열린집합을 이용한 것으로 대체하고, 이를 이용해 위상공간에의 연속성을 정의하는 발달 과정을 살펴 보면, 왜 연속의 정의를 이렇게 해야 했는지 이해는 가능하다. 하지만, 위상공간에서 연속의 정의 그 자체만으로는 직관적으로 $f$가 위의 정의를 만족할 때 왜 $x$에서 연속이여야만 하는지 이해하기 어렵다.

열린집합을 이용한 연속성의 정의를 그림으로 표현하면 위와 같다

이제 다시 함수의 연속성에 관한 우리의 직관으로 돌아가 보자. "$x$와 $y$의 거리가 충분히 가까우면, 함수값 $f(x)$와 $f(y)$의 값 또한 가까워 질 때 $f$를 $x$에서 연속이라 한다." 여기서 '가깝다' 라는 개념을 수학적으로 정의하기 위하여 거리함수_(metric)을 이용하여 $d(x,\,y) < \delta$등의 표현을 이용하였고, 그 이후로는 우리가 이제까지 살펴본 그대로이다.

하지만, 만약에 '가깝다'라는 개념 자체를 공리화 하면 어떨까? 만약에 $x$가 $y$에 가깝다면 어떤 조건을 만족 해야만 할까? K.D. Joshi가쓴 『Introduction to General Topology』라는 책을 보면, 근접성_(nearness)이란 개념에 대한 정의가 나온다. (이는 집합-집합 사이의 근접성에 대한 공리로 시작하는 근접공간_{(nearness space)}와는 다른 개념이다.)

  위의 정의를 말로 풀어서 써 보면 일반적으로 '가깝다'라는 개념과 직관적으로 일치함을 알 수 있다..

1. 어떤 원소도 공집합 $\emptyset$과 가까이 있지 않다.
2. 만약 $x$가 $A$의 원소이면, $x$는 $A$와 가까이 있다.
3. 만약 $x$가 $A \cup B$와 가까이 있으면, $x$는 $A$와 가까이 있거나 $B$와 가까이 있다.
4. 만약 $x$와 $A$가 가까이 있고, $A$의 모든 원소들이 $B$와 가까이 있으면, $x$도 $B$와 가까이 있다.

또한 위의 근접성의 공리를 바탕으로 함수 $f$의 $x$에서의 연속성을 아래와 같이 간단히 정의할 수 있다.

위를 말로 풀어서 설명하면, $x$와 $\{y\}$가 가까이 있을때, $f(x)$와 $\{f(y)\}$ 또한 가까이 있어야 함을 의미하므로 연속성에 관한 우리의 직관과도 일맥상통한다. 단지 원소 $y$와 $f(y)$를 집합으로서 다루기 위해서 $\{y\}$, $\{f(y)\}$으로 표현하였을 뿐이다.

근접성을 이용한 연속성의 정의를 그림으로 표현하면 위와 같다

이뿐만 아니라 열린집합, 닫힌집합, 내부_(interior), 폐포_(closure), 수렴성_{(convergence)}, 연결성_{(connectedness)}, 나아가 하우스도르프_(Hausdorff) 성질까지 위상수학에서 쓰이는 모든개념을 근접성의 네가지 공리로부터 정의할 수 있다!

사실 이게 가능한 이유는 열린집합과 근접성이 서로를 정의할 수 있기 때문이다. 다시 말해, 열린집합의 세가지 공리로 부터 시작하여 근접성을 '정의'하여, 이렇게 정의된 근접성이 근접성의 네가지 공리를 만족함을 '증명'할 수 있고, 반대로 근접성의 네가지 공리로 부터 시작하여 열린집합을 '정의'하고, 이렇게 정의된 열린집합이 열린집합의 세가지 공리를 만족함을 '증명'할 수 있다. 따라서 열린집합이나 근접성 어느것으로 시작하든지 우리는 같은 위상을 얻을 수 있다.

위에 설명한 열린집합, 근접성 이외에도 다양한 방법으로 위상공간의 정의가 가능하다. 예를 들어 위상공간을 정의하는 다섯가지 방법 A, B, C, D, E가 있다고 하자. 만약 방법 B를 공리로써 증명 없이 받아 들이면, 나머지 A, C, D, E를 B의 공리로부터 증명할 수 있다. 이번에는 B 대신에 E를 공리로써 받아들인다고 하자. 그러면 A, B, C, D를 E의 공리로부터 증명이 가능하다. 나머지도 마찬가지이다. 즉, 우리는 A, B, C, D, E 중 어느것으로 시작하더라도 위상공간의 개념을 발전해 나갈 수 있다.

아래에 위상공간을 정의하는 방법 중 일부를 정리해 본다.