61. The Jordan Separation Theorem

해석학 연구에서 아주 자연스럽게 제기되는, 평면의 위상에 관한 몇 가지 어려운 문제들이 있다. 이 문제들에 대한 답은 기하학적으로는 꽤나 믿을 만해 보이지만, 증명하기는 놀랍도록 어렵다는 것이 밝혀졌다. 여기에는 조르당 곡선 정리(Jordan curve theorem), 브라우어의 영역 불변성 정리(Brouwer theorem on invariance of domain), 그리고 단순 닫힌 곡선의 회전수(winding number)가 $0$ 또는 $\pm 1$이라는 고전적인 정리가 포함된다. 우리는 이 장에서 피복 공간(covering space)과 기본군(fundamental group)에 대한 우리의 연구의 결과로서 이들을 증명한다.

---

우리는 먼저 수학의 고전적인 정리 중 하나인 조르당 곡선 정리(Jordan curve theorem)를 고려한다. 이것은 기하학적으로 매우 믿을 만한 사실을 말해주는데, 평면 안의 단순 닫힌 곡선은 항상 평면을 두 조각, 즉 “안쪽”과 “바깥쪽”으로 분리한다는 것이다. 이것은 1892년 카미유 조르당(Camille Jordan)에 의해 처음 추측되었고, 조르당 자신에 의한 것을 포함하여 몇몇 부정확한 증명들이 발표되었다. 결국, 1905년에 오즈월드 베블런(Oswald Veblen)에 의해 올바른 증명이 제공되었다. 초기 증명들은 복잡했지만, 세월이 흐르면서 더 간단한 증명들이 발견되었다. 만약 현대 대수적 위상수학의 도구들, 특히 특이 호몰로지 이론(singular homology theory)을 사용한다면, 증명은 매우 간단하다. 여기서 우리가 제시하는 증명은 피복 공간과 기본군 이론의 결과만을 사용하는 우리가 아는 가장 간단한 증명이다.

우리의 조르당 곡선 정리 증명은 세 부분으로 나뉜다. 첫 번째는, 우리가 조르당 분리 정리(Jordan separation theorem)라고 부르는 것으로, 평면 안의 단순 닫힌 곡선이 평면을 적어도 두 개의 성분으로 분리한다는 것을 말한다. 두 번째는 평면 안의 호(arc)는 평면을 분리하지 않는다는 것이다. 그리고 세 번째, 조르당 곡선 정리 자체는, 평면 안의 단순 닫힌 곡선 $C$가 평면을 정확히 두 개의 성분으로 분리하며, $C$가 그 공통 경계가 된다는 것이다. 이 정리들 중 첫 번째를 이 절에서 다룰 것이다.

분리 정리를 다룰 때, 그들을 $R^2$에 대한 정리보다는 $S^2$의 부분집합에 대한 정리로 형식화하는 것이 종종 편리할 것이다. $R^2$에 대한 분리 정리는 그로부터 따라 나온다. 두 정리 집합 사이의 연결은 다음 보조정리에 의해 제공된다.

$S^2$의 임의의 점 $b$에 대해, $S^2-b$와 $R^2$ 사이의 위상동형사상 $h$가 존재함을 상기하자; 단순히 $b$를 북극으로 보내는 $S^2$의 회전을 취한 다음 입체 사영(stereographic projection)을 적용하면 된다.

보조정리 61.1

$C$를 $S^2$의 콤팩트 부분공간이라 하자;¹ $b$를 $S^2-C$의 점이라 하고, $h$를 $S^2-b$와 $R^2$ 사이의 위상동형사상이라 하자. $U$가 $S^2-C$의 성분(component)이라 가정하자. 만약 $U$가 $b$를 포함하지 않으면, $h(U)$는 $R^2-h(C)$의 유계 성분(bounded component)이다. 만약 $U$가 $b$를 포함하면, $h(U-b)$는 $R^2-h(C)$의 비유계 성분(unbounded component)이다.

특히, $S^2-C$가 $n$개의 성분을 가지면, $R^2-h(C)$도 $n$개의 성분을 가진다.

증명

먼저 $U$가 $S^2-C$의 성분이면, $U-b$가 연결되어 있음을 보인다. 이 결과는 $b\notin U$일 때 자명하므로, $b\in U$라 가정하고 집합 $A$와 $B$가 $U-b$의 분할을 형성한다고 가정하자. $b$의 이웃(neighborhood) $W$를 $C$와 서로소이고 $R^2$의 열린 공(open ball)과 위상동형이 되도록 선택하자. $W$는 연결되어 있으므로, $U$에 포함된다; $W-b$는 연결되어 있으므로, 전적으로 $A$ 또는 $B$에 포함된다. $W-b\subset A$라 하자. 그러면 $W$가 $B$와 서로소인 $b$의 이웃이므로, $b$는 $B$의 극한점(limit point)이 아니다. 따라서 집합 $A\cup \{b\}$와 $B$는 $U$의 분할을 형성하게 되어 가정에 모순된다.

$\{U_{\alpha }\}$를 $S^2-C$의 성분들의 집합이라 하고, $V_{\alpha }=h(U_{\alpha }-b)$라 하자. $S^2-C$는 국소 연결(locally connected)이므로, 집합 $U_{\alpha }$들은 연결된, 서로소인 $S^2$의 열린 부분집합들이다. 따라서, 집합 $V_{\alpha }$들은 연결된, 서로소인 $R^2-h(C)$의 열린 부분집합들이므로, 집합 $V_{\alpha }$들은 $R^2-h(C)$의 성분들이다.²

이제 $S^2-b$와 $R^2$ 사이의 위상동형사상 $h$는 $R^2$의 한 점 콤팩트화(one-point compactification) $R^2\cup \{\infty \}$와 $S^2$ 사이의 위상동형사상 $H$로 확장될 수 있으며, 이는 단순히 $H(b)=\infty$로 설정하면 된다. $U_{\beta }$가 $b$를 포함하는 $S^2-C$의 성분이면, $H(U_{\beta })$는 $R^2\cup \{\infty \}$에서 $\infty$의 이웃이다. 따라서 $V_{\beta }$는 비유계이다; 그 여집합 $R^2-V_{\beta }$는 콤팩트이므로, $R^2-h(C)$의 다른 모든 성분들은 유계이다.

보조정리 61.2 (Nulhomotopy 보조정리)

$a$와 $b$를 $S^2$의 점이라 하자. $A$를 콤팩트 공간이라 하고,

$$f:A\to S^2-a-b$$

를 연속 함수라 하자. 만약 $a$와 $b$가 $S^2-f(A)$의 같은 성분에 속하면, $f$는 널호모토픽(nulhomotopic)이다.

증명

$S^2$를 $R^2$의 한 점 콤팩트화 $R^2\cup \{\infty \}$로 대체하고, $a$와 $b$가 각각 점 $0$과 $\infty$에 대응하도록 할 수 있다. 그러면 우리의 보조정리는 다음 진술로 축소된다: $A$를 콤팩트 공간이라 하고 $g:A\to R^2-0$을 연속 함수라 하자. 만약 $0$이 $R^2-g(A)$의 비유계 성분에 속하면, $g$는 널호모토픽이다.

이 진술은 증명하기 쉽다. 원점을 중심으로 하는 공 $B$를 집합 $g(A)$를 포함할 만큼 충분히 큰 반지름으로 선택하자. $B$ 바깥에 있는 $R^2$의 점 $p$를 선택하자. 그러면 $0$과 $p$는 둘 다 $R^2-g(A)$의 비유계 성분에 속한다.

$R^2$는 국소 경로 연결(locally path connected)이므로, 열린 집합 $R^2-g(A)$도 마찬가지다. 따라서, $R^2-g(A)$의 성분과 경로 성분은 동일하다. 그러므로 우리는 $0$에서 $p$로 가는 $R^2-g(A)$ 안의 경로 $\alpha$를 선택할 수 있다. 우리는 다음과 같은 방정식으로 호모토피(homotopy) $G:A\times I\to R^2-0$을 정의한다.

$$G(x,t)=g(x)-\alpha (t);$$

이것은 그림 61.2에 묘사되어 있다. 호모토피 $G$는 함수 $g$와 $k(x)=g(x)-p$로 정의된 함수 $k$ 사이의 호모토피이다. 경로 $\alpha$가 집합 $g(A)$와 교차하지 않기 때문에 $G(x,t)\ne 0$임에 주목하자. 이제 우리는 다음 방정식으로 호모토피 $H:A\times I\to R^2-0$을 정의한다.

$$H(x,t)=tg(x)-p.$$

이것은 함수 $k$와 상수 함수 사이의 호모토피이다. $tg(x)$는 공 $B$ 내부에 있고 $p$는 그렇지 않으므로 $H(x,t)\ne 0$임에 주목하자.

따라서 우리는 $g$가 널호모토픽임을 증명했다.

이제 조르당 분리 정리를 증명한다. 일반적으로, $X$가 연결 공간이고 $A\subset X$일 때, 만약 $X-A$가 연결 공간이 아니면 $A$가 $X$를 분리한다(separate)고 말한다; 만약 $X-A$가 $n$개의 성분을 가지면, $A$가 $X$를 $n$개의 성분으로 분리한다고 말한다.

호(arc) $A$는 단위 구간 $[0,1]$과 위상동형인 공간이다. $A$의 끝점(end point)은 $A-p$와 $A-q$가 연결되도록 하는 $A$의 두 점 $p$와 $q$이다; $A$의 다른 점들은 $A$의 내부점(interior point)이라 불린다.

단순 닫힌 곡선(simple closed curve)은 단위 원 $S^1$과 위상동형인 공간이다.

정리 61.3 (조르당 분리 정리)

$C$를 $S^2$ 안의 단순 닫힌 곡선이라 하자. 그러면 $C$는 $S^2$를 분리한다.

증명

$S^2-C$는 국소 경로 연결이므로, 그 성분과 경로 성분은 같다. 우리는 $S^2-C$가 경로 연결이라고 가정하고 모순을 이끌어낸다.

$C$를 두 호 $A_1$과 $A_2$의 합집합으로 쓰자. 이들은 그들의 끝점 $a$와 $b$에서만 교차한다. $X$를 공간 $S^2-a-b$라 하자. $U$를 $X$의 열린 집합 $S^2-A_1$이라 하고, $V$를 열린 집합 $S^2-A_2$라 하자. 그러면 $X$는 집합 $U$와 $V$의 합집합이고,

$$U\cap V=S^2-(A_1\cup A_2)=S^2-C$$

이며, 가정에 의해 이것은 경로 연결이다. 따라서 정리 59.1의 가정이 만족된다.

$x_0$를 $U\cap V$의 한 점이라 하자. 우리는 다음 포함사상(inclusion)

$$i:(U,x_0)\to (X,x_0)\text{and}j:(V,x_0)\to (X,x_0)$$

이 관련된 기본군들의 자명한 준동형사상(trivial homomorphism)을 유도함을 보일 것이다. 그러면 정리 59.1에 의해 ${\pi }_1(X,x_0)$이 자명하다는 결론이 나온다. 그러나 $X=S^2-a-b$는 구멍 뚫린 평면 $R^2-0$과 위상동형이므로 그 기본군은 자명하지 않다.

$i_{\ast }$가 자명한 준동형사상임을 증명하자; $x_0$에 기반을 둔 $U$ 안의 루프 $f:I\to U$가 주어졌을 때, $i_{\ast }([f])$가 자명함을 보인다. 이를 위해, $p:I\to S^1$을 ${\pi }_1(S^1,b_0)$를 생성하는 표준 루프라 하자. 함수 $f:I\to U$는 $h\circ p=f$를 만족하는 연속 함수 $h:S^1\to U$를 유도한다.

함수 $i\circ h:S^1\to S^2-a-b$를 생각해보자. 가정에 의해, 집합 $i(h(S^1))=h(S^1)$은 $a$와 $b$를 포함하는 연결 집합 $A_1$과 교차하지 않는다. 따라서, $a$와 $b$는 $S^2-i(h(S^1))$의 같은 성분에 속한다. 앞의 보조정리에 의해, 함수 $i\circ h$는 널호모토픽이다. 보조정리 55.3에 의해 $(i\circ h{)}_{\ast }$는 기본군의 자명한 준동형사상이다. 그러나

$$(i\circ h{)}_{\ast }([p])=[i\circ h\circ p]=[i\circ f]=i_{\ast }([f]).$$

따라서, $i_{\ast }([f])$는 자명하며, 이는 우리가 원하던 바이다.

앞선 증명을 검토해 보자. 단순 닫힌 곡선 $C$에 대해 우리가 사용한 사실은 무엇인가? 실제로 필요했던 것은 $C$가 두 닫힌 연결 집합 $A_1$과 $A_2$의 합집합으로 쓰일 수 있고, 그 교집합이 두 점 $a$와 $b$로 구성된다는 사실뿐이었다. 이 발언은 다음의 일반화된 버전의 분리 정리로 이어진다. 이는 나중에 유용할 것이다.

정리 61.4 (일반적인 분리 정리)

$A_1$과 $A_2$가 $S^2$의 닫힌 연결 부분집합이고, 그 교집합이 정확히 두 점 $a$와 $b$로 구성된다고 하자. 그러면 집합 $C=A_1\cup A_2$는 $S^2$를 분리한다.

증명

먼저 $C$가 $S^2$ 전체와 같을 수 없음을 보여야 한다. 이 사실은 이전 증명에서는 명백했다. 현재 경우, $S^2-a-b$는 연결되어 있고 $C-a-b$는 그렇지 않기 때문에 $C\ne S^2$임을 알 수 있다. (집합 $A_i-a-b$는 $C-a-b$의 분할을 형성한다.)

증명의 나머지는 이전 정리의 증명을 그대로 따른다.

Footnotes

1. $C$는 선분일 수도 있다는 점을 기억하자. ↩

2. 연속함수라는 성질만으로는 성분의 최대성(maximal)을 보존하지 않는다. 위상동형사상 $h:X\to Y$는 공간의 모든 위상적 구조를 그대로 보존하는 일대일 대응이다. 만약 $U$가 $X$의 성분(최대 연결 부분집합)이라면, 그 상 $h(U)$도 $Y$에서 최대 연결 부분집합이 된다. 만약 $h(U)$가 $Y$에서 더 큰 연결 부분집합 $K$에 포함된다면, 역함수 $h^{-1}(K)$는 $X$에서 $U$를 포함하는 더 큰 연결 부분집합이 되어 $U$가 성분이라는 사실에 모순된다. 따라서 $h(U)$는 반드시 $Y$의 성분이 된다. ↩