62. Invariance of Domain

위상수학의 정리 중 진정으로 근본적인 것 하나는, 유클리드 공간(euclidean space)의 본질적인 성질을 표현하기 때문에, 1912년 L. E. J. Brouwer에 의해 증명된 “영역 불변성(invariance of domain)“에 관한 정리이다. 이 정리는 ${\mathbb{R}}^n$의 임의의 열린 집합 $U$와 임의의 연속 단사 사상(continuous injective mapping) $f:U\to {\mathbb{R}}^n$에 대해, 상집합(image set) $f(U)$가 ${\mathbb{R}}^n$에서 열려 있고 역함수(inverse function)가 연속임을 말한다. (해석학의 역함수 정리(Inverse Function Theorem)는 사상 $f$가 비특이(non-singular) 야코비 행렬(Jacobian matrix)을 가지며 연속적으로 미분 가능하다(continuously differentiable)는 추가적인 가정 하에 이 결과를 유도한다.) 우리는 $n=2$인 경우에 이 정리를 증명할 것이다.

보조정리 62.1 (호모토피 확장 보조정리, Homotopy extension lemma)

$X\times I$가 정규 공간(normal space)인 공간 $X$가 주어져 있다고 하자. $A$를 $X$의 닫힌 부분공간(closed subspace)이라 하고, $Y$를 ${\mathbb{R}}^n$의 열린 부분공간(open subspace)이라 할 때, 연속 함수(continuous map) $f:A\to Y$가 주어져 있다고 하자. 만약 $f$가 널호모토픽(nulhomotopic)이면, $f$는 또한 널호모토픽인 연속 함수 $g:X\to Y$로 확장될 수 있다.

증명

$f$와 상수 함수(constant map) 사이의 호모토피(homotopy)를 $F:A\times I\to Y$라 하자. 그러면 모든 $a\in A$에 대해 $F(a,0)=f(a)$이고 $F(a,1)=y_0$이다. $X$의 모든 $x$에 대해 $F(x,1)=y_0$으로 설정하여 $F$를 공간 $X\times \{1\}$로 확장하자. 그러면 $F$는 $X\times I$의 닫힌 부분공간 $(A\times I)\cup (X\times \{1\})$에서 ${\mathbb{R}}^n$으로 가는 연속 함수이다. Tietze 확장 정리(Tietze extension theorem)에 의해, 이는 연속 함수 $G:X\times I\to {\mathbb{R}}^n$으로 확장될 수 있다.

이제, $x\to G(x,0)$이라는 함수는 $f$의 확장이지만, $X$를 부분공간 $Y$가 아닌 ${\mathbb{R}}^n$으로 사상한다. 우리가 원하는 함수를 얻기 위해 다음과 같이 진행한다: $U$를 $X\times I$의 열린 부분집합 $U=G^{-1}(Y)$라 하자. 그러면 $U$는 $(A\times I)\cup (X\times \{1\})$를 포함한다. $I$가 컴팩트이므로, 관 보조정리(tube lemma)에 의해 $A$를 포함하는 $X$의 열린 집합 $W$가 존재하여 $W\times I\subset U$를 만족한다. 이제 공간 $X$ 자체는 $X\times I$의 닫힌 부분공간 $X\times \{0\}$과 위상동형(homeomorphic)이므로 정규 공간이다. 따라서, $A$에서는 $0$이고 $X-W$에서는 $1$인 연속 함수 $\varphi :X\to [0,1]$을 선택할 수 있다. 함수 $x\to x\times \varphi (x)$는 $X$를 $X\times I$의 부분공간 $(W\times I)\cup (X\times \{1\})$ 안으로 사상하며, 이는 $U$ 안에 있다. 그러면 연속 함수 $g(x)=G(x,\varphi (x))$는 $X$를 $Y$ 안으로 사상한다. 그리고 $x\in A$에 대해, $\varphi (x)=0$이므로 $g(x)=G(x,0)=f(x)$이다. 따라서 $g$는 $f$의 원하는 확장이다. $H:X\times I\to Y$를

$$H(x,t)=G(x,(1-t)\varphi (x)+t)$$

로 주어진 함수는 $g$와 상수 함수 사이의 호모토피이다.

보조정리 62.2 (Borsuk 보조정리)

$a$와 $b$를 $S^2$의 점이라 하자. $A$를 컴팩트 공간이라 하고, $f:A\to S^2-a-b$를 연속 단사 함수(continuous injective map)라 하자. 만약 $f$가 널호모토픽이면, $a$와 $b$는 $S^2-f(A)$의 같은 연결 성분(component)에 속한다.

증명

$A$는 컴팩트하고 $S^2$는 하우스도르프(Hausdorff)이므로, $f(A)$는 $A$와 위상동형인 $S^2$의 컴팩트 부분공간이다. $f$가 널호모토픽이므로, $f(A)$를 $S^2-a-b$ 안으로 포함시키는 함수(inclusion mapping)도 널호모토픽이다. 따라서, $f$가 단순히 포함 함수인 특별한 경우에 보조정리를 증명하는 것으로 충분하다. 더 나아가, 우리는 $a$를 $0$에, $b$를 $\infty$에 대응시켜 $S^2$를 ${\mathbb{R}}^2\cup \{\infty \}$로 대체할 수 있다. 그러면 우리의 보조정리는 다음 명제로 축소된다:

$A$를 ${\mathbb{R}}^2-\{0\}$의 컴팩트 부분공간이라 하자. 포함 함수 $j:A\to {\mathbb{R}}^2-\{0\}$가 널호모토픽이면, $0$은 ${\mathbb{R}}^2-A$의 유계가 아닌 성분(unbounded component)에 속한다.

이제 이를 증명한다. $0$을 포함하는 ${\mathbb{R}}^2-A$의 성분을 $C$라 하고, $C$가 유계(bounded)라 가정하고 모순을 유도하자. 비유계 성분을 포함한 ${\mathbb{R}}^2-A$의 다른 성분들의 합집합을 $D$라 하자. 그러면 $C$와 $D$는 ${\mathbb{R}}^2$의 서로소인 열린 집합이고, ${\mathbb{R}}^2-A=C\cup D$이다.

우리는 $C$ 외부에서는 항등 함수(identity)와 같은 연속 함수 $h:{\mathbb{R}}^2\to {\mathbb{R}}^2-\{0\}$을 정의한다. 포함 함수 $j:A\to {\mathbb{R}}^2-\{0\}$으로 시작하자. 가정에 의해 $j$는 널호모토픽이므로, 앞선 보조정리에 의해 $j$는 $C\cup A$에서 ${\mathbb{R}}^2-\{0\}$으로 가는 연속 함수 $k$로 확장될 수 있다. 그러면 $k$는 $A$의 점들에서는 항등 함수이다. $D\cup A$에 있는 $x$에 대해 $h(x)=x$로 설정하여 $k$를 함수 $h:{\mathbb{R}}^2\to {\mathbb{R}}^2-\{0\}$으로 확장하자. 그러면 붙임 보조정리(pasting lemma)에 의해 $h$는 연속이다.

이제 모순을 유도한다. $C\cup A$를 포함할 만큼 충분히 큰 반지름 $M$을 가진 원점을 중심으로 하는 ${\mathbb{R}}^2$의 닫힌 공(closed ball)을 $B$라 하자. (여기서, $C$가 유계라는 사실을 사용한다.) $h$를 $B$에 제한하면, 우리는 Bd $B$에 있는 $x$에 대해 $g(x)=x$를 만족하는 함수 $g:B\to {\mathbb{R}}^2-\{0\}$을 얻는다. $g$ 뒤에 ${\mathbb{R}}^2-\{0\}$에서 Bd $B$로의 표준 축소(standard retraction) $x\to Mx/\Vert x\Vert$를 적용하면, $B$에서 Bd $B$로의 축소(retraction)를 얻는다. 이러한 축소는 존재하지 않는다.

정리 62.3 (영역 불변성, Invariance of domain)

$U$가 ${\mathbb{R}}^2$의 열린 부분집합이고 $f:U\to {\mathbb{R}}^2$가 연속 단사 함수이면, $f(U)$는 ${\mathbb{R}}^2$에서 열린 집합이고 역함수 $f^{-1}:f(U)\to U$는 연속이다.

증명

늘 하던 대로, ${\mathbb{R}}^2$를 $S^2$로 대체할 수 있다. 우리는 $U$가 ${\mathbb{R}}^2$의 열린 부분집합이고 $f:U\to S^2$가 연속 단사 함수이면, $f(U)$가 $S^2$에서 열리고 역함수가 연속임을 보일 것이다.

단계 1. 우리는 $U$에 포함된 임의의 닫힌 공(closed ball) $B$에 대해, $f(B)$가 $S^2$를 분리하지 않음(separate)을 보인다.

$a$와 $b$를 $S^2-f(B)$의 두 점이라 하자. 항등 함수 $i:B\to B$가 널호모토픽이므로, $f$를 제한하여 얻은 함수 $h:B\to S^2-a-b$는 널호모토픽이다. 그러면 Borsuk 보조정리에 의해 $a$와 $b$는 $S^2-h(B)=S^2-f(B)$의 같은 성분에 속한다.

단계 2. 우리는 $U$에 포함된 임의의 닫힌 공 $B$에 대해, $f(\text{Int }B)$가 $S^2$에서 열려 있음을 보인다.

공간 $C=f(\text{Bd }B)$는 $S^2$ 안의 단순 닫힌 곡선(simple closed curve)이므로 $S^2$를 분리한다. 연결 집합 $f(\text{Int }B)$를 포함하는 $S^2-C$의 성분을 $V$라 하고, 나머지 성분들의 합집합을 $W$라 하자. $S^2$가 국소 연결(locally connected)이므로, $V$와 $W$는 $S^2$에서 열려 있다. 우리는 $V=f(\text{Int }B)$임을 보이면 증명이 끝난다.

$a$가 $V$에 속하지만 $f(\text{Int }B)$에 속하지 않는다고 가정하고 모순을 유도하자. $b$를 $W$의 한 점이라 하자. 집합 $D=f(B)$는 $S^2$를 분리하지 않으므로, 집합 $S^2-D$는 $a$와 $b$를 포함하는 연결 집합이다. 이 집합은 $S^2-C$에 포함되므로 ($D\supset C$ 이기 때문에), $a$와 $b$는 $S^2-C$의 같은 성분에 속하게 되어 구성에 모순된다.

단계 3. 우리는 정리를 증명한다. $U$에 포함된 임의의 공 $B$에 대해, 집합 $f(\text{Int }B)$가 $S^2$에서 열려 있으므로, 함수 $f:U\to S^2$는 열린 함수(open map)이다. 따라서 $f(U)$는 $S^2$에서 열려 있고 $f^{-1}$는 연속이다.