선형 방정식의 최소해(Minimal Solution)

선형 방정식의 최소해(Minimal Solutions to Systems of Linear Equations)

일반적으로 선형 방정식 $Ax=b$ 가 일관된 경우에도 해가 유일하지 않을 수 있다. 이러한 경우, 최소 노름(norm)의 해를 찾는 것이 유용할 수 있다. 방정식 $Ax=b$ 의 해 $s$ 가 모든 해 $u$ 에 대해 $\Vert s\Vert \le \Vert u\Vert$ 를 만족할 때, $s$ 를 최소해(minimal solution) 라고 한다.

최소해를 찾는 방법

$A\in M_{m\times n}(F)$ 이고 $b\in F^m$ 라 하자. $Ax=b$ 가 일관된다고 가정하자. 그러면 다음이 성립한다.

1. $Ax=b$ 의 최소해 $s$ 가 단 하나 존재하며, $s\in R(L_A^{\ast })$ 이다.

2. $s$ 는 $Ax=b$ 를 만족하는 해 중에서 $R(L_A^{\ast })$ 에 속하는 유일한 해이다. 즉, 만약 $(A{A}^{\ast })u=b$ 를 만족하는 $u$ 가 있다면, $s=A^{\ast }u$ 가 된다.

1. 증명

편의상 $W=R(L_A^{\ast })$ 및 $W^{\prime }=N(L_A)$ 라 두자. $Ax=b$ 의 임의의 해 $x$ 에 대해, $x=s+y$ 를 만족하는 어떤 $s\in W$ 와 $y\in W^{\prime }$ 가 존재한다. $W^{\perp }=W^{\prime }$ 이므로, $b=Ax=As+Ay=As$ 가 성립한다. 따라서 $s$ 는 $Ax=b$ 의 해이며 $W$ 에 속한다. 이를 최소해임을 보이려면, 임의의 해 $v$ 가 주어졌을 때 $s$ 가 유일한 최소해임을 보이면 된다. $v=s+u$ 이고, 여기서 $u\in W^{\prime }$ 이다. $s\in W$ 이므로 $W^{\perp }=W^{\prime }$ 에 의해 다음이 성립한다.

$$\Vert v{\Vert }^2=\Vert s+u{\Vert }^2=\Vert s{\Vert }^2+\Vert u{\Vert }^2\ge \Vert s{\Vert }^2$$

따라서 $s$ 가 최소해임을 알 수 있다. 또한 위의 계산에서 $\Vert v\Vert =\Vert s\Vert$ 이면 $u=0$ 이어야 하므로, $v=s$ 가 된다. 따라서 $s$ 는 $Ax=b$ 의 유일한 최소해이다.

2. 증명

만약 $v$ 가 $Ax=b$ 를 만족하는 또 다른 해이고 $W$ 에 속한다면,

$$v-s\in W\cap W^{\prime }=W\cap W^{\perp }=\{0\}$$

이므로 $v=s$ 가 성립한다.

마지막으로, $(A{A}^{\ast })u=b$ 라고 가정하자. $v=A^{\ast }u$ 라 두면, $v\in W$ 이고 $Av=b$ 이므로, 위의 논의에 의해 $s=v=A^{\ast }u$ 가 된다.

해집합을 $s+u$ 꼴로 나타내는 것이 효율적인 이유

모든 해를 “최소해 + 영공간의 원소” 꼴로 나타내는 방식이 효율적인 이유는 다음과 같다.

1. 최소해 $s$ 는 유일하므로, 해의 대표성을 명확하게 제공한다.

$Ax=b$ 를 만족하는 가장 작은 노름(norm)의 해 를 찾으면, 이것이 고유한 기준점 역할을 한다. 다른 해들은 이 최소해에 어떤 변화를 더한 형태로 쉽게 기술할 수 있다.

2. 해 공간의 구조를 분해하여 해석하기 쉽다.

해집합은 크게 최소해 $s$ 가 만드는 부분 과 영공간의 자유도 $N(A)$ 로 나뉜다. 즉, $N(A)$ 가 얼마나 큰지에 따라 해가 얼마나 많이 존재하는지 쉽게 알 수 있다.

3. 최소해를 찾으면 추가적인 해를 구하는 것이 간단해진다.

만약 최소해 $s$ 를 이미 알고 있다면, 나머지 해들은 단순히 $N(A)$ 에 속하는 벡터 $u$ 를 추가하여 쉽게 생성할 수 있다. 이는 해를 구성하는 효율적인 방법을 제공한다.

4. 선형 시스템의 일반적인 해석과 일관성이 있다.

일반적인 선형 연립방정식의 해는 “특정 해 + 동차 해” 꼴로 표현된다. 최소해를 찾는 것은 특정 해를 찾는 과정과 동일하며, 동차방정식 $Ax=0$ 의 해 공간이 바로 $N(A)$ 가 된다.