원함수와 역함수는 어디에서 만날까

역함수와 두 그래프의 공통점

함수 $f:X\to Y$가 일대일 대응이면, $f$가 보낸 값을 원래 입력으로 되돌리는 역함수 $f^{-1}:Y\to X$가 존재한다. $f$가 $a$를 $b$로 보내면 역함수는 $b$를 $a$로 보낸다.

$$f(a)=b⟺f^{-1}(b)=a$$

따라서 역함수에서는 정의역과 공역 $X,Y$가 서로 바뀐다. 원함수 그래프에 $(a,b)$가 있으면 역함수 그래프에는 $(b,a)$가 있으므로 두 그래프는 직선 $y=x$에 대하여 대칭이다.

두 그래프의 공통점이 $(a,b)$라는 것은 같은 점이 두 그래프에 모두 놓인다는 뜻이다. 따라서

$$b=f(a),b=f^{-1}(a)$$

가 동시에 성립한다. 두 번째 식을 원함수로 나타내면 $f(b)=a$이므로, 공통점에서는

$$f(a)=b,f(b)=a$$

가 성립한다. 이 조건이 쉬운 예에서 어떻게 나타나는지 먼저 보자.

증가함수와 역함수의 교점

먼저 실수 전체에서 정의된 간단한 일차함수와 그 역함수를 보자.

$$f(x)=2x-1,f^{-1}(x)=\frac{x+1}{2}$$

교점에서는 두 함숫값이 같으므로

$$2x-1=\frac{x+1}{2}⟹x=1$$

이다. 따라서 교점은 $(1,1)$이고, 이 점은 $y=x$ 위에 있다.

이것은 이 예에서만 나타나는 성질이 아니다. 함수가 정의역 전체에서 증가하면 원함수와 역함수의 교점은 모두 $y=x$ 위에 있다. 여기서 증가한다는 것은 정의역의 모든 $u,v$에 대하여

$$u<v⟹f(u)<f(v)$$

가 성립한다는 뜻이다.¹ 따라서 증가함수에서는 교점의 두 좌표가 같으므로

$$f(x)=x$$

를 풀어 교점을 구할 수 있다. 앞의 예도 $2x-1=x$를 풀면 같은 결과를 얻는다.

그렇다면 항상 $y=x$ 위에서만 만날까?

두 그래프가 대칭이라는 사실만으로 모든 교점이 대칭축 위에 있다고 결론 내릴 수 있을까? 증가함수가 아닌 다음 세 예를 보자.

두 그래프가 일치하는 $y=-x$

실수 전체에서 $y=-x$의 역함수는 다시 $y=-x$이다. 두 그래프가 같은 직선이므로 모든 실수 $t$에 대하여 $(t,-t)$가 공통점이다.

예를 들어 $(-1,1)$과 $(1,-1)$은 모두 교점이지만 $y=x$ 위에는 없다. $-x=x$를 풀어 얻는 $(0,0)$은 공통점 중 하나일 뿐이다.

서로 다른 두 곡선이 만나는 $y=-x^3$

이번에는 실수 전체에서 $f(x)=-x^3$이라 하자. 원함수와 역함수의 그래프는 서로 다르지만, 다음 관계가 성립한다.

$$f(-1)=1,f(1)=-1,f(0)=0$$

역함수의 정의에 따라 $f^{-1}(-1)=1$, $f^{-1}(1)=-1$, $f^{-1}(0)=0$도 성립한다. 따라서 $(-1,1)$, $(1,-1)$, $(0,0)$은 두 그래프의 공통점이다.

이처럼 대각선 밖의 두 교점이 서로 대칭을 이룰 수도 있다. 교점들이 $y=x$에 대하여 대칭이라는 것과 각 교점이 $y=x$ 위에 있다는 것은 다르다.

끝점에서도 만나는 무리함수

이번에는 다음 무리함수를 보자. 집합의 원소는 모두 실수이다.

$$f(x)=\sqrt{1-x},X=\{x\mid x\le 1\},Y=\{y\mid y\ge 0\}$$

$y=\sqrt{1-x}$에서 $y\ge 0$이고 $x=1-y^2$이므로 역함수는

$$f^{-1}(x)=1-x^2(x\ge 0)$$

이다. 역함수의 정의역은 원함수의 공역 $Y$이므로 $x\ge 0$인 부분만 그린다.

원함수 그래프의 끝점은 $A(1,0)$이고 역함수 그래프의 끝점은 $B(0,1)$이다. 이 두 점은 각각 다른 그래프에도 놓인다.

$$f(1)=f^{-1}(1)=0,f(0)=f^{-1}(0)=1$$

따라서 $A,B$는 모두 공통점이며 둘 다 $y=x$ 밖에 있다.

또 $r=\frac{\sqrt{5}-1}{2}$라 하면 $r^2+r=1$, $r>0$이므로 $f(r)=r$이다. 따라서 $y=x$ 위의 $C(r,r)$에서도 만난다. 이 함수의 교점은 $A,B,C$의 세 점이다.²

이처럼 일치하는 직선 $-x$, 서로 다른 두 곡선인 $-x^3$의 경우와 마찬가지로, 무리함수에서도 대각선 밖 교점이 생길 수 있다. 교점을 모두 구하려면 두 좌표가 서로 바뀌는 조건을 식으로 확인해야 한다.

두 번 합성하여 교점 구하기

도입에서 본 공통점의 조건 $f(a)=b$, $f(b)=a$를 이어 보면

$$f(f(a))=f(b)=a$$

이다. 원함수를 한 번 적용하면 $a$에서 $b$로, 다시 적용하면 $b$에서 $a$로 돌아온다.

따라서 교점의 $x$좌표는

$$f(f(x))=x$$

를 만족한다. 반대로 합성이 정의되는 범위에서 이 등식을 만족하면 $(x,f(x))$는 두 그래프의 공통점이다.³

여기서는 원함수 $f$를 두 번 적용한다. 역함수의 정의에서 항상 성립하는 $f^{-1}(f(x))=x$와 구분해야 한다.

교점을 구할 때는 다음 순서로 확인한다.

1. $x\in X$이고 $f(x)\in X$인지 확인한다. 두 번째 함숫값을 구할 수 있어야 한다.
2. 이 범위 안에서 $f(f(x))=x$를 푼다.
3. $y=f(x)$를 구하고 원래 두 함수의 식과 정의역에 대입한다.

앞의 $f(x)=-x^3$은 모든 실수에서 두 번 합성할 수 있다.

$$\begin{array}{rl}f(f(x))=x& ⟺-(-x^3{)}^3=x\\ & ⟺x^9=x\\ & ⟺x(x^8-1)=0\end{array}$$

실수에서 $x^8=1$의 해는 $x=-1,1$이므로, 해는 $x=-1,0,1$이다. $y=f(x)$를 구하면 교점은 정확히

$$(-1,1),(0,0),(1,-1)$$

의 세 점이다. $f(x)=x$만 풀었다면 $(0,0)$만 찾고 나머지 두 점을 놓쳤을 것이다.

예제

다음 집합의 원소는 모두 실수이다.

1. $y=2x+3$의 원함수와 역함수의 그래프의 교점을 구하라.⁴

2. $y=-2x+3$의 원함수와 역함수의 그래프의 교점을 모두 구하라. 감소함수이면 반드시 $y=x$ 밖에서도 만나는가?⁵

3. $y=-\sqrt{x}$의 정의역은 $X=\{x\mid x\ge 0\}$, 공역은 $Y=\{y\mid y\le 0\}$이다. 역함수와 두 그래프의 교점을 구하라. 원함수를 두 번 적용할 수 있는 $x$도 구하라.⁶

4. $f(x)=-x$의 정의역은 $X=\{x\mid x>0\}$, 공역은 $Y=\{y\mid y<0\}$이다. 원함수와 역함수의 그래프는 만나는가? 실수 전체에서 정의한 $y=-x$와 식이 같은데 결과가 달라지는 이유를 설명하라.⁷

Footnotes

1. 공통점 $(a,b)$에서는 $f(a)=b$, $f(b)=a$이다. $a<b$라면 증가 조건에 의해 $f(a)<f(b)$이지만, 두 식을 대입하면 $b<a$가 되어 모순이다. $a>b$도 같은 이유로 불가능하므로 $a=b$이다. 반대로 정의역의 원소 $x$가 $f(x)=x$를 만족하면 $f^{-1}(x)=x$이므로 $(x,x)$는 두 그래프의 공통점이다. ↩

2. 원함수를 $f$라 하면 두 번 합성하려면 $x\le 1$이고 $\sqrt{1-x}\le 1$이어야 하므로 $0\le x\le 1$이다. 이 범위에서 $f(f(x))=x$를 두 번 제곱하면 $\sqrt{1-x}=1-x^2$, $1-x=(1-x^2{)}^2$를 거쳐 $x(x-1)(x^2+x-1)=0$을 얻는다. 각 단계의 양변이 0 이상이므로 동치인 변형이다. 허용되는 해는 $x=0,1,\frac{\sqrt{5}-1}{2}$이고, 교점은 $(0,1),(1,0),(\frac{\sqrt{5}-1}{2},\frac{\sqrt{5}-1}{2})$이다. ↩

3. 공통점 $(x,y)$에서는 $f(x)=y=f^{-1}(x)$이므로 $f(y)=x$이다. 따라서 $f(x)=y\in X$여서 합성이 정의되고 $f(f(x))=x$이다. 반대로 $x\in X$, $f(x)\in X$이고 $f(f(x))=x$라고 하자. 바깥쪽 $f$의 값인 $x$는 $Y$에 속하므로 $f^{-1}(x)$가 정의된다. 양변에 역함수를 적용하면 $f(x)=f^{-1}(x)$를 얻는다. 따라서 $(x,f(x))$는 두 그래프의 공통점이다. ↩

4. 원함수가 증가하므로 $2x+3=x$에서 $x=-3$이다. 교점은 $(-3,-3)$이다. 역함수 $y=\frac{x-3}{2}$에도 이 점이 놓인다. ↩

5. 원함수를 $f$라 하면 $f(f(x))=4x-3$이다. $4x-3=x$에서 $x=1$이므로 교점은 $(1,1)$ 하나이다. 감소함수에서도 모든 교점이 $y=x$ 위에 있을 수 있다. ↩

6. 역함수는 $y=x^2(x\le 0)$이다. 공통점의 $x$좌표는 $X\cap Y=\{0\}$에 속해야 하고 두 함숫값도 0이므로, 두 그래프는 공통 끝점 $(0,0)$에서만 만난다. 또 $-\sqrt{x}\in X$이려면 $-\sqrt{x}\ge 0$이어야 하므로 두 번 적용할 수 있는 입력도 $x=0$뿐이다. ↩

7. 역함수는 $f^{-1}:Y\to X$, $f^{-1}(x)=-x$이다. $X\cap Y=\varnothing$이므로 두 그래프는 만나지 않는다. $0$은 두 정의역에서 모두 제외되어 있다. 또한 $x\in X$이면 $f(x)\notin X$이므로 $f(f(x))$도 정의되지 않는다. ↩