정규분포에서 종 모양 곡선 을 보면 원은 어디에도 없습니다. 곡선은 좌우 대칭으로 뻗어나가다 양쪽 끝에서 0으로 사라질 뿐입니다. 그런데 답이 입니다.

바늘을 마루바닥에 떨어뜨려도 가 나옵니다.

역수의 제곱을 끝없이 더해도 가 나옵니다.

진자가 한 번 왔다 갔다 하는 시간을 재도 가 나옵니다.

원은 어디에도 보이지 않는데, 는 자꾸 나타납니다. 어떻게 원을 그리지 않고 원주율을 구할 수 있을까요? 이 질문에 답하려면, ‘원주율을 구한다’는 의미가 2000년 동안 어떻게 변해왔는지를 따라가야 합니다. 아르키메데스에게 는 줄자로 조여야 겨우 잡히는 수였고, 베일리-보르바인-플루프에게는 원하는 자릿수를 골라서 뽑아볼 수 있는 정보였습니다. 원주율을 향한 접근법이 바뀔 때마다, 계산한다는 정의가 달라졌습니다.

줄자와 컴퍼스의 시대

기원전 3세기, 아르키메데스는 원의 둘레를 재고 싶었습니다. 문제는 곡선이었습니다. 직선은 자로 잴 수 있지만 곡선은 잴 수 없습니다. 구부러진 실을 원 위에 올려놓고 펼쳐서 재는 방법이 있긴 하지만, 그것은 측정이지 계산이 아닙니다.

아르키메데스의 아이디어는 단순했습니다. 곡선을 직선으로 끼워 넣는 것입니다. 원 안에 정육각형을 넣으면 그 둘레는 원의 둘레보다 짧습니다. 원 밖에 정육각형을 두르면 그 둘레는 원의 둘레보다 깁니다. 원의 둘레는 그 사이 어딘가에 있습니다.

반지름 1인 원에 정육각형을 내접시키면, 한 변의 길이는 정확히 1입니다. 변이 여섯개이므로 둘레는 6이고, 지름 2로 나누면 3입니다. 가 대략 3이라는 사실을, 고작 자와 컴퍼스만으로 확인할 수 있습니다.

다각형을 쪼개다

아르키메데스는 여기서 멈추지 않았습니다. 정육각형의 각을 이등분하면 정12각형이 됩니다. 정12각형의 각을 이등분하면 정24각형이 됩니다. 변의 수를 6에서 12, 24, 48, 96으로 늘려갈 때마다 다각형은 원에 가까워집니다.

반지름 인 원에 내접하는 정각형의 둘레를 , 외접하는 정각형의 둘레를 라고 하면, 원의 둘레 는 항상 이 사이에 갇힙니다.

이므로 양변을 로 나누면,

이 커질수록 왼쪽은 올라가고 오른쪽은 내려옵니다. 그가 얻은 결과는 이렇습니다.

소수로 쓰면 입니다. 소수점 아래 둘째 자리까지 정확합니다. 컴퓨터는커녕 아라비아 숫자도 없던 시대에, 오직 기하학의 논리만으로 이 정밀도에 이르렀습니다.1

실제 정다각형의 둘레를 구하는 수학적 참값은 변의 수가 늘어날수록 제곱근()이 계속 중첩되는 무리수 형태를 띤다. 지름이 1인 원(즉, 둘레가 )을 기준으로 내접 다각형의 길이를 구해보면 다음과 같이 변한다.

  • 정6각형:
  • 정12각형:
  • 정24각형:
  • 정48각형:
  • 정96각형: 고대 그리스에는 이러한 무리수를 끝까지 계산할 소수점 표기법이 없었다. 따라서 아르키메데스는 계산 과정에서 루트가 등장할 때마다 과 같이 무리수를 매우 정교한 유리수의 하한과 상한으로 가두어 계산을 이어갔다. 즉, 최종 결과인 각형의 실제 둘레 길이가 아니라, 무리수 계산을 유리수로 근사해 내며 끝까지 밀어붙인 추론의 결과물이다.

이 방법에는 한계가 있었습니다. 한 자리를 더 얻으려면 변의 수를 대략 세 배로 늘려야 합니다. 소수점 아래 10자리를 얻으려면 수십만각형이 필요합니다. 기하학은 의 존재를 보여주었지만, 의 자릿수를 효율적으로 드러내는 데는 역부족이었습니다.

더 빠른 방법은 없을까요?

줄자 대신 바늘을 던지다

기하학으로 를 찾는 방법이 하나 더 있습니다. 다만 이번에는 컴퍼스가 아니라 바늘을 씁니다.

1777년, 프랑스의 뷔퐁은 바닥에 평행선을 등간격으로 긋고, 그 위에 바늘을 무작위로 떨어뜨렸습니다. 바늘이 선을 걸칠 확률은 얼마일까요?

바늘의 길이를 , 평행선 사이 간격을 라 하면(), 바늘이 선을 걸칠 확률 는 다음과 같습니다.

여기서 은 바늘의 길이, 는 평행선 간격, 그리고 는 우리가 구하고 싶은 바로 그 수입니다.

이 식을 뒤집어 바늘을 번 던져 선을 걸친 횟수를 세고, 그 비율 대신 넣으면 의 근삿값을 얻습니다.

원을 그리지도 않았는데 원주율이 나옵니다. 바늘이 회전하며 떨어지기 때문입니다. 바늘의 각도가 에서 까지 균일하게 분포하고, 그 각도의 사인 함수를 적분하면 가 등장합니다. 원의 둘레가 아니라, 회전의 가능성 전체를 측정할 때 가 나타나는 것입니다.

다만 정밀도는 처참합니다. 오차가 이니, 소수점 한 자리를 더 맞추려면 던지는 횟수를 100배로 늘려야 합니다. 뷔퐁의 바늘 역시 를 실용적으로 계산하는 방법은 아닙니다. 그러나 이 실험은 는 원만의 것이 아니라는 사실을 보여주었습니다.

원 없이 를 만나다

17세기, 유럽에서 뉴턴과 라이프니츠가 미적분학을 발명했고, 무한급수라는 기술이 수학자들의 손에 쥐어졌습니다. 이제 를 다각형의 변으로 조여 넣는 대신, 무한히 많은 수를 더하거나 곱해서 에 도달할 수 있게 되었습니다.

비에트의 무한곱

1593년, 프랑수아 비에트는 를 구하기 위해 다각형의 변을 세는 대신, 수를 끝없이 곱하기 시작합니다. 그가 도달한 공식은 제곱근 안에 제곱근이 중첩되는 기묘한 형태였습니다.

왜 이런 형태가 나올까요? 코사인의 반각 공식에서 출발합니다. 로 바꾸는 관계식을 반복 적용하면, 유한곱에 대해 다음이 성립합니다.

이 등식은 삼각함수의 항등식 번 적용하면 얻어집니다. 좌변의 코사인 곱이 하나씩 생겨나고, 우변에는 이 남습니다.

이면 이므로 우변의 분모가 에 수렴하고,

여기에 를 대입합니다. 이므로 좌변의 무한곱이 가 됩니다. 남은 것은 각 코사인 값을 구체적으로 쓰는 일입니다. 반각 공식 를 반복하면,

이렇게 중첩 제곱근이 차례로 생겨나면서, 비에트의 공식이 완성됩니다.2 역사상 처음으로, 가 기하학적 측정이 아닌 순수한 대수적 연산 즉, 곱셈과 제곱근만으로 표현되었습니다.

같은 세기에 월리스는 정수 분수들의 무한곱으로,3

브라운커는 홀수 제곱이 끝없이 쌓이는 연분수로4 같은 상수에 도달했습니다.

원주율을 표현하는 방법이 한꺼번에 세 가지나 열린 것입니다.

그러나 새로운 방법을 알았다해서 속도까지 빨라진건 아니었습니다. 비에트의 곱을 열 번 취해도 겨우 소수점 아래 셋째 자리까지 밖에 찾지 못했습니다. 월리스 곱과 브라운커 연분수도 사정은 비슷했습니다. 를 정확히 표현하는 것과 의 자릿수를 빠르게 읽어내는 것은 전혀 다른 문제였고, 그 속도를 끌어올리려면 완전히 다른 전략이 필요했습니다.

아크탄젠트, 속도를 얻다

1673년, 라이프니츠는 아크탄젠트 함수의 멱급수를 발견했습니다.

사실 인도의 수학자 마다바와 닐라칸타가 이미 15세기에 알고 있었지만, 유럽에서는 라이프니츠와 그레고리가 독립적으로 발견한 것으로 기록됩니다.5

는 다음과 같이 무한급수로 전개됩니다.

여기서 인 실수이고, 은 0부터 시작하는 항의 번호입니다. 이므로 을 대입하면 다음과 같습니다.

처음 10항까지 더한 결과에 결과에 를 곱하면 약 입니다.

10항을 더했는데 겨우 소수점 아래 첫째 자리도 찾지 못했습니다. 항이 로 줄어드니 수렴하는 속도가 너무나 느립니다.

이때, 영국의 존 매친이 기발한 아이디어를 냈습니다. 로 직접 계산하는 대신, 인수가 훨씬 작은 아크탄젠트들의 합으로 분해하는 것입니다.

매친 공식입니다. 왜 이렇게 쓸 수 있을까요? 아크탄젠트 덧셈 정리에서 출발합니다.

이 정리를 반복 적용하면,

아크탄젠트는 기울기를 각도로 바꿔주는 함수이므로, 특정한 기울기에서 나온 각도를 조합해 정확히 를 만들어낼 수 있습니다.

라이프니츠 급수 의 급수 전개라서, 각 항의 크기가 대략 수준으로만 줄어다. 즉, 항이 ‘분모가 조금씩 커지는 정도’로만 작아지기 때문에 아주 많은 항을 더해야 겨우 정확도가 올라간다. 반면 가 1보다 작으면 같은 형태의 교대급수로 전개되지만, 이번에는 각 항에 이 붙는다. 그러므로 이면 항마다 처럼 거듭제곱으로 급격히 작아진다. 만 커져도 배씩 더 줄어드는 꼴이라, 라이프니츠 급수와는 비교가 안 되게 빨리 작아진다. 결과적으로 몇 항만 더해도 합이 거의 고정되고, 오차가 빠르게 사라진다. 여기에 더해서 가 훨씬 더 작은 수라서, 전개에서 나오는 항들이 처럼 거의 즉시 에 가까워진다. 즉, 은 정밀 보정용으로 넣어도 계산 부담이 거의 없고, 매우 적은 항으로도 충분한 정확도를 제공한다.

매친은 이 공식으로 를 이전과는 비교할 수 없는 정밀도로 계산했습니다. 아르키메데스가 정96각형으로 겨우 2자리를 얻었던 것과 비교하면, 해석학이 기하학에 가져다 준 속도의 차이가 느껴집니다.

이후 수학자들은 더 좋은 조합을 찾아 나섰습니다. 를 여러 개의 의 선형결합으로 표현하는 것입니다.

여기서 는 정수 계수, 는 큰 정수입니다. 가 클수록 급수의 수렴이 빠르므로, 좋은 조합을 찾는 것은 이제 정수론의 문제가 됩니다.6

종 모양 곡선 아래 숨은

아크탄젠트 급수에서는 라는 삼각함수의 특잇값으로 등장했습니다. 그런데 가 삼각함수와 전혀 무관해 보이는 곳에서도 나타난다면 어떨까요?

정규분포의 종 모양 곡선, 즉 의 그래프를 생각해 보겠습니다. 이 함수에는 사인도 코사인도, 원도 각도도 없습니다. 순수한 지수함수입니다. 그런데 이 곡선 아래의 넓이를 구하면, 입니다. 왜 일까요?

라 하면, 같은 적분을 에 대해서도 쓸 수 있으므로,

1차원 적분의 제곱을 2차원 적분으로 바꿀 수 있습니다. 이제 극좌표로 변환합니다. , 로 놓으면 이고, 면적 원소가 로 바뀝니다.

이므로 입니다.7

를 적분하는 과정에서 가 나오는거죠. 2차원 평면의 회전 대칭, 즉 모든 방향으로 동일하게 퍼지는 가우스 함수의 성질이 에서 까지 돌게 하고, 그 결과로 가 등장합니다. 원을 그리지 않았는데 원이 나타난 것이 아닙니다. 2차원의 대칭성 자체가 원이고, 그 원의 척도가 인 것입니다.

오일러, 를 다항식처럼 다루다

1734년, 바젤. 스위스 태생의 수학자 레온하르트 오일러는 10년 넘게 유럽 수학자들을 괴롭혀 온 문제에 도전하고 있었습니다.

이 급수가 수렴한다는 것은 알려져 있었지만 정확히 어떤 값으로 수렴하는지는 몰랐죠.

오일러의 풀이는 대담했습니다. 를 다항식처럼 취급한 것입니다. 의 영점은 의 정수배()입니다. 다항식이 근으로 인수분해되듯, 도 영점으로 인수분해할 수 있다는 발상이었습니다.

좌변의 를 테일러 급수로 전개하고,

우변의 무한곱을 전개하면 항의 계수는 다음과 같습니다.

양변에서 의 계수를 비교하면,

수렴값을 찾을 수 있습니다.

즉, 역수의 제곱을 모두 더하면 이 됩니다.8 이 결과가 놀라운 이유는, 좌변에 의 흔적이 전혀 없기 때문입니다. 은 자연수의 제곱의 역수일 뿐인데, 그 합에 원주율의 제곱이 등장합니다.

오일러의 사인 무한곱은 월리스 곱도 설명합니다. 를 대입하면,

이것의 역수가 바로 월리스 곱입니다.

하나의 공식이 를 구하는 여러가지 방법을 제시합니다.

가 출몰하는 장소들

오일러의 무한곱은 가 자신의 영점들로 인수분해된다는 것을 보여주었습니다. 는 사인 함수 속에 박혀 있었던 셈입니다. 그런데 의 편재성(자원이나 현상이 지구상에 고르게 분포하지 않고 특정 지역에 집중되어 나타나는 특성)은 여기서 끝나지 않습니다. 가우스 적분에서 만난 는 사실 훨씬 더 깊은 구조의 일부입니다.

팩토리얼을 정수가 아닌 수로 확장한 함수가 있습니다. 감마 함수 입니다. 이 함수에는 반사 공식이라는 성질이 있습니다.

를 대입하면 이므로,

입니다.

앞에서 가우스 적분의 결과가 라는 것을 보았습니다. 우연의 일치는 아니고, 의 정의를 직접 풀어쓰면 가우스 적분과 정확히 동치가 됩니다.9

가우스 적분의 는 2차원 회전 대칭이 만들어낸 결과였고, 감마 함수의 반사 공식은 그 대칭을 사인 함수의 주기성과 연결합니다. 가 등장하는 서로 다른 장소들이, 사실 하나로 이어져 있는 것입니다.

이 밖에도 베타 함수 를 계산하면 가 나타나고,

디리클레 적분 의 값도 입니다.

원의 둘레를 재지 않아도 대칭과 주기가 있는 곳이면 는 어디든 출몰합니다. 가 도처에 있다는 것은 알겠는데, 그 자릿수를 얼마나 빨리 읽어낼 수 있을까요?

를 계산하는 기계

20세기 후반, 컴퓨터의 등장은 계산의 판을 완전히 바꾸었습니다. ‘어떤 공식이 를 표현하는가?’ 보다 ‘어떤 알고리즘이 의 자릿수를 가장 빨리 뽑아내는가?‘가 핵심 질문이 되었습니다.

산술-기하평균의 마법

1976년, 유진 살라민과 리처드 브렌트가 독립적으로 같은 알고리즘을 제안했습니다. 가우스가 연구한 산술-기하평균(AGM)을 이용해 를 계산하는 방법입니다.

아이디어는 이렇습니다. 두 수 가 있을 때, 산술평균 와 기하평균 를 반복적으로 취합니다.

은 빠르게 같은 값으로 수렴합니다. 이 공통 극한이 AGM이고, 이것은 완전타원적분과 관련되어 있습니다.

별도의 보조 변수 을 도입하면,

의 근삿값은 다음과 같습니다.

이 알고리즘의 수렴 속도는 이차(quadratic)입니다. 매 반복마다 정확한 자릿수가 대략 두 배로 늘어납니다. 수십 번의 반복만으로 수천만 자리를 얻습니다.10

보르바인 형제는 여기서 더 나아가 사차(quartic) 수렴 즉, 매 반복마다 정확한 자릿수가 네 배로 늘어나는 변형 알고리즘도 개발했습니다.

그러나 AGM 알고리즘에는 한 가지 병목이 있습니다. 매 단계에서 대정밀도 곱셈을 해야 합니다. 자리 수 두 개를 곱하는 데 드는 비용이 전체 계산 시간을 지배합니다. 더 적은 곱셈으로, 더 많은 자릿수를 뽑아낼 방법은 없을까요?

라마누잔의 공책에서 추드노프스키의 서버까지

1914년, 라마누잔은 낮에는 장부를 정리하고, 밤에는 공책에 수식을 적었습니다. 그 공책에 있던 급수 중 하나가, 반세기 뒤 계산의 세계 기록을 세우는 공식이 됩니다.

라마누잔은 모듈러 방정식과 특이 모듈라이에 대한 직관을 바탕으로, 를 빠르게 수렴하는 급수로 표현하는 공식들을 발견했습니다.11

1980년대, 추드노프스키 형제(데이비드와 그레고리)는 라마누잔의 방법을 정교화하여 다음 공식을 유도했습니다.

핵심은 수렴 속도입니다.

한 항만으로 이미 자리가 정확합니다.

까지 더하면 약 자리, 까지 더하면 약 자리. 한 항당 약 자리의 정밀도를 얻습니다.

아크탄젠트 급수가 수백 항을 더해야 소수점 아래 몇 자리를 얻는 것과 비교하면 차원이 다른 속도입니다. 실제 구현에서는 이진 분할(binary splitting)이라는 기법을 씁니다. 급수의 유리수 부분합을 묶어서 계산하면, 분할정복 방식으로 곱셈 횟수를 줄일 수 있습니다. 추드노프스키 급수와 이진 분할의 조합은 오늘날 대부분의 세계 기록 계산에 사용되는 표준 방법입니다.

수도꼭지처럼 한 자리씩

급수와 이진 분할은 의 자릿수를 한꺼번에 계산합니다. 그런데 한 자리씩, 순서대로 뽑아내는 방법도 있습니다.

1995년, 스탠리 라비노비츠와 스탠 왜건은 스피곳(spigot) 알고리즘을 발표했습니다. 의 자릿수를 수도꼭지에서 물이 떨어지듯 하나씩 출력하는 것입니다.12

이 알고리즘은 정수 배열을 유지하면서, 오른쪽에서 왼쪽으로 모듈러 감소와 캐리 전달을 반복합니다. 중간에 큰 부동소수점 수를 만들지 않고, 오직 정수 연산만으로 다음 자릿수(0에서 9 사이)를 하나씩 뽑아냅니다.

실용적 정밀도에서는 추드노프스키 급수에 미치지 못하지만, 의 자릿수를 순차적으로 생성하는 아이디어는 계산의 본질에 대한 질문을 던집니다. 를 계산하려면 반드시 전체를 한꺼번에 알아야 할까요?

앞자리 없이 뒷자리를 읽다

1997년, 데이비드 베일리, 피터 보르바인, 시몽 플루프는 수학 계산 저널에 논문을 발표했습니다. 의 16진수 번째 자리를, 앞의 자리를 계산하지 않고 직접 구할 수 있다는 것이었습니다.13

BBP 공식은 다음과 같습니다.

번째 16진 자릿수를 구하는 원리를 살펴보겠습니다. 급수를 부터 까지의 앞부분과 부터의 뒷부분으로 나눕니다. 앞부분에서 를 모듈러 거듭제곱으로 빠르게 계산합니다. 뒷부분은 가 기하급수적으로 작아지므로 소수 항만 더해도 충분합니다.

이것은 라는 수의 정보 구조에 대한 근본적인 발견입니다. 의 자릿수가 순차적으로만 접근 가능한 것이 아니라, 임의 접근(random access)이 가능하다는 것입니다. 마치 책을 처음부터 읽지 않아도 1000번째 페이지를 바로 펼칠 수 있는 것처럼요.

의 소수점 아래 1조 번째 자리를 계산하는 데 원은 필요 없었습니다. BBP 공식은 여기서 한 걸음 더 나아갑니다. 앞의 9999억 9999만 9999자리조차 필요 없었습니다.

원의 상수를 넘어서

단진자 하나를 떠올려 보겠습니다. 실에 추를 매달고 살짝 밀면, 추는 좌우로 왕복합니다. 소각 근사를 적용하면 그 주기는 다음과 같습니다.

는 왕복 주기, 은 실의 길이, 는 중력가속도입니다. 원을 그리지도 않았는데 가 나옵니다.14

더 일반적으로, 조화진동 의 주기는 입니다.(는 각진동수, 는 진폭, 는 초기 위상) 진동이 한 바퀴를 도는 데 걸리는 시간이 인 것은, 코사인 함수의 주기가 이기 때문입니다.

는 ‘원의 둘레를 지름으로 나눈 수’라는 정의에서 출발했습니다. 그러나 2000년의 여정을 따라가고 나면, 그 정의는 의 한 단면에 불과하다는 것을 알게 됩니다.

는 원의 상수가 아닙니다. 는 대칭의 상수이고, 주기의 상수이며, 정규화의 상수입니다. 원은 가 처음 모습을 드러낸 장소였을 뿐입니다. 사실은 진자가 흔들리고, 종 모양 곡선이 퍼지고, 양자가 진동하는 모든 곳에 가 있었습니다.

Footnotes

  1. Archimedes(번역/편집본), Emre Coşkun(2023), Archimedes’s Measurement of the Circle in Arabic, SCIAMVS 23.

  2. S. M. Abrarov, B. M. Quine(2016), arXiv:1608.06185.

  3. John Wallis(1656), Arithmetica Infinitorum.

  4. Sergey Khrushchev(2006), A Recovery of Brouncker’s Proof for the Quadrature Continued Fraction, Publicacions Matemàtiques 50.

  5. Ranjan Roy(1990), “The Discovery of the Series Formula for by Leibniz, Gregory and Nilakantha”, Mathematics Magazine 63(5), 291–306.

  6. J. M. Borwein, P. B. Borwein, D. H. Bailey(2004), “Ramanujan, modular equations, and approximations to pi…”

  7. Keith Conrad(강의노트), The Gaussian Integral; NIST DLMF §7.2.

  8. Leonhard Euler(1734), De summis serierum reciprocarum(E41).

  9. NIST DLMF §5.5(감마 반사 공식), §5.12(베타함수).

  10. Eugene Salamin(1976), Mathematics of Computation 30, 565–570; Richard P. Brent(2010), arXiv:1004.3412.

  11. Ramanujan(1914), Quarterly Journal of Mathematics 45, 350–372; Lorenz Milla(2018/2021), arXiv:1809.00533.

  12. Stanley Rabinowitz, Stan Wagon(1995), The American Mathematical Monthly 102(3), 195–203.

  13. David H. Bailey, Peter B. Borwein, Simon Plouffe(1997), Mathematics of Computation 66(218), 903–913.

  14. OpenStax(2016), University Physics Volume 1, Ch.15; MIT OCW(2016/2022), 8.01SC Classical Mechanics, Chapter 23.