대학수학 맛보기 - 부정적분

PDF 파일로 보고 싶은 분은 이걸로. IndefiniteIntegral.pdf

모처에 "대학수학 맛보기"라는 제목으로 실었던 글.

꼬꼬마 시절, 미분과 적분은 마술과 같은 환상적인 세계였다. 특히, 주어진 함수의 부정적분을 온갖 예술적인 기교로 구하는 것은 정말로 매혹적이었다. 아름다운 미술 작품을 감상하는 것이나 다를 바 없었다. 치환적분, 부분적분, 부분분수 등등 적분 기교 하나하나가 다 멋있었고, 이런 기교들로 만들어낸 결과는 아름다운 조각품이었다.

적당한 함수를 하나 만들고, 요리조리 궁리하여 그 부정적분을 구해내는 것은 흥미로운 놀이였다. 그러나 아무리 노력해도 부정적분을 구하지 못해 애태운 함수들이 있었다. 대표적인 예가 \(y=e^{-x^2}\)과 같은 함수. 정규분포의 확률밀도 함수를 구성하는 이 함수는 무슨 짓을 해도 부정적분을 구하기가 어려웠다. 연속함수이니 부정적분이 존재하는 것이야 당연하지만, 도무지 그 모양을 알 수가 없었다. 요즘 같으면 인터넷으로 뒤져 보면 1초만에 알 수 있겠지만, 저 시대에는 인터넷도 없었고, 수학 관련 책도 많지 않았다.

부정적분을 구하기 어려웠던 또 하나의 함수는 \(y=x^x\)이었다. 이 함수는 도함수를 구할 때 로그 미분을 이용해서 흥미로웠는데, 이런 기교도 부정적분을 구하는 데는 아무 도움이 안 되었다. 사실 \(e^{-x^2}\)의 부정적분이 하나의 식으로 표현되기 어려울 것이라는 점은 충분히 짐작할 수 있었다. 이런 게 가능했다면, 정규분포표 같은 걸 만들 필요가 없었을 테니. 정규분포를 이용하여 확률을 계산한 결과를 표로 만들었고, 그 표에 적분 기호 없이 부정적분이 적혀 있지 않다는 것은 부정적분이 간단히 표현될 리가 없다는 뜻이었다. 나중에 알고 보니 1835년에 리우빌(J. Liouville)이 이 사실을 증명하였다. 그렇다면 \(x^x\)은?

짧은 지식으로는 도저히 \(\int x^x dx\)를 구할 수 없었다. 아마 수학과를 가야 이런 부정적분을 구할 수 있겠거니 생각하였다. 반은 맞고 반은 틀렸다. 이런 부정적분에 대해 이해하려면 수학을 전공해야 했다는 점에서 반이 맞았지만, 이런 부정적분을 다항식, 분수식, 지수함수, 로그함수, 삼각함수, 역삼각함수 등등을 조합하여 나타내는 것이 불가능하다는 점에서는 반이 틀린 셈이었다.

논의를 간단히 하기 위해 모든 함수는 복소수에서 정의되는 복소함수로 생각하자. 이렇게 하면

\[\cos x = \frac{e^{ix}+e^{-ix}}{2}, \qquad \sin x = \frac{e^{ix}-e^{-ix}}{2i}\] 이 되어, 삼각함수와 역삼각함수를 지수함수와 로그함수를 이용하여 나타낼 수 있으므로 편리하다. 이제 지수함수와 로그함수에 사칙계산과 거듭제곱근을 적용하여 표현되는 함수를 “초등함수”라 부르자. 그러면 문제는 \(e^{-x^2}\)이나 \(x^x\)의 부정적분을 초등함수로 나타낼 수 있느냐 없느냐가 된다.

아무리 복잡한 초등함수라도 미분하는 것은 어렵지 않다. 함수들의 집합 \(S\)에 속하는 원소 \(f(x)\)가 \(S\)의 원소들을 더하고 빼고 곱하고 나누어서 표현된다면 그 도함수 \(f'(x)\)도 \(S\)의 원소들을 더하고 빼고 곱하고 나누어서 표현된다. 예를 들어, 유리식 전체의 집합을 생각하면, 이 집합은 사칙계산에 대해 닫혀 있고, 각 원소의 도함수들도 원소로 가지고 있다. 사칙계산에 대해 닫혀 있는 집합을 체(field)라 부른다. 유리식 전체의 집합은 미분에 대해 닫혀 있는 체라 할 수 있다. 이것을 일반화하여 “미분체(differential field)”를 다음과 같이 정의하자.

정의. (미분체) 체 \(F\)가 단항연산 \(':F \to F, (a+b)' = a'+b', (ab)' = a'b + ab'\)을 가지고 있을 때, 체 \(F\)를 미분체(differential field)라 부른다.

물론 단항연산 \('\)은 우리가 잘 아는 미분을 뜻하지만, 극한을 이용하여 구체적으로 미분을 정의하는 대신 미분이 가지는 성질인 선형성(linearity)과 라이프니츠 규칙(Leibniz' rule)만을 가정하면 미분체들의 대수적 구조를 파악하기에 편리하다.

미분체의 예로는 유리식의 집합 \(\mathbb{C}(x)\)를 들 수 있다. 유리식은 사칙계산에 대해 닫혀 있고, 유리식을 미분한 결과 역시 유리식이기 때문이다. 유리식의 집합만이 미분체인 것은 아니다. 무리함수 \(y=\sqrt{x}\)는 유리식이 아니므로, 유리식과 \(y=\sqrt{x}\)에 사칙계산을 적용하여 만들 수 있는 모든 함수들의 집합은 유리식의 집합보다 더 큰 미분체가 된다. 여기서, 유리식의 집합에 문자 \(t\)를 추가하여 보통의 문자처럼 다루되, \(t^2\)이 나타나면 \(x\)로 바꾼다고 규칙을 정하면 \(y=\sqrt{x}\)를 직접 다루지 않고 대수적인 표현으로 미분체를 확대할 수 있다. 이것은 마치 실수를 복소수로 확장할 때, \(i\)를 문자처럼 다루되 \(i^2\)이 나타나면 \(-1\)로 바꾼다는 것과 비슷하다.

유리식에 \(y=\sqrt{x}\)과 같은 무리함수를 추가하여 확대된 미분체는 대수적 확대체(algebraic extension field)로 불린다. 추가되는 요소가 다항방정식의 해에 해당하기 때문이다. 대수적 확대체를 이런 식으로 확대한 확대체 또한 대수적 확대체이다.

유리식이나 무리함수로 표현되지 않는 초등함수로 \(y=\ln x\)를 생각할 수 있다. 이런 함수를 추가하여 미분체 \(F\)를 확대하려면, \(F\)에 문자 \(t\)를 추가하고, 적당한 \(s \in F\)에 대해 \(t' = \frac{s'}{s}\)이 성립한다고 생각하면 된다. 이렇게 확대한 체를 로그 확대체(logarithmic extension field)라 부른다. 또, 지수함수 \(y=e^x\)를 추가하여 미분체를 확대하려면, 적당한 \(s \in F\)에 대해 \(t' = ts\)가 되는 \(t\)를 추가하였다고 생각하면 된다. 이렇게 확대한 체는 지수함수 확대체(exponential extension field)라 부른다.

이런 식으로 확대체를 구성한다고 생각하면, 함수 \(f(x)\)의 부정적분을 초등함수로 나타낸다는 것은, 복소수체 \(\mathbb{C}\)에서 출발하여 유리식체를 만들고, 적당한 로그함수와 지수함수를 추가하여 확대체를 만드는 과정을 \(f(x)\)가 원소로 나타낼 때까지 반복하는 것이라 할 수 있다.

어떤 대상이 가지는 성질을 규명하기 위하여 그 대상을 원소로 가지는 확대체를 구성하는 착상은 갈루아(Évariste Galois)가 다항방정식의 근을 대수적으로 구할 수 있는지 판정하기 위해 사용한 것이 시초였다. 함수의 부정적분이 초등함수로 표현되는지 판정하기 위해 확대체를 구성하는 착상은 갈루아 이론을 미분방정식에 적용한 것이라 할 수 있다. 이런 분야를 미분 갈루아 이론(differential Galois theory)이라 부른다. 아래 그림에서 왼쪽은 \(x^{16}=1\)의 해를 찾는 과정에 해당하고, 오른쪽은 \(y=e^{\sqrt{x^2-2}}\)의 도함수를 찾는 과정이라 할 수 있다. 초등함수로 표현되는 부정적분을 추가하여 만들어지는 확대체를 특별히 초등 미분 확대체(elementary differential extension field)라 하자.

이제 어떤 함수의 부정적분을 초등함수로 나타낼 수 있다면, 다음 정리에서처럼 특별한 조건을 만족해야 한다. 이것은 로젠릭트(M. Rosenlicht)의 논문 Liouville's Theorem on Functions with Elementary integral. Pacific Journal of Mathematics 24 (1): 153-161. 1968.에 실린 결과이다.

정리. 미분체 \(F\)와 \(G\)에 대하여, \(y \in G\)의 도함수 \(\alpha = y'\)이 \(F\)의 원소이며, \(G\)가 초등 미분 확대체라면, 적당한 상수 \(c_1, c_2, \dots, c_n \in \mathbb{C}\)와 함수 \(u_1, u_2, \dots, u_n, v \in F\)에 대하여

\[\alpha =c_1 \frac{u_1'}{u_1} + c_2 \frac{u_2'}{u_2} + \dots + c_n \frac{u_n'}{u_n} + v'\]

이 성립한다.

증명. 이 코너에 할당된 공간이 부족하여 생략.

이 정리로부터 다음과 같이 사용하기 쉬운 판정법을 얻을 수 있다. 만약 \(f(x)\)와 \(g(x)\)가 미분체 \(F\)의 원소이고 함수 \(f(x)e^{g(x)}\)의 부정적분을 초등함수로 나타낼 수 있다면, 적당한 \(w(x) \in F\)가 있어서

\[f(x) = w'(x) + w(x)g'(x)\]

가 성립해야 한다.

정규분포에 나타나는 함수 \(e^{-x^2}\)의 경우, \(f(x)=1\)이고 \(g(x)=-x^2\)이므로

\[1 = w'(x)-2xw(x)\]

를 만족하는 유리식 \(w(x)\)가 존재하는지 확인하면 된다. 위 미분방정식의 해를 구하면 \(w(x)\)는 다시 \(e^{-x^2}\)의 부정적분이 된다. 명백히 \(w(x)\)는 유리식이 아니므로, \(\int e^{-x^2} dx\)는 초등함수로 나타낼 수 없다.

함수 \(x^x\)도 마찬가지이다. 이 경우 \(x^x = 1 \times e^{x \ln x}\)이므로 \(f(x)=1\)이고 \(g(x)=x\ln x\)이다. 따라서

\[1 = w'(x) + w(x)(\ln x+1)\]을 만족하는 \(w(x)\)가 \(\mathbb{C}(x,\ln x)\)에 존재하는지 확인해야 한다. \(x\)와 \(\ln x\)에 대한 두 다항식 \(P = P(x,\ln x)\)와 \(Q=Q(x,\ln x)\)에 대하여 \(w(x) = P/Q\)라 하면, 위의 미분방정식은

\[\begin{align*}1&=\frac{P'Q-PQ'}{Q^2} + \frac{P}{Q}(\ln x+1) \\ Q^2 &= P'Q - PQ' + PQ(\ln x+1)\end{align*}\]

이 되므로 \(Q\)가 \(Q'\)을 나누려면 \(Q\)는 상수일 수밖에 없다. \(Q(x)=1\)로 두어도 되므로, 결국\[1 = P' + P(\ln x+1)\]

을 만족하는 다항식 \(P\)가 존재하는지 확인하여야 한다. \(P = \sum_{i=0}^n P_i(x)(\ln x)^i\)이고 \(P_i(x) \in \mathbb{C}[x]\)라 하면, 위 미분방정식에서 \(P_n(x)(\ln x)^{n+1}\)이 소거되지 않고 남으므로 미분방정식을 만족하는 \(P\)가 존재할 수 없다. 따라서 \(\int x^x dx\)는 초등함수로 나타낼 수 없다.

수학을 공부하면서, 수학자들의 놀라운 착상에 감탄하는 일이 많은데, 미분 갈루아 이론도 그 가운데 하나가 아닐까 싶다. 다항방정식과 미분방정식은 전혀 다른 연구 대상인데도 공통된 특성을 파악하여 비슷한 도구를 만들어내다니, 역시 수학자들의 통찰력은 대단하다.