지난 글에서 다음과 같이 정의된 감마함수(gamma function)
\[ \Gamma(z) := \int_{0}^{\infty} t^{z-1}e^{-t} \,dt, \qquad (\operatorname{Re}(z) > 0) \]
가 계승(factorial) 함수의 확장임을 보였다. 하지만 계승 함수는 자연수에서만 정의된 함수이므로 이를 실수로 확장하는 연속함수는 무한히 많이 존재한다. 그렇다면 왜 하필 다른 함수가 아닌 감마함수를 계승함수의 자연스러운 확장으로 여기는 걸까?
우선 감마함수가 가지는 몇 가지 유용한 사실들을 살펴보자. 먼저 감마함수는 (1) $f(1) = 1$이 성립하고, (2) 모든 $x > 0$에 대하여 $f(x+1) = x f(x)$가 성립한다. 또한 감마함수가 가지는 중요한 사실이 하나 더 있는데, 이는 감마함수가 (3) 구간 $[ 0,\, \infty)$에서 로그볼록(logarithmically convex, log-convex) 이라는 사실이다.
정의. 로그볼록함수(log-convex function)단, 주어진 함수 $f$에 대하여 로그함수와의 합성함수 $\log \circ f$가 구간 $I$ 에서 볼록함수(convex function) 이면, $f$는 구간 $I$에서 로그볼록함수(log-convex function) 라 한다. 즉, 임의의 실수 $x,\, y \in I$와 $0 \leq k \leq 1$에 대하여
\[ \log(f(kx + (1-k)y)) \leq k \log(f(x)) + (1-k) \log(f(y)) \]
를 만족하면 $f$는 구간 $I$에서 로그볼록 함수이다.
참고. 구간 $I$에서 정의된 함수 $f$ 위의 두 점 $(x_{1},\, f(x_{1}))$, $(x_{2},\, f(x_{2}))$을 연결하는 선분의 기울기는 아래와 같이 구할 수 있다.
\[ S_{f}(x_{1},\, x_{2}) : = \frac{f(x_{1}) - f(x_{2})}{x_{1} - x_{2}} \]
그러면 $f$가 볼록함수일 필요충분조건은 $S_{f}$가 각각의 변수 $x_{1}$, $x_{2}$에 대하여 단조증가임을 어렵지 않게 보일 수 있다. 마찬가지로 $f$가 로그볼록함수일 필요충분조건은 $S_{\log \circ f}$가 각각의 변수 $x_{1}$, $x_{2}$에 대하여 단조증가인 것이다.
이제 감마함수 $\Gamma$가 구간 $[ 0,\, \infty)$에서 로그볼록임을 증명해 보자. 이를 보이기 위해서는 $\log \circ \Gamma$가 같은 구간에서 볼록임을 보이면 충분하다. 즉, 임의의 실수 $x,\,y > 0$와 $0 \leq k \leq 1$에 대하여
\[ \log(\Gamma(kx + (1-k)y)) \leq k \log(\Gamma(x)) + (1-k) \log(\Gamma(y)) \]
임을 보여야 한다. 이제 감마함수의 정의를 이용해 좌변을 계산해 보면,
\[ \begin{align*} \log(\Gamma(kx + (1-k)y)) &= \log \left( \int_{0}^{\infty} t^{kx + (1-k)y - 1} e^{-t} \,dt \right) \\[5px] &= \log \left( \int_{0}^{\infty} t^{kx - k + (1-k)y - (1-k)} e^{-(kt + (1-k)t)} \,dt \right) \\[5px] &= \log \left( \int_{0}^{\infty} \left( t^{x - 1} e^{-t} \right)^{k} \left( t^{y - 1} e^{-t} \right)^{1-k} \,dt \right) \\[5px] &\leq \log \left( \int_{0}^{\infty} t^{x - 1} e^{-t} \,dt \right)^{k} \left( \int_{0}^{\infty} t^{y - 1} e^{-t} \,dt \right)^{1-k} \\[5px] &= k \log \left( \int_{0}^{\infty} t^{x - 1} e^{-t} \,dt \right) + (1-k) \log \left( \int_{0}^{\infty} t^{y - 1} e^{-t} \,dt \right) \\[5px] &= k \log(\Gamma(x)) + (1-k) \log(\Gamma(y)) \end{align*} \]
위 계산 과정에서 부등식은 횔더 부등식(Holder's inequality)
\[ \int_{a}^{b} \abs{f(x)g(x)} \,dx \leq \left( \int_{a}^{b} \abs{f(x)}^{p} \,dx \right)^{\frac{1}{p}} \left( \int_{a}^{b} \abs{g(x)}^{q} \,dx \right)^{\frac{1}{q}}, \qquad \left( \tfrac{1}{p} + \tfrac{1}{q} = 1 \right) \]
을 이용하였다. 따라서 감마함수는 로그볼록함수임을 알 수 있다.
보어-몰러럽 정리(Bohr–Mollerup theorem)
이제 조건 (1), (2), (3)을 모두 만족하는 함수는 감마함수가 유일함을 아래 보어-몰러럽 정리(Bohr–Mollerup theorem) 를 통해서 보일 것이다.
정리. 보어-몰러럽 정리(Bohr–Mollerup theorem)구간 $(0,\, \infty)$에서 정의된 함수 $f$가 다음 세 조건
$f(1) = 1$.
모든 $x > 0$에 대하여 $f(x+1) = x f(x)$.
$f$는 구간 $[ 0,\, \infty)$에서 로그볼록이다.
을 모두 만족한다면, 이 함수는 유일하다.
증명. 먼저 조건 (2)와 수학적 귀납법에 의해서 임의의 실수 $x>0$와 자연수 $n$에 대하여 다음 식을 얻는다.
\[ f(n+x) = (x+n-1) (x+n-2) \cdots (x+1) x f(x) \tag*{$\myblue{(\ast)}$} \]
특히, 구간 $(0,\,1]$에서의 $f(x)$의 값이 유일하게 결정 되면, $(\ast)$에 의해 모든 $x>0$에 대하여 $f$가 완전히 결정 됨을 알 수 있다.
이제 실수 $0 < x \leq 1$와 자연수 $n \geq 2$를 고정하자. 그러면 조건 (3)에 의해서
\[ S_{\log \circ f}(n-1,\, n) \leq S_{\log \circ f}(n+x,\, n) \leq S_{\log \circ f}(n+1,\, n) \]
또는
\[ \frac{\log(f(n-1)) - \log(f(n))}{(n-1) - n} \leq \frac{\log(f(n+x)) - \log(f(n))}{(n+x) - n} \leq \frac{\log((n+1)) - \log(f(n))}{(n+1) - n} \]
이제 식 $(\ast)$에 $x=1$을 대입하고 여기에 조건 (1)을 추가하면, 임의의 자연수 $n$에 대하여 $f(n) = (n-1)!$이 성립한다는 사실을 알 수 있다. 그러므로
\[ \frac{\log((n-2)!) - \log((n-1)!)}{(n-1) - n} \leq \frac{\log(f(n+x)) - \log((n-1)!)}{(n+x) - n} \leq \frac{\log(n!) - \log((n-1)!)}{(n+1) - n} \]
를 얻는다. 또한 로그의 성질을 이용하여 위 부등식을 정리하면
\[ \log(n-1) \leq \frac{\log(f(n+x)) - \log((n-1)!)}{x} \leq \log(n) \]
이제 가운데 항에 $\ln(f(n+x))$만 남기고 정리해 주면
\[ \log((n-1)^x(n-1)!) \leq \log(f(n+x)) \leq \log(n^x(n-1)!) \]
마지막으로 로그함수는 단조증가하므로
\[ (n-1)^x(n-1)! \leq f(n+x) \leq n^x(n-1)! \tag*{$\myblue{(\ast\ast)}$}\]
를 얻는다. 따라서 식 $(\ast)$와 $(\ast\ast)$에 의해서
\[ \frac{(n-1)^x(n-1)!}{(x+n-1) (x+n-2) \cdots (x+1) x} \leq f(x) \leq \frac{n^x(n-1)!}{(x+n-1) (x+n-2) \cdots (x+1) x} \]
가 성립한다. 이제 위 부등식의 계산 과정을 보면 좌변의 $n$과 우변의 $n$은 서로 독립적임을 알 수 있다. 즉, 임의의 자연수 $m \geq 2$에 대하여 $f(x)$는 좌변보다 크거나 같고, 임의의 자연수 $n \geq 2$에 대하여 $f(x)$는 우변보다 작거나 같다. 따라서 $m = n+1$을 좌변에 대입하고 정리하면
\[ \frac{n^x n!}{(x+n) (x+n-2) \cdots (x+1) x} \leq f(x) \leq \frac{n^x n!}{(x+n) (x+n-2) \cdots (x+1) x} \cdot \frac{x+n}{n} \]
이제 위 부등식 양변에 $n \to \infty$의 극한을 취해주면 두 식이 같은 값으로 수렴하므로, 조임정리(squeeze theorem) 에 의해서
\[ f(x) = \lim_{n \to \infty} \frac{n^x n!}{(x+n) (x+n-2) \cdots (x+1) x} \]
로 결정됨을 알 수 있다. 이 식은 임의의 실수 $0 < x \leq 1$에 대하여 성립하므로, 위의 논의에 의해서 모든 $x>0$에 대하여 $f$의 값이 유일하게 결정 된다..
따라서 감마함수가 보어-몰러럽 정리의 세 조건을 모두 만족하므로, (세 조건을 모두 만족하는) 계승 함수의 유일한 확장임을 알 수 있다.