감마함수(gamma function)와 계승(factorial)
감마함수(gamma function) 는 계승(factorial) 을 일반화 한 형태의 함수로써, 다음과 같이 적분 형태로 정의된다.
\[ \Gamma(z) := \int_{0}^{\infty} t^{z-1}e^{-t} \,dt, \qquad (\operatorname{Re}(z) > 0) \]
어떤 의미에서 감마함수가 계승의 확장이라 할 수 있는지에 대해 생각해 보자. 양의 정수 $n$과 $n+1$에 대하여 $(n+1)! = (n+1)n$과 같이 나타낼 수 있다. 이와 유사하게 임의의 두 복소수 $z$와 $z+1$에 대한 감마함수의 값을 비교하면, 아래와 같이 계승과 유사한 성질을 가지고 있음을 쉽게 확인할 수 있다.
정리 1 $\operatorname{z} > 0$를 만족하는 임의의 복소수 $z$에 대하여 $\Gamma(z+1) = z \Gamma(z)$가 성립한다.
증명. 부분적분을 이용하면 간단히 증명할 수 있다.
\[ \begin{align*} \Gamma(z+1) &= \int_{0}^{\infty} t^{z}e^{-t} \,dt \\[5px] &= \left. -t^{z}e^{-t} \vphantom{\frac{1}{1}} \; \right|_{0}^{\infty} + z \int_{0}^{\infty} t^{z-1}e^{-t} \,dt \\[5px] &= z \Gamma(z) \tag*{$\myblue{\blacksquare}$} \end{align*} \]
이제 $\Gamma(1) = 1$임은 적분의 계산을 통해 쉽게 얻을 수 있다. 따라서 임의의 양의 정수 $n$에 대하여 정리 1 을 반복해서 적용하면, $\Gamma(n) = (n-1)!$이 성립한다는 사실을 확인할 수 있다. 이와 같은 이유로 감마함수는 계승을 복소수 범위까지 확장한 함수로 볼 수 있다.
베타함수(beta function)와 이항계수(binomial coefficient)
한편 베타함수(beta function) 는 이항계수(binomial coefficient) 를 일반화한 것으로 생각할 수 있다. 베타 함수 또한 다음과 같이 적분 형태로 정의된다.
\[ B(x,\, y) := \int_{0}^{1} t^{x-1}(1-t)^{y-1} \, dt, \qquad (\operatorname{Re}(x),\, \operatorname{Re}(y) > 0) \]
이제 베타함수와 이항계수와의 관계를 살펴보자. 우선 양의 정수 $m,\,n$에 대하여 이항계수의 성질에 의해 다음이 성립한다.
\[ \binom{m+1}{n} = \frac{m+1}{m-n+1} \binom{m}{n}, \quad \binom{m}{n+1} = \frac{m-n}{n+1} \binom{m}{n} \]
그러면 감마함수의 경우와 유사하게, 임의의 두 복소수 $x,\, y$에 대하여 베타함수의 값을 비교하면, 아래와 같이 베타함수가 이항계수와 유사한 성질을 가지고 있음을 확인할 수 있다.
정리 2 $\operatorname{Re}(x),\, \operatorname{Re}(y) > 0$을 만족하는 임의의 복소수 $x,\, y$에 대하여 다음이 성립한다.
\[ B(x+1,\,y) = \frac{x}{x+y} B(x,\,y), \quad B(x,\,y+1) = \frac{y}{x+y} B(x,\,y) \]
증명. 먼저 베타함수의 정의로부터 다음을 보일 수 있다.
\[ \begin{align*} B(x+1,\,y) + B(x,\,y+1) &= \int_{0}^{1} t^{x}(1-t)^{y-1} + t^{x-1}(1-t)^{y} \, dt \\[5px] &= \int_{0}^{1} t^{x-1}(1-t)^{y-1}[ t + (1-t)] \, dt \\[5px] &= B(x,\,y) \tag*{$(\ast)$} \end{align*} \]
한편 부분적분을 이용하여 다음을 얻는다.
\[ \begin{align*} B(x+1,\,y) &= \int_{0}^{1} t^{x}(1-t)^{y-1} \, dt \\[5px] &= \left. -\frac{1}{y} t^{x} (1-t)^{y} \; \right|_{0}^{1} + \frac{x}{y} \int_{0}^{1} t^{x-1}(1-t)^{y} \, dt \\[5px] &= \frac{x}{y} B(x,\,y+1) \tag*{$(\ast\ast)$}\end{align*} \]
따라서 $(\ast)$과 $(\ast\ast)$을 결합하면 원하는 결과를 얻는다..
이제 $B(1,\,1) = 1$임은 계산을 통해서 간단히 얻을 수 있으므로, 임의의 양의 정수 $m,\, n$에 대하여 정리 2 를 반복하여 적용하면, 다음과 같이 베타 함수와 이항계수 사이의 관계식을 얻는다.
\[ B(m,\, n) = \left[ (m+n-1) \binom{m+n-2}{n-1} \right]^{-1} = \frac{(m-1)! (n-1)!}{(m+n-1)!} \]
여기서 위식의 우변을 모두 감마함수를 이용하여 나타낼 수 있음을 확인하자. 따라서 임의의 양의 정수 $m,\,n$에 대하여 다음 등식이 성립한다.
\[ B(m,\,n) = \frac{\Gamma(m) \Gamma(n)}{\Gamma(m+n)} \]
감마함수(gamma function)와 베타함수(beta function) 사이의 관계
앞에서 임의의 양의 정수 $m,\, n$에 대하여 감마함수와 베타함수가 밀접한 관계를 가지고 있음을 확인하였다. 이제 이 결과를 확장하여 임의의 복소수 $x,\, y$에서도 감마함수와 베타함수가 서로 밀접한 관계를 가지고 있음을 증명해 보자.
정리 3 $\operatorname{Re}(x),\, \operatorname{Re}(y) > 0$을 만족하는 임의의 복소수 $x,\, y$에 대하여 다음이 성립한다.
\[ B(x,\,y) = \frac{\Gamma(x) \Gamma(y)}{\Gamma(x+y)} \tag*{$(\ast)$} \]
증명. 먼저 $\Gamma(x) \Gamma(y)$의 값을 적분식을 이용하여 계산해 보자.
\[ \begin{align*} \Gamma (x)\Gamma (y) & =\int _{u=0}^{\infty} e^{-u} u^{x-1} \,du \cdot \int_{v=0}^{\infty} e^{-v} v^{y-1} \,dv \\[5px] & =\int_{v=0}^{\infty} \int_{u=0}^{\infty} e^{-(u+v)} u^{x-1} v^{y-1} \, du\,dv \end{align*} \]
이제 $u = zt$, $v = z(1-t)$로 치환하면, $u,\,v > 0$이라는 조건으로부터 $z > 0$이고 $0 < t < 1$임을 알 수 있고, 이 변환에 대한 야코비 행렬식(Jacobian determiant)을 구하면
\[ \abs{\frac{d(u,\,v)}{d(z,\,t)}} = \abs{\begin{matrix} t & z \\ 1-t & -z \end{matrix}} = \abs{-z} = z \]
를 얻는다. 그러므로
\[ \begin{align*} \Gamma (x)\Gamma(y) & = \int_{t=0}^{1} \int_{z=0}^{\infty} e^{-z} (zt)^{x-1} (z(1-t))^{y-1} z \,dz \,dt \\[5px] & = \int_{z=0}^{\infty} e^{-z} z^{x+y-1} \,dz \cdot \int_{t=0}^{1} t^{x-1} (1-t)^{y-1} \,dt \\[5px] & = \Gamma(x+y) \operatorname{B}(x,\, y) \end{align*} \]
따라서 위 정리가 성립함을 알 수 있다..