이번 글에서는 언뜻 보면 너무나도 자명한 명제 "두 점을 연결하는 최단경로는 직선이다"를 수학적으로 증명해 볼 것이다. 이 명제는 보통 변분법(calculus of variation)이라는 미적분학의 한
분야에서 널리 쓰이는 오일러-라그랑주 방정식(Euler-Lagrange equation)을 이용하여 증명하는데, 여기서 오일러-라그랑주 방정식이란 어떤 함수과 그 도함수에 의존하는 범함수(functional)의 극댓값 또는 극솟값을 찾는데 이용되는 미분방정식의 일종이다. 이를 좀더 자세히 설명하면 다음과 같다.
오일러-라그랑주 방정식(Euler-Lagrange equation)
먼저 아래와 같은 형태의 범함수 $J$를 생각해 보자.
\[ J(f) = \int_a^b L(x,\, f(x),\, f'(x)) \, dx \]
여기서 $L$이 연속적인 편미분값을 가진다고 가정한다. 만일 $f$가 범함수 $J$를 최소로 한다고
가정하자. 그러면 $f$에 매우 작은 변화를 가했을 때, $J$의 값이 늘어나게 된다. 이제 $f$에 매우 작은 변화를 준
함수 $g_\varepsilon(x) := f(x) + \varepsilon \eta(x)$를 도입하자. 여기서 $\varepsilon > 0$이고 $\eta(x)$는 $\eta(a) = \eta(b) =
0$을 만족하는 임의의 연속인 함수이다. 그러면
\[ J(f) \leq J(g_\varepsilon) \quad \forall\; \varepsilon >0 \]
가 성립할 것이다. 이제 $\tilde{J}(\varepsilon) := J(g_\varepsilon)$라 하면 $\tilde{J}$는 $\varepsilon$에 대한 함수라 생각할 수 있고
$\tilde{J}(0) = J(f)$일 때 최소가 됨을 알 수 있다.
이제 $\tilde{J}$을 $\varepsilon$에 대해 미분하면,
\[ \tilde{J}'(\varepsilon) = \int_a^b \frac{dL}{d\varepsilon}(x,\, g_\varepsilon(x), g_\varepsilon'(x) ) \,dx \]
또한 $g_\varepsilon(x) := f(x) + \varepsilon \eta(x)$이고 $g'_\varepsilon(x) := f'(x) + \varepsilon \eta'(x)$라는 사실로부터
$L$의 전미분을 구할 수 있다.
\[ \frac{dL}{d\varepsilon} = \frac{\partial L}{\partial x} \frac{\partial x}{\partial \varepsilon} + \frac{\partial
L}{\partial g_\varepsilon} \frac{\partial g_\varepsilon}{\partial \varepsilon} + \frac{\partial L}{\partial
g'_\varepsilon} \frac{\partial g'_\varepsilon}{\partial \varepsilon} = \eta(x) \frac{\partial L}{\partial
g_\varepsilon} + \eta'(x) \frac{\partial L}{\partial g'_\varepsilon} \]
그러므로
\[ \tilde{J}'(\varepsilon) = \int_a^b \left[ \eta(x) \frac{\partial L}{\partial g_\varepsilon} + \eta'(x)
\frac{\partial L}{\partial g'_\varepsilon} \right] \,dx \]
이제 $\tilde{J}$가 $0$에서 최솟값을 가지므로 $\tilde{J}'(0) = 0$일 것이다. 또한 $g_0 = f$이므로 위 식을 정리하면
\[ \tilde{J}'(0) = \int_a^b \left[ \eta(x) \frac{\partial L}{\partial f} + \eta'(x) \frac{\partial L}{\partial f'}
\,\right]\,dx = 0 \]
좀 더 정리하기 위해 위 피적분함수의 두번째 항을 부분적분을 이용하여 정리하도록 하자. 그러면 다음과 같은 식을 얻는다.
\begin{align*} 0 &= \int_a^b \eta(x) \frac{\partial L}{\partial f} \,dx + \int_a^b \eta'(x) \frac{\partial
L}{\partial f'} \,dx \\[5px] &= \int_a^b \eta(x) \frac{\partial L}{\partial f} \,dx + \left[ \eta(x)
\frac{\partial L}{\partial f'} \right]_a^b - \int_a^b \eta(x) \frac{d}{dx} \frac{\partial L}{\partial f'} \,dx
\\[5px] &= \int_a^b \left[ \frac{\partial L}{\partial f} - \frac{d}{dx} \frac{\partial L}{\partial f'} \right]
\eta(x)\,dx + \left[ \eta(x) \frac{\partial L}{\partial f'} \right]_a^b \end{align*}
여기서 $\eta(x)$에 대한 경계값 조건을 이용하면,
\[ 0 = \int_a^b \left[ \frac{\partial L}{\partial f} - \frac{d}{dx} \frac{\partial L}{\partial f'} \right]
\eta(x)\,dx \]
이제 $\eta(x)$가 연속이고 $\eta(x)$는 $\eta(a) = \eta(b) = 0$를 만족하는 임의의 함수이므로, 변분법의 기본정리에 의해, 다음과 같은 오일러-라그랑주 방정식을 얻는다.
\[ 0 = \frac{\partial L}{\partial f} - \frac{d}{dx} \frac{\partial L}{\partial f'} \]
이 오일러-라그랑주 방정식은 풀기 쉬운 특수한 경우가 아니면 보통 비선형 2계 미분방정식으로 주어지므로 풀기가 상당히 까다롭다. 또한 방정식의 유도 과정에서 알 수 있듯이, 오일러-라그랑주 방정식은 $f$가
$J$를 최소화할 필요조건이긴 하지만 충분조건은 아니다. 하지만 $J$에 적당한 조건을 추가하면 오일러-라그랑주 방정식이 필요충분조건이 됨이 알려져 있다.
두 점을 연결하는 최단경로의 곡선
이제 다시 원래의 문제로 돌아가 보자. 주어진 임의의 두 점 $(a_1,\, b_1)$, $(a_2,\, b_2)$에 대하여, 이 두 점을 연결하는 곡선을 $f$라 하자. 그러면 $f(a_1) =
b_1$, $f(a_2) = b_2$를 만족한다. 이제 이 곡선의 길이는 다음과 같이 적분을 통해 구할 수 있다.
\[ J(f) := \int_{a_1}^{a_2} \sqrt{1 + [ f'(x)]^2} \,dx \]
이제 우리는 $J$의 값을 최소로 만드는 함수 $f$를 찾으면 된다. 이제 $L(x,\, f(x),\, f'(x)) = \sqrt{1 + [ f'(x)]^2}$라 두면, $L$이 오일러-라그랑주 방정식을
만족해야 하므로
\begin{align*} 0 = \frac{\partial L}{\partial f} - \frac{d}{dx} \frac{\partial L}{\partial f'} &= -
\frac{d}{dx} \left[ \frac{f'(x)}{\sqrt{1 + [ f'(x)]^2}} \right] \\[5px] &= - \frac{f''(x) \sqrt{1 + [ f'(x)]^2} -
f'(x) \frac{f'(x) f''(x)}{\sqrt{1 + [ f'(x)]^2}}}{1 + [ f'(x)]^2} \\[5px] &= - f''(x) \frac{1}{(1 +
[ f'(x)]^2)^{3/2}}\end{align*}
이 때, $1 + [ f'(x)]^2 >0$이기 때문에, $f''(x) = 0$이여야만 함을 알 수 있다. 즉, $f(x) = px + q$의 꼴로 주어져야만 하고, 이는 $f$가 직선의 방정식이여야
함을 의미한다. 또한 두 점을 연결하는 직선의 방정식은 유일하므로, 이 $f$가 우리가 원하는 최단경로의 곡선이 됨을 알 수 있다. 마지막으로 $p$와 $q$의 값은 $f(a_1) = b_1$, $f(a_2)
= b_2$라는 사실로부터 간단히 구할 수 있고, 결국 우리가 원하는 $f$는
\[ f(x) = \frac{b_2 - b_1}{a_2 - a_1}(x - a_1) + b_1 \]
이 된다.