닫힌 구간 $I$ 위에서 연속인 함수 $f: I \to I$에 대하여 다음을 정의하자.
이제 주어진 두 정수 $m \neq n,$에 대하여 $f$가 $m$-주기점을 가질 때, 언제나 $n$-주기점을 가지는지에 대한 질문에 대해 생각해 볼 수 있다. 예를 들어 $m=1$이고 $n=2$인 경우, 위 질문에 대한 대답은 '아니오'이다. 함수 $f(x) = x$를 생각해 보면 구간 $I$에서의 모든 점이 고정점이지만 $2$-주기점은 존재하지 않음을 알 수 있기 때문이다. 하지만 중간값 정리(intermediate value theorem)을 이용하면, $m=2$이고 $n=1$인 경우에는 위 질문에 대한 대답이 언제나 '예'임을 보일 수 있다.
증명. $a$가 $f$의 $2$-주기점이라 가정하고 $b=f(a) \neq a$라 하자. 그러면 $f(b) = f^2(a) = a \neq b$이고 $f^2(b) = f(a) = b$이므로, 따라서 $b$ 또한 $2$-주기점임을 알 수 있다. 이제 일반성을 잃지 않고 $a < b$를 가정하자. 이제 구간 $[a,\, b] \subseteq I$에서 함수 $g(x) = x - f(x)$를 정의하면, $g(a) = a - b < 0$이고 $g(b) = b - a > 0$. 임을 알 수 있다. 따라서 중간값 정리에 의해 $g(c) = 0$을 만족하는 점 $c \in (a,\, b)$가 존재한다. 따라서 $f(c) = c$를 얻고 $c$는 $f$의 고정점임을 알 수 있다..
이제 함수 $f(x) = 1-x$를 생각해 보자. 우선 $x=0$과 $x=1$이 모두 $f$의 $2$-주기점임을 쉽게 알 수 있으므로, 위 정리에 의해 $f$에 반드시 고정점이 존재한다. 실제로 계산을 해 보면, $x = 0.5$를 제외한 모든점이 $2$-주기점이고 $x = 0.5$는 고정점임을 알 수 있다. 하지만 이 예제로부터 알 수 있듯이 함수 $f$에 $2$-주기점이 존재한다고 해서, 정수 $m > 2$에 대하여 $f$에 $m$-주기점이 존재한다는 보장은 없다.
이제 정수 $m=3$에 대하여 위와 같은 질문을 해보자. 즉, 주어진 함수 $f$에 $3$-주기점이 존재할 때,
- $f$의 고정점,
- $f$의 $2$-주기점,
- $m > 3$에 대하여 $f$의 $m$-주기점
이 반드시 존재하는지에 대해 생각해 보자. 놀랍게도 1975년 리(Tien-Yien Li)와 요크(James A. Yorke)가 이 질문에 대한 답이 모두 '예'임을 증명하였다. 즉, 연속함수 $f$가 $3$-주기점을 가지면, 임의의 $m \geq 1$에 대하여 $f$는 언제나 $m$-주기점을 갖는다.
증명. $g$가 연속이므로, $g^{-1}((c,\,d))$는 $[a,\,b]$에서 열린 집합이다. 따라서 이를 열린 구간 $(a_i,\, b_i)$들의 분리합집합(disjoint union)으로 나타낼 수 있다. 이제 모든 열린 구간 $(a_i,\, b_i)$에 대하여 $g((a_i,\, b_i)) \subsetneq (c,\,d)$라 가정해 보자. 그러면
이고 따라서
이는 모순이므로, 적당한 열린 구간 $(a',\, b') \subset g^{-1}((c,\, d))$가 존재하여 $g(a',\, b') = (c,\,d)$를 만족한다. 그러면 $g$의 연속성에 의해서 $g([a',\, b']) = [c,\, d]$임을 알 수 있다..
증명. 수학적 귀납법으로 증명을 하자. 먼저 $n=1$인 경우는 보조정리 1에 의해 성립한다. 이제 $n \geq 1$에 대하여, $g(I_n) = I_{n-1}$를 만족하는 닫힌 구간 $I_n \subset I_0$가 존재한다고 가정하자. 이제 $[c,\, d] = I_n \subset I_0 \subseteq g(I_0)$라 가정하면, 다시 보조정리 1에 의해, 닫힌 구간 $I_{n+1} = [a_{n+1},\, b_{n+1}] \subset I_0$가 존재하여 $g(I_{n+1}) = I_n$를 만족한다. 따라서 수학적 귀납법에 의해 증명이 완료된다..
이제 리와 요크의 증명에 대해 살펴보자.
증명. $a \in I$가 $f$의 $3$-주기점이라 가정하고 $b = f(a) \neq a$와 $c = f(b) \neq a,\, b$를 각각 정의하자. 그러면 $f(c) = f^3(a) = a$이므로 $a,\, b,\, c$가 모두 $f$의 $3$-주기점들임을 알 수 있다. 이제 일반성을 잃지 않고 $a < b < c$ 또는 $c < b < a$라 가정하자. 먼저 첫번 째 경우, 중간값 정리에 의해 다음을 얻는다. (두번쨰 경우도 같은 결과를 얻는다.)
\[ \begin{align*}\ [b,\, c] &= [f(a),\, f(b)] \subset f([a,\,b]) \\[5px] [a,\, c] &= [f(c),\, f(b)] \subset f([b,\,c]) \end{align*} \]
따라서 $[b,\,c] \subset [a,\,c] \subset f([b,\,c])$가 성립하므로, $f$는 구간 $[b,\,c]$에서 고정점을 가짐을 알 수 있다.
이제 정수 $m > 1$을 고정하고 $I_0 = [b,\, c]$라 하자. 우선 보조정리 2에 의해서 임의의 $n \geq 1$에 대하여 $f(I_n) = I_{n-1}$을 만족하는 닫힌 구간 $I_n \subset [b,\, c]$가 존재한다. 특히 $I_{m-2} \subset [b,c] \subset f([a,b])$이므로 보조정리 1에 의해 $f([a',\, b']) = I_{m-2}$을 만족하는 닫힌 구간 $[a',\, b'] \subset [a,\, b]$가 존재한다. 그러므로
따라서 고정점 정리에 의해, $f^m$은 고정점 $x_0 \in [a',\, b']$를 갖는다. 이제 임의의 정수 $1 \leq i < m$에 대하여
가 성립하므로 $f^i([a',\, b'])$와 $[a',\, b']$은 서로소임을 알 수 있고, 따라서 $f^i(x_0) \neq x_0$가 성립한다. 그러므로 $x_0$는 $f$의 $m$-주기점임을 알 수 있다..
위 증명의 요점은 $3$-주기점의 집합 $\{a,\, b,\, c\}$에 대하여, 대소관계가 언제나 $a < b < c$ 또는 $a > b > c$ 중의 하나의 경우가 되도록 할 수 있다는 사실에 있다. 하지만 $m > 3$인 경우에도 이와 같이 $m$-주기점들 사이에 간단한 대소관계를 가질 수 있도록 할 수 있다는 보장이 없으므로, 위의 증명 방법을 적용할 수 있을 거란 보장 또한 할 수 없다. 그렇다면 $m > 3$에 대하여 함수 $f$가 $m$-주기점을 가질 때, 어떤 정수 $n$에 대하여 $n$-주기점 또한 가질 것이라 언제나 보장 할 수 있을까?
놀랍운 사실은 위 질문에 대한 완전한 대답이 이미 1964년 우크라이나의 수학자 샤르코우시키(Oleksandr Sharkovskii)에 의해 증명되었다는 것이다. (하지만 그의 증명은 유럽 수학계에 널리 알려지지 않았다가 후에 재조명 되었다고 한다.) 샤르코우시키의 정리는 다음과 같다.
위 전순서관계를 간단히 설명하면, 먼저 $3$ 이상의 홀수를 모두 나열하고, $2$의 거듭제곱 곱하기 홀수 형태의 수들을 차례로 계속 나열한 후에, 마지막에 $2$의 거듭제곱 꼴의 수를 감소 순서로 나열한 것이다.
따라서 정리 1과 리-요크 정리 모두 샤르코우시키 정리의 따름정리로써 정립함을 알 수 있다. 즉, $2 \prec 1$이므로 정리 1이 성립하고, 임의의 $m \geq 1$에 대하여 $3 \prec m$이므로 리-요크 정리가 성립한다.
- http://euler.genepeer.com/period-three/
- Li, T. Y. and Yorke, J. A. "Period Three Implies Chaos" The American Mathematical Monthly 82.10 (1975): 985-992.