2000년 5월 클레이 수학 연구소(CMI, Clay Mathematics Institute)는 파리에서 공개적으로 열린 회견을 통하여 일곱 개의 미해결 수학 문제를 제시하고 각각에 100만 달러의 현상금을 내걸었다. 그 문제들은 여러 나라의 수학자들로 이루어진 선정 위원회가 오늘날 수학에서 가장 중요하고 여려운 문제라고 선정한 것들이다. 현상 공모 발표는 꽤 큰 반향을 불러일으켰고, 여러 주 동안 언론의 관심을 받았다. 총 700만 달러 - 문제당 100만 달러이며 공모기간은 무제한이다 - 의 상금은 미국인 부호 랜던 클레이에게서 나왔다. 1년 전 그는 비영리 단체인 클레이 수학 연구소(CMI)를 그의 고향인 메사추세스 주 케임브리지에 설립했다. 설립목적은 수학 연구를 장려하고 지원하는 것이다. CMI는 파리에서 열린 발표회를 주관했으며, 밀레니엄 현상 공모의 행정업무를 맡을 것이다.

일곱 개의 문제는 CMI 과학 자문회가 선발한 국제적으로 유명한 수학자들로 구성되고 CMI의 재정 지원 책임자인 자페가 지휘하는 소규모 선정 위원회에 의해서 수 개월에 걸쳐 선정되었다. 미국 수학회 회장을 역임한 바 있는 자페는 현재 하버드 대학 클레이 수학 교수직을 맡고 있다. 선정 위원회는 선택된 일곱 개의 문제가 오늘날 수학에서 가장 중요한 미해결 문제라는 것에 합의했다. 대부분의 수학자들도 동의할 것이다. 그 문제들은 수학 주요 분야의 핵심에 있고, 전 세계 최고 수학자들의 노력을 무색하게 한 문제들이다.

문제 선정에 참여한 전문가들 중에 앤드루 와일스 경이 있다. 그는 6개월 전 페르마의 마지막 정리를 증명한 장본인이다. 만일 그가 없었다면 330년이나 된 페르마의 마지막 정리 증명 문제 또한 밀레니엄 문제에 포함되었을 것이다. 와일스와 함께 선정에 참여한 전문가로는 자페 외에 아티야와 테이트 - 이들이 파리에서 문제를 발표했다 - 프랑스의 알랭 콘느, 미국의 에드워드 위튼이 있다. 이상하게 여겨질지도 모르지만 클레이는 수학자가 아니다. 그는 하버드 대학원에서 영어를 전공했다. 하지만 그는 모교의 수학 교수직 재정을 지원하며, 클레이 수학 연구소를 지원하고(그가 현재까지 클레이 연구소에 기부한 금액은 9000만 달러이다), 이제는 밀레니엄 현상 공모까지 지원한다. 그가 이렇게 발벗고 나서는 이유는, 중요한 분야에 주어지는 공공 재정이 너무 낮다고 여기기 때문이라고 그는 말한다. 대규모 현상 공모를 주최하고 이를 알리는 발표회에 세계 언론을 끌어들임으로써, 클레이는 밀레니엄 문제들 - 또한 수학 일반 - 이 국제적인 대중매체의 주목을 받도록 만들었다. 그런데 왜 파리에서 발표회를 연 것일까?

역사가 있다. 정확히 100년 전인 1900년 파리에서 비슷한 사건이 있었다. 당시 파리에서는 제 2차 국제 수학자 회의가 열렸다. 8월 8일 당시 수학계를 이끌던 독일 수학자 힐베르트는 초청 강연에서 20세기 수학을 위한 안건들을 제시했다. 강연에서 그는 그가 생각하기에 가장 중요한 미해결 문제 스물세 개를 나열했다. 소위 "힐베르트 문제들"이라고 불리게 된 그 문제들은 수학자들을 미래로 이끄는 횃불이었다. 힐베르트가 제시한 문제들 중 소수는 그가 예상했던 것보다 훨씬 쉬웠고 곧바로 해결되었다. 또 일부 문제들은 정확한 대답이 불가능할만큼 불명료했다. 그러나 대부분의 문제들은 매우 난해한 수학 문제라는 것이 밝혀졌다. 이 "참된" 힐베르트 문제들 중 하나를 푼 사람은 수학자 사회에서 노벨상에 결코 뒤지지 않는 명성을 얻었다. 문제를 푼 수학자들은 노벨상 수상자처럼 성취의 보상을 얻기 위해서 여러 해를 기다릴 필요가 없었다. 해답이 옳다는 것에 수학자 사회가 동의하는 순간 영광과 포상이 주어졌다.

2000년까지 참된 힐베르트 문제들은 하나만 제외하고 모두 해결되었다. 수학자들에게 새로운 과제를 부여할 때가 온 것이다. 두번째 밀레니엄을 마감하는 시점에서 최대의 문제들은 무엇일까? 모든 사람들이 수학계의 에베레스트 산이라고 인정한 미해결 문제들은 어떤 것들일까?

파리 발표회는 역사를 재현하려는 노력이기도 하지만, 전적으로 그런 것은 아니다. 와일스가 지적했듯이, 밀레니엄 문제를 발표하는 CMI의 목표는 힐베르트의 목표와 약간 다르다. "힐베르트는 그의 문제들을 통해서 수학에 지침을 주려고 했다"라고 와일스는 말한다. "우리는 중요한 미해결 문제들을 지적하려고 할 뿐이다. 수학의 기획 전반을 대변할 문제를 골라내기는 어렵다." 다시 말해서, 밀레니엄 문제들은 수학이 지금 어디로 가고 있는지를 말해 주기에는 부족할 수도 있다. 그러나 그 문제들은 현재 수학의 최전방이 어디에 있는지를 보여주는 훌륭한 정지화면이다.

그렇다면 밀레니엄 문제들은 어떤 것들일까? 오늘날의 수학은 상당한 배경지식 없이는 의미있게 전달하기가 불가능한 지경에 이르렀다. 따라서 일단 문제들의 명칭을 말하고 그 문제들이 무엇과 관련되는지를 간략하게 이야기하겠다.

이 문제에서 우리는 리만 가설에서와 마찬가지로 일반적인 수학 영역으로 돌아오게 된다. 고대 그리스 시대 이래 수학자들은 다음과 같은 유형의 대수 방정식의 모든 정수해를 기술하는 문제를 놓고 씨름해왔다. $x^2 + y^2 = z^2$. 이 특정한 방정식에 대해서는 유클리드가 완벽한 해답을 제시했다 - 즉 모든 해들을 산출하는 공식을 제시했다. 1994년 와일스는 2보다 큰 임의의 지수 $n$에 대해서 방정식이 0이 아닌 정수해를 가지지 않음을 증명했다. (이 결론이 페르마의 마지막 정리이다). 그러나 더 복잡한 방적식들에 대해서는 정수해가 있는지, 혹은 어떤 정수해가 있는지를 밝혀내기가 매우 어렵다. 버치와 스위너톤-다이어 추측은 그 난해한 방정식들 중 한가지 유형에 대해서 가능한 해들에 관한 정보를 제시한다.

이 문제는 리만 가설과 관련이 있으며, 이 문제가 해결된다면 소수에 대한 우리의 전반적인 이해에 도움이 될 것이다. 이 문제의 해결이 리만 가설 증명처럼 수학 이외의 영역에도 영향을 미칠지 여부는 불분명하다. 버치와 스위너톤-다이어 추측 증명은 수학자에게만 국한된 관심사로 판명될지도 모른다.

그러나 이 문제를 비롯한 많은 수학 문제가 "실용성이 없다"고 판정하는 것은 어리석은 일이다. 물론 "순수 수학"의 추상적 문제들을 연구하는 수학자들은 대개 어떤 실용적인 귀결에서 동기를 얻기보다는 지적 호기심에서 동기를 얻는다. 그러나 순수 수학에서의 발견이 중요한 실용적 귀결을 갖는다는 사실은 역사 속에서 누차 입증되었다. 뿐만 아니라 한 문제를 풀기 위해서 수학자들이 개발한 기법들이 전혀 다른 문제들에 응용될 수 있다는 사실이 종종 입증되었다. 와일스가 페르마의 마지막 정리를 증명한 것이 전형적인 그런 사례이다. 이와 유사하게 버치와 스위너톤-다이어 추측의 증명 역시 다른 용도가 발견될 새로운 발상들을 포함할 것이 거의 확실하다.

이 문제는 현재 위상학에 결여된 또 하나의 조각이다. 이 일반적인 문제는 어떻게 단순한 대상들로부터 복잡한 수학적 대상을 구성할 수 있는지와 관련된다. 이 문제는 아마도 밀레니엄 문제들 중에서 일반인이 이해하기가 가장 어려운 문제일 것이다. 기반에 있는 직관이 다른 문제들에 의해 덜 분명하거나, 다른 문제들보다 더 난해하기 때문이 아니다. 오히려 일반인이 경험하게 될 어려움은 호지 추측이 특정한 종류의 추상적 대상들을 분류하기 위해서 수학자들이 사용하는 기법과 관련되기 때문에 발생한다. 호지 추측은 그 분류법의 심층에서 나오며 추상 수준이 높다. 그 추상 수준에 도달하는 유일한 길은 점점 높아지는 추상 수준들을 거쳐 올라가는 길이다.

호지 추측을 향한 길은 20세기 전반기에 수학자들이 복잡한 대상들의 모양을 탐구하는 강력한 방법을 발견하면서 열렸다. 그 방법의 기반에 있는 발상은 주어진 대상의 모양을 단순한 기하학적 벽돌들을 짜맞춤으로써 어느 정도까지 근사시킬 수 있는지를 묻는 것이었다. 그 방법은 매우 유용했고 여러 방식으로 일반화되었다. 수학자들은 그 방법들을 발전시켜 강력한 기법들을 만들어냈다, 결국 많은 다양한 종류의 대상들을 나열한 목록에 도달했다. 하지만 불행하게도 기법들이 일반화되는 과정에서 기하학적 근원이 흐려졌다. 수학자들은 기하학적 해석이 전혀 없는 대상들도 목록에 포함시켜야 했다. 호지 추측은 중요한 대상들의 집합(투사 대수 다양체 ; projective algebraic varieties)에 대해서는, 호지 회로라고 불리는 조각들이 대수 회로(기하학적 조각들)의 조합이라고 주장한다.

내비어-스톡스 방정식들은 배의 몸통 주위를 흐르는 물이나 비행기 날개 위로 흐르는 공기 같은 유체와 기체의 흐름을 기술한다. 그 방정식들은 수학자들이 말하는 이른바 편미분방정식이다. 과학이나 공학을 전공하는 대학생들은 의례적으로 편미분 방정식의 해법을 배운다. 내비어-스톡스 방정식들은 외관상 대학 미적분학 교과서에 나오는 편미분방정식 연습 문제와 다르지 않아 보인다. 그러나 외관은 기만일 수 있다. 오늘날까지 그 누구도 내비어-스톡스 방정식의 해의 공식을 찾을 단서조차 발견하지 못했다 - 그런 공식의 존재 여부조차 밝혀지지 않았다.

이 실패에 아랑곳하지 않고 해양공학자들은 효율적인 배를 설계하고, 항공공학자들은 우수한 비행기를 설계한다. 내비어-스톡스 방정식을 푸는(2차방정식 해의 공식과 유사한) 일반 공식은 없지만, 컴퓨터를 이용하여 특정 형태의 방정식들에 대한 근사적인 해를 구하는 것은 가능하기 때문이다. 양-밀스 문제와 마찬가지로 내비어-스톡스 문제 역시 수학이 다른 분야를 따라잡을 것을 요구한다. 이 문제의 경우에는 공학자들이 이미 하고 있는 일을 수학이 따라잡아야 한다.

"따라잡는다"는 표현이 그릇된 인상을 줄지도 모르겠다. 뒤쳐지기 싫어하는 수학자들의 자존심이 관건이라는 인상 말이다. 그런 인상을 가진다면, 과학적 지식이 발전해오는 방식을 오해한 것이다. 수학은 본성상 추상적이기 때문에, 현상을 수학적으로 이해한다는 것은 일반적으로 가장 깊고 확실하게 이해한다는 것이다. 또한 무엇인가를 더 깊게 이해하면, 그것을 더 잘 이용할 수 있다. 질량 간극 가설의 증명이 물리학에 획기적인 발전을 가져올 것과 마찬가지로, 내비어-스톡스 방정식 풀이는 해양 및 항공공학의 발전을 가져올 것이 분명하다.

이 문제는 밀레니엄 문제들 중에서 유일하게 컴퓨터와 관련된 문제이다. 많은 사람들은 이를 의아하게 여길 것이다. "요새는 수학 연구를 대부분 컴퓨터로 하잖아?"라고 반문할 것이다. 정말 그럴까? 아니다. 실상은 그렇지 않다. 물론 맞는 말이기도 하다. 대부분의 수치 계산은 컴퓨터에 의해서 수행된다. 그러나 수치 계산은 수학의 작은 부분에 불과하며 핵심적인 부분이 아니다.

전자 컴퓨터는 수학에서 나왔지만 - 컴퓨터를 위해서 필요한 수학의 마지막 단계는 최초의 컴퓨터가 제작되기 수년 전인 1930년대에 완성되었다 - 지금까지 컴퓨터 세계에서 발생한 중요한 - 세상에서 가장 중요하다고 인정할만한 - 수학적 문제는 단 두 개에 불과하다. 그 두 문제는 계산기계라기보다는 개념적 처리과정으로 이해된 컴퓨터와 관련된다. 물론 이런 이해가 실제 계산에 대해서 중요한 함축을 가질 가능성은 열려 있다. 두 문제 중 하나는 힐베르트의 1900년 문제 목록에 들어있다. 그 문제 - 특정한 방정식들은 컴퓨터로 풀 수 없음을 증명하라는 문제 - 는 1970년에 해결되었다.

다른 한 문제는 더 최근에 제기되었다. 그 문제는 컴퓨터가 얼마나 계산과제들을 효율적으로 해결할 수 있는지와 관련된다. 컴퓨터 과학자들은 계산과제들을 두 개의 주요 범위로 분류한다. P형 과제는 컴퓨터를 통해서 효율적으로 해결할 수 있다. E형 과제는 컴퓨터로 완수하려면 100만년 이상이 걸릴 수도 있다. 안타깝게도 공업이나 상업에서 발생하는 주요 계산과제들은 대부분 세번째 문제인 NP형에 속한다. NP형은 P형과 E형의 중간인 것처럼 보인다. 정말 그럴까? NP형 과제가 실은 변형된 P형 과제인 것은 아닐까? 대부분의 전문가들은 NP와 P가 다르다고 믿는다. 그러나 30년에 걸친 노력에도 불구하고 NP가 P와 같은지 여부는 증명되지 않았다. 이 문제의 해결은 공업, 상업, 그리고 인터넷을 비롯한 전자통신에 커다란 영향을 끼칠 것이다.

거의 한 세기 전 프랑스 수학자 푸앵카레가 처음 제시한 이 문제는 다음과 같은 간단해 보이는 질문에서 시작된다 : 사과와 도넛을 어떻게 구별할 수 있을까? 정말이지 이 질문은 100만 달러의 상금과는 거리가 먼 질문으로 보인다. 하지만 이 질문은 어렵다. 왜냐하면 푸앵카레가 보다 일반적인 경우들에 적용될 수 있는 수학적 해답을 요구했기 때문이다. 그 요구 때문에, 한 입 먹어보면 알지 않느냐는 자명한 해답들은 제거된다. 푸앵카레 자신이 제시한 해답을 알아보자. 만일 당신이 사과 표면에 고무 밴드를 늘여놓았다면, 당신은 그 밴드를 천천히 움직여서 한 점이 되도록 축소시킬 수 있다. 고무 밴드를 자를 필요도 없고, 표면을 떠날 필요도 없다. 반면에 도넛 둘레를 한 바퀴 감도록 고무 밴드를 늘여놓았다고 해보자. 이 경우에는 고무 밴드나 도넛을 자르지 않는 한, 고무 밴드를 한 점으로 축소시킬 방법이 없다. 축소되는 밴드를 이용한 이 구분법을 사과와 도넛의 5차원 변양태에서도 적용할 수 있을까? 푸앵카레가 묻는 질문이 바로 이것이다. 놀랍게도 아직 아무도 이 질문에 답하지 못했다. 푸앵카레 추측에 따르면, 고무 밴드 발상을 이용해서 4차원 사과를 식별할 수 있다.

이 문제는 현대 수학에서 가장 흥미로운 분야들 중 하나인 위상학의 핵심에 놓여 있다. 위상학은 그 자체로 흥미롭고 때로는 기발한 발상으로 수학적 이성인들을 사로잡을 뿐만 아니라 - 예를 들면 위상학은 도넛과 컵 잔이 심층적이고 근본적인 관점에서는 동일하다고 말한다 - 수학의 여러 분여들과 관계된다. 위상학의 발전은 컴퓨터 칩을 비롯한 전자부품의 설계와 생산, 운송, 뇌 연구, 심지어 영화산업에도 영향을 끼친다.

이 문제는 1900년 힐베르트가 제시한 문제들 중 미해결로 남아 있는 유일한 문제이다. 어떤 특정한 방정식의 가능한 해들과 관련된 이 기묘한 형태의 문제가 수학의 미해결 문제들 중 가장 중요한 문제라는 것에 전 세계 수학자 대부분이 동의한다.

이 문제는 1859년 독일 수학자 리만에 의해서 처음 제기되었다. 리만은 다음과 같은 오랜 수학적 질문에 대한 답을 추구하고 있었다 : 소수들이 무엇인가 패턴을 가지고 있을까? 기원전 350년경 유명한 그리스 수학자 유클리드는 소수가 영원히 계속된다는 것을, 즉 무수히 많은 소수가 존재한다는 것을 증명했다. 더 나아가 실제로 소수를 나열해보면, 수가 커질수록 소수가 점점 '엷어져서' 드물게 나타나는 듯이 보인다. 하지만 소수에 관해서 이 이상의 이야기를 할 수 있을까? 사실상 할 수 있다. 리만 가설이 증명된다면, 소수와 소수의 분포에 관한 우리의 지식이 발전할 것이다. 또한 그 증명은 수학자들의 호기심을 만족시키는 것 이상의 귀결을 가져올 것이다. 그 증명은 소수들의 패턴을 휠씬 넘어선 수학적 귀결들을 가질 뿐 아니라, 물리학과 현대 통신기술에도 응용될 것이다.

수학의 새로운 발전을 위한 계기는 상당 부분 과학 특히 물리학으로부터 주어진다. 예를 들면 수학자 뉴턴과 라이프니츠가 17세기에 미적분학을 발견한 동기는 물리학을 위해서였다. 미적분학은 연속 운동을 수학적으로 엄밀하게 기술하는 방법을 제공함으로써 과학에 혁명을 일으켰다. 뉴턴과 라이프니츠의 방법은 유효했다. 그러나 미적분학의 기반을 이루는 수학이 제대로 완성되기까지는 약 250년이 더 필요했다. 지난 반세기 정도에 걸쳐서 개발된 물리학 이론과 관련해서 유사한 상황이 벌어지고 있다. 이 일곱 번째 밀레니엄 문제는 수학자들에게 물리학을 따라잡을 것을 요구한다.

양-밀스 방정식들은 양자물리학에서 나왔다. 그 방정식들은 지금으로부터 거의 50년 전에 물리학자 양전닝과 로버트 밀스가 중력을 제외한 자연의 힘들을 기술하기 위해서 정식화했다. 그 방정식들은 훌륭한 성과를 거두었다. 방정식으로부터 도출된 예측들은 전 세계 실험실에서 관찰된 입자들을 설명한다. 그러나 실용적으로 효율적임에도 불구하고 양-밀스 이론은 아직 수학적으로 완성되지 않았다. 일곱 번째 밀레니엄 문제가 요구하는 것 중 하나는, 그 이론을 공리로부터 출발해서 수학적으로 전개하라는 것이다. 요구되는 수학적 이론은 실험실에서 관찰된 여러 조건에 부합해야 할 것이다. 특히 그 이론은 양-밀스 방적식들의 해라고 상정된 것들과 관련된 "질량 간극 가설"을 (수학적으로) 입증해야 한다. 대부분의 물리학자들은 이 가설을 받아들여 전자가 질량을 가지는 이유를 설명한다. 질량 간극 가설을 증명할 수 있는지 여부는 양-밀스 이론을 올바르게 수학적으로 전개했는지 여부를 판가름할 수 있는 좋은 시험기준이라고 여겨진다. 그들 역시 전자가 왜 질량을 가지는지 엄밀하게 설명하지 못하고 있다. 다만 그렇다는 것을 관찰했을 뿐이다.

※ 출처 - 네이버 카페 수학쌤(http://cafe.naver.com/mathsaem)